ChatGPT erfand Zeugen in Mordberufung: Gericht bestraft Anwalt

Ein Anwalt reichte in der Berufung gegen ein Mordurteil einen Schriftsatz mit erfundenen Polizeiaussagen und Zeugen ein. New Mexicos höchstes Gericht verhängte deshalb eine Geldstrafe und erklärte ihn der Missachtung des Gerichts für schuldig.

Der New Mexico Supreme Court belegte den Anwalt Stephen Aarons am Mittwoch mit einer Geldstrafe von 5.000 US-Dollar. Nach Angaben von Reuters hatte Aarons die Richtigkeit des mithilfe von ChatGPT, einem KI-Chatbot von OpenAI, erstellten Schriftsatzes nicht überprüft. Das Gericht will den Fall außerdem einer anwaltlichen Disziplinarstelle zur Untersuchung übergeben.

Erfundene Aussagen im Schriftsatz

Aarons hatte ChatGPT ein computergeneriertes Verhandlungsprotokoll und weitere Fallunterlagen zur Zusammenfassung übermittelt. Der anschließend eingereichte Schriftsatz enthielt erfundene Polizeiaussagen und vollständig erfundene Zeugen. Nach Darstellung des Gerichts gehörten dazu auch fiktive Angaben, wonach der Schütze eine dunkle Hose und ein weißes Hemd getragen habe.

Der in Santa Fe tätige Anwalt vertrat Oscar Renée Sandoval in dessen Berufungsverfahren. Sandoval hatte sich im Mordverfahren um den Tod der Mutter seiner Kinder für nicht schuldig erklärt. Er wurde im Vorjahr des Mordes für schuldig befunden und zu lebenslanger Haft verurteilt.

Aarons erklärte gegenüber Reuters, er habe bei der Übernahme der Berufung nicht verstanden, in welchem Ausmaß das KI-System Tatsachen erfinden könne. Das Gericht stellte hingegen mangelnde Reue und fehlende Sorge um seinen Mandanten fest.

Berufungsverfahren läuft weiter

New Mexicos höchstes Gericht hatte Aarons im Vormonat aufgefordert, die Aufnahme des erfundenen Materials in seinen zentralen Berufungsschriftsatz zu erklären. Bei einer Anhörung am 21. August berichtete er, er habe von ChatGPT eine hieb- und stichfeste Zusammenfassung erwartet. Die Richter äußerten deutliche Zweifel daran, dass ihm die bekannten Fehlerrisiken solcher Systeme nicht bewusst gewesen seien.

Die Berufung ist weiterhin anhängig. Am 2. September wurde sie Kim Chávez Cook von der öffentlichen Verteidigung in New Mexico zugewiesen. Reuters zufolge wurden bereits Dutzende Anwälte sanktioniert, nachdem KI-Werkzeuge in Schriftsätzen Fundstellen erfunden oder Rechtsnormen falsch wiedergegeben hatten. Im Fall Aarons ging das fehlerhafte Material mit erfundenen Zeugenaussagen in einem Strafverfahren darüber hinaus.