Ein Anwalt reicht in einem Mordprozess einen Schriftsatz ein. Darin stehen Zeugenaussagen. Das ist zunächst nicht ungewöhnlich. Ungewöhnlicher wird es, wenn einige dieser Zeugen gar nicht existieren.
Stephen Aarons, seit Jahrzehnten Strafverteidiger in New Mexico, hatte ChatGPT bei der Berufung seines Mandanten Oscar Renee Sandoval eingesetzt. Sandoval war wegen Mordes zu lebenslanger Haft verurteilt worden. Aarons wollte aus Prozessunterlagen eine möglichst belastbare Zusammenfassung erstellen lassen. Heraus kam etwas anderes: erfundene Polizisten, weitere vollständig erfundene Zeugen, falsche Aussagen realer Personen und Angaben über Kleidung und Aussehen des mutmaßlichen Schützen, die in dieser Form nie gemacht worden waren.
Aarons reichte den Schriftsatz trotzdem ein.
Der Supreme Court von New Mexico fand die literarischen Fähigkeiten der künstlichen Intelligenz offenbar weniger beeindruckend. Er erklärte Aarons wegen Missachtung des Gerichts für verantwortlich, verhängte eine Geldstrafe von 5.000 Dollar, strich die bisherigen Schriftsätze, entfernte ihn aus dem Verfahren und verwies die Angelegenheit an die zuständige Disziplinarstelle. Der Mandant bekommt nun einen neuen Verteidiger. Das Verfahren beginnt an entscheidender Stelle praktisch noch einmal von vorn.
Bemerkenswert ist allerdings die Erklärung des Anwalts. Aarons sagte, ihm sei damals nicht bewusst gewesen, dass KI Tatsachen erfinden könne.
Richterin C. Shannon Bacon wollte daraufhin sinngemäß wissen, ob er Nachrichten lese, Radio höre oder sonst irgendwie mitbekomme, was in der Welt geschehe. Eine bemerkenswert moderne Variante der richterlichen Frage, ob man das eigentlich ernst meine.
Genau darin liegt der interessantere Teil des Falls. Über Halluzinationen generativer KI wird seit Jahren berichtet. Wer solche Systeme beruflich nutzt, kann ihre Fehler nicht mehr behandeln wie ein überraschend auftretendes Naturereignis. Vor allem dann nicht, wenn am anderen Ende ein Mensch sitzt, der zu lebenslanger Haft verurteilt wurde.
Die KI hat hier erfunden. Unterschrieben und eingereicht hat aber ein Mensch.
Vielleicht ist das die wichtigste Kompetenz im Umgang mit künstlicher Intelligenz: zu begreifen, dass man den Unsinn am Ende immer noch selbst unterschreibt.
Quellen:
▪︎ Supreme Court of New Mexico: State v. Sandoval / In re Stephen D. Aarons, Dispositional Order of Direct Contempt, 9. September 2026
▪︎ Reuters: Lawyer cites fake witnesses in murder case and blames ChatGPT, 11. September 2026
▪︎ Ars Technica: ChatGPT-using lawyer punished for citing fake testimony from made-up witnesses, 11. September 2026