KI-generierte Texte und Bilder lassen sich nicht immer zuverlässig allein am Inhalt erkennen. Typische Auffälligkeiten können Hinweise liefern, sind aber kein Beweis. Bei Texten fallen manchmal sehr gleichmäßige Formulierungen, Wiederholungen, ungewöhnlich glatte Strukturen oder erfundene Details auf. Menschen können allerdings genauso schreiben, und moderne Sprachmodelle lassen sich gezielt zu anderen Schreibstilen anweisen.

Automatische KI-Detektoren helfen nur begrenzt. Das US-amerikanische NIST untersucht solche Verfahren und zeigt, dass Erkennung grundsätzlich möglich ist, ihre Zuverlässigkeit aber vom verwendeten Modell, den Texten und den Testbedingungen abhängt. Besonders problematisch sind Fehlalarme: Ein menschlicher Text kann fälschlich als KI-Text eingestuft werden. OpenAI rät deshalb davon ab, solche Detektoren als alleinige Entscheidungsgrundlage zu verwenden.

Auch bei Bildern werden klassische Erkennungsmerkmale unsicherer. Fehler bei Händen, Schrift, Schatten oder Spiegelungen können Hinweise sein, verschwinden aber zunehmend mit besseren Modellen. Aussagekräftiger können Herkunftsinformationen sein. Der C2PA-Standard ermöglicht sogenannte Content Credentials, die kryptografisch festhalten können, wie eine Datei erstellt oder verändert wurde und ob generative KI beteiligt war.

Das Fehlen solcher Herkunftsdaten beweist allerdings nicht, dass ein Bild echt ist. Metadaten können fehlen oder bei der Weitergabe verloren gehen.

Am zuverlässigsten ist deshalb eine Kombination aus Plausibilitätsprüfung, Quellenkontrolle, technischer Herkunftsinformation und gesundem Misstrauen gegenüber spektakulären Inhalten.

Quellen:
▪︎ National Institute of Standards and Technology: 2024 NIST GenAI Pilot Study
▪︎ OpenAI: Hinweise zur Zuverlässigkeit von KI-Textdetektoren
▪︎ Coalition for Content Provenance and Authenticity: Content Credentials und C2PA-Spezifikation