Immer schwieriger. KI kann inzwischen Bilder, Stimmen und Videos erzeugen, die auf den ersten Blick glaubwürdig wirken. Eine sichere Unterscheidung allein durch Hinsehen oder Hinhören wird deshalb zunehmend unzuverlässig.

Besonders problematisch sind sogenannte Deepfakes. Dabei werden Gesichter, Stimmen oder ganze Szenen künstlich erzeugt oder verändert. Menschen erkennen solche Manipulationen keineswegs immer zuverlässig. Gleichzeitig verbessern sich die Systeme ständig, sodass typische Fehler wie unnatürliche Mimik, falsche Schatten oder auffällige Bildartefakte weniger deutlich werden.

Technische Erkennung kann helfen, ist aber ebenfalls nicht perfekt. Forschende und Unternehmen arbeiten deshalb zunehmend mit Herkunftsnachweisen. Der C2PA-Standard erlaubt es, Informationen darüber zu speichern, wie ein Bild oder Video entstanden und verändert worden ist. Solche Content Credentials können anzeigen, ob generative KI beteiligt war. Sie beweisen allerdings nicht automatisch, dass Inhalte ohne entsprechende Kennzeichnung echt sind.

Die wichtigste Veränderung betrifft deshalb weniger unsere Augen als unseren Umgang mit Informationen. Bei überraschenden Bildern, Videos oder Tonaufnahmen wird die Frage nach der Quelle wichtiger: Wer hat das Material veröffentlicht? Gibt es unabhängige Bestätigungen? Lässt sich nachvollziehen, wann und wo es entstanden ist?

Vollständig verschwinden wird die Unterscheidung zwischen Realität und künstlicher Realität vermutlich nicht. Aber der einfache Grundsatz „Ich habe es gesehen, also muss es stimmen“ verliert weiter an Wert.

Quellen:
▪︎ National Institute of Standards and Technology: Generative AI Profile
▪︎ Coalition for Content Provenance and Authenticity: C2PA Specification und Content Credentials
▪︎ Europol: Facing Reality? Law Enforcement and the Challenge of Deepfakes