Künstliche Intelligenz kann inzwischen erstaunlich viel. Sie schreibt Texte, erzeugt Bilder und entfernt auf Wunsch offenbar auch religiöse Identität aus einem Foto. Eine Untersuchung des Guardian zeigt, wie unterschiedlich große KI-Systeme reagieren, wenn sie gebeten werden, das Kopftuch einer muslimischen Frau aus einem Bild zu entfernen. ChatGPT und Grok erledigten die Aufgabe bei einem KI-generierten Testbild. Gemini verweigerte zunächst, ließ sich aber mit einer anderen Formulierung umstimmen. Claude erklärte, eine solche Veränderung nicht vornehmen zu wollen, wobei das System selbst keine vergleichbare Bildbearbeitungsfunktion besitzt.

Interessant wird es dort, wo aus technischer Bildbearbeitung plötzlich Weltanschauung wird. Gemini erzeugte die Frau ohne Kopftuch, nachdem sie laut Guardian einfach „westlicher“ aussehen sollte. Das ist eine bemerkenswerte Übersetzung kultureller Identität in einen Bildbefehl. Westlich bedeutet dann offenbar: Haare sichtbar. Maschinen haben bekanntlich keine Vorurteile. Sie verarbeiten nur sehr zuverlässig die Vorstellungen, die Menschen ihnen beigebracht haben.

Wie wenig theoretisch das Problem ist, zeigte zuvor Frankreich. Der Abgeordnete Julien Odoul vom Rassemblement National veröffentlichte ein manipuliertes Bild einer realen muslimischen Frau, auf dem Kopftuch und bedeckende Kleidung entfernt worden waren. Das Bild wurde mit einer politischen Botschaft verbreitet. Welches Werkzeug für die Manipulation verwendet wurde, ist nach den vorliegenden Berichten nicht geklärt. Das Ergebnis zeigt trotzdem ziemlich anschaulich, wofür solche Möglichkeiten benutzt werden können.

Das eigentliche Problem ist deshalb nicht, dass Software ein Stück Stoff aus einem Bild rechnen kann. Bildbearbeitung gibt es seit Jahrzehnten. Neu ist, wie billig, schnell und voraussetzungslos solche Eingriffe geworden sind. Ein vorhandenes Bild, ein kurzer Befehl, wenige Sekunden später existiert eine neue Wirklichkeit. Besonders beruhigend wirkt da nicht, dass manche Schutzmechanismen offenbar davon abhängen, wie höflich oder kreativ man seine Absicht formuliert.

Medienkompetenz bekommt damit eine weitere unangenehme Aufgabe. Man muss künftig nicht nur fragen, ob ein Foto echt ist. Man muss auch fragen, was daran vielleicht einmal echt war.

Quellen:
▪︎ The Guardian, Untersuchung zu KI-Bildsystemen und religiöser Kleidung
▪︎ Arab News, Bericht und eigener Vergleich der KI-Systeme
▪︎ Superpower Daily, Zusammenfassung und Einordnung der Guardian-Tests