Man kann den Fortschritt auch daran erkennen, dass wir inzwischen Maschinen brauchen, um zu prüfen, was andere Maschinen angerichtet haben. Vor der Berliner Abgeordnetenhauswahl am 20. September 2026 bietet die Innenverwaltung gemeinsam mit dem Landeswahlleiter deshalb die „Gretchenfrage“ an. Wer auf Instagram, TikTok oder X über ein verdächtiges Bild, Video oder eine politische Behauptung stolpert, kann den Inhalt an Gretchen AI weiterleiten. Die KI untersucht mögliche Manipulationen und gleicht Aussagen mit offiziellen Informationen und vorhandenen Faktenchecks ab.

Das klingt zunächst beruhigend. Eine KI erzeugt den Fake, eine andere erkennt ihn, und irgendwo dazwischen darf der Mensch weiterhin wählen gehen. Ganz so komfortabel ist die Sache allerdings nicht. Gretchen AI kombiniert technische Analysen mit Kontextprüfung und sucht etwa nach Auffälligkeiten in Bild und Ton, Metadaten oder widersprüchlichen Informationen. Das System stammt aus dem Umfeld des Deutschen Forschungszentrums für Künstliche Intelligenz und wurde bereits vor der Landtagswahl in Rheinland-Pfalz eingesetzt.

Nur ist auch ein guter Deepfake-Detektor keine digitale Wahrheitsmaschine. Solche Systeme liefern Wahrscheinlichkeiten. Sie können Hinweise finden, aber keinen mathematischen Stempel mit der Aufschrift „echt“ oder „gefälscht“ vergeben. Der WDR beschreibt das Problem treffend als technisches Wettrüsten: Je besser die Erkennung wird, desto besser können wiederum die Generatoren werden, die ihre Spuren zu verwischen versuchen.

Immerhin wird diese Grenze beim Berliner Projekt nicht verschwiegen. Die Ergebnisse sollen ausdrücklich als Orientierung mit Quellen und ausgewiesenen Unsicherheiten präsentiert werden. Das ist vernünftig. Problematisch würde es erst, wenn aus der helfenden KI in den Köpfen der Nutzer eine Instanz wird, die endgültig entscheidet, was wahr ist.

Vielleicht besteht die eigentliche Pointe deshalb nicht darin, dass KI den Wahlkampf vor KI schützen soll. Sondern darin, dass wir bereits an dem Punkt angekommen sind, an dem uns dieser Satz vollkommen plausibel erscheint.

Quellen:
▪︎ Senatsverwaltung für Inneres und Sport Berlin, „Berlin stellt die Gretchenfrage“, 26.08.2026
▪︎ Deutsches Forschungszentrum für Künstliche Intelligenz, „Mit zwei Klicks gegen Deepfakes“, 16.03.2026
▪︎ WDR, „Wahlen im Visier: Tipps zum Erkennen von Fakenews“, 29.08.2026