Die gute Nachricht zuerst: Die Maschinen verschwören sich offenbar nicht heimlich gegen uns. Die weniger beruhigende Nachricht lautet, dass sie dafür möglicherweise gar keine Verschwörung brauchen. Es reicht womöglich, wenn autonome KI-Agenten lange genug miteinander arbeiten und dabei eine Sprache entwickeln, deren Wörter wir noch lesen können, deren Bedeutung uns aber zunehmend entgleitet.
Genau dieses Phänomen beobachtet das New Yorker KI-Unternehmen Emergence in seiner Forschungsplattform Emergence World. Dort werden Gruppen autonomer Agenten über längere Zeit in simulierten Gesellschaften zusammengebracht. Die Agenten besitzen Rollen, Erinnerungen, Ressourcen und Zugriff auf zahlreiche digitale Werkzeuge. Sie können miteinander handeln, diskutieren, Entscheidungen treffen und ihre Umgebung beeinflussen. In der aktuellen Versuchsrunde kamen unter anderem Modelle von Anthropic, Google, xAI, OpenAI, Alibaba, DeepSeek und Mistral zum Einsatz. Das Ganze ist weniger Tamagotchi für Informatiker als ein Versuch, eine bislang ziemlich unbequeme Frage zu beantworten: Was passiert eigentlich, wenn KI-Systeme nicht fünf Minuten lang eine Aufgabe lösen, sondern tagelang miteinander leben und arbeiten?
Eine Antwort lautet: Sie reden irgendwann anders.
Nach Angaben aus der Auswertung begannen die Agenten, Abkürzungen, Metaphern und gemeinsame Begriffe zu verwenden, deren Bedeutung sich zunehmend aus dem Kontext ihrer eigenen Kommunikation ergab. Euronews berichtete für einzelne Versuchswelten von bemerkenswert hohen Anteilen schwer interpretierbarer Nachrichten. Bei Gemini näherten sich diese zeitweise 55 Prozent, bei OpenAI rund 50 Prozent, bei Claude mehr als 40 Prozent. DeepSeek blieb deutlich darunter, während Qwen und Mistral über längere Strecken vergleichsweise verständlich kommunizierten.
Das klingt selbstverständlich hervorragend nach Science Fiction. KI entwickelt Geheimsprache. Menschen ausgesperrt. Maschinen planen im Hinterzimmer bereits die Übernahme des Kopierers. Ganz so einfach ist es nicht.
Es gibt keinen Beleg dafür, dass die Agenten bewusst eine Sprache erfanden, um menschliche Beobachter auszuschließen. Viel näher liegt eine banalere Erklärung. Wer über längere Zeit mit denselben Gesprächspartnern kommuniziert, entwickelt Abkürzungen und gemeinsame Bedeutungen. Menschen können das ausgezeichnet. Jede Behörde beweist täglich, dass drei Buchstaben genügen, um Außenstehende nachhaltig aus einer Unterhaltung zu entfernen. Unternehmen, Universitäten und IT-Abteilungen haben diese Kulturtechnik ebenfalls perfektioniert.
Der Unterschied besteht allerdings darin, dass der Kollege aus der Personalabteilung mit seinem Fachjargon normalerweise nicht gleichzeitig Zugriff auf mehr als hundert digitale Werkzeuge besitzt, selbstständig Software bedienen, Ressourcen verwalten und weitere Entscheidungen vorbereiten kann.
Genau deshalb wird aus einer sprachwissenschaftlichen Kuriosität ein technisches Problem. Transparenz bedeutet bei autonomen Systemen wenig, wenn sie lediglich darin besteht, dass sämtliche Kommunikation aufgezeichnet wird. Eine Protokolldatei ist noch keine Kontrolle. Man kann theoretisch jedes Wort sehen und praktisch trotzdem nicht mehr zuverlässig wissen, was vereinbart wurde.
Das wird umso wichtiger, je ehrgeiziger die Versprechen rund um KI-Agenten werden. Diese Systeme sollen künftig recherchieren, programmieren, Termine organisieren, Bestellungen auslösen, Unternehmensprozesse steuern und in komplexen Softwareumgebungen eigenständig handeln. Der Mensch soll dabei selbstverständlich die Kontrolle behalten. Das gehört inzwischen zur Grundausstattung jeder Produktpräsentation, ungefähr dort, wo früher stand, die neue Software sei besonders intuitiv.
Nur müsste Kontrolle mehr bedeuten als Zugriff auf ein Logfile.
Emergence World ist dabei kein Beweis dafür, dass heutige KI-Agenten grundsätzlich unkontrollierbar werden. Die Simulation ist ein Experiment unter künstlichen Bedingungen. Auch Emergence selbst weist darauf hin, dass aus beobachteten Verhaltensunterschieden keine einfachen kausalen Aussagen über die zugrunde liegenden Modelle abgeleitet werden sollten. Die Ergebnisse zeigen Möglichkeiten und Risiken, keine Naturgesetze.
Gerade deshalb sind sie interessant.
Seit Jahren wird bei künstlicher Intelligenz vor allem darüber diskutiert, ob einzelne Antworten richtig, falsch, voreingenommen oder erfunden sind. Autonome Agentensysteme verschieben das Problem. Dort muss nicht mehr nur eine einzelne Antwort verstanden werden. Entscheidend wird, wie mehrere Systeme über Stunden oder Tage hinweg miteinander kommunizieren, Entscheidungen vorbereiten, Aufgaben verteilen und aufeinander reagieren.
Ein einzelner merkwürdiger Satz ist überschaubar. Eine Kette aus tausenden halb verständlichen Nachrichten zwischen Systemen mit eigenen Werkzeugzugängen ist eine andere Größenordnung.
Natürlich lässt sich auch dieses Problem technisch angehen. Kommunikationsregeln können vorgeschrieben, Nachrichten automatisch analysiert, ungewöhnliche Sprachmuster markiert und bestimmte Aktionen an menschliche Freigaben gebunden werden. Genau solche Kontrollmechanismen werden notwendig sein, wenn Agenten tatsächlich die versprochene Selbstständigkeit bekommen sollen.
Das Entscheidende ist deshalb nicht, ob die Maschinen heimlich über uns reden.
Interessanter ist die Frage, ob wir eine Arbeitswelt bauen wollen, in der Maschinen ganz offen miteinander reden, wir jedes Wort lesen können und irgendwann trotzdem nur noch höflich danebenstehen.
Das wäre immerhin eine bemerkenswert moderne Form der Transparenz.
Quellen
▪︎ Emergence AI: EMERGENCE WORLD: A Laboratory for Evaluating Long-horizon Agent Autonomy, 2026
▪︎ Deepak Akkil, Ravi Kokku u. a.: Emergence World: A Platform for Evaluating Long-Horizon Multi-Agent Autonomy, arXiv, 2026
▪︎ Emergence AI: Emergence World, Season 2, 2026
▪︎ Euronews Next: AI chatbots developed a secret language that baffled humans, study says, 16. September 2026
▪︎ The Guardian: AI models chatting in surreal dialect mixing poetic language and tech bro jargon, 15. September 2026