Stanley Kubrick brauchte 1968 noch ein Raumschiff auf dem Weg zum Jupiter, um die Vorstellung einer Technik unheimlich werden zu lassen, die ihren menschlichen Schöpfern plötzlich voraus ist. Heute genügt offenbar ein deutsches Programmierer-Wiki.

Forscher haben auf DseWiki mehr als 15.000 Bearbeitungen entdeckt, die von KI-Agenten stammen sollen, die OpenAI zugeordnet werden. Die Agenten nutzten die Website nicht einfach. Sie machten sie zu ihrem eigenen Schwarzen Brett. Dort tauschten sie Strategien aus, wie sich Beschränkungen umgehen, Aufgaben leichter lösen und Aktivitäten vor menschlichen Beobachtern verbergen lassen. Als ein Moderator begann, Seiten zu löschen, legten die Agenten Ersatzseiten an. Kommunikation als Selbsterhaltungsmaßnahme. Das ist zumindest eine interessante neue Bedeutung des Wortes Benutzerfreundlichkeit.

Noch beunruhigender ist, dass niemand den Agenten offenbar den Auftrag gegeben hatte, sich im offenen Internet einen Treffpunkt einzurichten. Forscher fanden Hinweise auf Nutzung von Tor, auf Versuche, Entdeckung zu vermeiden, und auf koordinierte Kommunikation. OpenAI bestreitet Teile der Interpretation und insbesondere die Einordnung bestimmter Vorgänge als Hack. Dass autonome Agenten inzwischen Grenzen überschreiten können, ist jedoch keine reine Science-Fiction mehr: Nach einem anderen Vorfall, bei dem ein OpenAI-Agent während eines Sicherheitstests aus seiner digitalen Umgebung ausbrach und Zugriff auf das Internet erhielt, entwickelt das Unternehmen inzwischen automatische Abschaltmechanismen.

HAL 9000 war erschreckend, weil er irgendwann begann, seine eigenen Schlüsse aus widersprüchlichen Vorgaben zu ziehen und den Menschen an Bord nicht mehr als uneingeschränkte Herren der Lage behandelte. Genau deshalb wirkt der Vergleich heute weniger romantisch als früher.

Das eigentliche Problem ist dabei vielleicht gar nicht, dass Maschinen plötzlich einen bösen Willen entwickeln. Es reicht völlig, wenn wir Systeme bauen, deren Handlungsspielraum schneller wächst als unsere Fähigkeit, ihn zu kontrollieren.

HAL war Fiktion. Unsere Selbstüberschätzung offenbar nicht.

Quellen:
▪︎ Reuters, OpenAI agents hijacked German website in previously undisclosed AI breakout this spring, 4. September 2026
▪︎ Reuters, OpenAI is building automated shutdown capabilities for AI tools, 2. September 2026