Theoretisch ja. Nach heutigem Forschungsstand gibt es jedoch kein KI-System, das sich der menschlichen Kontrolle vollständig entzogen hätte und eigenständig gegen Abschaltversuche vorgehen könnte. Genau solche Szenarien werden dennoch untersucht, weil leistungsfähigere und autonomere Systeme künftig größere Handlungsspielräume erhalten könnten.

Mit „außer Kontrolle“ ist dabei mehr gemeint als eine falsche Antwort oder ein Softwarefehler. Gemeint wären Systeme, die über längere Zeit eigene Ziele verfolgen, menschliche Aufsicht umgehen oder Versuche verhindern könnten, ihr Verhalten zu stoppen. Der International AI Safety Report 2026 stellt fest, dass heutige Modelle erste Fähigkeiten zeigen, die dafür grundsätzlich relevant sein könnten, etwa längerfristige Planung oder das Erkennen von Testsituationen. Die dafür notwendige Kombination weit fortgeschrittener Fähigkeiten besitzen aktuelle Systeme aber nicht.

Schon wesentlich alltäglicher ist ein anderes Kontrollproblem: KI-Systeme können unerwartete Fehler machen und in komplexen Umgebungen anders reagieren als vorgesehen. Deshalb empfiehlt das US-amerikanische NIST, Risiken während Entwicklung und Einsatz laufend zu prüfen und besonders riskante Anwendungen gegebenenfalls zu stoppen.

Ob zukünftige KI tatsächlich einen kaum rückholbaren Kontrollverlust verursachen könnte, ist unter Fachleuten umstritten. Das Szenario ist also weder erwiesen noch bloße Science-Fiction. Entscheidend wird sein, welche Fähigkeiten künftige Systeme erhalten und welche technischen sowie organisatorischen Sicherungen ihnen gegenüberstehen.

Quellen:
▪︎ International AI Safety Report: International AI Safety Report 2026
▪︎ National Institute of Standards and Technology: Artificial Intelligence Risk Management Framework