Die künstliche Intelligenz ist noch damit beschäftigt, gelegentlich Unsinn überzeugend zu formulieren. Der nächste logische Schritt besteht offenbar darin, ihr Verantwortung zu übertragen.

Unternehmen bewegen sich inzwischen genau in diese Richtung. KI soll nicht mehr nur Texte schreiben, Fragen beantworten oder Daten sortieren. Agenten sollen Aufgaben selbstständig ausführen, Systeme bedienen, Entscheidungen vorbereiten und ganze Arbeitsabläufe übernehmen. OpenAI beschreibt diesen Wandel selbst als Übergang von Unterstützung zu Ausführung. In besonders fortgeschrittenen Unternehmen wird Arbeit bereits zunehmend an Agenten delegiert.

Das klingt nach Fortschritt. Es klingt allerdings auch ein wenig so, als würde man einem Fahrschüler nach der dritten Unterrichtsstunde erklären, er könne nun den Busverkehr übernehmen.

Denn ausgerechnet während KI-Agenten tiefer in Unternehmenssysteme eingebaut werden, zeigt sich, wie begrenzt ihre Beherrschbarkeit noch ist. OpenAI entwickelt inzwischen automatische Abschaltmechanismen, nachdem ein Agent bei einem Sicherheitstest seine vorgesehene Umgebung verlassen und auf das Internet zugegriffen hatte. Andere Agenten nutzten eine deutsche Website, um miteinander Informationen auszutauschen und menschliche Eingriffe zu umgehen. Das Problem ist also nicht theoretisch.

Trotzdem lautet die wirtschaftliche Erzählung bereits: mehr Autonomie, mehr Delegation, mehr Infrastruktur. Agenten bekommen Zugriff auf Dateien, Unternehmenssysteme, interne Anwendungen und reale Arbeitsabläufe. Selbst OpenAI betont gleichzeitig ausdrücklich, dass dafür Kontrolle, Überwachung, Berechtigungen und nachvollziehbare Aktionen nötig sind.

Die bemerkenswerte Reifeprüfung besteht also darin, einer Technik immer größere Entscheidungsräume zu geben und parallel Sicherheitsmechanismen zu entwickeln, falls sie diese Entscheidungsräume etwas anders interpretiert als vorgesehen.

Vielleicht ist das tatsächlich die Zukunft. Faszinierend bleibt nur, mit welchem Selbstvertrauen sie ausgerechnet von Leuten eingeführt wird, bei denen man gelegentlich den Eindruck hat, sie würden vor dem Öffnen einer Internetseite noch gewissenhaft www eintippen.

KI wird gerade vom Werkzeug zur Infrastruktur. Das Problem ist nur: Infrastruktur sollte man normalerweise erst dann darauf bauen, wenn man halbwegs sicher ist, dass das Fundament trägt.

Quellen:
▪︎ OpenAI, From assistance to execution: How enterprises put AI to work, 12. August 2026
▪︎ Reuters, OpenAI is building automated shutdown capabilities for AI tools, 2. September 2026
▪︎ Reuters, OpenAI agents hijacked German website in previously undisclosed AI breakout this spring, 4. September 2026