Die Männer, die künstliche Intelligenz möglichst schnell immer leistungsfähiger machen wollen, haben eine neue Idee: Vielleicht sollte man künstliche Intelligenz nicht ganz so schnell immer leistungsfähiger machen.

Dario Amodei, Chef von Anthropic, fordert inzwischen ausdrücklich eine Verlangsamung bei der Entwicklung besonders mächtiger Modelle. Unabhängige Prüfer sollen dauerhaft Einblick bekommen, Unternehmen gemeinsame Sicherheitsstandards entwickeln und Staaten international zusammenarbeiten. Bemerkenswert ist weniger der Vorschlag als der Zeitpunkt. Jahrelang bestand das Geschäftsmodell der Branche darin, Geschwindigkeit für einen Wettbewerbsvorteil zu halten. Nun könnte Geschwindigkeit selbst zum Sicherheitsproblem geworden sein.

Auch OpenAI-Chef Sam Altman spricht mittlerweile davon, die Entwicklung gegebenenfalls zu dosieren, damit Gesellschaft und Sicherheitsmechanismen mit den Fähigkeiten neuer Systeme Schritt halten können. OpenAI wirbt zugleich für verbindliche nationale Sicherheitsregeln und unabhängige Prüfungen. Das klingt fast nach Regulierung. Noch vor wenigen Jahren galt schon ein Formular mehr als Angriff auf die Innovationskraft.

Das eigentliche Problem beginnt allerdings beim Bremsen. Kein Unternehmen möchte freiwillig langsamer fahren, wenn der Konkurrent weiter beschleunigt. Dazu kommen China, geopolitischer Wettbewerb und Investoren, die Geld gewöhnlich nicht dafür bereitstellen, dass möglichst wenig passiert. Selbst eine gemeinsame Verlangsamung wirft inzwischen juristische Fragen auf. OpenAI ließ prüfen, ob eine koordinierte Branchenbremse mit dem amerikanischen Kartellrecht überhaupt vereinbar wäre.

Und dann gibt es noch einen weniger beruhigenden Nebeneffekt. Teure Prüfverfahren, Dokumentationspflichten und Sicherheitsauflagen lassen sich von milliardenschweren Konzernen leichter bezahlen als von kleinen Entwicklern oder Open-Source-Projekten. Regulierung kann deshalb Risiken begrenzen und gleichzeitig den Markt für jene Unternehmen absichern, die groß genug sind, sich Regulierung leisten zu können.

Vielleicht braucht die KI-Industrie tatsächlich eine Bremse. Interessant wird nur, wer sie bedienen darf und wer danach noch auf der Straße fährt.

Quellen:
▪︎ Reuters: Anthropic CEO urges AI companies to slow model development amid fears over misuse, 12. September 2026
▪︎ TechCrunch: Sam Altman is ready to decelerate, 28. Juli 2026
▪︎ WIRED: OpenAI Wants to Know if an AI Industry Slowdown Would Even Be Legal, 10. September 2026
▪︎ AI & Society: AI safety and regulatory capture, 2025