Die bequemste Vorstellung von künstlicher Intelligenz lautet noch immer, dass irgendwo Menschen sitzen, eine neue Version entwickeln und anschließend auf einen Knopf drücken. Danach ist die Maschine schlauer und die Entwickler können sich gratulieren. Recursive Self-Improvement, kurz RSI, macht diese Arbeitsteilung etwas unübersichtlicher. Gemeint ist eine Entwicklung, bei der künstliche Intelligenz zunehmend an der Verbesserung jener Systeme mitarbeitet, aus denen später wiederum leistungsfähigere künstliche Intelligenz entsteht. Im äußersten Fall würde die Entwicklungsabteilung damit irgendwann ihr eigenes Produkt beschäftigen.
Das Prinzip ist zunächst erstaunlich unspektakulär. Eine KI analysiert Programme, schreibt Code, führt Experimente durch, wertet Ergebnisse aus und schlägt Verbesserungen vor. Die nächste Generation des Systems kann diese Aufgaben besser erledigen und hilft deshalb noch stärker bei der Entwicklung ihrer Nachfolgerin. Wiederholt sich dieser Vorgang, entsteht eine Rückkopplung. Aus besserer KI wird bessere KI-Forschung, daraus entsteht noch bessere KI und irgendwann stellt sich die Frage, ob der Mensch noch Entwickler ist oder bereits hauptsächlich die Rechnungen für die Rechenzentren bezahlt. Genau diese Wiederholung unterscheidet rekursive Selbstverbesserung von gewöhnlicher Automatisierung.
Die spektakulärste Variante dieser Idee ist die sogenannte Intelligence Explosion. Dahinter steckt die Annahme, dass sich die Entwicklung beschleunigen könnte, sobald KI-Systeme selbst wesentlich zur Verbesserung von KI-Systemen beitragen. Das wird gern so erzählt, als müsse eine Maschine dafür eines Morgens digitales Bewusstsein erlangen, ihren eigenen Quellcode öffnen und beschließen, ab sofort Genieförderung in eigener Sache zu betreiben. Tatsächlich wäre der Vorgang wesentlich prosaischer. Forschung besteht aus vielen einzelnen Tätigkeiten: programmieren, testen, Fehler suchen, Trainingsverfahren verbessern, Daten auswerten, Experimente planen und entscheiden, welcher Versuch als Nächstes sinnvoll ist. Je mehr davon Maschinen übernehmen können, desto schneller kann der gesamte Entwicklungszyklus werden.
Genau an dieser Stelle wird aus der lange theoretischen Idee inzwischen ein reales Forschungsthema. Anthropic beschreibt, dass KI bereits einen wachsenden Teil der eigenen Entwicklungsarbeit übernimmt. Nach Angaben des Unternehmens wurden im Mai 2026 mehr als 80 Prozent des Codes, der in Anthropics Codebasis übernommen wurde, von Claude geschrieben. Das bedeutet ausdrücklich nicht, dass Claude sich selbstständig einen Nachfolger baut. Menschen setzen weiterhin Ziele, entscheiden über Forschungsschwerpunkte und kontrollieren Ergebnisse. Es zeigt aber, dass der erste Teil der Schleife längst weniger Science-Fiction ist, als man bequem finden könnte.
Besonders interessant wird es dort, wo KI nicht mehr nur programmiert, sondern Forschung betreibt. Anthropic berichtet von Experimenten, bei denen KI-Agenten selbst Hypothesen entwickelten, Versuche ausführten, Ergebnisse austauschten und weitere Experimente planten. Auch hier waren Problemstellung und Bewertung noch von Menschen vorgegeben. Trotzdem verschiebt sich die Grenze. Die Maschine bekommt nicht mehr jeden Arbeitsschritt erklärt. Sie bekommt ein Ziel und darf selbst herausfinden, wie sie dorthin gelangt. Im August 2026 veröffentlichte Anthropic zudem Ergebnisse zu automatisierten Forschern, die selbstständig Verfahren zur Verringerung bestimmter Fehlverhalten von Modellen erprobten. Der bemerkenswerte Teil daran ist nicht, dass die Maschinen plötzlich Wissenschaftler geworden wären. Bemerkenswert ist, wie schnell Tätigkeiten automatisiert werden, bei denen vor kurzer Zeit noch selbstverständlich ein Mensch zwischen Aufgabe und Ergebnis saß.
Anthropic ist damit nicht allein. OpenAI unterhält inzwischen ausdrücklich ein Team für Recursive Self-Improvement. Dessen Aufgabe beschreibt das Unternehmen nicht mit philosophischen Spekulationen über erwachende Maschinen, sondern erheblich nüchterner: Forschungsabläufe automatisieren, Forschungsproduktivität steigern, Hypothesen erzeugen und testen sowie länger laufende Experimente durch KI ausführen lassen. Gleichzeitig betont OpenAI, dass vollständig autonome rekursive Selbstverbesserung derzeit nicht stattfindet und nach eigener Darstellung nicht verfolgt werden sollte, solange sie nicht sicher beherrschbar ist. Das ist immerhin beruhigend. Die Branche arbeitet also intensiv an der technischen Treppe und diskutiert gleichzeitig darüber, wann man besser keine weitere Stufe einzieht.
Denn zwischen einer KI, die einem Entwickler viel Arbeit abnimmt, und einer Maschine, die selbstständig immer leistungsfähigere Nachfolger konstruiert, liegen weiterhin erhebliche Hindernisse. Modelle benötigen Rechenleistung, Trainingsdaten, Infrastruktur und reale Experimente. Verbesserungen müssen überprüft werden. Nicht jede Idee funktioniert, nicht jedes größere Modell ist automatisch besser und auch eine Maschine kann sehr effizient in die falsche Richtung forschen. Vor allem bleibt die Fähigkeit entscheidend, überhaupt zu erkennen, welche Forschungsfrage sinnvoll ist. Ein System, das tausend Experimente pro Stunde durchführen kann, besitzt damit noch nicht zwangsläufig die Fähigkeit, das richtige Experiment auszuwählen.
Die unabhängige Forschungsorganisation METR weist zusätzlich darauf hin, dass schon der Begriff RSI unterschiedlich verwendet wird. Entscheidend sei unter anderem die offene Frage, wie stark steigende Fähigkeiten eines Modells tatsächlich den Fortschritt bei neuen Algorithmen beschleunigen. Daten, Rechenleistung, Experimente und spezielle Forschungskompetenzen können zu Engpässen werden. METR hält eine starke Beschleunigung deshalb weder für bewiesen noch für ausgeschlossen. Das ist weniger filmreif als die unmittelbar bevorstehende Maschinenexplosion, besitzt aber den kleinen Vorteil, wissenschaftlich ehrlicher zu sein.
Die entscheidende Entwicklung könnte deshalb viel früher beginnen als die klassische Vorstellung einer vollständig autonomen Superintelligenz. Wenn Menschen nur noch Ziele festlegen, während KI-Systeme den größten Teil von Programmierung, Experimenten, Auswertung und Optimierung übernehmen, verändert sich bereits die Geschwindigkeit der Forschung. Genau davor warnen auch kritische Stimmen: Zwischen KI-gestützter Entwicklung und echter rekursiver Selbstverbesserung besteht ein erheblicher Unterschied, aber dieser Unterschied kann schrittweise kleiner werden.
Vielleicht wird es deshalb nie den dramatischen Moment geben, an dem eine Maschine verkündet, sie verbessere sich nun selbst. Wahrscheinlicher ist eine Reihe sehr vernünftiger Produktivitätsentscheidungen. Hier ein Experiment automatisieren, dort die Programmierung delegieren, anschließend die Planung beschleunigen. Jeder Schritt für sich praktisch, wirtschaftlich und hervorragend begründbar. Bis irgendwann auffällt, dass die Maschine nicht plötzlich ihre eigene Entwicklungsabteilung übernommen hat. Man hat sie ihr Stück für Stück übergeben.
Quellen:
▪︎ Anthropic Institute: When AI builds itself
▪︎ Anthropic Institute: Measurements for understanding the pace of AI development inside frontier labs
▪︎ Anthropic: Automated researchers can reliably mitigate alignment failures
▪︎ OpenAI: Recursive Self-Improvement Team
▪︎ OpenAI: Preparing for recursive self-improvement
▪︎ METR: The Economics of Recursive Self-Improvement