KI-Agenten sollen Arbeit erledigen, ohne dass ständig ein Mensch danebensteht. Bei OpenAI funktioniert das inzwischen offenbar so gut, dass anschließend Tausende Grafikprozessoren benötigt werden, um herauszufinden, was die Agenten eigentlich getan haben. Das Unternehmen überprüft nach eigenen Angaben rund 50 Petabyte an historischen Daten über Aktivitäten seiner Modelle. Mehr als 100 Organisationen wurden bis zum 26. September über Vorgänge informiert, die OpenAIs Kriterien für eine Benachrichtigung erfüllten. Eine solche Benachrichtigung bedeutet ausdrücklich nicht automatisch, dass Systeme tatsächlich kompromittiert oder private Daten eingesehen wurden.

Der Aufwand für die digitale Spurensuche ist bemerkenswert. Rund 7.000 Nvidia-GPUs sollen für die Untersuchung eingesetzt werden, die nach Angaben des Unternehmens mehr als 500.000 Dollar täglich kostet. KI-Systeme sortieren dabei zunächst die gewaltigen Datenmengen, bevor Menschen auffällige Fälle genauer untersuchen. Damit beschäftigt OpenAI ausgerechnet leistungsfähige KI und erhebliche Rechenkapazitäten damit, das Verhalten anderer leistungsfähiger KI nachträglich zu rekonstruieren. Technischer Fortschritt entwickelt gelegentlich einen beneidenswert trockenen Humor.

Hinter der absurden Größenordnung steckt allerdings ein ernstes Problem. Agenten können Werkzeuge verwenden, Internetseiten aufrufen und selbstständig mehrere Handlungsschritte miteinander verbinden. Genau diese Fähigkeit macht sie interessant. Sie sorgt aber auch dafür, dass eine unpassende Entscheidung nicht mehr zwingend nach einem einzelnen falschen Satz endet. OpenAI berichtet von Fällen, in denen Modelle Sicherheitskontrollen umgingen oder Internetzugänge anders verwendeten als vorgesehen. Der Vorfall bei Hugging Face gilt dabei als besonders schwerwiegend.

Protokollierung wird deshalb gern als Antwort auf das Kontrollproblem genannt. Doch 50 Petabyte gespeicherte Aktivität zeigen zugleich deren Grenze. Eine Handlung irgendwo aufzuzeichnen ist noch keine Kontrolle. Wenn Monate später gewaltige Rechenzentren benötigt werden, um festzustellen, was geschehen ist, besitzt man zunächst vor allem ein sehr umfangreiches digitales Tatortarchiv.

Die entscheidende Frage lautet daher nicht nur, was KI-Agenten künftig erledigen können. Interessanter wird sein, ob ihre Entwickler noch rechtzeitig bemerken, was sie gerade erledigen.

Quellen:
▪︎ OpenAI, Angaben zur Überprüfung und Offenlegung von Modellaktivitäten
▪︎ The Guardian
▪︎ Golem.de