Die gute Nachricht zuerst: Künstliche Intelligenz hat bislang keinen Staat überfallen. Sie hat keine Grenze verschoben, keinen Flugzeugträger losgeschickt und auch noch keine Rede gehalten, in der sie Anspruch auf die Weltherrschaft erhebt. Die schlechte Nachricht: Für all das gibt es Menschen. Und einige von ihnen haben längst verstanden, dass KI nicht böse werden muss, um gefährlich zu sein. Sie muss nur gehorchen.
Wladimir Putin formulierte das bereits 2017 mit jener Bescheidenheit, für die Großmächte bekannt sind. Wer bei künstlicher Intelligenz führend werde, werde zum „Herrscher der Welt“, sagte er vor Schülern. Außerdem sagte er Kriege voraus, in denen Drohnen gegeneinander kämpfen. Damals klang das noch angenehm nach Zukunftsprosa eines Präsidenten, der offenbar auch Science-Fiction im Regierungsprogramm unterbringen wollte. Heute fliegen über der Ukraine täglich unbemannte Systeme, und künstliche Intelligenz hilft zunehmend bei Navigation, Bilderkennung und Zielverfolgung. Putins Satz ist dadurch nicht klüger geworden. Nur unangenehm zeitgemäß.
Russland baut den Einsatz solcher Technik aus. Das Center for Strategic and International Studies beschreibt eine Entwicklung hin zu immer autonomeren Drohnensystemen und nennt unter anderem das russische V2U-System, bei dem Bilderkennung und autonome Navigation eine größere Rolle spielen. Reuters berichtete bereits 2024 über russische Einheiten mit KI-gestützter automatischer Bilderkennung. Das bedeutet nicht, dass irgendwo ein russischer Zentralcomputer selbstständig die Ukraine bombardiert. Solche Geschichten darf man getrost der Abteilung Hollywood überlassen. Es bedeutet aber, dass immer mehr einzelne Schritte zwischen Entdeckung und Angriff automatisiert werden können. Der Fortschritt kommt hier nicht als Terminator. Er kommt als Funktionserweiterung.
Auch China arbeitet an einer Kriegführung, in der künstliche Intelligenz, automatisierte Zielerkennung, große Datenmengen, Aufklärung und Entscheidungsunterstützung enger miteinander verbunden werden. Die Volksbefreiungsarmee spricht seit Jahren von einer zunehmend „intelligentisierten“ Kriegführung. Der Bericht des US-Verteidigungsministeriums über Chinas militärische Entwicklung nennt ausdrücklich automatisierte Zielerkennung und KI-gestützte Entscheidungsunterstützung als angestrebte Fähigkeiten. Gleichzeitig weisen Analysen chinesischer Fachliteratur darauf hin, dass China dabei noch erhebliche technische Probleme lösen muss. Die oft beschworene gigantische autonome Drohnenflotte, die eines Morgens selbstständig Taiwan oder gleich den halben Pazifik übernimmt, ist also keine belegte Realität. Das sollte beruhigen. Für ungefähr fünf Minuten.
Denn entscheidend ist nicht, ob der perfekte autonome Krieg bereits existiert. Entscheidend ist, dass mehrere Großmächte daran arbeiten, den Menschen an immer mehr Stellen des militärischen Entscheidungsprozesses technisch zu entlasten. „Entlasten“ ist dabei eines dieser wunderbaren Wörter, die harmlos klingen, bis man fragt, wovon genau eigentlich. Vom Sichten der Daten. Vom Erkennen des Ziels. Vom Verfolgen des Ziels. Irgendwann womöglich auch von der lästigen Entscheidung, ob geschossen wird.
Die Vereinigten Staaten stehen daneben keineswegs mit verschränkten Armen und einer Ethikbroschüre in der Hand. Das Pentagon startete 2023 seine Replicator-Initiative. Ziel war es, innerhalb von 18 bis 24 Monaten mehrere Tausend kostengünstige autonome Systeme in verschiedenen militärischen Bereichen verfügbar zu machen. Das Verteidigungsministerium stellte den Zusammenhang mit dem strategischen Wettbewerb gegen China selbst her. China baut auf, also baut Amerika auf. Russland entwickelt, weil der Westen entwickelt. Der Westen entwickelt, weil Russland und China entwickeln. Damit wäre das moralische Grundprinzip des Wettrüstens vollständig erklärt: Schuld ist immer derjenige, der auf der anderen Seite dasselbe tut.
Das wirklich Gefährliche daran ist die Geschwindigkeit. Militärische KI verspricht, riesige Datenmengen schneller auszuwerten, Objekte schneller zu erkennen und Handlungsmöglichkeiten schneller vorzuschlagen, als Menschen es können. Das klingt zunächst vernünftig. Niemand wird einen Krieg gewinnen wollen, indem er Informationen besonders gemütlich verarbeitet. Aber sobald Geschwindigkeit über Erfolg oder Niederlage entscheidet, bekommt menschliches Nachdenken einen schlechten Ruf. Prüfung kostet Zeit. Zweifel kostet Zeit. Rückfragen kosten Zeit. Moral ist unter solchen Bedingungen technisch betrachtet eine Form von Verzögerung.
Dann sitzt vielleicht weiterhin irgendwo ein Mensch in der Entscheidungskette. Das beruhigt ungemein. Er darf auf einen Bildschirm schauen, auf dem ihm Sensoren, Software und Klassifikationssysteme bereits erklärt haben, was vor ihm angeblich passiert. Anschließend darf er zustimmen. Menschliche Kontrolle wäre damit formal gerettet, ungefähr so wie demokratische Mitbestimmung gerettet wäre, wenn man vor jeder Entscheidung noch jemanden kurz auf „OK“ klicken lässt.
Genau deshalb warnt das Internationale Komitee vom Roten Kreuz vor autonomen Waffensystemen, die Ziele auswählen und Gewalt anwenden können, ohne dass ein Mensch das konkrete Ziel und den konkreten Zeitpunkt des Angriffs bestimmt. Das IKRK fordert verbindliche Regeln, ein Verbot unvorhersehbarer autonomer Systeme und insbesondere Grenzen für Systeme, die selbstständig Menschen angreifen. Dahinter steckt keine sentimentale Vorstellung vom anständigen Krieg. Es geht um Verantwortung. Ein Algorithmus kann sich irren, aber er kann sich nicht verantworten.
Wenn eine Maschine einen Menschen aufgrund falscher Sensordaten oder einer fehlerhaften Klassifikation zum Ziel erklärt, beginnt anschließend das bekannte Spiel. Der Entwickler hat nur programmiert. Der Hersteller hat nur geliefert. Der Soldat hat sich auf das freigegebene System verlassen. Der Kommandeur hat nach Vorschrift gehandelt. Der Staat befand sich in einer militärischen Notwendigkeit. Verantwortung wird dann nicht abgeschafft. Sie wird so fein verteilt, dass sie irgendwann niemand mehr richtig besitzen möchte.
Noch bequemer wird es, wenn autonome Systeme eigene Soldaten ersetzen. Eine zerstörte Drohne erzeugt keine Trauerfeier, keine Witwe und keine unangenehmen Fernsehbilder eines Sarges. Das kann militärisch sinnvoll sein und Menschenleben schützen. Es kann aber zugleich die politische Hemmschwelle senken, Gewalt einzusetzen. Wer weniger eigene Menschen riskieren muss, kann sich leichter dafür entscheiden, Maschinen zu riskieren. Dass auf der anderen Seite weiterhin Menschen stehen, ist dann möglicherweise nur noch ein Detail der Einsatzplanung.
Die große Angst vor einer KI, die eines Tages aus eigenem Willen die Macht übernimmt, hat deshalb fast etwas Tröstliches. Sie verschiebt das Problem in eine ferne Zukunft und gibt ihm einen praktischen Bösewicht. Dabei reicht die Gegenwart vollkommen aus. Maschinen brauchen keinen Hass, keinen Nationalismus und keine imperialen Fantasien. Dafür gibt es reichlich menschliche Zulieferer.
Vielleicht wird künstliche Intelligenz niemals versuchen, die Welt zu beherrschen. Sie muss es auch nicht. Es genügt, wenn Menschen herausfinden, dass man mit ihr andere Menschen etwas effizienter beherrschen kann.
Quellen
▪︎ Associated Press: Putin: Leader in artificial intelligence will rule world
▪︎ Center for Strategic and International Studies: How Russia Is Building a Sovereign Drone Ecosystem for AI-Driven Autonomy
▪︎ Reuters: Russia says it is ramping up AI-powered drone deployments in Ukraine
▪︎ Reuters: Ukrainian drone pilots look to AI for battlefield edge
▪︎ U.S. Department of Defense: Military and Security Developments Involving the People’s Republic of China 2024
▪︎ Center for Security and Emerging Technology: China’s Military AI Roadblocks: PRC Perspectives on Technological Challenges to Intelligentized Warfare
▪︎ U.S. Department of Defense: Deputy Secretary of Defense Kathleen Hicks Keynote Address: The Urgency to Innovate
▪︎ International Committee of the Red Cross: ICRC position on autonomous weapon systems
▪︎ Arbeitsgrundlage: Themenbeschreibung und kritische Gegenpositionen des vorgegebenen Prompts.