Dass ausgerechnet die USA und China über die Sicherheit künstlicher Intelligenz sprechen, darf man durchaus als Hinweis verstehen. Zwei Staaten, die sich bei Halbleitern, Technologie und geopolitischem Einfluss eher ungern gegenseitig den Vortritt lassen, entdecken laut Reuters plötzlich ein gemeinsames Interesse: Die Maschinen sollten möglichst nicht außer Kontrolle geraten.
Das beruhigt ungemein.
Das eigentliche Problem moderner KI ist nämlich weniger, dass sie eines Morgens beschließt, die Menschheit abzuschaffen. Viel näher liegt eine banalere Variante: Wir überlassen ihr immer mehr, weil sie Inkompetenz mit der Attitüde eines Experten verkauft.
Generative KI kann weiterhin falsche Informationen mit bemerkenswerter Selbstsicherheit produzieren. Das amerikanische NIST führt solche Konfabulationen ausdrücklich als eigenes Risiko auf. Ein System muss also nicht stottern, blinken oder eine Fehlermeldung anzeigen, wenn es Unsinn erzählt. Es kann dabei ausgesprochen kompetent klingen.
Solange die KI nur einen falschen Restauranttipp ausspuckt, bleibt der Schaden überschaubar. Interessanter wird es, wenn aus dem Sprachmodell ein Agent wird, der selbstständig Dateien bearbeitet, E-Mails verschickt, Software bedient, Entscheidungen vorbereitet oder andere Systeme steuert. Dann wird aus einer erfundenen Antwort möglicherweise eine ausgeführte Handlung. Der Unterschied ist ungefähr derselbe wie zwischen einem falschen Ratschlag und einer falschen Handlung: Das eine kann man noch ignorieren, das andere ist bereits passiert.
Deshalb empfiehlt NIST bei sicherheitsrelevanten KI-Systemen unter anderem Tests, laufende Überwachung und Möglichkeiten zum menschlichen Eingreifen oder Abschalten. Offenbar gilt selbst im Zeitalter künstlicher Intelligenz noch die erstaunlich altmodische Erkenntnis, dass Kontrolle hilfreich sein kann.
Die gefährlichste Eigenschaft moderner KI ist nicht ihre Intelligenz, sondern wie überzeugend sie uns Kompetenz vorgaukelt. Wir wissen zwar, dass sie überzeugend irren kann, geben ihr trotzdem immer mehr Macht und nennen das Fortschritt.
Vielleicht sind die Maschinen gar nicht zu mächtig. Vielleicht sind wir nur zu leicht zu beeindrucken.