Ja, künstliche Intelligenz kann gefährlich sein. Wie groß das Risiko ist, hängt jedoch stark davon ab, welches System eingesetzt wird, wer es verwendet und wofür. Ein Spamfilter stellt andere Gefahren dar als eine KI, die medizinische Entscheidungen unterstützt oder kritische Infrastruktur steuert.

Bereits heute sind konkrete Risiken bekannt. KI kann falsche Informationen erzeugen, Vorurteile aus Trainingsdaten übernehmen, Menschen täuschen oder für Betrug und Cyberangriffe missbraucht werden. Fehler können besonders problematisch werden, wenn Menschen den Ergebnissen automatisierter Systeme zu sehr vertrauen. Deshalb behandeln Institutionen wie das US-amerikanische NIST Risiken nicht als theoretisches Zukunftsproblem, sondern empfehlen Verfahren, mit denen sie während Entwicklung und Einsatz systematisch erkannt und begrenzt werden.

Daneben diskutiert die Forschung schwerer abschätzbare Risiken besonders leistungsfähiger KI-Systeme. Der International AI Safety Report 2026 unterscheidet unter anderem zwischen absichtlichem Missbrauch, unbeabsichtigten Fehlfunktionen und gesellschaftlichen Folgen einer weiten Verbreitung. Einige Schäden sind bereits dokumentiert, andere bleiben unsicher und könnten möglicherweise erst mit leistungsfähigeren Systemen relevant werden.

Die Frage lässt sich deshalb weder mit „KI ist ungefährlich“ noch mit „KI wird zwangsläufig zur Katastrophe“ sinnvoll beantworten. Entscheidend sind Fähigkeiten, Einsatzgebiet, Kontrolle und Sicherheitsmaßnahmen. KI ist ein Werkzeug mit erheblichen Möglichkeiten und realen Risiken. Wie gefährlich sie wird, hängt wesentlich davon ab, wie Menschen sie entwickeln und einsetzen.

Quellen:
▪︎ National Institute of Standards and Technology: Artificial Intelligence Risk Management Framework
▪︎ International AI Safety Report: 2026 Report – Executive Summary