Künstliche Intelligenz kann gefährlich sein, aber nicht jede KI ist automatisch eine Gefahr. Entscheidend ist, wofür ein System eingesetzt wird, welche Folgen Fehler haben können und wie gut Risiken kontrolliert werden.

Viele Gefahren sind bereits heute bekannt. KI-Systeme können falsche oder erfundene Informationen erzeugen, bestehende Vorurteile aus Trainingsdaten übernehmen oder persönliche Daten problematisch verarbeiten. Werden solche Systeme etwa bei Bewerbungen, medizinischen Entscheidungen oder behördlichen Verfahren eingesetzt, können Fehler unmittelbare Folgen für Menschen haben. Auch manipulierte Bilder, Stimmen und Texte können Desinformation erleichtern. Die OECD nennt unter anderem Diskriminierung, Datenschutzverletzungen sowie Sicherheitsprobleme als bereits beobachtete Risiken.

Daneben gibt es Missbrauchsmöglichkeiten. KI kann beispielsweise Cyberangriffe unterstützen oder große Mengen täuschend echter Inhalte erzeugen. Wie groß weitergehende zukünftige Risiken durch besonders leistungsfähige Systeme werden könnten, ist dagegen teilweise umstritten und lässt sich nicht zuverlässig vorhersagen.

Deshalb behandeln Fachorganisationen und Gesetzgeber KI zunehmend nach ihrem jeweiligen Risiko. Das amerikanische NIST empfiehlt systematisches Risikomanagement über den gesamten Lebenszyklus eines KI-Systems. Auch die europäische KI-Verordnung unterscheidet zwischen Anwendungen mit geringem, hohem und unannehmbarem Risiko.

KI ist daher weder grundsätzlich harmlos noch grundsätzlich gefährlich. Entscheidend sind Anwendung, Kontrolle, Transparenz und menschliche Verantwortung.

Quellen:
▪︎ National Institute of Standards and Technology: Artificial Intelligence Risk Management Framework
▪︎ OECD: OECD updates AI Principles to stay abreast of rapid technological developments
▪︎ Europäische Kommission: KI-Verordnung tritt in Kraft