Künstliche Intelligenz kann unterschiedliche Risiken verursachen. Sie reichen von falschen Informationen und Diskriminierung bis zu Datenschutzproblemen, Manipulation und Sicherheitsgefahren. Wie schwer ein Risiko wiegt, hängt stark davon ab, wo und wie ein KI-System eingesetzt wird.

Ein bekanntes Problem sind fehlerhafte oder frei erfundene Ausgaben. Generative KI kann überzeugend formulieren, obwohl eine Aussage falsch ist. Werden solche Ergebnisse ungeprüft in Medizin, Verwaltung, Bildung oder Unternehmen übernommen, können daraus reale Schäden entstehen. Hinzu kommen mögliche Verzerrungen durch Trainingsdaten. Ein System kann bestehende Benachteiligungen übernehmen und beispielsweise bestimmte Personengruppen systematisch schlechter bewerten.

Weitere Risiken entstehen durch den Umgang mit persönlichen oder vertraulichen Daten sowie durch den Missbrauch von KI. Täuschend echte Bilder, Stimmen und Texte können Desinformation und Betrug erleichtern. KI-Systeme können außerdem für Cyberangriffe eingesetzt werden. Die OECD weist unter anderem auf Risiken durch Desinformation, mangelnde Datensicherheit und Verletzungen von Rechten hin.

Nicht jedes KI-System besitzt jedoch dieselben Gefahren. Ein Programm zur Bildsortierung ist anders zu bewerten als ein System, das über Kredite oder medizinische Behandlungen mitentscheidet. Deshalb verfolgen Institutionen wie NIST einen risikobasierten Ansatz: Je größer mögliche Schäden sind, desto sorgfältiger müssen Systeme geprüft, überwacht und abgesichert werden.

Quellen:
▪︎ National Institute of Standards and Technology: Artificial Intelligence Risk Management Framework
▪︎ National Institute of Standards and Technology: Generative Artificial Intelligence Profile
▪︎ OECD: OECD AI Principles