Ja. Künstliche Intelligenz kann Menschen benachteiligen und bestehende Vorurteile verstärken. Sie besitzt dabei allerdings keine Vorurteile im menschlichen Sinn. Ein KI-System hat keine persönlichen Überzeugungen oder Abneigungen. Problematisch können vielmehr seine Trainingsdaten, die Auswahl der verwendeten Merkmale und die Art sein, wie es entwickelt und eingesetzt wird.

Wenn historische Daten bereits gesellschaftliche Ungleichheiten enthalten, kann ein System diese Muster übernehmen. Besonders deutlich wird das bei Bewerbungsverfahren. Wird eine KI mit früheren Einstellungsentscheidungen trainiert, können darin enthaltene Benachteiligungen bestimmter Gruppen in zukünftige Empfehlungen einfließen. Die OECD warnt deshalb davor, dass automatisierte Verfahren Diskriminierung nicht automatisch beseitigen, sondern sie auch systematisieren oder verstärken können.

Ähnliche Risiken bestehen bei Kreditentscheidungen, Sozialleistungen, Leistungsbewertungen oder anderen Verfahren, in denen KI Menschen beurteilt. Zusätzlich kann es schwierig sein zu erkennen, warum ein komplexes System zu einer bestimmten Entscheidung gekommen ist. Gerade dann besteht die Gefahr, dass Menschen automatisierte Ergebnisse für objektiver halten, als sie tatsächlich sind.

KI muss aber nicht zwangsläufig diskriminieren. Gut ausgewählte Daten, regelmäßige Prüfungen und klare Verantwortlichkeiten können Verzerrungen erkennen und verringern. Unter bestimmten Bedingungen kann KI sogar dabei helfen, menschliche Diskriminierung sichtbar zu machen.

Entscheidend ist deshalb nicht, ob eine Maschine selbst Vorurteile „hat“, sondern ob ihre Entscheidungen Menschen aufgrund verzerrter Daten oder ungeeigneter Verfahren unterschiedlich behandeln.

Quellen:
▪︎ OECD: Monitoring and Assessing the Impact of National Action Plans Against Racism
▪︎ OECD: Using AI in the Workplace
▪︎ OECD: Governing with Artificial Intelligence