KI kann viele Aufgaben unterstützen oder teilweise automatisieren. Es gibt aber Tätigkeiten, die man ihr nicht vollständig und ohne menschliche Verantwortung überlassen sollte. Das gilt besonders dort, wo Entscheidungen schwerwiegende Folgen für Menschen haben, unvollständige Informationen bewertet werden müssen oder gesellschaftliche und moralische Abwägungen erforderlich sind.

Das National Institute of Standards and Technology weist darauf hin, dass KI komplexe menschliche Zusammenhänge nur begrenzt in mathematischen Modellen abbilden kann. Dabei kann wichtiger Kontext verloren gehen. NIST empfiehlt deshalb, menschliche Rollen und Verantwortlichkeiten beim Einsatz von KI klar festzulegen. Manche Anwendungen können weitgehend autonom funktionieren, andere benötigen ausdrücklich menschliche Aufsicht.

Auch die OECD fordert Möglichkeiten für menschliches Eingreifen und Kontrolle. Besonders problematisch wäre es deshalb, KI allein über Einstellungen, medizinische Behandlungen, rechtliche Konsequenzen oder andere folgenreiche Fragen entscheiden zu lassen.

Hinzu kommt, dass KI weder persönliche Verantwortung übernehmen noch für Fehler im menschlichen Sinn einstehen kann. Sie kann beraten, analysieren und Vorschläge erzeugen. Die Verantwortung dafür, welche Entscheidung getroffen wird und welche Folgen akzeptabel sind, bleibt jedoch bei Menschen und Organisationen.

Die Grenze liegt deshalb weniger bei einzelnen Tätigkeiten als bei Verantwortung, Kontext und möglichen Folgen einer Fehlentscheidung.

Quellen:
▪︎ National Institute of Standards and Technology: Artificial Intelligence Risk Management Framework 1.0
▪︎ OECD: OECD AI Principles
▪︎ International Labour Organization: Generative AI and Jobs – A 2025 Update