Wenn künstliche Intelligenz überzeugend formuliert, entsteht leicht der Eindruck, sie wisse auch, wovon sie spricht. Genau darin liegt eines ihrer größten Risiken. Denn eine sprachlich saubere Antwort ist noch lange keine verlässliche Antwort.
Das eigentliche Problem ist deshalb nicht, dass KI Fehler macht. Menschen machen schließlich auch welche. Problematisch wird es dort, wo aus einer plausibel klingenden Antwort vermeintliches Wissen wird. NIST nennt solche erfundenen oder falschen Aussagen „Confabulations“ und warnt ausdrücklich davor, dass Nutzer ihnen gerade wegen der überzeugenden Darstellung vertrauen können.
Dabei wird die Technik tatsächlich besser. Genau das macht die Sache komplizierter. Der Stanford AI Index zeigt für 2026 enorme Fortschritte bei anspruchsvollen Aufgaben, gleichzeitig aber weiterhin erhebliche Schwächen bei Zuverlässigkeit und Halluzinationen. Spitzenmodelle können mathematische Wettbewerbe lösen und scheitern dennoch an Aufgaben, die Menschen ziemlich banal erscheinen.
Damit verschiebt sich die entscheidende Kompetenz vom Antworten zum Prüfen.
Wer KI benutzt, muss wissen, wann eine Antwort plausibel, wann sie belegt und wann sie lediglich schön formuliert ist. Dafür braucht man Fachwissen. Ein Mitarbeiter, der eine falsche Aussage nicht erkennen kann, wird durch eine leistungsfähigere KI nicht automatisch kompetenter. Er erhält nur bessere Möglichkeiten, seinem Irrtum einen professionellen Anstrich zu geben.
Noch schwieriger wird es, wenn Entscheidungen Menschen betreffen. Dann reicht es nicht, dass ein Ergebnis statistisch sinnvoll oder wirtschaftlich effizient erscheint. NIST behandelt Vertrauenswürdigkeit deshalb ausdrücklich als Frage von Risiken für Individuen, Organisationen und Gesellschaft.
Eine KI kann berechnen, sortieren und empfehlen. Sie kann aber nicht die Verantwortung dafür übernehmen, wann Effizienz wichtiger sein darf als Fairness, Würde oder Schaden für einen Menschen.
Vielleicht wird die wichtigste Fähigkeit im Umgang mit künstlicher Intelligenz deshalb gar nicht sein, ihr möglichst gute Fragen zu stellen.
Sondern zu wissen, wann ihre Antwort keine sein darf.
Quellen:
▪︎ NIST, Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile, 2024
▪︎ Stanford HAI, AI Index Report 2026, Responsible AI
▪︎ Stanford HAI, AI Index Report 2026, Technical Performance
▪︎ NIST, Artificial Intelligence Risk Management Framework 1.0