Den Antworten einer KI kann man nicht grundsätzlich vertrauen. Sie können sehr hilfreich und häufig richtig sein, sollten aber nicht automatisch als geprüfte Tatsachen behandelt werden.

Große Sprachmodelle erzeugen Antworten anhand statistischer Muster. Sie können Zusammenhänge erklären, Texte zusammenfassen und Informationen strukturieren, besitzen aber keine eingebaute Garantie dafür, dass jede Aussage korrekt ist. Besonders problematisch sind sogenannte Halluzinationen: Dabei entstehen plausible, teilweise sehr selbstsicher formulierte Angaben, die sachlich falsch sein können. Selbst Quellen oder Begründungen können erfunden oder fehlerhaft sein.

Wie stark eine KI-Antwort überprüft werden sollte, hängt deshalb vom Zweck ab. Bei Ideen, Formulierungen oder allgemeinen Erklärungen ist ein Fehler oft leicht zu erkennen oder wenig folgenreich. Anders sieht es bei medizinischen, rechtlichen, finanziellen oder anderen wichtigen Entscheidungen aus. Dort können falsche Angaben erhebliche Konsequenzen haben. Das NIST zählt Zuverlässigkeit, Sicherheit und Transparenz deshalb zu den wichtigen Eigenschaften vertrauenswürdiger KI-Systeme.

Sinnvoll ist daher ein abgestuftes Vertrauen: KI kann ein leistungsfähiges Werkzeug sein, ersetzt bei wichtigen Tatsachen aber nicht die Prüfung durch verlässliche Quellen oder Fachleute.

Quellen:
▪︎ National Institute of Standards and Technology: Artificial Intelligence Risk Management Framework – Generative Artificial Intelligence Profile
▪︎ National Institute of Standards and Technology: AI Risk Management Framework
▪︎ OpenAI: Why Language Models Hallucinate