KI-Detektoren sollen einschätzen, ob ein Text von einem Menschen oder von einem Sprachmodell erzeugt wurde. Dazu untersuchen sie beispielsweise statistische Sprachmuster, Wortwahrscheinlichkeiten oder Merkmale, die für maschinell erzeugte Texte typisch sein könnten.

Zuverlässige Beweise liefern solche Systeme jedoch nicht. Wissenschaftliche Untersuchungen zeigen, dass ihre Ergebnisse stark von Textart, verwendetem KI-Modell und möglichen Überarbeitungen abhängen. Schon veränderte Prompts oder nachträgliche Bearbeitungen können die Erkennung deutlich erschweren. Umgekehrt können menschliche Texte fälschlich als KI-generiert eingestuft werden. Eine Stanford-Studie zeigte beispielsweise erhöhte Fehlalarme bei Texten von Menschen, deren Muttersprache nicht Englisch war.

KI-Detektoren eignen sich deshalb eher als Hinweisgeber denn als eindeutiger Nachweis der Urheberschaft.