George Orwell beschrieb in „1984“ eine Welt, in der der Einzelne vor allem eines nicht wusste: wer eigentlich entscheidet, nach welchen Regeln entschieden wird und was hinter den Kulissen passiert. Natürlich ist OpenAI kein totalitärer Staat. Der Vergleich wäre albern. Interessanter ist die viel kleinere Variante davon, die inzwischen ganz friedlich per Kreditkarte funktioniert.
Der Kunde zahlt pünktlich. Dafür bekommt er Zugang zu einem System, dessen Verhalten sich ändern, dessen Qualität schwanken und dessen Leistung zeitweise deutlich schlechter ausfallen kann. Warum das geschieht, erfährt er nicht. Vielleicht wurde etwas umgestellt. Vielleicht ist das System ausgelastet. Vielleicht funktioniert ein Modell heute anders als gestern. Vielleicht bildet man es sich auch nur ein. Der Anbieter weiß es. Der Kunde darf ein bisschen technologische Archäologie betreiben.
Beim Geld ist die Lage erfreulich übersichtlich. OpenAI regelt Abrechnung, Kündigung und Rückerstattung detailliert; außerhalb gesetzlicher Ansprüche gibt es für bereits bezahlte Zeiträume, in denen nichts funktioniert hat, grundsätzlich nicht automatisch Geld zurück.
Die Gegenleistung ist weniger präzise vermessen. Niemand garantiert, dass sich ein KI-System morgen genauso verhält wie heute. Die experimentelle Zukunft beginnt also praktischerweise erst hinter der Kasse.
Verbraucherschützer sehen genau diese Informationsasymmetrie als Problem. Die europäische Verbraucherorganisation BEUC warnt davor, dass undurchsichtige algorithmische Systeme Verbraucher daran hindern können, Fehler überhaupt zu erkennen und wirksam dagegen vorzugehen. Ein Recht auf Erklärung soll deshalb helfen, das Machtgefälle wenigstens etwas zu verkleinern.
Auch die amerikanische Verbraucherschutz- und Wettbewerbsbehörde FTC beschäftigt sich längst damit, was passiert, wenn KI-Anbieter mehr Gewissheit verkaufen, als ihre Systeme liefern. DoNotPay geriet wegen überzogener Versprechen für seinen angeblichen „KI-Anwalt“ ins Visier. Workado warb für seinen KI-Detektor mit 98 Prozent Genauigkeit; unabhängige Tests kamen laut FTC bei allgemeinen Texten auf 53 Prozent. 2026 stellte die Behörde schließlich grundsätzlich die Frage, ob Erwartungen an Genauigkeit und Objektivität von KI-Systemen verletzt werden können.
Das Problem ist also nicht, dass künstliche Intelligenz Fehler macht. Das Problem beginnt dort, wo der Kunde nicht einmal zuverlässig erfährt, warum das Produkt heute schlechter funktioniert als gestern.
Orwell brauchte dafür noch ein Wahrheitsministerium. Heute reicht ein Monatsabo.
Quellen:
▪︎ OpenAI: Nutzungsbedingungen für Europa und Nutzungsbedingungen, Stand 2026
▪︎ BEUC: Consumers’ right to explanation under AI decision making, 28. Januar 2026
▪︎ Federal Trade Commission: Verfahren und Veröffentlichungen zu DoNotPay, Workado und AI Accuracy, 2025–2026