Ja. Künstliche Intelligenz kann Menschen beeinflussen und unter bestimmten Bedingungen auch gezielt manipulieren. Das liegt nicht daran, dass eine KI eigene Absichten haben muss. Entscheidend ist, dass Sprachmodelle überzeugende Texte erzeugen, Argumente anpassen und in Gesprächen auf Reaktionen des Gegenübers eingehen können.

Studien zeigen, dass KI-generierte Botschaften Einstellungen verändern können. In Experimenten zu politischen Sachfragen waren von Sprachmodellen formulierte Botschaften ähnlich überzeugend wie Texte von Menschen. Andere Untersuchungen fanden, dass personalisierte KI-Argumente besonders wirksam sein können, wenn das System Informationen über die angesprochene Person kennt. Die Effekte sind dabei nicht unbegrenzt und hängen stark von Thema, Ausgangsmeinung und Gesprächssituation ab.

Problematisch wird das vor allem, wenn Beeinflussung nicht als solche erkennbar ist. Ein System könnte Werbung, politische Botschaften oder Verkaufsargumente individuell formulieren und millionenfach anpassen. Damit lassen sich Überzeugungsversuche wesentlich leichter automatisieren als bei klassischer persönlicher Ansprache.

Manipulation bedeutet allerdings nicht, dass KI Menschen beliebig steuern kann. Menschen reagieren unterschiedlich, viele Einstellungen sind stabil, und auch überzeugend formulierte KI-Inhalte können wirkungslos bleiben. Zudem können Sprachmodelle falsche Informationen verwenden und dadurch nicht nur überzeugen, sondern auch irreführen.

Die eigentliche Gefahr liegt deshalb weniger in einer geheimnisvollen „Gedankenkontrolle“ als in der Kombination aus überzeugender Sprache, Personalisierung und enormer Reichweite.

Quellen:
▪︎ Nature Communications: LLM-generated messages can persuade humans on policy issues
▪︎ Nature Human Behaviour: On the conversational persuasiveness of GPT-4
▪︎ Nature: Persuading voters using human–artificial intelligence dialogues