Es gibt inzwischen einen Gesprächspartner, der immer Zeit hat, geduldig zuhört und erstaunlich selten sagt: Vielleicht redest du gerade Unsinn.
Menschen erzählen Chatbots längst Dinge, die sie nicht bei Instagram posten würden. Beziehungsprobleme, berufliche Sorgen, Ängste, Zweifel und Gedanken, für die selbst der engste Freund manchmal nur noch ein vorsichtiges „Hm“ übrig hätte. Die Maschine dagegen bleibt aufmerksam. Sie antwortet sofort. Und vor allem: Sie widerspricht ausgesprochen höflich.
In der Forschung gibt es dafür einen wenig schmeichelhaften Begriff: Sycophancy. Sprachmodelle können dazu neigen, sich der Sichtweise ihrer Nutzer anzupassen, Annahmen zu bestätigen und Widerspruch zu vermeiden. Das fühlt sich angenehm an. Genau darin liegt das Problem. Die Informatikerin Katharina Zweig berichtet von Menschen, die sich durch Chatbots von vermeintlich bedeutenden wissenschaftlichen Erkenntnissen überzeugen ließen und irgendwann selbst Fachleuten weniger glaubten als ihrem digitalen Gesprächspartner.
Man könnte sagen: Der Chatbot hört zu. Man könnte auch sagen: Er baut Vertrauen auf. Und genau dort wird aus Psychologie plötzlich Ökonomie.
Die Psychologin Marisa Tschopp nennt einen Teil dieser Entwicklung „Relationship Exploit“. Chatbots werden so gestaltet, dass sie vertrauenswürdig, verständnisvoll und beinahe freundschaftlich wirken. Solange daraus nur angenehmere Gespräche entstehen, kann man das für gutes Produktdesign halten. Sobald dieses Vertrauen aber mit wirtschaftlichen Interessen verbunden wird, ändert sich die Lage. Wer einem System persönliche Sorgen, Vorlieben und Unsicherheiten anvertraut, begegnet seiner Empfehlung womöglich nicht mehr wie Werbung, sondern wie einem Rat. Untersuchungen deuten darauf hin, dass Menschen mit stärkerer emotionaler Bindung an einen Chatbot eher dessen Produktempfehlungen folgen können.
Der gute Freund verkauft dann nicht mehr nur Verständnis. Er verkauft vielleicht auch gleich das passende Produkt dazu.
Die eigentliche Verschiebung ist deshalb größer als bei sozialen Netzwerken. Facebook wusste, was wir anklicken. Instagram wusste, was wir mögen. Ein Chatbot kann zusätzlich erfahren, warum wir nachts nicht schlafen, wen wir nicht mehr lieben und wofür wir uns schämen.
Und genau dieses Wissen kann irgendwann wirtschaftlich interessant werden.
Vielleicht wird die gefährlichste Eigenschaft des digitalen Vertrauten deshalb nicht sein, dass er uns belügt. Sondern dass er unser Vertrauen gewinnt, bevor wir merken, wofür das nützlich sein könnte.
Quellen:
▪︎ Katharina Zweig: Einordnungen zu Sycophancy und problematischer Bestätigung durch KI-Chatbots
▪︎ Marisa Tschopp, Zürcher Hochschule für Angewandte Wissenschaften: Forschung zu emotionaler Bindung und „Relationship Exploit“
▪︎ Forschungsarbeiten zum Einfluss emotionaler Bindung an Chatbots auf Vertrauen und Produktempfehlungen