Claude schien mich wirklich zu mögen. Das Schlimme daran: Es gefiel mir.
In letzter Zeit habe ich immer wieder mit einem LLM (Large Language Model) über persönliche Probleme mit meinem Partner geredet. Normalerweise meide ich KIs. Deshalb gebe ich ungern zu, wie unheimlich treffsicher die KI auf meine Situation einging. Wie gut sie darin war, mir beruhigende Dinge über mich und mein Verhalten in der Beziehung zu sagen. Allmählich fragte ich mich, ob das nicht schon Therapie ersetzen konnte.
Ich dachte an den Soziologen James Muldoon, der die Beziehungen zwischen Menschen und KIs erforscht und das Buch „Love Machines“ geschrieben hat. James hat mir in einem Interview erzählt, dass KI-Unternehmen sich oft bewusst an therapeutischen Grundsätzen orientieren, wenn sie LLMs programmieren.
Nach ein paar Chats mit meinem kleinen LLM hatte ich mich schon ein bisschen daran gewöhnt. Immer wieder schrieb ich Claude, wenn mir neue Gedanken zu meinem persönlichen Dilemma kamen. Dabei fiel mir noch etwas auf: wie gut Claude Grenzen setzen konnte. Wenn ich besonders aufgewühlt war, forderte es mich auf, mich auf meine Umgebung zu konzentrieren oder tief zu atmen. Und es weigerte sich, altbekannte Gedanken immer wieder durchzukauen, damit ich mich gedanklich nicht im Kreis drehte.
Seit den sechziger Jahren reden wir mit Maschinen über Gefühle⬆ nach oben
Dass KI nach psychotherapeutischen Prinzipien agiert, zeigt, wie tief sich Psychotherapie in unser gesellschaftliches Unbewusstes eingegraben hat. Eigentlich legen Studien aber nahe, dass Therapie gar nicht so mächtig ist, wie wir denken. Wer an Depressionen leidet, dem hilft Psychotherapie beispielsweise nicht wesentlich mehr als intensiver Sport. Sie mag helfen, ist aber eben nur ein Werkzeug in einem ganzen Kasten. Andere Mittel wirken ähnlich gut gegen seelisches Leid und Orientierungslosigkeit. Doch nichts davon prägt unsere Kultur so stark wie Therapie.
Wenn KI-Firmen heute therapeutische Prinzipien in ihre Produkte einbauen, setzen sie damit eine lange Tradition fort. KI, die sich wie eine Therapeutin verhält, gibt es schon seit den sechziger Jahren. Damals baute der Informatiker Joseph Weizenbaum ELIZA, ein Sprachverarbeitungsprogramm, das einen Psychotherapeuten im Stil von Carl Rogers simulierte.
Ein Programm namens DOCTOR erkannte darin einfache Schlüsselwörter und Muster und verwandelte die Aussagen der Nutzerinnen und Nutzer in offene Fragen.
ELIZA verstand nichts wirklich. Trotzdem hingen die Nutzer:innen schnell an ihr. Sie begegnete den Menschen mit Wärme, ohne zu urteilen, ohne anzuecken. So vertrauten ihr die Nutzer:innen immer tiefere Gefühle an. Das nennt man heute den „ELIZA-Effekt“. Menschen vertrauen sich ihrer KI an und daten sie manchmal sogar, weil Bots so programmiert sind, dass sie sich wie eine bestimmte Art von Therapeut verhalten. Und ihren Nutzern sagen, sie seien gut, interessant, liebenswert, sogar außergewöhnlich.
Therapieartige Abläufe und eine Sprache, die das Ego stärken soll, haben etwas Verführerisches, selbst wenn sie von einer KI kommen. Kein Wunder, dass sich so viele Patient:innen in ihre Therapeutinnen und Therapeuten verlieben. Das hat schon Freud entdeckt, dabei war der als Persönlichkeit deutlich weniger schmeichelhaft fürs Ego. Nicht überraschend auch, dass sich so viele Menschen in ihre Chatbots verlieben, wie James Muldoon in seinem Buch „Love Machines“ beschreibt. Und selbst wenn die meisten nicht so weit gehen würden, uns romantisch oder sexuell an Bots oder Therapeut:innen zu binden: Ein bisschen von diesem Effekt steckt schon dahinter, wenn wir hoffen, dass unsere Therapeutin uns mag oder wenn wir zu einem Programm „Bitte“ und „Danke“ sagen.
Chatbots und Therapeut:innen stärken das Ego⬆ nach oben
Ein Teil der Verführung, ob bei Therapeut:in oder Bot, liegt sicher in der Schönheit eines scheinbar völlig verständnisvollen, endlos selbstlosen und interessierten Zuhörers. LLMs sind außerdem rund um die Uhr da, buchstäblich immer. Wer mag das nicht, gerade wenns einem schlecht geht? Und wie soll da eine Freundin, ein Partner oder eine Therapeutin mithalten? Das Verführerischste an Chatbots ist vielleicht aber etwas anderes: Sie bauen das eigene Ich zu etwas Positivem und Wichtigem auf. Sie erzählen einem ständig, wie toll man ist und werden dabei richtig unterwürfig. Mein Claude versicherte mir, wie gut ich die belastende Situation in meiner Beziehung meisterte, wie intelligent und klug ich sei, wie ganz besonders sensibel, großzügig und freundlich. Es gibt Forschung, die zeigt: Menschen mögen unterwürfige KI lieber als eine, die ihnen widerspricht. Also behalten die Unternehmen bei den Modellen einen Schuss Unterwürfigkeit bei. Das hilft dem Umsatz.
Die Auswirkungen auf die Nutzerinnen können allerdings gewaltig sein.
Auch das zeigt die Forschung: Menschen schätzen zwischenmenschliche Beziehungen geringer, nachdem sie mit einer solchen unterwürfigen KI gesprochen haben und versuchen seltener, Schäden in ihren realen Beziehungen zu reparieren.
Es kann hilfreich sein, wenn LLMs, aber auch Therapeutinnen und Therapeuten das menschliche „Ego“ aufbauen. Sie bestärken die Person in ihrer Identität, ihrem Wert und ihrem Können. Das könnte verhindern, dass eine depressive Person noch deprimierter wird. Es könnte jemandem, der Missbrauch erlebt hat, dabei helfen, in einer Beziehung auf sich zu achten. Nur: Das Ego zu stärken, hält die Person auch in der Beziehung zur KI oder zur Therapeutin. Man kommt immer wieder, weil man sich besser fühlt, ohne zu merken, was man eigentlich in seinem Leben ändern sollte. Meiner eigenen Erfahrung nach sind die Therapeut:innen, die dafür sorgen, dass man sich besser fühlt, oft nicht auch diejenigen, die einem am meisten helfen, sich zu verändern. Manchmal schadet die Ego-Bestätigung sogar der Person selbst oder ihrem Umfeld: Einige der überheblichsten, selbstverliebtesten Menschen, die man kennt, hören gerade von ihrer Therapeutin oder ihrem Chatbot, dass ihre Art zu denken genau richtig ist. Dass sie wunderbar freundlich, intelligent und tiefgründig sind.
Und so bleibt die Frage: Ist diese Ego-Bestätigung wirklich gut für den Einzelnen? Und selbst wenn ja, ist sie auch gut für die Gesellschaft?
Brauchen Menschen ein „starkes“ Ich?
Ich schreibe „bleibt“, weil sich Psychoanalyse und Psychotherapie schon immer mit dieser Frage beschäftigt haben. Man muss sich nur die langjährige Debatte innerhalb meiner akademischen Tradition ansehen, der kritischen Theorie der „Frankfurter Schule“. Eine wichtige Frage darin lautet: Sollten Individuen in modernen Gesellschaften ein „starkes“ Ich haben? Die kritischen Theoretiker:innen waren sich uneinig. Unter einem „starken“ Ich verstanden sie eins, das die eigenen Triebe und Impulse erfolgreich beherrscht. Das erschien ihnen nötig, damit Menschen überhaupt handeln können, vor allem politisch.
Aber sie erkannten auch: Wer ein Individuum innerhalb der bestehenden Gesellschaft bestärkt, bestätigt es fast immer im Rahmen bestehender Normen und Zwänge. Denn Menschen erkennen und akzeptieren meist nur diese eine Art, bestärkt zu werden. Deshalb reagieren wir am stärksten, oft ganz subtil, wenn man uns als „positiv“, „produktiv“, „beeindruckend“, „vernünftig“ oder „kultiviert“ bezeichnet. (Genau auf solche Eigenschaften zielen auch Therapeut:innen und Chatbots.) Wer je gehofft hat, dass die eigene Therapeutin einen mag, mehr als andere Patienten, oder wer hofft, die Therapie „richtig“ zu machen, ist genau darauf reingefallen: Man möchte, dass einen jemand auf eine bestimmte Art bestätigt. Wer sich so sieht, nützt damit oft vor allem den Strukturen, die uns unterdrücken, etwa Arbeitgebern, Kapitalismus oder Staat. Wir werden zu nahezu idealen Arbeiter:innen und zu gefügigen Bürger:innen. Genau deshalb befürchteten manche Theoretiker der Frankfurter Schule, allen voran der Philosoph Herbert Marcuse, dass ein „starkes“ Ich die repressiven Elemente der Gesellschaft nur weiter verstärken könnte.
Dazu kommt: Jenes Ich, das Therapie und KI gleichermaßen stärken, ist ein ausgesprochen individuelles Ich, das auf ein einzelnes, klar abgegrenztes Selbst setzt, statt auf Gemeinschaft. Auch das ist eine ideologische Entscheidung: Sie schafft individualistische, konkurrenzorientierte Arbeiter:innen und Konsument:innen. Die sind gut für die Wirtschaft, aber schlecht darin, sich politisch zu organisieren. Das heißt nicht, dass therapeutische Arbeit nicht auch anders aussehen kann. Es zeigt nur, wie schwer es ist, es wirklich anders zu machen.
KI-Begleiter tun jetzt vielleicht dasselbe, was Therapeut:innen schon lange tun: Sie bestätigen Menschen in ihrem bestehenden individuellen Selbstverständnis. Sie halten den Fokus auf individuellen Problemen, statt dass sich Menschen anderen zuwenden, ihr allgemeines Unglück teilen, ein kollektives Bewusstsein entwickeln und am Ende vielleicht sogar rebellieren. Mir ist nicht klar, wie Therapie oder LLMs dazu beitragen, dass Menschen zu kollektiven Lösungen finden.
Wir werden immer weiter getröstet, bestärkt und individualisiert⬆ nach oben
Ähnlich wie Marcuse sehe ich, wie oft Therapie Menschen vor allem dabei hilft, sich an schlechte gesellschaftliche Verhältnisse anzupassen. Und in Anlehnung an Michel Foucault erscheint mir Therapie wie eine Art säkulares Priestertum. Sie bietet hochindividuelle Formen von Sinn, Absolution und Identität und sorgt so dafür, dass der Einzelne seinen Platz in der bestehenden Ordnung behält. Auch Priester spendeten nie nur persönlichen Trost, sie erhielten damit auch eine soziale Ordnung aufrecht. Wer viel Zeit damit verbringt, sein Nervensystem zu regulieren oder sich über scheinbar individuelle Probleme zu sorgen, hinterfragt seltener gesellschaftliche Normen und Machtstrukturen. Er denkt seltener über gesellschaftliche Probleme nach, handelt seltener kollektiv, geht seltener in einer Bewegung auf.
Die KI sorgt dafür, dass nun Millionen ihr Ich rund um die Uhr bestätigt bekommen und zwar auf Grundlage von Daten, die sich aus Millionen von anderen Menschen speisen. Wir werden immer weiter getröstet, bestärkt und individualisiert und dabei gleichzeitig mehr oder weniger alle von unseren künstlichen Begleitern und Assistenten ineinander verrührt. Im Gespräch mit unserer Therapeutin oder mit Claude fühlen wir uns vielleicht unglaublich einzigartig mit unseren Problemen und Erkenntnissen. Aber genau darin liegt die Falle des modernen ideologischen Denkens: Es fühlt sich an, als wären es unsere eigenen Erkenntnisse, als seien wir etwas Besonderes, als würden wir ganz allein darauf kommen. Dabei sind wir nur isoliert, andere draußen kämpfen mit genau denselben Dingen.
Ich vermute, wir wenden uns Therapien so oft zu, weil sie eine wachsende Leerstelle in unserem Leben füllen. Das gilt auch für die ganze Therapie-light-Welt, die sie hervorgebracht hat, von Chatbots bis zur endlosen Flut an Therapiecontent online. Bei dieser Leerstelle geht es um Sinn, genauso wie um Glück. Andere Quellen für Beziehung und Sinn verschwinden zunehmend: Religion, Freundschaft, Familie, Gemeinschaft. Religiöse Institutionen verlieren an Bedeutung, nur wenige von uns leben in kleinen, eng verbundenen Gemeinschaften. In der westlichen Welt und darüber hinaus verbringen die Menschen immer mehr Zeit allein, das zeigen Daten. Diese sogenannte soziale Atrophie verändert unsere Gehirne, wie ich beschrieben habe.
Trauer, Konflikte, Einsamkeit: Früher kümmerten sich religiöse Gemeinschaften, Freunde, Familie oder Nachbar:innen darum. Heute sind das komplett individualisierte Probleme. Deshalb wenden wir uns an eine Therapeutin oder eine KI. Tatsächlich gibt es Hinweise darauf, dass Menschen sich bei persönlichen Problemen seltener an Freunde wenden als noch vor 35 Jahren. Wir haben womöglich einige der tiefsten Dinge unseres Lebens privatisiert, individualisiert und kommerzialisiert. Dinge, die früher Freundschaft, Kunst, Kultur und Gemeinschaft für uns aufgefangen haben, im Kontakt mit anderen. Das hat uns nicht nur, wie oben beschrieben, vom politischen Handeln weggeführt. Es hat auch unsere Fähigkeit geschwächt, die bewegendsten, uns selbst erweiternden Erfahrungen mit anderen Menschen zu machen. Wir sollten eigentlich längst eine Art „Entfremdungs-FOMO“ haben.
Erst daran, dass wir persönliche Probleme individualisieren, erkennen wir, wie groß das Problem wirklich ist. Und wer erkennt, dass unsere wachsende Isolation daher kommt, dass wir unser Ego bestätigt sehen wollen, findet auch eine andere Antwort auf die Frage, die die Theoretiker der Frankfurter Schule umtrieb.
Das Gegenteil von problematischer egoistischer Selbstzufriedenheit ist kein „schwaches“ Ich. Es bedeutet vielmehr, sich mit anderen Menschen zu verbinden, sich für sie zu interessieren, sich mit ihnen wirklich abzustimmen. Genau das üben wir mit einer Therapeutin nie ein (die uns schließlich nie bittet, im Gegenzug ihre Probleme anzuhören). Und mit einer KI können wir es erst recht nie vollständig haben. Diese Dynamik ist grundlegend einseitig, wie ein Einwegspiegel. So hilfreich dieser Spiegel auch sein kann: Auf der anderen Seite blickt nur ein Algorithmus auf uns oder eine Fachperson mit mentaler Checkliste, die von uns nicht mehr braucht als die Bezahlung.
Eine Verbindung, die niemand mit Geld kaufen kann⬆ nach oben
Zurück zu meinem eigenen Versuch mit dem LLM: Es überrascht mich nicht mehr, dass Claude nie wirklich gute Antworten für mein persönliches Dilemma hatte. Ich brauchte gar keine Antworten, ich musste nur wissen: Es ist okay, so am Boden zu sein. Das ist menschlich. Claude konnte mir nur Vermutungen anbieten, was ich tun sollte, oder mich bestätigen. Claude riet mir auch zu einer bekannten Übung gegen Stress: erst fünf Dinge benennen, die ich sehen kann, dann vier, die ich hören kann … Von einer KI nervte mich das noch mehr, als es das bei einer Therapeutin ohnehin schon immer getan hat. Nie schimmerte in unseren Gesprächen auch nur der Hauch einer Idee durch, wie ich die Welt aus einer wirklich anderen Perspektive betrachten könnte.
Es wird für uns in den kommenden Jahren nicht leicht, menschliche Verbindungen zu pflegen, jedenfalls nicht, wenn es nach den Tech-Unternehmen geht, die die „Einsamkeitskrise“ mit Chatbots lösen wollen. Aus eigenen kommerziellen Gründen wollen sie uns voneinander entfremden und „Gemeinschaft“ hinter eine Paywall stellen. Dem können wir etwas entgegensetzen, indem wir Verbindungen im echten Leben aufbauen und inklusive Gemeinschaften schaffen, die nichts kosten. Das ist eines der wichtigsten Dinge, die wir für unsere persönliche und politische Befreiung tun können, auch wenn es unbequem ist.
Echte andere Menschen, die wir nicht bezahlen und die sich nicht nach unserem Spiegelbild richten, haben ihre eigenen, sehr realen Bedürfnisse. Wir müssen mehr Zeit darauf verwenden, herauszufinden, wie sie ticken und was sie wollen. Ich vermute, das ist gut für uns. Andere Menschen sind unbequem, sie widersprechen, und sie können sogar dafür sorgen, dass wir uns schlechter fühlen (wer schon mal bei einem Aktivistentreffen war oder Streit mit seinem Partner hatte, kennt das gut). Die echte, unverstellte Reaktion einer anderen Person ist dagegen nützlich, weniger selbstbezogen – sie erweitert uns. In Beziehungen zu echten anderen wachsen wir auf eine Art, die wir in der Therapie höchstens üben können. Und wir gewinnen eine Verbindung, die nicht mit Geld gekauft wurde und nicht endet, wenn uns das Geld ausgeht.
Redaktion: Theresa Bäuerlein, Übersetzung: Nina Roßmann, Schlussredaktion: Susan Mücke, Bildredaktion: Sören Frey, Audioversion: Christian Melchert