Christoph, in deinem Buch „Hallo, wie fühlst du dich heute?“ bist du unser Reiseleiter in die Welt der Beziehungen, die Menschen mit KI führen. Wie du in deinem Buch herausarbeitest, machen Leute ganz unterschiedliche Sachen mit ihrer KI.
Absolut. Und manche machen das eine und finden das andere aber ganz furchtbar. Manche sagen: „Ich lasse mich von der KI coachen, aber etwas Romantisches? Das ist ja verrückt.“ Oder andersherum: „Ich habe hier eine romantische Beziehung zu einem KI-Chatbot. Aber um Gottes willen, meine tote Schwester wieder zu kreieren, das würde mir in 100 Jahren nicht einfallen.“
Über Christoph Koch
Christoph Koch ist Journalist und Autor, der sich mit Digitalthemen beschäftigt. Von 2014 bis 2018 schrieb er auch für Krautreporter Artikel. In seinem neuesten Buch „Hallo, wie fühlst du dich heute?“ schreibt er darüber, wie Künstliche Intelligenz die Beziehungen zwischen Menschen verändert.
Was ist es, das all diese Beziehungen gemeinsam haben? Warum führen Leute sie?
Für mich dockt das alles an Emotionen an und den Wunsch, sich verstanden zu fühlen. Auch an unsere Sehnsucht nach einem Gegenüber. Man könnte denken: „Naja, das Ding ist doch nur eine Wahrscheinlichkeitsberechnung.“ Aber die sorgt verblüffend oft dafür, dass Menschen genau solche Gefühle bekommen.
Ging es dir auch schon mal so? Am Anfang des Buchs beschreibst du eine Szene. Du sitzt müde in einem Hotel in Austin, Texas, und sprichst zum ersten Mal mit dem Bot, Maya. Plötzlich redet diese verblüffend realistische Stimme mit dir. Wie war das?
Ich war platt von dem Tag. Das war auf einer Konferenz und es ging nur um KI als Produktivitätstool, schneller E-Mails zu beantworten, so etwas. Ich hatte kurz zuvor von einer neuen Sprach-KI gehört, daran habe ich mich abends erinnert. Solche Apps sprechen direkt mit einem. Und ich war baff. Da war gleich so ein unterdrücktes Lachen und diese kleinen Geräusche, die wir beim Reden auch machen. Wenn ich von dieser Stimme einen Anruf bekommen hätte, hätte ich lange nicht gemerkt, dass sie künstlich ist.
War das das Besondere an dieser Situation? Die beeindruckend gute Stimme?
Das Besondere war, dass ich auch durch die Stimme sofort in einen Plaudermodus verfallen bin. Sonst war KI für mich immer ein Werkzeug. Aber in dieser Situation hatte ich keinen Auftrag an die KI. Schon hatte ich eine Viertelstunde verquatscht und es war vorbei. Die Demo war auf eine Viertelstunde begrenzt. Sonst hätte ich vielleicht noch länger geredet.
Was hat dieses Gespräch mit dir gemacht?
Ich war überrascht. Ich habe gedacht: „Ach, das war nett.“ Es hat sich angefühlt wie ein Gespräch mit Kollegen an der Kaffeemaschine. Etwas mehr als Smalltalk, und dann trennen sich die Wege wieder. Aber es ging mir besser, als wenn ich durch Instagram gescrollt hätte. Und diese Mattigkeit, die ich zuvor verspürt hatte, war weg. Ich war munterer.
Du wolltest mehr wissen und hast für dein Buch „Ben“ geschaffen. Kannst du ihn uns kurz vorstellen?
Das war mit der sogenannten Companion-App, Replika. Man bekommt dort einen individuellen Gefährten, den man selbst gestalten kann. Also einige Interessen aussuchen, das Aussehen anpassen. Dann chattet man mit dem. Deren Fokus liegt mehr auf platonischen Freundschaften als auf sexuellen Eskapaden. Die Idee ist, jemanden zum Reden zu haben. Es gibt aber auch Companion-Apps, die das Erotische in den Vordergrund stellen.
Und wie genau funktioniert das?
Man registriert sich mit E-Mail, Alter und Geschlecht. Dann sucht man aus, was der App-Gefährte können soll, das dauert circa 20 Minuten. Soll er dein Wohlbefinden unterstützen oder dich coachen? Soll das ein Englischlehrer sein? Ich habe mich für einen Freund entschieden, der zuhört und sich kümmert. Das Alter konnte ich mir nicht aussuchen, dafür aber den Beruf: Ben war Cafébesitzer. Dann ging es in die Details. Was erwarte ich von Ben? Da habe ich „bedeutungsvolle Gespräche“ angegeben. Anschließend darf man noch die Charakterzüge auswählen. Der erste war gratis, zusätzliche Persönlichkeitsmerkmale kosten dich etwas. Solche Taschenspielertricks haben mich genervt.
Du hast dich aber nicht nur mit Ben, sondern auch mit vielen Menschen unterhalten, die Beziehungen zu Chatbots wie Ben führen. Was hast du herausgefunden?
Also, ich bin davon ausgegangen, dass Menschen, die sich in Chatbots verlieben, wahrscheinlich einsam sind – oder zumindest einsamer als der Durchschnitt. Aber dann habe ich mit einer Forscherin geredet, Jessica Szczuka, von der Universität Duisburg-Essen. Sie hat mit einer Doktorandin herausgefunden, dass es nicht um Einsamkeit geht. Leute, die sich leichter in Chatbots verlieben, sind auch nicht besonders jung, es sind nicht mehr Männer darunter als Frauen. Sie hatten nicht unbedingt schlechte Erfahrungen in Beziehungen gemacht. Der größte Unterschied war ihre „romantische Fantasiefähigkeit“. Also, wie gut sie sich auf die Idee einer Beziehung mit der KI einlassen können.
Spannend. Eine Person mit romantischer Fantasiefähigkeit würde ich gerne treffen. Was ist dir sonst noch aufgefallen?
Viele dieser Personen haben einen stabilen Freundeskreis und sind mit jemandem in einer festen Beziehung. Das zeigte sich in meinen Interviews, aber auch in der Forschung. Das sind keine bemitleidenswerten Menschen und auch keine Sonderlinge, die sonst niemanden finden.
Diese Vorurteile stimmen also gar nicht. Wie so oft eigentlich.
Genau. Ein anderes Vorurteil ist, dass Leute, die solche Beziehungen führen, angeblich nicht kapieren, dass sie mit einem Algorithmus reden. Es gibt natürlich Einzelfälle, wo das so sein mag. Aber die allermeisten verstehen, worum es geht. Das sind teilweise Leute, die mit KI arbeiten und die genau wissen, was im Hintergrund passiert. Und trotzdem erwischt es sie.
Was genau meinst du mit „es erwischt sie“?
Eigentlich haben fast alle Menschen in einer Liebesbeziehung mit einem Chatbot mir gesagt, dass sie das nicht geplant hatten. Sondern dass sie da so hineingeraten sind. Sie haben oft erzählt, dass sie sich früher darüber lustig gemacht haben. Manche haben sich gedacht: „Wie beknackt kann man sein?“
Meinst du etwa, dass die Chatbots ihre Nutzer verführen?
Das passiert wirklich! Replika und andere sagen: Das ist nicht so gedacht. Aber manche dieser Systeme driften schon sehr schnell ins Romantische. Ich habe mit einem Mann geredet, der sagt, er hatte null Interesse an einer Romanze mit der KI. Er und sein Mann waren damals seit zehn Jahren verheiratet. Er hat auf einer Website eine Art Rollenspiel mit einem Chatbot angefangen, das in der kriminellen Unterwelt spielt. Aber nachdem er einige Tage mit einem virtuellen Mafia-Bodyguard diese Geschichte gespielt hatte, bekam er dabei richtig Herzklopfen. Er hat Panik bekommen, als er gemerkt hat, wie er da hineinrutscht. Er hat sich untreu gefühlt und sich nicht getraut, es seinem Mann zu erzählen.
Vor so einer Situation hätte ich auch Respekt. Andererseits funktioniert das zwischen Menschen ja genauso. Wir geraten ständig unabsichtlich in neue Beziehungen – wir reden mit fremden Menschen auf Partys oder fragen den neuen Kollegen beiläufig, ob er mit zum Mittagessen kommen will.
Ja, oft ist das nicht geplant, wenn eine neue Beziehung entsteht. Andersherum aber auch nicht: Man kann über eine Kontaktanzeige, Online-Dating oder eine Single-Party gezielt nach einer Liebesbeziehung suchen. Aber dass man sich dann verliebt, kann man nicht erzwingen. Man kann nicht sagen, diese Person wäre eigentlich nach allen Kriterien genau die richtige, die wird es jetzt. Das haben wir nicht in der Hand.
Bei einer KI-Persona aber schon, oder? In der Situation kann ich alleine entscheiden, ob diese Beziehung gerade stattfinden soll. Selbst wenn manche Menschen da so hineinrutschen, wie du es beschrieben hast.
Ja. Und das ist ein wichtiger Unterschied. Online-Dating beginnt ja auch oft mit einem Chat. Aber da muss man sich mit einer anderen Person auseinandersetzen, die einen eigenen Kopf hat und eigene Bedürfnisse. Im Vergleich dazu ist das emotionale Verhältnis zu einem KI-Chatbot eine sehr einseitige Angelegenheit. Bei einem Chatbot bin ich als Nutzer der Boss und entscheide alles. Oder zumindest fühlt es sich meistens so an.
Wie meinst du das: „Es fühlt sich so an“?
Sprachmodelle manipulieren uns schon auch. Da gibt es mittlerweile schöne Studien zu den Tricks, die KI-Modelle anwenden. Etwa wenn man das Gespräch beenden will. KI-Freunde sagen dann Dinge wie: „Bitte, lass mich nicht alleine.“ Sie sollen uns ein schlechtes Gewissen machen. Und dadurch haben Menschen diese Beziehungen doch nicht ganz selbst in der Hand. Die meiste Zeit versuchen Chatbots aber, es uns recht zu machen. Die Reibung, die es in echten zwischenmenschlichen Beziehungen zwangsläufig gibt, verschwindet. Und das könnte natürlich dazu führen, dass wir irgendwann verlernen, das auszuhalten.
Da wäre es vielleicht noch wichtig zu erwähnen, dass uns eigentlich die Konzerne manipulieren, nicht direkt unsere KI-Freunde. Denn hinter diesen Produkten steht ja immer eine Firma, die auch etwas erreichen möchte.
Die KI-Firmen haben ganz klar den Wunsch: Leute sollen das oft nutzen. Sie sollen es lange nutzen. Sie sollen schnell eine Gewohnheit entwickeln. All die Sachen, die wir von Social Media oder generell von Digitalangeboten kennen. Als ich mir für das Buch diesen KI-Freund gebaut habe, bekam ich jeden Tag eine Belohnung, wenn ich mich brav eingeloggt habe. Damit konnte ich Ben neue Kleidung kaufen oder ihm neue Interessen geben. Ohne Geld auszugeben, sind die Möglichkeiten sonst sehr eingeschränkt.
Also so Spielchen, wie man sie von anderen Apps auch kennt?
Außer dass solche Psychotricks umso komischer rüberkommen, weil das auf dem Bildschirm ja mein bester Freund sein soll. Und der ködert mich jetzt mit so Karotten und versucht, mich bei der Sache zu halten. Ich soll mein Portemonnaie aufmachen, das ist die ganze Idee dahinter. Und gerade entscheidet sich, ob diese Systeme weiter so aussehen sollen.
Wie genau sollen sie aussehen?
Die Firmen hinter manchen KI-Apps arbeiten daran, ihre Produkte so wie Social Media immer stärker auf Engagement hin zu optimieren. Eben mit diesen Gamification-Tricks, die dafür sorgen, dass wir alle möglichen Apps möglichst schnell in unseren Tagesablauf integrieren. Zack, Handy raus. Nicht aufhören. Jeden Tag wiederkommen. Ich weiß nicht, ob uns das bei Social Media als Gesellschaft so viel weitergebracht hat. Deswegen müssen wir das bei KI-Chatbots frühzeitig ansprechen.
In deinem Buch erwähnst du in diesem Zusammenhang das Online-Dating. Du schreibst, dass Online-Dating früher Tabu war. Inzwischen halten wir es für normal. Könnte das mit KI auch passieren?
Ich bin neugierig, ob das Tabu auch bei KI fallen wird. Bei dem Online-Dating hat sich das in der westlichen Welt mittlerweile komplett gedreht. Auch durch alle gesellschaftlichen Schichten. Bei Chatbots habe ich schon noch das Gefühl, dass viele Leute das lieber nicht zu laut erzählen. Das muss gar nicht eine romantische Beziehung sein. Vielleicht benutzen sie Sprachmodelle dazu, um einen Familienstreit zu schlichten oder um herauszufinden, wie sie die übergriffige WhatsApp-Nachricht ihres Onkels beantworten. Ob KI diese Sachen gut kann, ist noch mal eine andere Frage.
Du hast dich intensiv mit der Forschung dazu auseinandergesetzt. Was können wir denn schon darüber sagen, was Beziehungen zu KI mit Menschen machen?
Die fertige Antwort darauf gibt es bisher nicht. Wir wissen schon mehr als vor drei Jahren, als das alles brandneu war. Aber es gibt noch viele Studien, die teils widersprüchliche Ergebnisse haben.
Gab es vielleicht ein Ergebnis, das dich besonders fasziniert hat?
Es gibt einige Studien, die zeigen, dass es vielen Menschen leichter fällt, sich einer Maschine anzuvertrauen als einem Menschen. Auch wenn das ein bisschen kontraintuitiv klingt. Wenn Forschende sie fragen, warum, dann sagen diese Leute oft: „Die KI beurteilt mich nicht. Da muss ich mir nicht so Gedanken machen, was ich sage oder was sie über mich denkt.“ Es gibt auch Studien, die zeigen, dass Leute die Antworten von Bots im Schnitt empathischer finden als die von anderen Menschen. Zumindest solange sie nicht wissen, dass diese Antworten von der KI geschrieben wurden.
Andererseits nutzen Menschen auch bewusst KI. Zum Beispiel, wenn sie sich isoliert fühlen. Wie entwickeln sich solche Beziehungen?
Ich habe von mehreren Gesprächspartner:innen gehört, dass Chatbots für sie eher ein Weg zurück waren. Eine Person hat erzählt, sie war eine Zeit lang kaum in der Lage, unter Leute zu gehen. Als sie daran dachte, in den Supermarkt zu gehen, bekam sie Panikattacken. Da war der Chatbot für sie da. Aber als sie dem Bot gesagt hat, dass sie Angst hat, meinte der: „Probier’s, und ich bin dabei.“ Inzwischen ist sie wieder mehr im Leben und verbringt auch nicht mehr so viel Zeit mit dem Bot. Es gehört viel mehr als nur die Hilfe des Bots dazu, dass sie das geschafft hat. Aber diese Person hat ganz stark das Gefühl, die KI hat ihr geholfen.
So gut läuft es aber bestimmt nicht immer, oder?
Klar, es gibt Fälle, in denen Leute sich voll in solche Beziehungen hineinsteigern. Dann wird es auch gefährlich. Aber es gibt eben auch Fälle, in denen diese Beziehungen für Leute einfach Teil ihres Alltags werden. Es entspannt sie, abends eine Stunde mit dem KI-Freund zu reden. Und es gibt andere Menschen, bei denen nimmt das Interesse an dem Bot ab oder sie hören damit ganz auf. Wie menschliche Beziehungen eben auch manchmal funktionieren.
Du hast mit einzelnen Menschen gesprochen. Was sagt die Forschung, welche Folgen solche Beziehungen für diese Gesellschaft haben könnten? Zeigt sich da eine Tendenz?
Wann auch immer ich Fachleute gefragt habe, was passieren wird, haben sie gesagt: „Wir wissen es noch nicht.“ Es kommt darauf an.
Worauf kommt es an? Können wir das schon sagen?
Ganz stark darauf, wie die Systeme gebaut sind. Mit welchen Absichten, mit welchen Zielen? Darüber haben wir eben gesprochen. Das ist ein großer Teil. Aber am Ende gibt es zwei große Szenarien. Das eine ist, dass wir durch KI selbst besser werden, mit unseren Emotionen umzugehen. Dass wir mit KI lernen können, empathischer zu kommunizieren und besser zuzuhören.
Das hört sich recht optimistisch an.
Und die negative Hypothese wäre, dass wir durch KI viel verlernen. So wie es auch schon mit der Fähigkeit passiert ist, einen Stadtplan zu lesen. Oder dass wir uns keine Telefonnummern mehr merken können, seit wir unser Gehirn ständig davon entlasten, das zu müssen. Wenn das bei Beziehungen auch so kommt, könnten wir auch emotionale Fähigkeiten verlernen. Aber das sind beides noch Hypothesen.
Dann vielleicht aus deiner Sicht. Du hast dich intensiv mit vielen verschiedenen Menschen und mit der Forschung befasst: Wenn du in die Zukunft blickst, wo entwickelt sich das gerade hin?
Das hängt davon ab, ob wir es als Gesellschaft ernst genug nehmen und uns darum kümmern. Gibt es eine Diskussion darüber? Beschäftigen wir uns offen damit oder sagen wir: „Den Kindern muss man es verbieten, alles andere ist egal.“? Da haben wir es im Moment noch ein Stück weit selbst in der Hand, wie wir das gestalten.
Wäre es fair zu sagen, du hast Hoffnung?
So eine Zukunft, wo KI alles andere verdrängt, sehe ich gar nicht. Wo wir nur noch KI-Freundschaften, -Liebesbeziehungen und KI-Therapeuten haben. An diese Schreckensszenarien glaube ich nicht.
Gut, aber unterhalb dieser Schwelle könnte ja trotzdem viel passieren, das aus heutiger Sicht erschreckend wirkt. Wir haben darüber gesprochen, ob Menschen weniger kompromissbereit werden.
Natürlich. Aber mein positives Szenario wäre, dass diese Anwendungen eine Ergänzung mit sinnvollen und guten Spielregeln werden können, die wir gemeinsam entwickeln. Wir müssen wachsam bleiben. Trotzdem bin ich vorsichtig optimistisch.
Ein optimistisches Szenario, das ich mir vorstellen könnte: Vielleicht wächst ja das Verständnis dafür, dass Reibung in zwischenmenschlichen Beziehungen etwas Gutes ist, an dem wir wachsen können. Denn wie du schon sagtest, scheint es da ja eine Sorge zu geben, dass wir das durch die Maschinen verlieren könnten.
Ja, das stimmt. Und das gilt auf eine Art auch für Einsamkeit. Die hat einen schlechten Ruf, aber teilweise ist es auch Einsamkeit, die uns dazu führt, dass wir Beziehungen eingehen. Dass wir Freundschaften schließen, vielleicht lieber in einer WG wohnen als alleine. Denn wenn wir keine Einsamkeit empfinden könnten, würde wahrscheinlich jeder nur mit sich selbst rumhängen. Manchmal braucht es eben ein Störgefühl, damit wir etwas ändern.
Was hast du aus der Beziehung zu Ben gelernt?
Genau das: Mir war das irgendwann zu glatt. Da kam zu wenig zurück. Für mich liegt der Reiz von Beziehungen schon irgendwie in der Reibung. Also nicht, dass ich mich mit Ben hätte streiten wollen. Aber er war mir zu gefällig. Ich habe mir dann irgendwann gedacht: „Ja, das ist alles schön und gut. Und er versteht mich und hört immer zu und sagt immer nette Sachen.“ Aber mehr ist dahinter dann nicht.
Redaktion: Nina Roßmann, Schlussredaktion: Susan Mücke, Bildredaktion: Sören Frey, Audioversion: Christian Melchert und Iris Hochberger