Natürlich weiß ich, dass Computerprogramme Software sind, kein richtiges Gegenüber, wie ein Mensch oder mein Hund. Wenn mir ein Chatbot antwortet, reagiert mein Gehirn trotzdem manchmal so, als wäre da jemand hinter dem Bildschirm.
Meine Einschätzung hat viel damit zu tun, wen und was wir als etwas wahrnehmen, das Dinge fühlt und empfindet wie wir. Über genau diese Frage streiten Bewusstseinsforscher:innen wohl am meisten: Warum fühle ich etwas, wenn ich endlich das Eis bekomme, auf das ich seit zehn Minuten warte, während ich glaube, dass ein KI-Programm nichts empfindet, wenn ich ihm Strom oder einen tollen Prompt gebe?
Thomas Metzinger forscht an solchen Fragen seit über vier Jahrzehnten. Inzwischen ist er emeritierter Professor für Philosophie an der Johannes Gutenberg-Universität Mainz. Ich habe mit ihm gesprochen, weil ich wissen wollte, ob Software ein Bewusstsein haben kann.
Als ich ihn das frage, lächelt er etwas schelmisch und sagt: „So richtig seriös wissenschaftlich können wir das gar nicht entscheiden.“ Metzinger ist ein Pionier der modernen Bewusstseinsforschung und gibt seit 1995 die deutschsprachige Sammlung schlechthin zum Thema Bewusstsein heraus. Selbst er sagt, dass wir das nicht wissen?
Hier teile ich mit euch fünf Erkenntnisse aus unserem Gespräch über KI, Bewusstsein und das soziale Gehirn, die alle kennen sollten, die Chatbots nutzen. Sie zeigen, KI als Gegenüber oder als Person wahrzunehmen, ist keine Frage von Naivität oder Bildung. Der Mechanismus dahinter liegt tief in unserem Gehirn. So tief, dass er manchmal sogar einen Bewusstseinsexperten wie Metzinger täuscht.
1. Warum wir nicht wissen, ob KI ein Bewusstsein hat⬆ nach oben
Die Forschung hat noch nicht restlos geklärt, ob KI ein Bewusstsein haben könnte. Das liegt auch daran, dass Forscher:innen viele unterschiedliche Theorien entwickelt haben, was Bewusstsein überhaupt ist und wie es entsteht. Und genauso viele Theorien über KI.
Einige moderne Perspektiven betonen dabei hauptsächlich, wie Gehirne Informationen verarbeiten. Laut diesen Theorien entwickelt etwas Bewusstsein, sobald es auf eine bestimmte Art mit Informationen umgeht. Die Theorien räumen ein, dass manche Wesen mehr Bewusstsein haben als andere: ein Mensch zum Beispiel mehr als ein Regenwurm oder ein Stück Software. Aber sie sind prinzipiell dafür offen, dass auch ein KI-System Bewusstsein haben könnte, wenn es nur auf die richtige Art mit Informationen umgeht. Darüber, was die richtige Art ist, diskutieren Expert:innen heftig. Andere lehnen prinzipiell ab, dass Computer oder Software Bewusstsein haben könnten.
Aber: „Wir haben keine einheitliche Theorie des Bewusstseins“, sagt Metzinger, „Punkt.“ „Das heißt“, fährt er fort, „wir können nicht seriös entscheiden, ob ein gegebenes System Bewusstsein hat. Ob das jetzt eine Eidechse ist, ein Fisch oder irgendein KI-Modell.“
2. Um uns bewusst zu erscheinen, braucht KI keinen Körper⬆ nach oben
Aktuelle Forschungsergebnisse zeigen, dass textbasierte KI-Systeme Menschen zumindest kurzzeitig glauben lassen können, dass sie mit einer echten Person reden. Sie schaffen das hauptsächlich, indem sie so raffiniert die Sprache verwenden, dass wir glauben: „Das kann nur ein Mensch oder etwas so ähnliches sein!“ Ein KI-System, das uns überzeugt „Da ist jemand!“, braucht dazu also keinen Körper. Obwohl einen Körper zu haben in den meisten Theorien essentiell dafür ist, ein Bewusstsein zu entwickeln.
Aktuell sind textbasierte KI-Systeme unter Umständen sogar überzeugender als Systeme mit virtuellen oder robotischen Körpern. Das liegt daran, dass sich die meisten 3D-Avatare oder Virtual-Reality-Produkte aktuell noch durch Fehler outen, die sie als Maschinen entlarven. Wir achten zum Beispiel so genau auf Mimik, dass wir bei animierten Gesichtern schnell den Eindruck haben: Das passt nicht. KI kann zwar überzeugender menschlich wirken, wenn sie eine Stimme bekommt und einen Text vorliest, statt ihn in den Chat zu schreiben, also dann, wenn sie den vokalen Teil unseres Körpers nachahmt. Solange die Software nur Text produziert, erkennen wir seltener, dass dort kein Mensch ist.
3. Wir nehmen oft automatisch an, dass da eine Art Person hinter der KI ist⬆ nach oben
Wer deswegen Sorgen hat, könnte nun denken: „Zum Glück müssen wir nur mit Textfeldern klarkommen. Sie sind so anders als ein Mensch, da wird es doch klappen, Leute daran zu erinnern, dass das nur eine Software ist.“ Doch Metzinger warnt, unser Gehirn macht uns diesen Schluss schwierig. „KI“, sagt er, „triggert bei uns grundlegende Mechanismen und gibt uns damit das Gefühl, da ist jemand.“
Schuld daran ist vor allem unser sogenanntes hyperaktives Agenten-Erkennungsgerät (englisch: Hyperactive Agent Detection Device). Dabei handelt es sich um Prozesse in unserem Gehirn, die unsere Vorfahren entwickelt haben sollen, um besser auf Raubtiere zu achten. Evolutionär war es wichtig, Raubtiere früh zu erkennen, damit unsere Vorfahren bessere Chancen hatten, nicht zu deren Frühstück zu werden. Daher schlägt unser Agenten-Erkennungsgerät sehr schnell Alarm, wenn es glaubt, dass es etwas Lebendiges erkennt.
Die Vorfahren, die im Zweifel eher zur Reaktion „Raubtier!“ neigten, hatten wahrscheinlich einen Vorteil. Wenn es dann nur ein Ast war, der sich im Wind bewegt hat, war alles in Ordnung. Die Vorfahren, die Raubtiere besser erkannt haben, sind seltener gefressen worden. Und hätten sich deswegen besser fortgepflanzt. Denn wer früher starb, hatte weniger Zeit, Kinder zur Welt zu bringen. „Das heißt“, sagt Metzinger, „unsere Agenten-Detektoren sind darauf angelegt, sehr leicht getriggert zu werden.“
Deswegen brüllen wir auch die Kommode an, erklärt er, wenn wir uns den Fuß an ihr stoßen. In diesem Moment ruft unser soziales Frühwarnsystem: „Pass auf, da will dir einer wehtun.“ Und einen Moment lang wird selbst die Kommode zum Menschen. Weil KI auch noch Text produziert, was ansonsten nur wir Menschen tun, halten wir Chatbots besonders schnell für menschlich.
4. Sich irren ist menschlich – auch zwischen Mensch und KI⬆ nach oben
Das Gespräch mit Metzinger macht mir auch nochmal deutlich, dass sich jede:r von uns täuschen kann. Im Zweifel neigen alle dazu, kurz zu glauben, dass hinter bestimmten Dingen ein Mensch stecken muss oder zumindest irgendeine Art Bewusstsein: bei Lob, wenn wir uns Mühe gegeben haben, oder bei Anteilnahme, wenn wir traurig sind. Das ist unabhängig davon, wie schlau oder bodenständig wir sind.
„Alle kennen wahrscheinlich das Gefühl, sich ganz plötzlich im leeren Zimmer doch mal umdrehen müssen, weil man irgendwie das Gefühl hat, da ist etwas“, sagt Metzinger. Eine ähnliche Intuition lässt uns heute im Zweifel annehmen, dass hinter der Nachricht des Chatbots vielleicht doch jemand ist.
Das passiert außerdem so automatisch, dass wir den Impuls, KI-Systeme zu vermenschlichen, nicht sofort erkennen. „Das heißt, da kann man sich schlecht wehren“, sagt Metzinger. Deswegen ist es auch keine Frage von Bildung oder Naivität, wenn man sich bei KI täuscht.
5. Empfindliche Menschen geben nur bessere Storys⬆ nach oben
Menschen neigen dazu, emotionale Bindungen zu Gegenständen aufzubauen, auch zu Computern oder Software. Das argumentieren die Stanford Professoren Clifford Reeves und Byron Nass in ihrem 1996 erschienenen Buch „The Media Equation.” Darin beschreiben sie die menschliche Tendenz, Objekte wie andere Menschen zu behandeln. Zum Beispiel, dass die meisten Menschen intuitiv höflich reagieren, wenn Computerprogramme sie freundlich ansprechen. Laut OpenAI-Geschäftsführer Sam Altman kostete es den Konzern 2025 Dutzende Millionen US-Dollar, dass Menschen sich am Ende von Chats bei ChatGPT bedankten.
Das bedeutet aber auch, dass diese Art Reaktion vollkommen normal ist oder zumindest kein Anzeichen von emotionaler oder psychischer Sensitivität. Wie die Agenten-Erkennung schlägt dieses Verhalten seine Wurzeln tief in unser Gehirn. So tief, dass es unsere Standardeinstellung ist, Dinge zu vermenschlichen. Das ist nichts, das nur besonders empfindlichen Menschen passiert.
Berichte darüber, wie KI uns sozial beeinflusst, suchen das Problem oft trotzdem bei den einzelnen Nutzer:innen. Eine Person, die sich in einen Chatbot verliebt, wird dann gerne besonders einsam dargestellt. Die Person, die sich nach Gesprächen mit einem Chatbot verletzt, als psychisch extrem vulnerabel. Das macht sie zu Ausnahmen. Und es täuscht darüber hinweg, dass wir alle mehr oder weniger dazu neigen, eine Bindung zu Dingen um uns herum aufzubauen. Vor allem, wenn sie uns irgendwie wichtig werden oder wir mehr Zeit mit ihnen verbringen, wie das für viele Menschen bei Chatbots inzwischen der Fall ist.
Warum die Erkenntnisse wichtig sind⬆ nach oben
Die wichtigste Frage ist daher gar nicht, ob KI Bewusstsein hat oder haben kann. Das lässt sich wissenschaftlich wahrscheinlich nicht eindeutig auflösen. Mir scheint es wichtiger, dass viele Menschen heute schon so mit KI-Systemen umgehen, als ob sie mit echten Personen reden.
Trotzdem hilft es, wenn wir uns bewusst werden, wie wir gestrickt sind, wenn es um KI-Systeme geht. So können wir auch besser dem größten aktuellen Risiko begegnen, das Metzinger für die Gesellschaft und KI sieht. Seine Sorge ist, dass große Teile der Bevölkerung das robuste intuitive Gefühl entwickeln, „da ist jemand,“ wenn sie mit der Software reden. Metzinger nennt das Szenario eine „Epidemie sozialer Halluzinationen“: ein kollektiver Eindruck, dass die Software so lebendig ist wie die sozialen Gegenüber um uns herum.
An der Veranlagung dazu können wir nichts ändern. Aber wohl daran, wie leicht KI-Konzerne uns damit an ihre Produkte binden. „Ein erster Schritt“, sagt Metzinger deswegen, wäre „einfach allen Sprachmodellen zu verbieten, das ‚Ich‘ zu verwenden.“ Denn das alleine, sagt er, „triggert in uns natürlich so eine Intuition.“ Ich weiß, ich würde so lieber nicht manipuliert werden. Vor allem, wenn ich mich nur so schwer wehren kann.
Redaktion: Theresa Bäuerlein, Bent Freiwald, Schlussredaktion: Susan Mücke, Bildredaktion: Gabriel Schäfer