In den meisten Artikeln über KI geht es um das Silicon Valley oder die USA, manchmal vielleicht um China oder die EU. Dabei benötigt KI unseren ganzen Planeten: Platin aus Südafrika, Datenarbeiter:innen aus Kenia, malaysische Montagewerke, Müllhalden in Indien und Datenkabel, die tausende Meter unter der Oberfläche jedes Ozeans liegen. Dazu zigtausend Arbeiter:innen und Connections nach ganz oben.
In einer Umfrage konntet ihr uns kürzlich alles schreiben, was ihr zu KI wissen wollt. Antonia zum Beispiel fragt: „Kann KI die Menschheit auslöschen?“ Florian würde gerne die Maschinerie hinter der Nutzeroberfläche kennen, also verstehen, wie Künstliche Intelligenz eigentlich funktioniert. Und Astrid interessiert sich dafür, „wie eine ethisch vertretbare, gesellschaftlich sinnvolle Nutzung von KI aussehen könnte“.
Um dir bei diesen Fragen den Einstieg zu erleichtern, empfehle ich dir meine Lieblingsbücher rund ums große Stichwort „KI“. Bei dem Thema bringe ich einen dreifachen Blick mit: als Kognitionswissenschaftler das technische Verständnis, als Wissenschaftssoziologe den kritischen Blick, plus meine persönliche Faszination für Zukunftstechnologien aller Art.
Weiß die KI, dass sie nichts weiß? von Katharina Zweig⬆ nach oben
Katharina Zweig ist für mich die deutschsprachige KI-Erklärerin schlechthin. In „Weiß die KI, dass sie nichts weiß?“ nimmt Zweig uns an die Hand und führt uns einmal durch alles: einen Hintergrund zu KI und Sprache, wie Sprachmodelle technisch funktionieren (verständlich erklärt!) und was das dafür bedeutet, was KI kann und was nicht. Wenn du also erst mal die Technologie selbst verstehen willst, ist Zweig mein Top-Tipp.
Der Titel des Buches bezieht sich auf eine Spannung im Kern aller Sprachmodelle: Sie haben zwar wahrscheinliche Muster aus Unmengen von Texten gelernt, aber soweit wir wissen, verstehen sie nichts davon, warum Sprache diese Muster hat. Grundsätzlich „verstehen“ KI-Modelle vielleicht überhaupt nichts.
So kommt es dazu, dass KI-Modelle Schachgroßmeister besiegen – aber nur, wenn alle Figuren am Anfang richtig aufgestellt sind. Die meisten Schachprogramme sind nämlich nur mit Daten trainiert, in denen alle Figuren am rechten Platz sind. Aber wenn der Läufer falsch startet, bringt all das „Wissen“ der KI gar nichts. Wo eine mittelmäßige Spielerin sich leicht anpasst, sind viele KI-Schachmeister hilflos. Ganz so mächtig, erzählt Zweig, ist die Software also nicht.
Andersherum, erklärt Zweig, tun wir Menschen uns auch schwer, die KI zu verstehen. Also herauszufinden, was genau innerhalb eines KI-Systems passiert, damit das System zu einem bestimmten Ergebnis kommt. Zweig zweifelt daran, ob wir das je erklären können. Also beschreibt sie detailliert, welche Folgen das für Justiz, Medizin und vieles mehr haben könnte. Rundum eine gekonnte Einführung in KI.
Empire of AI von Karen Hao⬆ nach oben
Wenn ich nur ein Buch über die Hintergründe von KI empfehlen dürfte, wäre es „Empire of AI“. Die Autorin ist eine ehemalige Journalistin, die unter anderem für das Wall Street Journal und MIT Technology Review schrieb. 2025 zählte das Time Magazine sie zu den 100 einflussreichsten Personen in der KI. In „Empire of AI“ hat sie die definitive Chronik davon geschrieben, wie OpenAI, die Firma hinter ChatGPT, ein globales Imperium geworden ist.
Hao erzählt darin, wie optimistisch sie am Anfang ihrer Recherche war. 2019, lange vor ChatGPT, hatte sie schon große Hoffnungen, was KI für die Zukunft bedeuten könnte. Doch je mehr sie in die Welt von OpenAI eintauchte, desto besorgter wurde sie. OpenAI sollten wir uns am besten als Weltreich vorstellen, schreibt Hao, das sich wie die Kolonialmächte ausbreitet und alles verschlingt, was es braucht, um weiterzuwachsen.
In „Empire of AI“ beschreibt Hao, welche Gesetze den Tech-Konzernen Grenzen setzen könnten und was wir alle tun können, um sie nicht noch stärker zu machen. Sie schreibt über mögliche Lösungen im Datenschutz und bei Urheber- und Menschenrechten. Denn die Entwicklung von OpenAI hat Hao schockiert: Wie die einst gemeinnützige Organisation zu einem 850 Milliarden Dollar schweren Ausbeuter werden konnte, den das Gemeinwohl so gar nicht interessiert.
Das Buch ist bisher nur auf Englisch erhältlich.
Wie KI dein Leben besser macht von Franz Himpsl und Dirk von Gehlen⬆ nach oben
Einige KR-Mitglieder haben in der Umfrage nach dem persönlichen Nutzen von KI gefragt, wie sie sie in ihrem Alltag sinnvoll nutzen können. Wer sich in diese Richtung informieren will, für den ist „Wie KI dein Leben besser macht“ ein praktischer Einstieg. Wenn auch nur auf persönlicher Ebene.
In neun Teilen geben die SZ-Journalisten Franz Himpsl und Dirk von Gehlen 50 Denkanstöße, wie du Sprachmodelle im Alltag ausprobieren kannst. Jeden Denkanstoß kannst du beim nächsten Mal ausprobieren, wenn du das Sprachmodell deiner Wahl verwendest. Die Tipps sind nicht bahnbrechend und nicht revolutionär, aber das ist KI im Alltag oft auch nicht. Statt dir irgendeinen großen Durchbruch zu versprechen, wollen die Autoren dich eher orientieren, wie du dir mit KI unkompliziert Zeit und Ärger sparen kannst.
Dabei unterschlagen Himpsl und von Gehlen nicht, dass KI und Sprachmodelle viele Herausforderungen mit sich bringen. Die Autoren fordern alle, die Sprachmodelle verwenden, dazu auf, die Technologie bewusst nur dann einzusetzen, wenn sie sinnvoll ist. Dazu, argumentieren sie, muss man verstehen, was sie kann und was sie uns kostet: auch an Ressourcen und Arbeitskraft. Ein interessanter Tipp für eine gute Verwendung ist, mit Sprachmodellen das Diskutieren zu trainieren. Mit dem richtigen Prompt kann uns die Maschine unter anderem auf Lücken in unseren Argumenten hinweisen, implizite Annahmen hervorheben oder unfaire rhetorische Mittel. Das soll nicht dazu dienen, beim nächsten Streit unbedingt Recht zu bekommen, sondern kann uns helfen, offener und konstruktiver miteinander zu reden. Das wäre doch was.
Atlas der KI von Kate Crawford⬆ nach oben
Nur wenige Bücher schaffen es, die großen gesellschaftlichen Fragen zu beantworten, die uns auch die KR-Mitglieder gestellt haben. Rahel zum Beispiel wollte wissen, ob KI auch nachhaltig sein kann. Und Beatrice fragt, wie es möglich ist, „soziale Gerechtigkeit und allgemein demokratische Werte“ in KI zu verankern. Viele Bücher, die sich mit KI beschäftigen, hypen allerdings die Technologie unkritisch.
Genau deshalb bin ich riesiger Fan von Kate Crawford, die in ihrem Buch „Atlas der KI“ die versteckten Kosten hinter dem KI-Boom dokumentiert. Die mehrfache Professorin ist eine führende Forscherin zu den gesellschaftlichen Auswirkungen von KI und hat zu diesem Thema schon die Vereinten Nationen, das EU-Parlament und den US-Präsidenten beraten.
Crawford argumentiert, dass KI auf Extraktion basiert. Du hast wahrscheinlich schon gehört, dass KI Unmengen an Strom und Wasser verbraucht und mit den Daten der gesammelten Werke der Menschheit gefüttert wird. Aber hast du mal überlegt, mit welchen Kategorien KI trainiert wird? Was passiert, wenn die lächelnde junge Frau im Bikini in den Daten als „Flittchen“ markiert ist, ein junger Mann, der Bier trinkt, als „Alkoholiker, Säufer“ und ein Baby mit Sonnenbrille als „Versager, Verlierer, erfolgloser Mensch“? Wenn du bisher wenig darüber nachgedacht hast, klärt Crawford dich auf. Das Ausmaß, in dem KI unsere Welt formt, hat mich umgehauen.
Feeding the Machine von James Muldoon, Mark Graham und Callum Cant⬆ nach oben
Wenn du ganz besonders an der menschlichen Arbeit hinter KI interessiert bist, dann empfehle ich dir „Feeding the Machine“ von Muldoon, Graham und Cant. Die Autoren arbeiten gemeinsam am Fairwork-Projekt, einer Initiative, die Arbeitsbedingungen in digitalen Arbeitsumfeldern bewertet. Alle drei sind renommierte Forscher in England.
In ihrem Buch dokumentieren sie, wie und wo Arbeiter:innen in der KI-Wertschöpfungskette ausgebeutet werden. Dazu haben sie Datenarbeiter:innen in Kenia und Uganda selbst besucht. Die Arbeiter:innen arbeiten dort für Hungerlöhne in den prekärsten Verhältnissen. Oft werden sie extra aus armen Gegenden rekrutiert, damit sie sich nicht gegen die schlechten Bedingungen wehren können. Viele von ihnen verbringen jeden Tag damit, die widerlichsten Inhalte im Internet zu schauen und mit Schlagwörtern zu beschreiben. So trainieren sie KI-Modelle darauf, die Inhalte in Zukunft zu erkennen. Andere Datenarbeiter:innen müssen sich als Chatbots ausgeben, um anzügliche oder streng vertrauliche Gespräche mit Nutzer:innen im globalen Norden zu führen.
Diese Menschen sind das unsichtbare Rückgrat der KI-Industrie, ohne die es ChatGPT nicht geben würde. Das Erste, was wir machen können, ist, sie und ihre Arbeit zu erkennen. Dann geben die Autoren Hinweise, wie wir etwas ändern können.
More Everything Forever von Adam Becker⬆ nach oben
Zum Abschluss empfehle ich dir noch etwas Schräges: Adam Beckers äußerst unterhaltsames Buch „More Everything Forever“. Mehr von allem für immer, schreibt er, sei das Zukunftsversprechen aller, die an die große KI glauben: an die übermenschliche Intelligenz, die uns eines Tages plötzlich in jeder Hinsicht überflügelt. Egal, ob jemand meint, die Superintelligenz führe uns ins Paradies oder werde die Menschheit auslöschen, argumentiert Becker, sei der intellektuelle Hintergrund dahinter eigentlich immer derselbe.
Ich empfehle dir dieses Buch, wenn dich das Gedankengut hinter dem KI-Hype interessiert. In „More Everything Forever“ klärt Becker etwa auf, warum manche Tech-Milliardäre fürchterliche Angst vor einer imaginären Büroklammerfabrik haben. Dahinter steckt das Gedankenexperiment eines schwedischen Philosophen, der sich Folgendes überlegte: Jemand programmiert eine KI, deren Aufgabe es ist, Büroklammern herzustellen. Die KI ist superintelligent und wird alle möglichen Ressourcen verwenden, um die Welt mit Büroklammern zu fluten. Sie wird sich dagegen wehren, wieder abgeschaltet zu werden, gegen Menschen kämpfen und irgendwann die Menschheit besiegen. Das ist eines dieser Dinge, bei denen viele wahrscheinlich erst einmal „Hääh?“ denken, aber die viel über die (hauptsächlich) Männer hinter der KI verraten: die Peter Thiels, Elon Musks, Sam Altmans und wie sie heißen.
Becker blickt hier hinter das große Gerede über Weltuntergang, Ende der Menschheit, endlose Produktivität und so weiter. All diese Visionen, schreibt er, sind aus denselben Rohmaterialien: Science-Fiction, halbgare Ethik und absolut unbeirrbare Selbstüberzeugung aus den Träumen kleiner Jungs. Ich habe die Geschichte anderswo selten so einschlägig und umfassend gelesen. Dieses Buch gibt es bisher nur auf Englisch.
Redaktion: Isolde Ruhdorfer, Schlussredaktion: Susan Mücke, Bildredaktion: Gabriel Schäfer