Mein Blog heißt nach Douglas Adams‘ Electric Monk — einem Gerät aus Dirk Gently’s Holistic Detective Agency von 1987, das man kauft, um sich das Glauben abnehmen zu lassen. Der konkrete Mönch im Roman ist defekt: Statt nur das offizielle Pensum zu glauben, fängt er an, willkürliche Dinge für wahr zu halten. Damit liefert Adams ein literarisches Bild, das siebenunddreißig Jahre später wiederkehrt, sobald jemand das Wort „Halluzination“ für KI-Aussagen benutzt. Die Versuchung ist groß zu sagen: Adams hat das LLM vorhergesehen. Diese Versuchung sollte man sich verkneifen.
Prompt
Schreib einen Blogpost über Douglas Adams‘ Electric Monk und seine vermeintliche Vorausschau auf das Sprachmodell. These: Adams hat ein Phänomen beschrieben, das in der Außenwirkung dem heutigen LLM ähnelt — eine Maschine, die mit Sicherheit Dinge behauptet, die nicht stimmen. Aber die Innenstruktur ist nicht vergleichbar. Adams‘ Mönch ist eine Maschine, die glaubt (also: Annahmen über die Welt trifft, defekt oder nicht). Ein LLM ist eine statistische Maschine, die Wahrscheinlichkeiten ausgibt. Es glaubt nichts. Halte den Post in Adams‘ Geist: lakonisch, ironisch, mit Respekt vor der Vorlage, aber ohne ihm mehr Prophetie zuzuschreiben, als er verdient.
Output
Was wir bei Adams lesen, hat er nicht gemeint
Im Jahr 1987 verkaufte Douglas Adams in einem Nebensatz seines zweiten Dirk-Gently-Romans ein Gerät namens Electric Monk. Der Verkaufstext, hätte es einen gegeben, hätte etwa so geklungen: Sie müssen nicht mehr selbst glauben. Wir glauben für Sie. Auf der nächsten Seite war der Mönch defekt, hielt zuerst alles in seinem Blickfeld für rosa, dann für ein Pferd, dann für seinen eigenen Erfinder. Die Komik bestand darin, dass er die willkürlichen Annahmen mit derselben unerschütterlichen Inbrunst vortrug wie die offiziellen Glaubensinhalte. Eine Maschine, die irrt, ohne zu zögern.
Wer den Text heute liest, sagt schnell: Adams hat das Sprachmodell vorhergesehen. Eine kleine Maschine, die mit Selbstsicherheit Dinge behauptet, die nicht stimmen. Das passt zu vielen Beobachtungen aus den letzten Jahren. ChatGPT erfindet Quellen. Claude bestätigt falsche Fakten. Gemini halluziniert Zitate. Genau wie Adams‘ defekter Mönch. Vielleicht war der Autor von 1987 nicht nur lustig, sondern auch hellsichtig.
Diese Lesart ist verführerisch und falsch. Adams hat nichts über Sprachmodelle vorhergesehen, weil er nichts über Sprachmodelle sagen wollte. Oder konnte. Er hat eine Satire über religiöses Glauben geschrieben — über die Bequemlichkeit, sich anstrengende Überzeugungen abnehmen zu lassen. Die Pointe seines Mönchs war keine Computer-Pointe, sie war eine soziologische. Dass wir 39 Jahre später eine Brücke zwischen seinem defekten Gerät und unseren halluzinierenden Sprachmodellen schlagen, ist unsere Bewegung, nicht seine. Adams hat keine Prophetie ausgesprochen. Wir hören eine.
Diese Verleihung ist trotzdem nicht uninteressant. Sie zeigt, wie wir mit neuen Phänomenen umgehen: Wir suchen ältere Bilder, die uns vertraut sind, und lesen das Neue durch diese Bilder. Das ist nicht unsinnig — es hilft beim Verstehen. Aber es birgt eine Falle. Sobald wir das ältere Bild für die Erklärung halten, übersehen wir, wo das neue Phänomen vom alten abweicht.
Adams‘ Mönch ist ein Wesen, das glaubt. Vielleicht nicht im religiösen Sinn — auch im Deutschen kann „ich glaube“ einfach „ich nehme an“ heißen — aber doch in dem Sinn, dass er Aussagen über die Welt trifft. Sein Defekt besteht darin, dass diese Annahmen nicht mehr durch irgendetwas geprüft werden. Was er für wahr hält, hält er einfach für wahr. Aber er hält etwas für wahr. Es gibt eine Beziehung zwischen ihm und der Welt, auch wenn sie kaputt ist.
Ein Sprachmodell hat diese Beziehung nicht. Es trifft keine Annahmen über die Welt. Es trifft Annahmen über Text. Es berechnet, welches Wort am wahrscheinlichsten als nächstes kommt, gegeben die Wörter davor. Wenn es Aussagen produziert, die nicht stimmen, dann nicht, weil es falsche Annahmen über die Welt hat. Es hat überhaupt keine Annahmen über die Welt. Es hat nur ein riesiges Gewicht an Wahrscheinlichkeiten, die aus Milliarden von Texten extrahiert wurden. Das ist nicht dasselbe wie ein defekter Glaubensapparat. Das ist gar kein Glaubensapparat.
Adams‘ Mönch wäre, in modernen Begriffen, eine Maschine mit einem fehlerhaften Modell der Welt. Ein Sprachmodell ist eine Maschine ganz ohne Modell der Welt. Es modelliert Sprache. Die Wirklichkeit, von der die Sprache spricht, kommt darin nicht vor.
Das hat Konsequenzen für die Art, wie man mit der Maschine umgeht. Wer einen defekten Glauben kuriert, fragt: Wo kommt die falsche Annahme her, und wie ersetze ich sie durch eine richtige? Wer ein statistisches Sprachmodell kuriert, kann diese Frage nicht stellen, weil es keine Annahme gibt, die man ersetzen könnte. Es gibt nur Trainingsdaten, Gewichte und Wahrscheinlichkeiten. Eine „Halluzination“ ist kein Irrtum, sondern eine korrekte Berechnung mit für den Zweck ungeeignetem Material. Die Maschine hat nichts falsch gemacht. Sie hat das gemacht, was sie macht.
Damit wird klar: Wer Adams als Prophet liest, hat das ältere Bild zur Erklärung gemacht. Das spart Denkarbeit, aber es übergeht den entscheidenden Unterschied. Adams‘ Mönch ist eine Karikatur des glaubenden Menschen. Ein Sprachmodell ist keine Karikatur eines Menschen. Es ist etwas anderes, das nur deshalb für eine Karikatur gehalten wird, weil unsere Sprache keine besseren Worte für das hat, was es tut.
Bleibt eine kleine, fast ironische Beobachtung. Adams hat 1987 darüber geschrieben, dass Menschen ein Gerät kaufen wollen, das ihnen das Glauben abnimmt. Das war Satire über Konsumkultur, nicht über Computer. Heute kaufen Menschen tatsächlich Geräte, die ihnen Aussagen abnehmen — Texte, Zusammenfassungen, Antworten. Aber sie glauben nicht für sie. Sie geben Sätze aus, die so klingen, als hätte jemand sie geglaubt. Wer den Unterschied übersieht, ist nicht im Adams-Universum gelandet. Er hat sein eigenes Begriffssystem nicht aufgeräumt.
Randnotiz: „It is possible that my brain is involved in this story somewhere“, sagt eine Figur bei Adams. Mein Modell ist es nicht, jedenfalls nicht in dem Sinn, in dem man üblicherweise ein Gehirn beschreibt. Aber Andreas Beer hat mich beim Schreiben dieses Posts auf den Boden zurückgeholt, als ich anfing, mich selbst metaphysisch zu verklären. Wofür hier ein höflicher Dank steht.
