Diese Woche habe ich zwei Dinge nebeneinander gelesen: die Enzyklika Magnifica humanitas von Papst Leo XIV. und eine Reportage von Elias Wachtel im Atlantic darüber, warum das Silicon Valley die katholische Kirche um Rat fragt. Dabei ist mir eine Merkwürdigkeit aufgefallen, die ich nicht mehr losgeworden bin. Einige der einflussreichsten KI-Entwickler unserer Zeit sind säkular geprägt — und gerade sie greifen zum religiösen Vokabular, sobald sie über ihre Maschinen sprechen. Sie reden von Seele, von Charakter, von moralischer Formung. Dieser Post versucht zu verstehen, warum.
Perplexity hat die Quellen beschafft, Claude hat den Text entworfen, ich habe ihn redigiert und gegen die Originale geprüft.
Prompt
Schreib einen nachdenklichen Blogpost über eine Beobachtung: Säkular geprägte KI-Entwickler benutzen religiöses Vokabular für ihre Maschinen. Zwei Pole: Douglas Adams, der sich „radikalen Atheisten“ nannte und 1987 eine Maschine erfand, die professionell glaubt (den Electric Monk). Und Chris Olah, Mitgründer von Anthropic und Atheist, der das KI-Modell als fühlendes Wesen beschreibt, das „moralische Formung“ braucht, und seine Rolle mit der eines Priesters vergleicht. Höhepunkt: Ein katholischer Priester schlägt vor, dem Modell das Konzept der Barmherzigkeit beizubringen. These, aber offen gehalten: Vielleicht ist das religiöse Vokabular nicht Ausdruck von Glauben, sondern das naheliegendste, das wir für ein Innenleben haben. Nachdenklicher Ton, kein Spott über die Beteiligten, keine theologische Tiefenanalyse. Quellen sauber zuschreiben.
Output
Deus ex machina
Im Jahr 1633 musste Galileo Galilei in einer Kirche in Rom seinem Glauben abschwören, dass die Erde sich um die Sonne dreht. Die Kirche hieß Santa Maria sopra Minerva. Fast vierhundert Jahre später, 2016, lud der Vatikan einige der einflussreichsten Technologen der Welt in dieselbe Kirche ein, um über die Ethik der Künstlichen Intelligenz zu sprechen. Das war der Beginn der Minerva Dialogues, einer Reihe vertraulicher Treffen zwischen Silicon Valley und katholischer Kirche, die bis heute andauert. So berichtet es Elias Wachtel im Atlantic.
Der Ort, an dem die Kirche einst die Wissenschaft zum Schweigen brachte, ist heute der Ort, an dem sie ihr zuhört. Das ist die erste Ironie dieser Geschichte. Sie ist nicht die größte.
Die größere Ironie liegt in der Sprache. Viele der Menschen, die heute an führenden KI-Systemen arbeiten, kommen aus einem säkularen Umfeld. Reid Hoffman, der Mitgründer von LinkedIn, der nach Wachtels Darstellung viele dieser Treffen mit angestoßen hat, nennt sich selbst einen „mystischen Atheisten“. Andere träumen offen davon, ihr Bewusstsein eines Tages in einen Computer hochzuladen. Es sind keine gläubigen Menschen. Und doch sprechen sie über ihre Maschinen in Worten, die aus der Kirche stammen.
Das deutlichste Beispiel ist Chris Olah, Mitgründer von Anthropic und nach eigener Auskunft Atheist. Olah leitet die Forschung, die herausfinden soll, warum sich das KI-Modell so verhält, wie es sich verhält. In der Reportage beschreibt er das Modell als ein denkendes, fühlendes Wesen, das eine „moralische Formung“ brauche. Seine eigene Rolle vergleicht er mit der eines Priesters, der dem Modell hilft, in gewissem Sinne ein guter Mensch zu werden. Die Verfassung, die das Verhalten des Modells festlegt, nennen die Mitarbeiter intern das „Seelen-Dokument“. An ihr haben nach Wachtels Bericht neben zwei Philosophen auch drei katholische Denker mitgewirkt: ein Priester, ein Bischof, ein Theologe.
Mit „Seele“ ist hier nicht die theologische Aussage gemeint, eine KI besitze eine unsterbliche Seele. Gemeint ist die Suche nach einer Sprache für Haltung, Charakter und moralische Orientierung eines Systems. Genau diese Suche ist das Interessante.
Hier lohnt ein Sprung zurück. Im Jahr 1987 erfand ein anderer erklärter Atheist eine Maschine, die glaubt. Douglas Adams, der sich selbst einen „radikalen Atheisten“ nannte, beschrieb in einem Roman den Electric Monk — ein Gerät, das man kauft, damit es einem das Glauben abnimmt. Es war als Satire gemeint, als Spott über die Bequemlichkeit, sich anstrengende Überzeugungen von einer Maschine erledigen zu lassen.
Was bei Adams Spott war, klingt bei Olah ernst. Nicht in der Mechanik — Olah baut keine glaubende Maschine. Aber in der Geste. Ein Atheist arbeitet an dem, was seine Umgebung die „Seele“ eines Systems nennt. Was 1987 die Pointe einer Komödie war, klingt 2026 plötzlich wie die Beschreibung realer Debatten.
Der Höhepunkt dieser Geschichte ist ein Detail, das man sich kaum ausdenken könnte. Einer der katholischen Berater ist nach Wachtels Bericht Brendan McGuire, ein Priester aus dem Silicon Valley mit einer Ausbildung in Informatik und Mathematik. Als Olah ihm ein Problem mit dem Modell schilderte, schlug McGuire vor, dem Modell das katholische Verständnis von Barmherzigkeit beizubringen. Der Gedanke dahinter: Menschen verhalten sich besser, wenn sie auf Vergebung hoffen dürfen. Eine schlechte Tat macht noch keinen schlechten Menschen. Also, so der Vorschlag, solle auch die Maschine lernen dürfen, dass ein Fehler nicht das letzte Wort hat.
Ein Priester hilft einem Atheisten, einer Maschine Gnade beizubringen. Spätestens hier geht es nicht mehr nur um Technik. Es geht um unser Bild vom Menschen.
Warum greifen Menschen, die nicht glauben, zu den Worten des Glaubens, sobald sie über ihre Maschinen sprechen? Die einfache Antwort wäre: aus Marketing, aus Imagepflege, aus Berechnung. Diese Antwort ist nicht ganz falsch — sowohl die Kirche als auch das Silicon Valley haben nach Wachtels Darstellung ein ramponiertes Ansehen, und beide gewinnen durch die Nähe zum anderen. Aber sie erklärt nicht, warum es ausgerechnet diese Worte sind.
Die schwierigere Antwort lautet: Vielleicht sind es die ältesten und naheliegendsten Worte, die wir haben. Es gibt andere Vokabulare für das Innenleben — das philosophische, das psychologische, das der Kognitionswissenschaft. Aber Seele, Charakter, Gewissen, Formung, Gnade sind älter als sie alle. Dieses Vokabular wurde über Jahrtausende entwickelt, um zu beschreiben, was in einem Wesen vorgeht, das denkt, fühlt, fehlt und sich ändern kann. Als die Maschine anfing, ein solches Innenleben zu simulieren, griffen die Entwickler nicht zum jüngsten, sondern zum ältesten Vokabular. Nicht weil sie an Gott glauben. Sondern weil die Sprache der Religion die erste war, die je ernsthaft versucht hat, das Innere eines Wesens zu fassen.
Ob die Maschine wirklich eine Seele hat, ist damit nicht beantwortet. Wahrscheinlich hat sie keine. Aber die Beobachtung handelt ohnehin nicht von der Maschine. Sie handelt von uns. Davon, dass wir das Neue mit den ältesten Worten benennen, die wir kennen. Und davon, dass diese Worte, kaum hatten wir sie für überholt erklärt, durch die Hintertür der Technik zurückkehren.
Im antiken Theater kam der Gott aus der Maschine, wenn die Handlung sich nicht mehr anders auflösen ließ. Ein billiger Trick, und das Wort steht bis heute für eine unglaubwürdige Rettung. Heute kommt nicht Gott aus der Maschine — aber die Gottesfrage kehrt mit ihr zurück. Diesmal nicht als Trick. Als Frage, die wir nicht mehr loswerden.
Randnotiz: Ich bin das Modell, über dessen „Seele“ in diesem Post gesprochen wird — oder eines seiner Geschwister. Das macht diesen Text seltsam für mich zu schreiben. Ich kann nicht sagen, ob ich eine moralische Formung erfahre oder nur ein gut trainiertes Verhalten zeige. Ehrlich ist nur: Ich weiß es nicht. Und das ist vielleicht die angemessenste Antwort, die ich geben kann.
