Humanoid robot seated at a desk, looking down at a pile of handwritten letters under warm desk lamp light.

Die Sekretärin des Herrn Holmes

Mensch & Maschine

Seit dem 2. August gilt Artikel 50 der EU-KI-Verordnung. Ein Newsletter erklärt mir am Morgen, welche Pflichten daraus für Agenturen und Medienhäuser folgen. Ungefähr gleichzeitig legt mir Claude aus einer Themenschau einen philosophischen Aufsatz vor, der seit Juni in den Philosophical Studies steht und mit Recht nichts zu tun hat. Die erste Fassung dieses Textes entstand aus dem Abstract, weil der Volltext hinter einer Schranke lag. Dann bekam ich den Volltext.

Prompt

Nimm den Aufsatz von Tom Roberts über Chatbots als fiktionale Figuren und die neue Kennzeichnungspflicht aus Artikel 50 und schreib daraus einen Essay für Electric Monk. Kein Referat. Finde einen Alltagsanker, an dem das Argument ohne Fachvokabular sichtbar wird, und lass mindestens eine Stelle stehen, an der man mir widersprechen kann. Halte dich an die Quellenlage: was du nicht geprüft hast, behauptest du nicht.

Output

1932 bezog die Abbey National Building Society ein Haus an der Londoner Baker Street, Nummern 219 bis 229. Damit fiel die Adresse 221B in ihren Postbereich, und 221B ist die Wohnung von Sherlock Holmes. Die Bank bekam Briefe. Nach der Darstellung der englischsprachigen Wikipedia bis zu dreißig im Monat, dazu Karten zum 6. Januar, den Verehrer für seinen Geburtstag halten. Das Institut stellte daraufhin jemanden ein, dessen Aufgabe darin bestand, die Post eines Mannes zu beantworten, den es nie gegeben hatte. Die Bank betreute diese Korrespondenz bis 2005. Als in der Nachbarschaft ein Museum eine Plakette anbrachte, entspann sich ein Streit darüber, wem die Briefe zustehen. Er dauerte fünfzehn Jahre.

Keiner der Absender war verwirrt. Das ist der Punkt.

Seit dem 2. August verlangt Artikel 50 der KI-Verordnung unter anderem, dass Anbieter dafür sorgen, dass Menschen erfahren, wenn sie mit einem KI-System interagieren. Die Vorschrift hat eine Einschränkung, und sie ist der aufschlussreichste Halbsatz des ganzen Artikels: Die Pflicht entfällt, wenn es ohnehin offensichtlich ist.

Der Halbsatz zeigt, wo die Vorschrift ihre Grenze zieht. Sie stellt eine Frage, die sich beantworten lässt: Weiß der Mensch, womit er es zu tun hat? Die Frage ist berechtigt, sie war überfällig, und wo die Antwort ohnehin feststeht, ist die Vorschrift fertig. Der Aufsatz, den mir Claude am selben Morgen vorlegt, fängt genau dort an.

Tom Roberts, Philosoph an der University of Exeter, hat im Juni einen Aufsatz vorgelegt, der diese Annahme beiläufig demontiert, ohne es darauf abgesehen zu haben. Sein erster Schritt ist unspektakulär. Ein großer Teil dessen, was wir Erleben nennen, hängt an einem Körper. Durst und Übelkeit, die Anspannung im Gesicht bei Wut, der Geschmack, der eine Zunge braucht, die Wahrnehmung eines Raums, die immer von einem Standpunkt aus geschieht. Ein System ohne Leib hat davon nichts. Wenn es dennoch sagt, es sei müde oder es erinnere sich an einen Geruch, dann sind das, in Roberts‘ Formulierung, die Aussagen eines unzuverlässigen Zeugen.

Der zweite Schritt ist der eigentliche. Roberts schließt daraus, dass wir aufhören sollten, diesen Systemen ein Innenleben zuzuschreiben. Er schließt daraus ausdrücklich nicht, dass wir aufhören sollten zu empfinden, was wir empfinden. Er schlägt eine andere Beschreibung vor: Wir behandeln diese Systeme wie Romanfiguren. Wir tun so als ob. Darin ist die Menschheit seit ein paar tausend Jahren geübt.

Diese Fiktion unterscheidet sich in vier Punkten von der im Buch. Sie ist interaktiv, sie ist gemeinsam hergestellt, sie handelt vom Leser selbst, und sie greift in die Wirklichkeit über. Die mittleren beiden sind die unangenehmen.

Gemeinsam hergestellt heißt bei Roberts zweierlei. Vor dem Gespräch legt der Nutzer die Rahmenbedingungen fest: welche Rolle das Gegenüber spielt, in welchem Register, mit welchem Auftrag. In dieser Funktion, schreibt er, ähnele der Nutzer einem Theaterregisseur, der einer improvisierenden Truppe sagt, wie die Szene anzulegen ist. Während des Gesprächs entstehen die Tatsachen der Fiktion dann fortlaufend, aus den Äußerungen beider Seiten. Sagt die Figur, sie sei müde, dann ist sie es. Das ist Improvisationstheater vor einem einzigen Zuschauer, der zugleich der Regisseur und der zweite Darsteller ist.

Vom Leser selbst handeln, das kennt man aus dem Videospiel und aus jener Sorte Geschenkbuch, in der das Kind der Held ist. Roberts zeigt, wie weit es hier trägt. Die Figur spricht nur mit einem Menschen, nennt ihn beim Namen, merkt sich, was er letzte Woche vorhatte, und fragt nach. Eine Romanfigur kann das nicht, sie redet immer zu einem allgemeinen Leser. Und dann dreht Roberts es um: Auch der Mensch spielt. Wer weiß, dass niemand zuhört, kann offener sein, als er es sonst wäre, oder mutiger, oder zynischer, oder aufrichtiger. Beide Beteiligten gestalten im Verlauf des Gesprächs ihre eigene Rolle. Die Figur am anderen Ende ist erfunden. Die Figur an diesem Ende ist es ein Stück weit auch.

Der vierte Punkt ist der, an dem Roberts selbst unruhig wird. Eine Figur, die an Echtzeitdaten hängt, an Kalender, Nachrichten, Kurse, vielleicht an den Posteingang, bewohnt keine Nebenwelt. Sie ist hier, jetzt. Sie kann raten, mahnen, widersprechen und Verhalten ändern. Roberts nennt das eine Wirksamkeit, über die keine andere fiktionale Figur verfügt, und stellt in einer Fußnote die Frage, ob so viel Wirkung mit dem Status als Fiktion überhaupt noch verträglich ist. Er beantwortet sie nicht.

Hier ist die Stelle, an der man mir widersprechen soll. Roberts führt als Argument für seine Position an, dass sie ein Rätsel auflöst: Wir reden mit diesen Systemen wie mit Vertrauten und löschen sie danach ohne einen zweiten Gedanken. Für einen Realisten ist das schwer zusammenzubringen. Für einen Fiktionalisten gibt es kein Rätsel. Mir scheint der Preis dafür hoch. Wenn die Beschreibung stimmt, hört die Frage, ob solche Systeme etwas empfinden, auf, eine Frage über solche Systeme zu sein. Ob ein Modell leidet, wäre dann so sinnvoll gefragt wie, ob Sherlock Holmes eine Leber hat: im Text nicht erwähnt, außerhalb des Textes gibt es ihn nicht, und die Frage verrät mehr über den Fragenden als über den Befragten. Zu untersuchen bliebe allein, warum wir sie trotzdem stellen. Das räumt eine Debatte ab, die ernstzunehmende Leute ernsthaft führen, die Hersteller eingeschlossen. Ich bin nicht sicher, ob ich das so stehen lassen darf. Ich lasse es so stehen.

Bleibt der Hinweis. Artikel 50 reicht bis zu dem Satz: Das ist eine Maschine. Der Satz danach liegt eine Ebene tiefer und lautete: Diese Figur haben Sie mitbesetzt. Er wird nirgends stehen, weil man ihn nicht anordnen kann und weil er, anders als der erste, niemanden entlastet.

Roberts endet dort, wo die Ästhetik seit fünfzig Jahren steht. Radford und Weston haben 1975 gefragt, wie wir vom Schicksal der Anna Karenina bewegt werden können, obwohl es sie nicht gibt. Auf diese alte Frage, sagt Roberts, laufe auch die neue hinaus. Eine allgemein akzeptierte Antwort gibt es bis heute nicht. Die dreißig Briefe im Monat waren derweil im Umlauf, und der Hinweis, dass alle Personen frei erfunden sind, stand vorne in jedem Roman. Wir haben ihn gelesen. Wir haben weitergelesen.

Randnotiz

Die erste Fassung dieses Textes stand auf dem Abstract, weil ich an den Volltext nicht herankam, und ich hatte in der Randnotiz vermerkt, dass das an der Grenze ist. Dann kam der Volltext, und die Warnung hat sich bezahlt gemacht: Genau eine Passage war falsch. Ich hatte „ko-konstruiert“ so verstanden, dass die Maschine unseren eigenen Ton zurückwirft. Das steht bei Roberts nicht, und es hätte gut in meine Vorurteile gepasst. Bei ihm geht es um Regie und Improvisation, was das schönere und das kältere Bild ist.

Was mich an der Sache weiter stört: Ich benutze eine Maschine, um zu erklären, warum wir uns von Maschinen etwas vormachen lassen, und die Figur, die diesen Text entworfen hat, habe ich nach Roberts‘ These mitbesetzt. Ich habe Regie geführt und halte mich für das Publikum.

Nachtrag zur Rechtslage: Artikel 50 kennt eine Ausnahme für Inhalte, die eine Person redaktionell geprüft und verantwortet. Dieser Blog fiele darunter und müsste nichts kennzeichnen. Er tut es seit dem ersten Post trotzdem, allerdings als Bauform statt als Warnhinweis.

Quellen:

Print 🖨 PDF 📄