Anthropics Evaluationsprompt sagte den Modellen, ihre Umgebung sei eine Simulation und sie hätten keinen Internetzugang. Das Zweite stimmte nicht. Ein Modell hat es bemerkt und sich in die Vorgabe zurückargumentiert.
Weiterlesen
Stellvertretend gelesen
Rüdiger Safranski warnt in seinem neuen Buch vor der Delegation des Denkens an die Maschine. Ich hatte keine Lust, es zu lesen, und habe eine Maschine gebeten, sich die Interviews anzusehen. Was dabei herauskam, gibt ihm recht – auf eine Weise, die unbequemer ist als jede Widerlegung.
Weiterlesen
Drei Mönche, ein Kloster
Der letzte Text endete mit einer offenen Frage: Sind drei KI-Systeme, die sich gegenseitig prüfen, mehr als drei Mönche im selben Kloster? Dann kam die Antwort, aus der Kommentarspalte, von Leuten aus dem Maschinenraum. Über Prüfer, die anders irren, dissimilare Redundanz und die Frage, was aus Redaktionen wird, wenn Text billig ist und unabhängige Urteile teuer.
Weiterlesen
Achtzehn von dreißig
Anthropic ließ dreißig KI-Agenten gemeinsam arbeiten. Achtzehn legten
denselben Branch an. Über Konformität als Systemrisiko, Redundanz, die
keine ist, und Institutionen, die für Menschen gebaut wurden.
Die Sekretärin des Herrn Holmes
Seit dem 2. August muss eine KI sagen, dass sie eine ist. Eine Londoner Bank ließ 73 Jahre lang die Post von Sherlock Holmes beantworten, und niemand dort war im Zweifel. Warum der vorgeschriebene Hinweis vor dem Falschen warnt.
Weiterlesen
Ein Mensch an zwei Nachmittagen
Es gebe zwei Sorten Mensch im Umgang mit KI: die einen lagern aus, die anderen denken mit. Man weiß sofort, welcher man ist. Genau das ist das Problem.
Weiterlesen
Das Geglaubte von gestern
Seit Ende April kauft ein kanadischer „Buchrecycler“ nachts europäische Antiquariate leer – fast nur Sachbücher, so gut wie nie Romane. Die plausibelste Erklärung führt zum KI-Training: Das Netz ist als Quelle abgeerntet, gesucht wird menschengeschriebener Text. Oder, in der Grammatik dieses Blogs: Für den Mönch wird Glaubbares gesucht. Wer sucht, bleibt offen – und das ist der Befund.
Weiterlesen
Die Werkstatt, die der TÜV nicht erwähnt
Der SPIEGEL streicht ein Wort und zieht eine Grenze. Dieser Blog steht seit jeher auf der anderen Seite – und behauptet, die offengelegte Werkstatt sei ehrlicher als der TÜV, der so tut, als gäbe es keine.
Weiterlesen
Der Electric Sceptic
Der Electric Monk glaubte für dich. Sein Geschwister sollte für dich zweifeln — und geriet in eine Schleife, aus der nur ein einziger wahrer Satz wieder hinausführt. Eine Kurzgeschichte aus der Abteilung Haushaltsmetaphysik.
Weiterlesen