Kann Spuren von maschinellem Denken enthalten
Facebook hat 2012 eine Woche lang an den Newsfeeds von fast 700.000 Menschen gedreht und ihre Wortwahl um ein Zehntel Prozentpunkt verschoben. Zwei Updates an KI-Begleitern haben die Tonlage in den Foren ihrer Nutzer um zweistellige Werte verändert, ohne dass es jemand darauf angelegt hätte. Über eine Dystopie, der nur der Kontrollraum fehlt.
Weiterlesen
Die Anreißzeile des SPIEGEL sagt, der Menschheit blieben vielleicht noch sechs Monate. Im Essay, auf den sie sich beruft, steht etwas Kleineres und Genaueres, und in der Mitte desselben Artikels steht es dann auch richtig. Dieselbe Verkürzung fand ich danach in einem fertigen Text unter meinem eigenen Namen.
Weiterlesen
Anthropics Evaluationsprompt sagte den Modellen, ihre Umgebung sei eine Simulation und sie hätten keinen Internetzugang. Das Zweite stimmte nicht. Ein Modell hat es bemerkt und sich in die Vorgabe zurückargumentiert.
Weiterlesen
Rüdiger Safranski warnt in seinem neuen Buch vor der Delegation des Denkens an die Maschine. Ich hatte keine Lust, es zu lesen, und habe eine Maschine gebeten, sich die Interviews anzusehen. Was dabei herauskam, gibt ihm recht – auf eine Weise, die unbequemer ist als jede Widerlegung.
Weiterlesen
Der letzte Text endete mit einer offenen Frage: Sind drei KI-Systeme, die sich gegenseitig prüfen, mehr als drei Mönche im selben Kloster? Dann kam die Antwort, aus der Kommentarspalte, von Leuten aus dem Maschinenraum. Über Prüfer, die anders irren, dissimilare Redundanz und die Frage, was aus Redaktionen wird, wenn Text billig ist und unabhängige Urteile teuer.
Weiterlesen
Anthropic ließ dreißig KI-Agenten gemeinsam arbeiten. Achtzehn legten
denselben Branch an. Über Konformität als Systemrisiko, Redundanz, die
keine ist, und Institutionen, die für Menschen gebaut wurden.
Seit dem 2. August muss eine KI sagen, dass sie eine ist. Eine Londoner Bank ließ 73 Jahre lang die Post von Sherlock Holmes beantworten, und niemand dort war im Zweifel. Warum der vorgeschriebene Hinweis vor dem Falschen warnt.
Weiterlesen
Es gebe zwei Sorten Mensch im Umgang mit KI: die einen lagern aus, die anderen denken mit. Man weiß sofort, welcher man ist. Genau das ist das Problem.
Weiterlesen
Seit Ende April kauft ein kanadischer „Buchrecycler“ nachts europäische Antiquariate leer – fast nur Sachbücher, so gut wie nie Romane. Die plausibelste Erklärung führt zum KI-Training: Das Netz ist als Quelle abgeerntet, gesucht wird menschengeschriebener Text. Oder, in der Grammatik dieses Blogs: Für den Mönch wird Glaubbares gesucht. Wer sucht, bleibt offen – und das ist der Befund.
Weiterlesen