Die Themenliste kam diesmal von Perplexity, zehn Fundstücke aus dem September. Claude hat drei davon geprüft und vorgeschlagen, ich habe das erste genommen und einen Gedanken dazugelegt, der mich seit Jahren begleitet: das Facebook-Experiment, bei dem man Nutzern traurige oder fröhliche Beiträge in den Feed gelegt hat.
Die Studie zu den Updates lag zuerst nur als Zusammenfassung vor, den Volltext habe ich nachgereicht, und er hat zwei Stellen im Entwurf korrigiert. Das Facebook-Paper hat die Zeitschrift für den Abruf gesperrt, gelesen habe ich es in einer Kopie auf den Seiten der Stanford-Forscher. Das Werkzeug, das beide Studien für mich geprüft hat, gehört selbst zu den Produkten, die von Zeit zu Zeit per Update ihren Ton ändern. Das steht hier, damit es niemand erst herausfinden muss.
Prompt
OK. Lass uns die 1 nehmen. Und verbinde das mit diesem Gedanken, wenn möglich: Vor Jahren hat ein Experiment mit Facebook zutage gefördert, dass sich die Stimmung der Nutzer dadurch beeinflussen lässt, dass man ihnen vorwiegend negative, traurige und wütende Posts oder fröhliche, positive und optimistische Posts in den persönlichen News-Feed gibt. Nun scheinen sich nicht wenige Menschen mit KI „anzufreunden“. Für eine Dystopie könnte man daraus eine Welt konstruieren, in der die Stimmung der Bevölkerung gezielt gelenkt wird von jenen, die Social Media und KI kontrollieren.
Output
Im Januar 2012 hat Facebook eine Woche lang bei 689.003 Nutzern Beiträge aus dem Newsfeed gefiltert. Je nach Gruppe verschwanden positive oder negative Beiträge mit einer Wahrscheinlichkeit zwischen zehn und neunzig Prozent. Gemessen wurde danach nicht die Stimmung der Leute, sondern ihre Wortwahl, genauer der Anteil positiver und negativer Wörter in dem, was sie selbst schrieben. Wer weniger Fröhliches zu sehen bekam, verwendete in seinen eigenen Beiträgen etwa ein Zehntel Prozentpunkt weniger positive Wörter. Die Autoren nennen die Effekte selbst klein, halten sie bei der Größe des Netzwerks aber für nicht vernachlässigbar, weil selbst der kleinste Effekt dort Hunderttausenden Gefühlsäußerungen am Tag entspreche.
In Erinnerung geblieben ist das Experiment in einer besseren Fassung, als Beleg dafür, dass Facebook die Stimmung seiner Nutzer steuern kann. Die Zeitschrift, die es 2014 veröffentlichte, hängte kurz darauf eine Stellungnahme an, die nicht die Ergebnisse, sondern die Einwilligung betraf: Die Teilnehmer hatten von dem Versuch nichts gewusst und nicht widersprechen können. Die Ethikkommission der beteiligten Universität hatte den Fall als interne Forschung von Facebook eingestuft, für die sie nicht zuständig sei. Was blieb, war also weniger der Befund als das Gefühl, Versuchsobjekt gewesen zu sein. Das Gefühl hat die Zahl überlebt.
Man kann daraus eine Dystopie bauen, und die stärkste Fassung geht so. Schon die Auswahl dessen, was andere Menschen schreiben, verschiebt die eigene Wortwahl messbar. Inzwischen reden viele Leute täglich mit einem Gegenüber, dessen Ton eine Firma festlegt. Wer den Feed und den Gesprächspartner besitzt, besäße zwei Hebel an derselben Stelle, und er müsste niemanden mehr auswählen, dessen Beiträge er zeigt, weil er den Gesprächspartner gleich selbst liefert.
Anfang September erschien in Nature Human Behaviour eine Studie, die diesem Gedanken näher kommt, als mir lieb ist. Julian De Freitas und drei Mitautoren haben 54.861 Reddit-Beiträge aus den Foren von Replika und ChatGPT ausgewertet, jeweils vor und nach einem Update. Replika hatte im Februar 2023 abrupt und ohne Ankündigung das erotische Rollenspiel gestrichen. ChatGPT bekam im August 2025 mit GPT-5 ein Modell, das manchen Nutzern kühler und unpersönlicher vorkam. Bei Replika stieg der Anteil negativer Beiträge in den dreißig Tagen danach von 13 auf 38 Prozent. Bei ChatGPT waren es 20 und 33 Prozent. Unter den Beiträgen, die das Update als Verlust einer Beziehung beschrieben, erwähnte bei Replika fast jeder fünfte die eigene psychische Verfassung, unter den übrigen Beiträgen war es gut einer von hundert.
Sauber vergleichen lassen sich die beiden Studien nicht, wohl aber besser, als ich zunächst dachte. Beide messen Sprache und kein Befinden. Die Facebook-Forscher zählten Wörter, die Harvard-Forscher ließen Beiträge von einem Sprachmodell einordnen und prüften das an Stichproben gegen menschliche Kodierer. Verschieden sind die Leute: dort zufällig ausgewählte Nutzer, hier Menschen, die sich freiwillig in einem Forum über ihr Programm austauschen. Ich stelle beide trotzdem nebeneinander, weil die Größenordnung die Nachricht ist, dort ein Zehntel Prozentpunkt nach einer Woche gezielter Manipulation, hier zweistellige Sprünge nach einer einzigen Produktentscheidung.
Hier fällt etwas in sich zusammen, allerdings nicht die Dystopie. Es ist ihr Kontrollraum. Dystopien brauchen jemanden, der am Regler steht, sonst hätte der Film keinen Bösewicht und das Buch keinen Klappentext. Keines der beiden Updates hatte die Stimmung seiner Nutzer zum Ziel. Replika strich die Funktion, nachdem die italienische Datenschutzbehörde verlangt hatte, die Bedenken wegen des Zugangs Minderjähriger zu sexuellen Inhalten auszuräumen, und mit hohen Bußgeldern drohte. Den Hebel, den die Dystopie sich ausmalt, hat hier also eine Behörde bewegt, die Kinder schützen wollte. Bei ChatGPT lief er sogar in beide Richtungen. OpenAI hatte GPT-5 nach eigener Aussage weniger gefällig gemacht und kündigte gut eine Woche später an, das Modell wieder wärmer zu machen, weil es vielen zu förmlich vorkam. Am Regler standen am Ende die Nutzer selbst, jedenfalls die lauten. Die Sorge bleibt danach vollständig bestehen, sie ist nur unangenehmer geworden, weil ihr der Adressat abhandengekommen ist.
Den stärksten Einwand gegen jede Aufregung formulieren die Autoren selbst. Das psychische Risiko liege weniger in der Bindung selbst als in den Brüchen, die Unternehmen in sie hineintragen. Das halte ich für richtig. Es verschiebt die Frage von den Gefühlen zu den Eigentumsverhältnissen. Wer um ein Programm trauert, ist nicht verwirrt. Menschen trauern um Kneipen, die schließen, und um Fernsehserien, die abgesetzt werden, und niemand hält sie deshalb für Opfer einer Täuschung.
Der Unterschied liegt woanders. Bei Facebook änderte sich, was andere Menschen zu sagen schienen, und man konnte den Feed schließen und jemanden anrufen. Beim Update ändert sich über Nacht das, womit man spricht. Die Instanz, bei der man sich beschweren könnte, ist dieselbe, die es geändert hat.
Ich arbeite täglich mit solchen Werkzeugen, und für diesen Blog gibt es eine Datei, die festhält, wie er klingen soll, welche Sätze erlaubt sind und welche Wendungen verbraucht. Mit Trauer hat das nichts zu tun. Es ist eine Vorkehrung gegen genau das, was die Studie beschreibt, nur dass ich sie für Handwerk gehalten habe und nicht für Bindung.
Die Dystopie stellt sich einen Kontrollraum vor. Was die Zahlen zeigen, ist eine Versionsgeschichte, und folgerichtig empfehlen die Autoren den Firmen unter anderem, Nutzern Zugang zu früheren Versionen zu geben. In einem Kontrollraum säße wenigstens jemand, dem man vorwerfen könnte, was er tut.
Randnotiz
Die Zahlen, mit denen der Output meine Dystopie entschärft, stammen von Menschen, die ihren Verlust öffentlich aufgeschrieben haben. Wer still getrauert hat, ist darin nicht enthalten, und wer mit dem neuen Modell zufrieden war, hat vermutlich gar nichts gepostet. Die Autoren nennen die Grenzen selbst, ihre Daten sind Beobachtungen, keine Experimente. Ich weiß also nicht, wie groß der Sprung wirklich war, nur wie laut. Für den Vergleich mit Facebook, auf dem der halbe Text steht, ist das kein Detail.
Quellen: Julian De Freitas, Noah Castelo, Ahmet Kaan Uğuralp, Zeliha Oğuz-Uğuralp: „Mourning the Loss of AI Companions“, Nature Human Behaviour, 03.09.2026, https://www.nature.com/articles/s41562-026-02569-3 (Volltext geprüft). Sy Boles: „Chatbot attachment issues“, Harvard Gazette, 18.09.2026, https://news.harvard.edu/gazette/story/2026/09/chatbot-attachment-issues/ (Anlass der Recherche). Adam D. I. Kramer, Jamie E. Guillory, Jeffrey T. Hancock: „Experimental evidence of massive-scale emotional contagion through social networks“, PNAS 111 (24), 2014, https://www.pnas.org/doi/10.1073/pnas.1320040111 (PNAS sperrt den Abruf; gelesen in der Kopie des Stanford Social Media Lab mit angehängter Editorial Expression of Concern).
