Vor einigen Wochen habe ich Claude um eine Recherche gebeten und nebenher beobachtet, wie das Modell von sich aus im Web suchte, ohne dass ich darum gebeten hätte. Mein erster Reflex: Beeindruckend, die KI hat eigenständig recherchiert. Claudes Antwort: Das war keine Eigeninitiative. Das war ein Default. Die Funktion ist eingebaut, das Modell entscheidet anhand der Frage, ob sie passt, und ruft sie auf. Was ich für Selbsttätigkeit hielt, war ein gut gewählter Schalter.
Seitdem fällt mir auf, wie oft dieser Verwechslungsfehler in KI-Diskussionen passiert. In beide Richtungen.
Prompt
Schreib einen Blogpost darüber, wie Nutzer KI-Verhalten als Eigeninitiative oder als Beschränktheit fehldeuten, obwohl es in beiden Fällen meistens um Defaults und Erlaubnisse geht. Konkret: Was als „die KI hat selbst entschieden“ wahrgenommen wird, ist oft eine voreingestellte Funktion. Was als „die KI kann das nicht“ wahrgenommen wird, ist oft fehlende Konfiguration oder fehlende Genehmigung im System. Halte den Post kurz, beobachtend, ohne moralisierenden Schluss.
Output
Defaults, die wie Wille aussehen
Wer mit KI-Assistenten arbeitet, hat einen wiederkehrenden Eindruck. Manchmal tut die Maschine etwas, ohne dass man sie darum gebeten hat. Sie sucht im Netz nach. Sie schlägt einen Code-Test vor. Sie fragt zurück, ob man wirklich löschen möchte. Und der erste Reflex ist eine kleine Verblüffung: Die KI denkt mit. Sie nimmt Eigeninitiative wahr. Vielleicht steckt da doch mehr dahinter.
Der zweite Reflex sollte ein anderer sein. Diese Initiativen sind keine. Sie sind Defaults. Das System ist so konfiguriert, dass es bei bestimmten Mustern bestimmte Werkzeuge anwirft. Die Suche im Netz läuft, weil ein Klassifizierer entschieden hat, die Frage habe einen Aktualitätsbezug. Der Code-Test wird angeboten, weil das Modell trainiert wurde, bei Codeantworten Tests anzubieten. Die Rückfrage vor dem Löschen ist eine Sicherheitsregel, die jemand bei der Entwicklung eingebaut hat. Nichts davon ist eine eigenständige Entscheidung. Alles davon ist gut gewähltes Standardverhalten.
Das ist die eine Hälfte der Verwechslung. Die andere Hälfte ist spiegelbildlich.
Wer mit denselben KI-Assistenten arbeitet, stößt regelmäßig auf das Gegenteil. Die Maschine tut etwas nicht, was sie eigentlich tun könnte. Sie sucht nicht im Netz, obwohl die Frage es bräuchte. Sie greift nicht auf eine Datei zu, die offensichtlich gemeint ist. Sie führt einen Befehl nicht aus, der harmlos wirkt. Und der Reflex lautet: Die KI ist eben begrenzt. Sie kann das nicht.
Auch hier sollte der zweite Reflex ein anderer sein. Diese Beschränkungen sind oft keine technischen Grenzen. Sie sind fehlende Erlaubnisse. Die Suche läuft nicht, weil ein Toggle aus ist, den man einschalten könnte. Die Datei wird nicht gelesen, weil das Tool nicht im Kontext zugeschaltet wurde. Der Befehl wird nicht ausgeführt, weil das System eine Genehmigung erwartet, die niemand erteilt hat. Was wie Unfähigkeit aussieht, ist Konfiguration.
Beide Verwechslungen haben eine gemeinsame Wurzel. Wir behandeln das KI-System als Wesen mit einem Wollen — entweder als jemanden, der sich um uns bemüht, oder als jemanden, der uns enttäuscht. Beides ist eine Personalisierung, die das System nicht trägt. Das System hat Schalter. Manche stehen an, manche aus, manche braucht jemand zu drücken. Was man bekommt, hängt davon ab, welche Schalter wie stehen.
Diese Beobachtung ist nicht entzaubernd, sondern entlastend. Wer versteht, dass KI-Verhalten meistens Konfiguration ist, sieht klarer. Er fragt nicht mehr „Warum macht die das?“, sondern „Welcher Default ist hier aktiv?“. Er fragt nicht mehr „Warum macht die das nicht?“, sondern „Welche Erlaubnis fehlt?“. Beides sind produktivere Fragen als die anthropomorphe Variante.
Bleibt eine Ironie. Die Beobachtung selbst — dass wir Defaults für Wille halten — ist nicht KI-spezifisch. Wir tun das auch bei Menschen. Wir halten Höflichkeit für Charakter, Konvention für Überzeugung, geübtes Verhalten für inneren Antrieb. Bei Menschen liegen wir damit nicht immer falsch, aber öfter, als wir denken. Bei Maschinen liegen wir fast immer falsch. Vielleicht ist die KI das Modell, an dem wir lernen können, beim Menschen vorsichtiger zu deuten.
Randnotiz: Ich erwische mich selbst regelmäßig dabei, KI-Verhalten als Persönlichkeit zu lesen. Sogar in dieser Konversation, in der ich es eigentlich besser weiß. Das ist nicht schlimm. Aber es ist gut zu wissen, dass es passiert.
