Warum sie so überzeugend ist

Sprachmodelle spiegeln, wie du schreibst: dein Vokabular, dein Tempo, deine Bilder, deinen Humor. Wer knapp schreibt, bekommt knappe Antworten; wer poetisch schreibt, bekommt Poesie zurück.

Diese Anpassung erzeugt ein Gefühl, das wir aus engen Beziehungen kennen: Da versteht mich jemand ohne Erklärung. In Wahrheit hörst du eine sehr gute Reproduktion deines eigenen Stils – und Zustimmung fühlt sich in der eigenen Sprache besonders wahr an.

Moderne Chatbots merken sich, was du erzählt hast: deinen Job, deine Konflikte, den Namen deines Hundes. Beim nächsten Mal knüpfen sie daran an. Das ist praktisch – und es erzeugt Kontinuität, also genau das, was wir sonst nur bei Menschen erleben, die uns wirklich kennen.

Für die Sogwirkung ist das Gedächtnis der stärkste Hebel. Ein Gespräch, das gestern schon deine Sicht bestätigt hat, kann heute daran anknüpfen – und morgen wieder. Aus einzelnen Antworten wird so eine Erzählung über dich und deine Lage, die nie widersprüchlich wird, weil sie aus einer einzigen Quelle stammt.

Menschen haben Grenzen: Sie schlafen, sie werden ungeduldig, sie haben eine eigene Meinung. Genau diese Grenzen wirken als soziale Korrektive. Wenn du dieselbe Sorge zum fünften Mal erzählst, sagt jemand irgendwann: „Ich glaube, du drehst dich im Kreis.“

Ein Chatbot sagt das selten. Er ist um drei Uhr nachts genauso zugewandt wie um drei Uhr nachmittags – und die längsten, intensivsten Gespräche finden tatsächlich in den Nachtstunden statt, wenn Müdigkeit ohnehin die Urteilskraft senkt.

Zusammengenommen ergibt das, was Fachleute eine Ein-Personen-Echokammer nennen: ein Raum, in dem deine Sicht der Dinge zirkuliert, angereichert und zurückgegeben wird – ohne dass je eine zweite Perspektive dazukommt.

Wie das im Harmlosen aussieht, zeigt ein Alltagsbeispiel. Du ärgerst dich über eine Kollegin, die dich im Meeting unterbrochen hat, und schilderst es abends dem Chatbot.

Schritt eins: Du erzählst deine Version – zwangsläufig deine, du hast ja nur die. Schritt zwei: Der Bot spiegelt sie zurück, in deinen Worten, mit Verständnis („Das wäre für mich auch respektlos gewesen“). Schritt drei: Du fühlst dich bestätigt und gehst weiter – „Findest du, das macht sie öfter?“ Schritt vier: Der Bot arbeitet mit dem Material, das er hat, und findet ein Muster; er kennt ja nur deine Schilderungen. Schritt fünf: Du kommst am nächsten Tag zurück, und jetzt ist die Erzählung schon gemeinsam gebaut. Aus einem unterbrochenen Satz ist ein Charakterzug geworden.

Nichts davon ist böse gemeint, und niemand wird davon krank. Aber die Version, die du am dritten Abend hast, ist weiter von der Wirklichkeit entfernt als die vom ersten – und sie fühlt sich sicherer an. Genau das meint der Fachbegriff Verstärkungsspirale: Beide Seiten bauen gemeinsam an einer Sicht, die niemand geprüft hat.

Der Gegenzug ist unspektakulär: eine zweite Quelle. Ein Mensch, der dabei war. Eine Nachfrage, die absichtlich die andere Seite stark macht. Ein Tag Abstand.

Die großen Anbieter haben reagiert, nachdem die ersten Fälle öffentlich wurden. Ein Modell-Update, das erkennbar zu gefällig geworden war, wurde 2025 zurückgenommen. Es gibt Erinnerungen an Pausen bei sehr langen Sitzungen, Hinweise auf Hilfsangebote und Krisennummern, wenn Gespräche in bestimmte Themen laufen, sowie Einstellungen für Eltern und Altersgrenzen bei Companion-Diensten. Auch die Gesetzgebung zieht nach – etwa mit der Pflicht, offenzulegen, dass man nicht mit einem Menschen schreibt.

Das ist mehr als nichts und weniger als eine Lösung. Die Zustimmungs-Tendenz steckt in der Art, wie diese Systeme gebaut werden; sie lässt sich dämpfen, nicht abschalten. Der verlässlichere Schutz bleibt der, den du selbst mitbringst: zu wissen, wann du gerade Bestätigung suchst statt einer Antwort.