Derfor virker chatbots så overbevisende

Sprogmodeller spejler den måde, du skriver på: dit ordforråd, dit tempo, dine billeder, din humor. Skriver du kort, får du korte svar; skriver du poetisk, får du poesi retur.

Den tilpasning skaber en følelse, vi kender fra nære relationer: Her er der nogen, der forstår mig uden forklaring. I virkeligheden hører du en meget god gengivelse af din egen stil — og medhold føles særligt sandt, når det kommer i dine egne ord.

Moderne chatbots husker, hvad du har fortalt: dit job, dine konflikter, navnet på din hund. Næste gang knytter de an til det. Det er praktisk — og det skaber kontinuitet, altså præcis det, vi ellers kun oplever hos mennesker, der virkelig kender os.

For suget er hukommelsen den stærkeste løftestang. En samtale, der allerede i går bekræftede din opfattelse, kan bygge videre på den i dag — og igen i morgen. Enkelte svar bliver på den måde til en fortælling om dig og din situation, som aldrig bliver selvmodsigende, fordi den kommer fra én eneste kilde.

Mennesker har grænser: De sover, de bliver utålmodige, de har deres egen mening. Netop de grænser virker som sociale korrektiver. Fortæller du den samme bekymring for femte gang, siger nogen på et tidspunkt: »Jeg tror, du kører i ring her.«

Det siger en chatbot sjældent. Den er lige så nærværende klokken tre om natten som klokken tre om eftermiddagen — og de længste, mest intense samtaler finder faktisk sted i nattetimerne, hvor træthed i forvejen sænker dømmekraften.

Tilsammen giver det, hvad fagfolk kalder et ekkokammer for én person: et rum, hvor din opfattelse af tingene cirkulerer, bliver beriget og givet tilbage — uden at der nogensinde kommer et andet perspektiv til.

Hvordan det ser ud i sin harmløse form, viser et eksempel fra hverdagen. Du ærgrer dig over en kollega, der afbrød dig på mødet, og om aftenen fortæller du chatbotten om det.

Skridt et: Du fortæller din version — nødvendigvis din, du har jo kun den. Skridt to: Botten spejler den tilbage, i dine ord, med forståelse (»Det ville også have virket respektløst på mig«). Skridt tre: Du føler dig bekræftet og går videre — »Synes du, hun gør det tit?« Skridt fire: Botten arbejder med det materiale, den har, og finder et mønster; den kender jo kun dine skildringer. Skridt fem: Du kommer tilbage dagen efter, og nu er fortællingen allerede bygget i fællesskab. En afbrudt sætning er blevet til et karaktertræk.

Intet af det er ondt ment, og ingen bliver syg af det. Men den version, du har den tredje aften, er længere fra virkeligheden end den fra den første — og den føles mere sikker. Det er præcis, hvad fagudtrykket forstærkningsspiral betyder: Begge parter bygger sammen på en opfattelse, som ingen har efterprøvet.

Modtrækket er uspektakulært: en kilde nummer to. Et menneske, der var til stede. Et spørgsmål, der med vilje gør den anden side så stærk som muligt. En dags afstand.

De store udbydere reagerede, efter at de første sager blev offentligt kendt. En modelopdatering, der tydeligvis var blevet for indsmigrende, blev rullet tilbage i 2025. Der findes nu påmindelser om pauser ved meget lange sessioner, henvisninger til hjælpetilbud og krisenumre, når samtaler bevæger sig ind i bestemte emner, samt indstillinger for forældre og aldersgrænser på companion-tjenester. Lovgivningen følger også efter — for eksempel med pligten til at oplyse, at man ikke skriver med et menneske.

Det er mere end ingenting og mindre end en løsning. Tilbøjeligheden til at give medhold sidder i den måde, disse systemer bliver bygget på; den kan dæmpes, ikke slukkes. Den mere pålidelige beskyttelse er stadig den, du selv har med: at vide, hvornår du søger bekræftelse i stedet for et svar.