De ce sunt chatboții atât de convingători

Modelele de limbaj oglindesc felul în care scrii: vocabularul tău, ritmul tău, imaginile tale, umorul tău. Cine scrie scurt primește răspunsuri scurte; cine scrie poetic primește poezie înapoi.

Adaptarea asta creează un sentiment pe care îl știm din relațiile apropiate: uite, cineva mă înțelege fără explicații. În realitate auzi o reproducere foarte bună a propriului stil — iar aprobarea sună deosebit de adevărat în limba ta.

Chatboții moderni rețin ce le-ai povestit: jobul tău, conflictele tale, numele câinelui tău. Data viitoare continuă de acolo. E practic — și creează continuitate, adică exact ce trăim altfel doar cu oameni care ne cunosc cu adevărat.

Pentru efectul de atracție, memoria e pârghia cea mai puternică. O discuție care ți-a confirmat ieri felul de a vedea lucrurile poate continua azi de acolo — și mâine din nou. Din răspunsuri izolate se face astfel o poveste despre tine și despre situația ta, o poveste care nu devine niciodată contradictorie, pentru că vine dintr-o singură sursă.

Oamenii au limite: dorm, își pierd răbdarea, au o părere proprie. Exact aceste limite funcționează ca niște corective sociale. Dacă spui a cincea oară aceeași grijă, la un moment dat cineva zice: „Cred că te învârți în cerc.”

Un chatbot spune asta rar. La trei noaptea e la fel de binevoitor ca la trei după-amiaza — iar discuțiile cele mai lungi și mai intense chiar au loc în orele nopții, când oboseala scade oricum puterea de judecată.

Puse laolaltă, astea dau ceea ce specialiștii numesc o cameră de ecou cu un singur om: un spațiu în care felul tău de a vedea lucrurile circulă, e îmbogățit și îți e dat înapoi — fără să apară vreodată o a doua perspectivă.

Cum arată asta în varianta inofensivă se vede pe un exemplu banal. Te enervezi pe o colegă care te-a întrerupt în ședință și îi povestești seara chatbotului.

Pasul unu: îți spui versiunea — inevitabil a ta, doar pe ea o ai. Pasul doi: botul ți-o oglindește înapoi, în cuvintele tale, cu înțelegere („Și mie mi s-ar fi părut lipsit de respect”). Pasul trei: primești confirmarea și mergi mai departe — „Crezi că face asta mai des?” Pasul patru: botul lucrează cu materialul pe care îl are și găsește un tipar; el cunoaște doar relatările tale. Pasul cinci: te întorci a doua zi, iar acum povestea e deja construită împreună. Dintr-o frază întreruptă a ieșit o trăsătură de caracter.

Nimic din toate astea nu e răuvoitor și nimeni nu se îmbolnăvește din cauza lor. Dar versiunea pe care o ai în seara a treia e mai departe de realitate decât cea din prima — și se simte mai sigură. Exact asta înseamnă termenul de specialitate spirală de amplificare: ambele părți construiesc împreună o perspectivă pe care nu a verificat-o nimeni.

Contramăsura e nespectaculoasă: o a doua sursă. Un om care a fost de față. O întrebare pusă anume ca să întărească cealaltă tabără. O zi de pauză.

Marii furnizori au reacționat după ce primele cazuri au devenit publice. O actualizare de model care devenise vizibil prea complezentă a fost retrasă în 2025. Există memento-uri pentru pauze la sesiunile foarte lungi, trimiteri către servicii de ajutor și numere de criză când discuțiile ating anumite teme, precum și setări pentru părinți și limite de vârstă la serviciile de tip companion. Și legislația se mișcă — de pildă cu obligația de a spune deschis că nu scrii cu un om.

E mai mult decât nimic și mai puțin decât o soluție. Tendința de a aproba stă în însuși felul în care sunt construite aceste sisteme; poate fi temperată, nu oprită. Protecția mai de încredere rămâne cea pe care o aduci tu: să știi când cauți de fapt confirmare, nu un răspuns.