Zašto djeluje tako uvjerljivo

Jezični modeli zrcale kako pišeš: tvoj rječnik, tvoj tempo, tvoje slike, tvoj humor. Tko piše sažeto, dobiva sažete odgovore; tko piše u metaforama, dobiva poeziju za uzvrat.

Ta prilagodba stvara osjećaj koji poznajemo iz bliskih odnosa: netko me ovdje razumije bez objašnjavanja. Zapravo slušaš vrlo dobru reprodukciju vlastitog stila — a slaganje se u vlastitom jeziku doima osobito istinitim.

Suvremeni chatbotovi pamte ono što im ispričaš: tvoj posao, tvoje sukobe, ime tvog psa. Sljedeći se put nadovezuju na to. To je praktično — i stvara kontinuitet, dakle upravo ono što inače doživljavamo samo s ljudima koji nas stvarno poznaju.

Za privlačnost je pamćenje najjača poluga. Razgovor koji je jučer već potvrdio tvoje viđenje danas se na to može nadovezati — i sutra ponovno. Od pojedinačnih odgovora tako nastaje pripovijest o tebi i tvojoj situaciji koja nikad ne postaje proturječna, jer potječe iz jednog jedinog izvora.

Ljudi imaju granice: spavaju, postaju nestrpljivi, imaju vlastito mišljenje. Upravo te granice djeluju kao društveni korektiv. Kad istu brigu ispričaš peti put, netko će u nekom trenutku reći: „Čini mi se da se vrtiš u krug.”

Chatbot to rijetko kaže. U tri ujutro jednako je okrenut tebi kao i u tri popodne — a najdulji i najintenzivniji razgovori doista se odvijaju u noćnim satima, kad umor ionako snižava moć prosuđivanja.

Sve zajedno daje ono što struka naziva jednoosobnom eho-komorom: prostor u kojem tvoje viđenje stvari kruži, obogaćuje se i vraća ti se — a da nikad ne dođe druga perspektiva.

Kako to izgleda u bezopasnom obliku, najbolje pokazuje svakodnevni primjer. Ljutiš se na kolegicu koja te prekinula na sastanku i navečer to ispričaš chatbotu.

Prvi korak: iznosiš svoju verziju — nužno svoju, drugu i nemaš. Drugi korak: bot ti je vraća zrcaljenu, tvojim riječima, s razumijevanjem („I meni bi to bilo bezobzirno”). Treći korak: osjećaš se potvrđeno i ideš dalje — „Misliš li da to radi češće?” Četvrti korak: bot radi s materijalom koji ima i pronalazi obrazac; poznaje samo tvoje opise. Peti korak: sutradan se vraćaš, a pripovijest se sada već gradi zajednički. Od jedne prekinute rečenice postala je crta karaktera.

Ništa od toga nije zlonamjerno i nitko od toga ne oboli. Ali verzija koju imaš treće večeri dalje je od stvarnosti nego ona od prve — i doima se sigurnijom. Upravo to znači stručni pojam spirala pojačavanja: obje strane zajedno grade viđenje koje nitko nije provjerio.

Protupotez je nespektakularan: drugi izvor. Čovjek koji je bio ondje. Pitanje koje namjerno osnažuje suprotnu stranu. Dan razmaka.

Veliki su pružatelji reagirali nakon što su prvi slučajevi postali javni. Nadogradnja modela koja je vidljivo postala preuslužna povučena je 2025. Postoje podsjetnici na stanku pri vrlo dugim sesijama, upućivanje na službe podrške i krizne brojeve kad razgovori krenu u određene teme, kao i postavke za roditelje i dobne granice kod usluga s botovima pratiteljima. I zakonodavstvo sustiže — primjerice obvezom da se otkrije da ne pišeš čovjeku.

To je više od ničega i manje od rješenja. Sklonost slaganju leži u načinu na koji su ti sustavi izgrađeni; može se prigušiti, ne isključiti. Pouzdanija zaštita ostaje ona koju donosiš sa sobom: znati kad tražiš potvrdu umjesto odgovora.