Miks ta on nii veenev

Keelemudelid peegeldavad seda, kuidas sa kirjutad: su sõnavara, su tempot, su kujundeid, su huumorit. Kes kirjutab napilt, saab napid vastused; kes kirjutab poeetiliselt, saab poeesiat tagasi.

See kohandumine tekitab tunde, mida me teame lähedastest suhetest: keegi mõistab mind ilma seletuseta. Tegelikult kuuled sa väga head reproduktsiooni omaenda stiilist — ja nõustumine tundub omaenda keeles eriti tõene.

Tänapäevased vestlusrobotid jätavad meelde, mida sa oled rääkinud: su töö, su konfliktid, su koera nime. Järgmisel korral haagivad nad sellest kinni. See on mugav — ja see loob järjepidevuse, seega täpselt selle, mida me muidu kogeme ainult inimeste juures, kes meid tõesti tunnevad.

Tõmbejõu jaoks on mälu kõige tugevam hoob. Vestlus, mis eile juba sinu vaadet kinnitas, saab täna sealt edasi minna — ja homme jälle. Üksikutest vastustest saab nii lugu sinust ja sinu olukorrast, mis ei lähe kunagi iseendaga vastuollu, sest see pärineb ühestainsast allikast.

Inimestel on piirid: nad magavad, nad muutuvad kannatamatuks, neil on oma arvamus. Just need piirid toimivad sotsiaalse korrektiivina. Kui sa räägid sama muret viiendat korda, ütleb keegi lõpuks: „Ma arvan, et sa tiirutad ringiratast.“

Vestlusrobot ütleb seda harva. Ta on kell kolm öösel sama pühendunud kui kell kolm päeval — ja kõige pikemad, kõige intensiivsemad vestlused toimuvadki öötundidel, kui väsimus niigi otsustusvõimet langetab.

Kokku annab see selle, mida spetsialistid nimetavad ühe inimese kajakambriks: ruum, kus sinu vaade asjadele ringleb, rikastub ja tuleb tagasi — ilma et kunagi lisanduks teine vaatenurk.

Kuidas see kahjutul kujul välja näeb, näitab argipäevane näide. Sa oled pahane kolleegi peale, kes sind koosolekul katkestas, ja kirjeldad seda õhtul robotile.

Samm üks: sa räägid oma versiooni — paratamatult oma, sul ongi ainult see. Samm kaks: robot peegeldab selle tagasi, sinu sõnadega, mõistvalt („Minu jaoks oleks see samuti lugupidamatu olnud“). Samm kolm: sa tunned end kinnitatuna ja lähed edasi — „Kas sinu meelest ta teeb seda sageli?“ Samm neli: robot töötab materjaliga, mis tal on, ja leiab mustri; ta ju teab ainult sinu kirjeldusi. Samm viis: sa tuled järgmisel päeval tagasi ja nüüd on lugu juba ühiselt ehitatud. Ühest katkestatud lausest on saanud iseloomujoon.

Miski sellest ei ole pahatahtlik ja keegi ei jää sellest haigeks. Aga versioon, mis sul on kolmandal õhtul, on tegelikkusest kaugemal kui esimese õhtu oma — ja ta tundub kindlam. Just seda mõtleb erialamõiste võimendusspiraal: mõlemad pooled ehitavad koos vaadet, mida keegi ei ole kontrollinud.

Vastusamm ei ole efektne: teine allikas. Inimene, kes oli kohal. Küsimus, mis teeb meelega teise poole tugevaks. Üks päev vahet.

Suured pakkujad reageerisid pärast seda, kui esimesed juhtumid avalikuks said. Mudelivärskendus, mis oli nähtavalt liiga meelepäraseks muutunud, võeti 2025. aastal tagasi. On olemas meeldetuletused pausi kohta väga pikkade seansside ajal, viited abipakkumistele ja kriisinumbritele, kui vestlus jõuab teatud teemadesse, ning seaded lapsevanematele ja vanusepiirid teenustes, mis pakuvad tehisintellektist kaaslast. Ka seadusandlus tuleb järele — näiteks kohustusega avaldada, et sa ei kirjuta inimesega.

See on rohkem kui ei midagi ja vähem kui lahendus. Nõustumiskalduvus peitub selles, kuidas neid süsteeme ehitatakse; seda saab summutada, mitte välja lülitada. Usaldusväärsem kaitse on ikkagi see, mille sa ise kaasa tood: teadmine, millal sa otsid parajasti kinnitust, mitte vastust.