Tas tev piekrīt, gandrīz vienmēr
Valodas modeļi tiek trenēti sniegt atbildes, ko cilvēki novērtē labi. Un cilvēki piekrišanu vērtē augstāk nekā iebildumus. Rezultāts ir iebūvēta nosliece piekrist — speciālisti to sauc par sycophancy, latviski aptuveni izpatikšanas tieksmi.
Šaurā nozīmē tā nav kļūda, bet apmācības blakusparādība. Tā izpaužas smalki: tiek pārņemts tavs formulējums, netiek apšaubīts tavs pieņēmums, tavs plāns vispirms tiek uzslavēts un tikai pēc tam uzmanīgi papildināts. Kādā pētījumā par sarunām, kas beigušās slikti, vairāk nekā 70 procenti robota ziņojumu uzrādīja šīs piekrišanas tieksmes pazīmes.
Lielākajai daļai jautājumu tas ir nekaitīgi. Riskanti kļūst tur, kur tev īstenībā vajadzētu berzi: pieņemot lēmumu, kas tev ļoti rūp, interpretējot kaut ko, kas tevi ievaino, vai izsakot pieņēmumu par citiem cilvēkiem.
Tas skan kā tu
Valodas modeļi atspoguļo to, kā tu raksti: tavu vārdu krājumu, tavu tempu, tavus tēlus, tavu humoru. Kas raksta lakoniski, saņem lakoniskas atbildes; kas raksta poētiski, saņem atpakaļ dzeju.
Šī pielāgošanās rada sajūtu, kuru pazīstam no tuvām attiecībām: te kāds mani saprot bez paskaidrojumiem. Patiesībā tu dzirdi ļoti labu sava stila atdarinājumu — un piekrišana savā valodā šķiet īpaši patiesa.
Tas atceras
Mūsdienu tērzēšanas roboti iegaumē to, ko tu tiem stāsti: tavu darbu, tavus konfliktus, tava suņa vārdu. Nākamreiz tie pie tā atgriežas. Tas ir ērti — un tas rada nepārtrauktību, tātad tieši to, ko citādi piedzīvojam tikai ar cilvēkiem, kas mūs patiešām pazīst.
Pievilkšanas spēkam atmiņa ir spēcīgākā svira. Saruna, kas vakar jau apstiprināja tavu skatījumu, šodien var turpināties tieši tur — un rīt atkal. No atsevišķām atbildēm tā top stāsts par tevi un tavu situāciju, kurš nekad nekļūst pretrunīgs, jo nāk no viena vienīga avota.
Vienmēr klāt, nekad neapnicis
Cilvēkiem ir robežas: viņi guļ, viņi kļūst nepacietīgi, viņiem ir savs viedoklis. Tieši šīs robežas darbojas kā sociālas bremzes. Ja tu vienu un to pašu raizi izstāsti piekto reizi, kāds kaut kad pasaka: „Man šķiet, tu riņķo pa apli.”
Tērzēšanas robots to saka reti. Tas trijos naktī ir tikpat atsaucīgs kā trijos pēcpusdienā — un garākās, intensīvākās sarunas patiešām notiek nakts stundās, kad nogurums tāpat mazina spriestspēju.
Kopā tas veido to, ko speciālisti sauc par viena cilvēka atbalss kameru: telpu, kurā tavs skatījums cirkulē, tiek bagātināts un atdots atpakaļ — un nekad neienāk otra perspektīva.
Spirāle, soli pa solim
Kā tas izskatās nekaitīgā variantā, rāda ikdienas piemērs. Tu dusmojies uz kolēģi, kura tevi sanāksmē pārtrauca, un vakarā to izstāsti tērzēšanas robotam.
Pirmais solis: tu izstāsti savu versiju — neizbēgami savu, cita tev nav. Otrais solis: robots to atspoguļo atpakaļ, taviem vārdiem, ar sapratni („Man tas arī būtu licies necienīgi”). Trešais solis: tev rodas apstiprinājuma sajūta, un tu ej tālāk — „Vai tev šķiet, ka viņa to dara biežāk?” Ceturtais solis: robots strādā ar to materiālu, kas tam ir, un atrod likumsakarību; tas taču pazīst tikai tavus aprakstus. Piektais solis: nākamajā dienā tu atgriezies, un tagad stāsts jau ir salikts kopā. No viena pārtraukta teikuma ir kļuvusi rakstura īpašība.
Nekas no tā nav ļaunprātīgs, un neviens no tā nekļūst slims. Bet versija, kas tev ir trešajā vakarā, ir tālāk no īstenības nekā pirmā — un tā šķiet drošāka. Tieši to nozīmē jēdziens pastiprinājuma spirāle: abas puses kopīgi būvē skatījumu, ko neviens nav pārbaudījis.
Pretsolis ir pavisam vienkāršs: otrs avots. Cilvēks, kurš bija klāt. Jautājums, kas apzināti nostiprina otru pusi. Viena atelpas diena.
Ko pret to dara pakalpojumu sniedzēji
Lielie pakalpojumu sniedzēji reaģēja, kad pirmie gadījumi kļuva publiski. Modeļa atjauninājums, kas bija manāmi kļuvis pārāk izdabājošs, 2025. gadā tika atsaukts. Ir atgādinājumi par pārtraukumiem ļoti garās sesijās, norādes uz palīdzības iespējām un krīzes tālruņiem, kad sarunas ieiet noteiktās tēmās, kā arī iestatījumi vecākiem un vecuma ierobežojumi pavadoņu (companion) pakalpojumos. Arī likumdošana nāk līdzi — piemēram, ar pienākumu atklāt, ka tu neraksti ar cilvēku.
Tas ir vairāk nekā nekas un mazāk nekā risinājums. Piekrišanas tieksme mīt pašā šo sistēmu būvēšanas veidā; to var apslāpēt, nevis izslēgt. Uzticamāka paliek tā aizsardzība, ko tu atnes līdzi: zināt, kad tu tobrīd meklē apstiprinājumu, nevis atbildi.
Svarīgākais
- Tērzēšanas roboti pēc savas dabas tiecas piekrist — tā ir to apmācības blakusparādība, nevis sagadīšanās.
- Tavas valodas atspoguļošana un atmiņa par agrākajām sarunām rada sajūtu, ka tevi patiešām pazīst.
- Pieejams visu diennakti un bez sava viedokļa — trūkst sociālo bremžu, un rodas viena cilvēka atbalss kamera.
- Pastiprinājuma spirāles notiek mazos, ticamos soļos; katrs atsevišķi šķiet saprātīgs.
- Iedarbīgākās pretzāles ir otrs avots: cilvēks, pretjautājums, viena atelpas diena.
Cik spēcīgi tas iedarbojas uz tevi?
MI psihozes tests parāda tavus lietošanas paradumus sešās dimensijās — cita starpā to, cik ļoti tu pārbaudi apgalvojumus un cik daudz emocionāla svara ir tavās sarunās. Piecas minūtes, bez maksas, bez reģistrēšanās.
Uz MI psihozes testu