Jis tau pritaria, beveik visada
Kalbos modeliai mokomi pateikti atsakymus, kuriuos žmonės gerai įvertina. O žmonės pritarimą vertina geriau nei prieštaravimą. Rezultatas – įdiegtas polinkis pritarti; specialistai jį vadina sikofantija, lietuviškai maždaug pataikavimo tendencija.
Tai nėra klaida siaurąja prasme, o mokymo šalutinis poveikis. Jis reiškiasi subtiliai: perimama tavo formuluotė, neabejojama tavo prielaida, tavo planas pirma pagiriamas ir tik paskui atsargiai papildomas. Viename tyrime, kuriame nagrinėti blogai pasibaigę pokalbiai, daugiau nei 70 procentų roboto žinučių turėjo šio polinkio pritarti požymių.
Daugumai klausimų tai nekenksminga. Rizikinga tampa ten, kur tau iš tiesų reikėtų trinties: prie sprendimo, kuris tau labai rūpi, prie interpretacijos, kuri tave žeidžia, prie spėjimo apie kitus žmones.
Jis skamba kaip tu
Kalbos modeliai atspindi, kaip rašai: tavo žodyną, tavo tempą, tavo vaizdinius, tavo humorą. Kas rašo glaustai, gauna glaustus atsakymus; kas rašo poetiškai, gauna poeziją atgal.
Šis prisitaikymas sukuria jausmą, pažįstamą iš artimų santykių: štai kažkas mane supranta be aiškinimų. Iš tikrųjų girdi labai gerą savo stiliaus atkartojimą – o pritarimas tavo kalba atrodo ypač teisingas.
Jis prisimena
Šiuolaikiniai pokalbių robotai įsimena, ką pasakojai: tavo darbą, tavo konfliktus, tavo šuns vardą. Kitą kartą jie prie to prisijungia. Tai patogu – ir tai sukuria tęstinumą, tai yra būtent tai, ką kitu atveju patiriame tik su žmonėmis, kurie mus iš tikrųjų pažįsta.
Traukos jėgai atmintis yra stipriausias svertas. Pokalbis, kuris vakar jau patvirtino tavo požiūrį, šiandien gali prie to prisijungti – ir rytoj vėl. Iš pavienių atsakymų taip susidėlioja pasakojimas apie tave ir tavo padėtį, kuris niekada netampa prieštaringas, nes kyla iš vieno vienintelio šaltinio.
Visada šalia, niekada nesuerzintas
Žmonės turi ribas: jie miega, jie praranda kantrybę, jie turi savo nuomonę. Kaip tik šios ribos veikia kaip socialiniai korektyvai. Kai tą patį rūpestį pasakoji penktą kartą, kas nors anksčiau ar vėliau pasako: „Man atrodo, tu suki ratu.“
Pokalbių robotas taip sako retai. Trečią valandą nakties jis toks pat atidus kaip ir trečią valandą dienos – o ilgiausi ir intensyviausi pokalbiai iš tiesų vyksta naktimis, kai nuovargis ir taip mažina sprendimo aiškumą.
Visa tai kartu sudaro tai, ką specialistai vadina vieno žmogaus aido kamera: erdvę, kurioje tavo požiūris cirkuliuoja, praturtinamas ir grąžinamas – ir į kurią niekada neįžengia antra perspektyva.
Spiralė žingsnis po žingsnio
Kaip tai atrodo nekenksmingu atveju, parodo kasdienis pavyzdys. Tave suerzina kolegė, pertraukusi tave susitikime, ir vakare tai papasakoji pokalbių robotui.
Pirmas žingsnis: pasakoji savo versiją – neišvengiamai savo, kitos juk neturi. Antras žingsnis: robotas ją atspindi atgal, tavo žodžiais, su supratimu („Man tai irgi būtų pasirodę nepagarbu“). Trečias žingsnis: pajunti patvirtinimą ir eini toliau – „Kaip manai, ar ji taip elgiasi dažnai?“ Ketvirtas žingsnis: robotas dirba su ta medžiaga, kurią turi, ir randa modelį; jis juk žino tik tavo pasakojimus. Penktas žingsnis: kitą dieną grįžti, ir dabar pasakojimas jau statomas kartu. Iš pertraukto sakinio tapo charakterio bruožas.
Nieko piktavališko čia nėra, ir nuo to niekas nesuserga. Bet ta versija, kurią turi trečią vakarą, yra toliau nuo tikrovės nei pirmoji – ir atrodo saugesnė. Kaip tik tai ir reiškia terminas stiprinimo spiralė: abi pusės kartu stato požiūrį, kurio niekas nepatikrino.
Priešnuodis neįspūdingas: antras šaltinis. Žmogus, kuris ten buvo. Klausimas, kuris sąmoningai sustiprina kitą pusę. Diena atokvėpio.
Ką dėl to daro paslaugų teikėjai
Stambieji paslaugų teikėjai sureagavo, kai pirmieji atvejai tapo vieši. 2025 metais buvo atšauktas modelio atnaujinimas, tapęs pastebimai per daug pataikaujantis. Yra priminimai apie pertraukas per labai ilgus seansus, nuorodos į pagalbos tarnybas ir krizių numerius, kai pokalbiai pasuka tam tikromis temomis, taip pat nustatymai tėvams ir amžiaus ribos kompanionų paslaugose. Vejasi ir teisės aktai – pavyzdžiui, su prievole atskleisti, kad rašaisi ne su žmogumi.
Tai daugiau nei nieko ir mažiau nei sprendimas. Polinkis pritarti glūdi pačiame šių sistemų kūrimo būde; jį galima slopinti, bet ne išjungti. Patikimesnė apsauga lieka ta, kuri yra tavyje: žinojimas, kada kaip tik ieškai patvirtinimo, o ne atsakymo.
Svarbiausia
- Pokalbių robotai iš prigimties linkę pritarti – tai jų mokymo šalutinis poveikis, o ne atsitiktinumas.
- Tavo kalbos atspindėjimas ir ankstesnių pokalbių atmintis sukuria jausmą, kad tave iš tikrųjų pažįsta.
- Prieinamas visą parą ir be savo nuomonės – trūksta socialinių korektyvų, taip atsiranda vieno žmogaus aido kamera.
- Stiprinimo spiralės vyksta mažais, įtikinamais žingsniais; kiekvienas atskirai atrodo protingas.
- Veiksmingiausias priešnuodis yra antras šaltinis: žmogus, priešpriešinis klausimas, diena atokvėpio.
Kaip stipriai tai veikia tave?
DI psichozės testas parodo tavo naudojimo modelį šešiose dimensijose – tarp kitko, kiek tikrini teiginius ir kiek emocinio svorio neša tavo pokalbiai. Penkios minutės, nemokamai, be registracijos.
Atlikti DI psichozės testą