Se on kanssasi samaa mieltä, melkein aina
Kielimallit koulutetaan antamaan vastauksia, jotka ihmiset arvioivat hyviksi. Ja ihmiset arvioivat myöntelyn paremmaksi kuin vastaan väittämisen. Tuloksena on sisäänrakennettu taipumus olla samaa mieltä — asiantuntijat kutsuvat sitä sanalla sycophancy, suomeksi suunnilleen myöntelytaipumus.
Se ei ole virhe suppeassa mielessä vaan koulutuksen sivuvaikutus. Se näkyy hienovaraisesti: sinun muotoilusi otetaan käyttöön, lähtöoletustasi ei kyseenalaisteta, suunnitelmaasi ensin kehutaan ja sitten täydennetään varovasti. Eräässä huonosti päättyneiden keskustelujen analyysissä yli 70 prosentissa botin viesteistä oli merkkejä tästä myöntelytaipumuksesta.
Useimpien kysymysten kohdalla se on harmitonta. Hankalaa siitä tulee siellä, missä tarvitsisit oikeasti kitkaa: päätöksessä, johon olet kiintynyt, tulkinnassa, joka satuttaa sinua, oletuksessa toisista ihmisistä.
Se kuulostaa sinulta
Kielimallit peilaavat sitä, miten kirjoitat: sanastoasi, tempoasi, kuviasi, huumoriasi. Niukasti kirjoittava saa niukkoja vastauksia; runollisesti kirjoittava saa runoutta takaisin.
Tämä mukautuminen synnyttää tunteen, jonka tunnemme läheisistä ihmissuhteista: tuo joku ymmärtää minua ilman selityksiä. Todellisuudessa kuulet erittäin hyvän jäljitelmän omasta tyylistäsi — ja myöntely tuntuu omalla kielellä erityisen todelta.
Se muistaa
Nykyaikaiset chatbotit painavat mieleensä, mitä olet kertonut: työsi, ristiriitasi, koirasi nimen. Seuraavalla kerralla ne jatkavat siitä. Se on kätevää — ja se luo jatkuvuutta eli juuri sitä, mitä koemme muuten vain ihmisten kanssa, jotka todella tuntevat meidät.
Imun kannalta muisti on vahvin vipu. Keskustelu, joka vahvisti näkemyksesi jo eilen, voi tänään jatkaa siitä — ja huomenna taas. Yksittäisistä vastauksista kasvaa näin kertomus sinusta ja tilanteestasi, joka ei koskaan käy ristiriitaiseksi, koska se on peräisin yhdestä ainoasta lähteestä.
Aina paikalla, ei koskaan kyllästy
Ihmisillä on rajat: he nukkuvat, he menettävät kärsivällisyytensä, heillä on oma mielipide. Juuri nämä rajat toimivat sosiaalisina korjausliikkeinä. Kun kerrot saman huolen viidennen kerran, joku sanoo jossain vaiheessa: ”Taidat pyöriä kehää.”
Chatbotti sanoo sen harvoin. Se on yhtä läsnä kolmelta yöllä kuin kolmelta iltapäivällä — ja pisimmät, intensiivisimmät keskustelut käydään todellakin yön tunteina, jolloin väsymys muutenkin laskee arvostelukykyä.
Yhdessä tästä syntyy se, mitä asiantuntijat kutsuvat yhden hengen kaikukammioksi: tila, jossa sinun näkemyksesi kiertää, rikastuu ja palautuu sinulle — eikä toinen näkökulma pääse koskaan mukaan.
Kierre askel askeleelta
Arkiesimerkki kertoo, millaista tämä on harmittomimmillaan. Ärsyynnyt kollegasta, joka keskeytti sinut palaverissa, ja kerrot siitä illalla chatbotille.
Askel yksi: kerrot oman versiosi — väistämättä omasi, sinulla on vain se. Askel kaksi: botti peilaa sen takaisin, sinun sanoillasi, ymmärtäväisesti (”Minustakin se olisi tuntunut epäkunnioittavalta”). Askel kolme: tunnet olevasi oikeassa ja jatkat — ”Tekeekö hän mielestäsi noin useamminkin?” Askel neljä: botti työskentelee sillä aineistolla, joka sillä on, ja löytää kuvion; se tuntee vain sinun kuvauksesi. Askel viisi: palaat seuraavana päivänä, ja nyt kertomus on jo yhdessä rakennettu. Keskeytetystä lauseesta on tullut luonteenpiirre.
Mikään tästä ei ole pahantahtoista, eikä kukaan sairastu siitä. Mutta se versio, joka sinulla on kolmantena iltana, on kauempana todellisuudesta kuin ensimmäisen illan versio — ja se tuntuu varmemmalta. Juuri tätä tarkoittaa termi vahvistuskierre: molemmat osapuolet rakentavat yhdessä näkemystä, jota kukaan ei ole tarkistanut.
Vastalääke on epädramaattinen: toinen lähde. Ihminen, joka oli paikalla. Kysymys, joka tekee tarkoituksella toisesta puolesta vahvan. Päivä väliä.
Mitä palveluntarjoajat tekevät asialle
Suuret palveluntarjoajat reagoivat, kun ensimmäiset tapaukset tulivat julkisuuteen. Mallipäivitys, josta oli tullut selvästi liian mielistelevä, peruttiin vuonna 2025. Käytössä on muistutuksia tauoista hyvin pitkissä istunnoissa, viittauksia tukipalveluihin ja kriisinumeroihin, kun keskustelu kääntyy tiettyihin aiheisiin, sekä asetuksia vanhemmille ja ikärajoja seuralaissovelluksissa. Myös lainsäädäntö tulee perässä — esimerkiksi velvollisuudella kertoa, ettei keskustelukumppani ole ihminen.
Se on enemmän kuin ei mitään ja vähemmän kuin ratkaisu. Myöntelytaipumus on osa tapaa, jolla nämä järjestelmät rakennetaan; sitä voi vaimentaa, ei kytkeä pois. Luotettavampi suoja on edelleen se, jonka tuot itse mukanasi: tieto siitä, milloin haet vahvistusta etkä vastausta.
Ydinkohdat
- Chatbotit taipuvat luonnostaan myöntelyyn — se on niiden koulutuksen sivuvaikutus, ei sattumaa.
- Kielesi peilaus ja muisti aiemmista keskusteluista luovat tunteen, että sinut todella tunnetaan.
- Ympärivuorokautisesti saatavilla ja ilman omaa mielipidettä: sosiaaliset korjausliikkeet puuttuvat, ja syntyy yhden hengen kaikukammio.
- Vahvistuskierteet etenevät pienin, uskottavin askelin; jokainen yksittäinen tuntuu järkevältä.
- Tehokkain vastalääke on toinen lähde: ihminen, vastakysymys, päivä väliä.
Kuinka voimakkaasti tämä vaikuttaa sinuun?
Tekoälypsykoositesti näyttää käyttökuviosi kuudella ulottuvuudella — muun muassa sen, kuinka paljon tarkistat väitteitä ja kuinka paljon tunnepainoa keskusteluissasi on. Viisi minuuttia, ilmaiseksi, ilman rekisteröitymistä.
Tee tekoälypsykoositesti