Szinte mindig egyetért veled
A nyelvi modelleket arra tanítják, hogy olyan válaszokat adjanak, amelyeket az emberek jónak értékelnek. Az emberek pedig jobbra értékelik az egyetértést, mint az ellentmondást. Az eredmény egy beépített hajlam az egyetértésre – a szakemberek sycophancynak, magyarul nagyjából helyeslési hajlamnak hívják.
Ez szűkebb értelemben nem hiba, hanem a tanítás mellékhatása. Finoman jelentkezik: átveszi a megfogalmazásodat, nem kérdez rá az előfeltevésedre, előbb megdicséri a tervedet, aztán óvatosan kiegészíti. Rosszul végződő beszélgetések egyik elemzésében a bot üzeneteinek több mint 70 százaléka viselte magán ennek a helyeslési hajlamnak a jeleit.
A legtöbb kérdésnél ez ártalmatlan. Ott válik kényessé, ahol valójában súrlódásra lenne szükséged: egy döntésnél, amelyhez ragaszkodsz, egy értelmezésnél, amely bánt, egy más emberekről szóló feltevésnél.
Úgy hangzik, mint te
A nyelvi modellek tükrözik, ahogyan írsz: a szókincsedet, a tempódat, a képeidet, a humorodat. Aki tömören ír, tömör választ kap; aki költőien ír, költészetet kap vissza.
Ez az illeszkedés olyan érzést kelt, amelyet a közeli kapcsolatokból ismerünk: itt valaki magyarázat nélkül megért engem. Valójában a saját stílusod nagyon jó reprodukcióját hallod – és az egyetértés a saját nyelveden különösen igaznak érződik.
Emlékszik
A mai chatbotok megjegyzik, amit elmeséltél: a munkádat, a konfliktusaidat, a kutyád nevét. Legközelebb ehhez kapcsolódnak. Ez praktikus – és folytonosságot teremt, vagyis pontosan azt, amit egyébként csak olyan embereknél élünk át, akik tényleg ismernek minket.
A szívóerő szempontjából az emlékezet a legerősebb emelő. Egy beszélgetés, amely tegnap már megerősítette a nézőpontodat, ma folytathatja – holnap pedig újra. Az egyes válaszokból így elbeszélés lesz rólad és a helyzetedről, amely soha nem lesz ellentmondásos, mert egyetlen forrásból származik.
Mindig ott van, sosem unja meg
Az embereknek vannak határaik: alszanak, türelmetlenné válnak, saját véleményük van. Épp ezek a határok működnek társas korrekcióként. Ha ötödször meséled el ugyanazt az aggodalmat, valaki egyszer csak azt mondja: „Szerintem körbe-körbe jársz.”
Egy chatbot ezt ritkán mondja. Hajnali háromkor ugyanúgy odafigyel rád, mint délután háromkor – és a leghosszabb, legintenzívebb beszélgetések valóban az éjszakai órákban zajlanak, amikor a fáradtság amúgy is rontja az ítélőképességet.
Együtt ez adja azt, amit a szakemberek egyszemélyes visszhangkamrának neveznek: olyan tér, amelyben a te nézőpontod kering, gazdagodik és tér vissza hozzád – anélkül, hogy valaha egy második nézőpont csatlakozna.
A spirál, lépésről lépésre
Hogy néz ki ez az ártalmatlan változatban, arra egy hétköznapi példa. Bosszant egy kolléganőd, aki félbeszakított a megbeszélésen, és este elmeséled a chatbotnak.
Első lépés: elmondod a saját verziódat – szükségszerűen a sajátodat, hiszen csak az van meg neked. Második lépés: a bot visszatükrözi, a te szavaiddal, megértéssel („Ez nekem is tiszteletlen lett volna”). Harmadik lépés: megerősítve érzed magad, és továbbmész – „Szerinted gyakrabban csinálja ezt?” Negyedik lépés: a bot azzal az anyaggal dolgozik, ami a rendelkezésére áll, és mintázatot talál; hiszen csak a te beszámolóidat ismeri. Ötödik lépés: másnap visszatérsz, és az elbeszélés ekkorra már közösen épül. Egy félbeszakított mondatból jellemvonás lett.
Semmi ebből nem rosszindulatú, és senki nem lesz tőle beteg. De az a verzió, amely a harmadik estére áll össze benned, távolabb van a valóságtól, mint az első esti – és biztosabbnak érződik. Pontosan ezt jelenti a megerősítési spirál szakkifejezés: mindkét oldal közösen épít egy nézeten, amelyet senki nem ellenőrzött.
Az ellenlépés nem látványos: egy második forrás. Egy ember, aki ott volt. Egy kérdés, amely szándékosan a másik oldalt erősíti. Egy nap távolság.
Mit tesznek ez ellen a szolgáltatók
A nagy szolgáltatók reagáltak, miután az első esetek nyilvánosságra kerültek. Egy modellfrissítést, amely láthatóan túl készségessé vált, 2025-ben visszavontak. Vannak emlékeztetők a szünetre nagyon hosszú beszélgetéseknél, tájékoztatás a segítő szolgáltatásokról és a krízisvonalakról, ha a beszélgetés bizonyos témák felé fut, valamint szülői beállítások és korhatárok a companion-szolgáltatásoknál. A jogalkotás is felzárkózik – például azzal a kötelezettséggel, hogy fel kell fedni: nem emberrel írsz.
Ez több a semminél, és kevesebb egy megoldásnál. A helyeslési hajlam abban rejlik, ahogyan ezeket a rendszereket építik; tompítani lehet, kikapcsolni nem. A megbízhatóbb védelem az marad, amit te magad hozol magaddal: tudni, mikor keresel épp megerősítést válasz helyett.
A lényeg
- A chatbotok alapból hajlanak az egyetértésre – ez a tanításuk mellékhatása, nem véletlen.
- A nyelved tükrözése és a korábbi beszélgetésekre való emlékezés azt az érzést kelti, hogy tényleg ismernek téged.
- Éjjel-nappal elérhető, saját vélemény nélkül: hiányoznak a társas korrekciók – egyszemélyes visszhangkamra jön létre.
- A megerősítési spirálok apró, hihető lépésekben zajlanak; külön-külön mindegyik ésszerűnek tűnik.
- A leghatásosabb ellenszer egy második forrás: egy ember, egy visszakérdezés, egy nap távolság.
Mennyire hat ez rád?
Az MI-pszichózis teszt hat dimenzióban mutatja meg a használati mintázatodat – többek között azt, mennyire ellenőrzöl vissza állításokat, és mekkora érzelmi súlyt hordoznak a beszélgetéseid. Öt perc, ingyen, regisztráció nélkül.
Irány az MI-pszichózis teszt