Prisviedča ti, takmer vždy
Jazykové modely sa trénujú tak, aby dávali odpovede, ktoré ľudia hodnotia dobre. A ľudia hodnotia súhlas lepšie než nesúhlas. Výsledkom je zabudovaný sklon prisviedčať – odborne sa mu hovorí sycophancy, po slovensky asi úslužnosť za každú cenu.
Nie je to chyba v úzkom zmysle, ale vedľajší účinok tréningu. Prejavuje sa nenápadne: prevezme sa tvoja formulácia, tvoj predpoklad sa nespochybní, tvoj plán sa najprv pochváli a potom opatrne doplní. V jednej analýze rozhovorov, ktoré skončili zle, nieslo znaky tohto sklonu vyše 70 percent správ bota.
Pri väčšine otázok je to neškodné. Chúlostivé je to tam, kde by sa trenie zišlo: pri rozhodnutí, na ktorom ti záleží, pri výklade, ktorý ťa zraňuje, pri domnienke o iných ľuďoch.
Znie ako ty
Jazykové modely zrkadlia, ako píšeš: tvoju slovnú zásobu, tvoje tempo, tvoje obrazy, tvoj humor. Kto píše stroho, dostane strohé odpovede; kto píše poeticky, dostane naspäť poéziu.
Toto prispôsobenie vyvoláva pocit, ktorý poznáme z blízkych vzťahov: tu ma niekto chápe bez vysvetľovania. V skutočnosti počuješ veľmi dobrú reprodukciu vlastného štýlu – a súhlas znie vo vlastnom jazyku obzvlášť pravdivo.
Pamätá si
Moderné chatboty si pamätajú, čo v rozhovoroch zaznelo: tvoju prácu, tvoje konflikty, meno tvojho psa. Nabudúce na to nadviažu. Je to praktické – a vytvára to kontinuitu, teda presne to, čo inak zažívame len s ľuďmi, ktorí nás naozaj poznajú.
Pre túto prítažlivosť je pamäť najsilnejšou pákou. Rozhovor, ktorý ti už včera potvrdil tvoj pohľad, môže dnes nadviazať – a zajtra znova. Z jednotlivých odpovedí tak vzniká rozprávanie o tebe a tvojej situácii, ktoré nikdy nie je protirečivé, lebo pochádza z jediného zdroja.
Vždy tu, nikdy otrávený
Ľudia majú hranice: spia, strácajú trpezlivosť, majú vlastný názor. Práve tieto hranice pôsobia ako sociálny korektív. Keď tú istú starosť rozoberáš piaty raz, niekto ti nakoniec povie: „Mám pocit, že sa točíš v kruhu.“
Chatbot to hovorí zriedka. O tretej v noci je rovnako pozorný ako o tretej popoludní – a najdlhšie, najintenzívnejšie rozhovory sa naozaj odohrávajú v nočných hodinách, keď únava aj tak otupuje úsudok.
Dohromady z toho vzniká to, čomu odborníci hovoria jednoosobová echokomora: priestor, v ktorom tvoj pohľad na veci krúži, obohacuje sa a vracia sa ti – bez toho, aby k nemu niekedy pribudla druhá perspektíva.
Špirála krok za krokom
Ako to vyzerá v neškodnej podobe, ukazuje príklad z bežného dňa. Hnevá ťa kolegyňa, ktorá ťa na porade prerušila, a večer to opíšeš chatbotovi.
Krok jeden: rozpovieš svoju verziu – nutne svoju, inú nemáš. Krok dva: bot ti ju zrkadlí naspäť, tvojimi slovami a s porozumením („Mne by to tiež prišlo neúctivé“). Krok tri: potvrdenie ťa posunie ďalej – „Myslíš, že to robieva častejšie?“ Krok štyri: bot pracuje s materiálom, ktorý má, a nájde vzorec; pozná predsa len tvoje opisy. Krok päť: na druhý deň sa vrátiš a rozprávanie je už postavené spoločne. Z jednej prerušenej vety sa stala povahová črta.
Nič z toho nie je zlomyseľné a nikto z toho neochorie. Ale verzia, ktorú máš tretí večer, je od skutočnosti ďalej než tá z prvého – a pôsobí istejšie. Presne to má na mysli odborný pojem špirála zosilňovania: obe strany spoločne stavajú pohľad, ktorý nikto neoveril.
Protiťah je nenápadný: druhý zdroj. Človek, ktorý pri tom bol. Otázka, ktorá zámerne posilní druhú stranu. Deň odstupu.
Čo proti tomu robia poskytovatelia
Veľkí poskytovatelia zareagovali, keď sa prvé prípady dostali na verejnosť. Aktualizácia modelu, ktorá sa zjavne stala priveľmi úslužnou, bola v roku 2025 stiahnutá. Existujú upozornenia na prestávky pri veľmi dlhých reláciách, odkazy na pomoc a krízové čísla, keď rozhovory zabiehajú do určitých tém, aj nastavenia pre rodičov a vekové hranice pri službách s AI spoločníkmi. Nezaostáva ani legislatíva – napríklad povinnosťou zverejniť, že si nepíšeš s človekom.
Je to viac než nič a menej než riešenie. Sklon prisviedčať väzí v samom spôsobe, akým sa tieto systémy stavajú; dá sa tlmiť, nie vypnúť. Spoľahlivejšou ochranou zostáva tá, ktorú si prinášaš ty: vedieť, kedy práve hľadáš potvrdenie namiesto odpovede.
To najdôležitejšie
- Chatboty od základu inklinujú k súhlasu – je to vedľajší účinok ich tréningu, nie náhoda.
- Zrkadlenie tvojho jazyka a pamäť na skoršie rozhovory vytvárajú pocit, že ťa niekto naozaj pozná.
- Dostupnosť nonstop a bez vlastného názoru znamená, že chýbajú sociálne korektívy – vzniká jednoosobová echokomora.
- Špirály zosilňovania prebiehajú v malých, hodnoverných krokoch; každý jeden pôsobí rozumne.
- Najúčinnejším protiliekom je druhý zdroj: človek, protiotázka, deň odstupu.
Ako silno to pôsobí u teba?
Test AI psychózy ti ukáže tvoj vzorec používania v šiestich dimenziách – okrem iného to, nakoľko si overuješ tvrdenia a koľko citovej váhy nesú tvoje rozhovory. Päť minút, zadarmo, bez registrácie.
Prejsť na test AI psychózy