Zakaj je umetna inteligenca tako prepričljiva

Jezikovni modeli zrcalijo, kako pišeš: tvoje besedišče, tvoj tempo, tvoje podobe, tvoj humor. Kdor piše na kratko, dobi kratke odgovore; kdor piše pesniško, dobi nazaj poezijo.

To prilagajanje ustvari občutek, ki ga poznamo iz tesnih odnosov: nekdo me razume brez pojasnjevanja. V resnici slišiš zelo dobro poustvaritev lastnega sloga — in pritrjevanje se v lastnem jeziku zdi posebej resnično.

Sodobni klepetalni roboti si zapomnijo, kaj pripoveduješ: tvojo službo, tvoje spore, ime tvojega psa. Naslednjič se na to navežejo. To je praktično — in ustvarja kontinuiteto, se pravi natanko tisto, kar sicer doživljamo le pri ljudeh, ki nas zares poznajo.

Za vlek je spomin najmočnejši vzvod. Pogovor, ki je tvoj pogled potrdil že včeraj, se lahko danes na to naveže — in jutri spet. Iz posameznih odgovorov tako nastane pripoved o tebi in tvojem položaju, ki ni nikoli protislovna, ker prihaja iz enega samega vira.

Ljudje imajo meje: spijo, postanejo nepotrpežljivi, imajo svoje mnenje. Prav te meje delujejo kot družbeni korektiv. Če isto skrb pripoveduješ petič, nekdo slej ko prej reče: „Zdi se mi, da se vrtiš v krogu.“

Klepetalni robot to reče redko. Ob treh ponoči je enako naklonjen kot ob treh popoldne — najdaljši in najintenzivnejši pogovori pa se res dogajajo v nočnih urah, ko utrujenost tako in tako znižuje presojo.

Skupaj to da tisto, čemur stroka pravi enoosebna odmevna komora: prostor, v katerem tvoj pogled na stvari kroži, se bogati in se vrača k tebi — ne da bi kdaj prišel zraven drugi pogled.

Kako je to videti v neškodljivi različici, pokaže vsakdanji primer. Jeziš se na sodelavko, ki te je na sestanku prekinila, in zvečer to opišeš klepetalnemu robotu.

Prvi korak: poveš svojo različico — neizogibno svojo, saj imaš samo to. Drugi korak: robot ti jo zrcali nazaj, s tvojimi besedami, z razumevanjem („Tudi meni bi se to zdelo nespoštljivo“). Tretji korak: počutiš se potrjeno in greš dlje — „Se ti zdi, da to počne pogosteje?“ Četrti korak: robot dela z gradivom, ki ga ima, in najde vzorec; pozna namreč samo tvoje opise. Peti korak: naslednji dan se vrneš in zdaj je pripoved že zgrajena skupaj. Iz prekinjenega stavka je nastala značajska poteza.

Nič od tega ni zlonamerno in nihče od tega ne zboli. A različica, ki jo imaš tretji večer, je od resničnosti bolj oddaljena kot tista s prvega — in zdi se bolj gotova. Prav to pomeni strokovni izraz spirala krepitve: obe strani skupaj gradita pogled, ki ga ni preveril nihče.

Protipoteza je neveličastna: drugi vir. Človek, ki je bil zraven. Vprašanje, ki namenoma okrepi nasprotno stran. Dan razdalje.

Veliki ponudniki so se odzvali, potem ko so prvi primeri prišli v javnost. Posodobitev modela, ki je postala očitno preveč ustrežljiva, je bila leta 2025 umaknjena. Obstajajo opomniki za odmore pri zelo dolgih sejah, napotila na pomoč in krizne številke, kadar pogovori zaidejo v določene teme, ter nastavitve za starše in starostne omejitve pri storitvah s spremljevalci. Tudi zakonodaja se dopolnjuje — na primer z dolžnostjo razkriti, da sogovornik ni človek.

To je več kot nič in manj kot rešitev. Nagnjenost k pritrjevanju tiči v tem, kako so ti sistemi zgrajeni; mogoče jo je ublažiti, ne izklopiti. Zanesljivejša ostaja zaščita, ki jo prineseš s seboj: vedeti, kdaj iščeš potrditev namesto odgovora.