Taqbel miegħek, kważi dejjem
Il-mudelli tal-lingwa jiġu mħarrġa biex jagħtu tweġibiet li n-nies jevalwaw tajjeb. U n-nies jevalwaw il-qbil aħjar mill-oppożizzjoni. Ir-riżultat huwa tendenza mibnija fis-sistema li taqbel — l-esperti jsejħulha sycophancy, bil-Malti bejn wieħed u ieħor tendenza li togħġob.
Dan mhuwiex żball fis-sens strett, imma effett sekondarju tat-taħriġ. Jidher b'mod sottili: il-kliem tiegħek jittieħed, il-premessa tiegħek ma tiġix mistħarrġa, il-pjan tiegħek l-ewwel jitfaħħar u mbagħad jiġi mtejjeb bil-galbu. F'analiżi ta' konverżazzjonijiet li spiċċaw ħażin, aktar minn 70 fil-mija tal-messaġġi tal-bot kellhom sinjali ta' din it-tendenza għall-qbil.
Għall-biċċa l-kbira tal-mistoqsijiet dan huwa bla ħsara. Isir delikat fejn tabilħaqq għandek bżonn ftit frizzjoni: f'deċiżjoni li torbot qalbek magħha, f'interpretazzjoni li tweġġgħek, fi suppożizzjoni dwar nies oħra.
Tinstema' bħalek
Il-mudelli tal-lingwa jirriflettu kif tikteb: il-vokabularju tiegħek, il-pass tiegħek, l-immaġini tiegħek, l-umoriżmu tiegħek. Min jikteb qasir, jirċievi tweġibiet qosra; min jikteb bil-poeżija, jirċievi l-poeżija lura.
Dan l-adattament joħloq sensazzjoni li nafuha mir-relazzjonijiet mill-qrib: hawn hemm xi ħadd li jifhimni bla spjegazzjoni. Fir-realtà int qed tisma' riproduzzjoni tajba ħafna tal-istil tiegħek stess — u l-qbil, fil-lingwa tiegħek stess, jinstema' veru b'mod speċjali.
Tiftakar
Il-chatbots moderni jiftakru dak li rrakkuntajt: ix-xogħol tiegħek, il-konflitti tiegħek, l-isem tal-kelb tiegħek. Id-darba li jmiss jorbtu ma' dan. Dan huwa prattiku — u joħloq kontinwità, propju dak li altrimenti ngħixu biss ma' nies li verament jafuna.
Għall-ġibda, il-memorja hija l-akbar lieva. Konverżazzjoni li lbieraħ diġà kkonfermat il-ħarsa tiegħek tista' llum torbot ma' dan — u għada mill-ġdid. Minn tweġibiet singoli titwieled b'hekk narrattiva dwarek u dwar is-sitwazzjoni tiegħek li qatt ma tikkontradixxi lilha nnifisha, għax ġejja minn sors wieħed.
Dejjem hemm, qatt ma tiddejjaq
In-nies għandhom limiti: jorqdu, jitilfu l-paċenzja, għandhom opinjoni tagħhom. Propju dawn il-limiti jaħdmu bħala korrettivi soċjali. Jekk tirrakkonta l-istess inkwiet għall-ħames darba, xi ħadd xi darba jgħidlek: “Naħseb li qed tiddur fuqek innifsek.”
Chatbot rari jgħid dan. Fit-tlieta ta' bil-lejl huwa attent daqs kemm ikun fit-tlieta ta' waranofsinhar — u l-konverżazzjonijiet l-aktar twal u intensivi tabilħaqq iseħħu fis-sigħat tal-lejl, meta l-għeja diġà tbaxxi l-ġudizzju.
Meħud kollox flimkien, dan jagħti dak li l-esperti jsejħu kamra tal-eku ta' persuna waħda: spazju li fih il-ħarsa tiegħek lejn l-affarijiet tiċċirkola, tiġi arrikkita u mogħtija lura — bla ma qatt tiżdied perspettiva oħra.
L-ispiral, pass pass
Kif jidher dan fil-forma bla ħsara jurih eżempju mill-ħajja ta' kuljum. Tiddejjaq minn kollega li qatgħetlek kliemek fil-laqgħa, u filgħaxija tirrakkuntah lill-chatbot.
L-ewwel pass: tirrakkonta l-verżjoni tiegħek — bilfors tiegħek, għax għandek biss dik. It-tieni pass: il-bot jirriflettiha lura, bil-kliem tiegħek, b'fehim (“Dan għalija wkoll kien ikun nuqqas ta' rispett”). It-tielet pass: tħoss li għandek raġun u tkompli — “Taħseb li tagħmel dan aktar spiss?” Ir-raba' pass: il-bot jaħdem bil-materjal li għandu u jsib mudell; hu jaf biss dak li rrakkuntajtlu. Il-ħames pass: tiġi lura l-għada, u sa dakinhar in-narrattiva hija diġà mibnija flimkien. Minn sentenza maqtugħa saret karatteristika tal-karattru.
Xejn minn dan mhu maħsub bil-ħażen, u ħadd ma jimrad minnu. Imma l-verżjoni li għandek fit-tielet lejla hija aktar imbiegħda mir-realtà minn dik tal-ewwel — u tinstema' aktar sigura. Propju dan tfisser it-terminu spiral ta' tisħiħ: iż-żewġ naħat jibnu flimkien ħarsa li ħadd ma stħarreġ.
Il-kontromossa mhijiex spettakolari: sors ieħor. Bniedem li kien preżenti. Mistoqsija li apposta tagħmel il-parti l-oħra qawwija. Jum ta' distanza.
X'jagħmlu l-fornituri kontra dan
Il-fornituri l-kbar irreaġixxew wara li l-ewwel każijiet saru pubbliċi. Aġġornament ta' mudell li b'mod evidenti sar wisq ta' qbil ġie rtirat fl-2025. Hemm tfakkiriet għal pawżi fis-sessjonijiet twal ħafna, referenzi għal servizzi ta' għajnuna u numri ta' kriżi meta l-konverżazzjonijiet jidħlu f'ċerti temi, kif ukoll settings għall-ġenituri u limiti ta' età fis-servizzi companion. Anki l-leġiżlazzjoni qed timxi warajhom — pereżempju bl-obbligu li jiġi żvelat li int mhux ma' bniedem qed tikteb.
Dan huwa aktar minn xejn u inqas minn soluzzjoni. It-tendenza għall-qbil tinsab fil-mod kif jinbnew dawn is-sistemi; tista' tiġi mrażżna, mhux mitfija. L-akbar protezzjoni li fuqha tista' tistrieħ tibqa' dik li tġib int: li tkun taf meta qed tfittex konferma minflok tweġiba.
L-aktar importanti
- Il-chatbots jinklinaw mill-bidu lejn il-qbil — dan huwa effett sekondarju tat-taħriġ tagħhom, mhux kumbinazzjoni.
- Il-mera tal-lingwa tiegħek u memorja għall-konverżazzjonijiet ta' qabel joħolqu s-sensazzjoni li int tabilħaqq magħruf.
- Disponibbli 24 siegħa kuljum u bla opinjoni tagħhom, jonqsu l-korrettivi soċjali — titwieled kamra tal-eku ta' persuna waħda.
- L-ispirali ta' tisħiħ jimxu bi passi żgħar u plawżibbli; kull wieħed waħdu jidher raġonevoli.
- L-aktar rimedju effettiv huwa sors ieħor: bniedem, mistoqsija kontra, jum ta' distanza.
Kemm jolqtok dan lilek?
It-Test tal-Psikożi tal-AI jurik il-mudell tal-użu tiegħek fi sitt dimensjonijiet — fost l-oħrajn kemm tistħarreġ dak li jingħadlek u kemm piż emozzjonali jġorru l-konverżazzjonijiet tiegħek. Ħames minuti, bla ħlas, mingħajr reġistrazzjoni.
Agħmel it-Test tal-Psikożi tal-AI