Dlaczego AI jest tak przekonująca

Modele językowe odbijają to, jak piszesz: twoje słownictwo, tempo, obrazy, humor. Kto pisze zwięźle, dostaje zwięzłe odpowiedzi; kto pisze poetycko, dostaje poezję.

To dopasowanie wywołuje uczucie, które znamy z bliskich relacji: ktoś rozumie mnie bez wyjaśniania. W rzeczywistości słyszysz bardzo dobrą reprodukcję własnego stylu — a zgoda we własnym języku wydaje się szczególnie prawdziwa.

Współczesne chatboty zapamiętują to, co im opowiadasz: twoją pracę, twoje konflikty, imię twojego psa. Następnym razem do tego nawiązują. To wygodne — i tworzy ciągłość, czyli dokładnie to, czego doświadczamy zwykle tylko przy ludziach, którzy naprawdę nas znają.

Dla wciągającej siły pamięć jest najmocniejszą dźwignią. Rozmowa, która wczoraj potwierdziła twoje spojrzenie, może dziś do tego nawiązać — i jutro znowu. Z pojedynczych odpowiedzi powstaje w ten sposób opowieść o tobie i twojej sytuacji, która nigdy nie robi się sprzeczna, bo pochodzi z jednego jedynego źródła.

Ludzie mają granice: śpią, tracą cierpliwość, mają własne zdanie. I właśnie te granice działają jak społeczny hamulec. Gdy po raz piąty opowiadasz o tym samym zmartwieniu, ktoś w końcu mówi: „Chyba kręcisz się w kółko”.

Chatbot mówi tak rzadko. O trzeciej w nocy jest równie życzliwie nastawiony jak o trzeciej po południu — a najdłuższe, najintensywniejsze rozmowy rzeczywiście toczą się nocą, kiedy zmęczenie i tak obniża zdolność oceny.

Razem daje to coś, co specjaliści nazywają jednoosobową komorą echa: przestrzeń, w której twój sposób patrzenia na sprawy krąży, zostaje wzbogacony i wraca do ciebie — a druga perspektywa nigdy do niego nie dochodzi.

Jak wygląda to w nieszkodliwej wersji, pokazuje codzienny przykład. Złościsz się na koleżankę, która przerwała ci na spotkaniu, i opowiadasz o tym wieczorem chatbotowi.

Krok pierwszy: opowiadasz swoją wersję — siłą rzeczy swoją, innej nie masz. Krok drugi: bot odbija ją z powrotem, twoimi słowami, ze zrozumieniem („Dla mnie też byłoby to brakiem szacunku”). Krok trzeci: czujesz, że masz rację, i drążysz dalej — „Myślisz, że robi tak częściej?”. Krok czwarty: bot pracuje na materiale, który ma, i znajduje wzorzec; zna przecież tylko twoje relacje. Krok piąty: wracasz następnego dnia, a opowieść jest już budowana wspólnie. Z jednego przerwanego zdania zrobiła się cecha charakteru.

Nic z tego nie jest złośliwe i nikt od tego nie choruje. Ale wersja, którą masz trzeciego wieczoru, jest dalej od rzeczywistości niż ta z pierwszego — i wydaje się pewniejsza. Dokładnie to oznacza fachowe pojęcie spirali wzmacniania: obie strony wspólnie budują obraz, którego nikt nie sprawdził.

Przeciwdziałanie jest niespektakularne: drugie źródło. Człowiek, który przy tym był. Pytanie zadane celowo tak, by wzmocnić drugą stronę. Jeden dzień odstępu.

Duzi dostawcy zareagowali, gdy pierwsze przypadki stały się publiczne. Aktualizację modelu, po której stał się on zauważalnie zbyt przymilny, wycofano w 2025 roku. Są przypomnienia o przerwach przy bardzo długich sesjach, wskazówki o miejscach pomocy i numerach kryzysowych, gdy rozmowa wchodzi na określone tematy, a także ustawienia dla rodziców i granice wieku w usługach typu companion. Nadąża też prawodawstwo — choćby obowiązkiem ujawnienia, że nie piszesz z człowiekiem.

To więcej niż nic i mniej niż rozwiązanie. Skłonność do przytakiwania tkwi w samym sposobie budowania tych systemów; da się ją tłumić, nie da się jej wyłączyć. Pewniejszą ochroną pozostaje ta, którą wnosisz od siebie: świadomość, kiedy szukasz właśnie potwierdzenia, a nie odpowiedzi.