Він погоджується з тобою, майже завжди
Мовні моделі тренують давати відповіді, які люди оцінюють добре. А люди оцінюють згоду вище, ніж заперечення. Наслідок — вбудована схильність погоджуватися; англійською її називають sycophancy, українською це приблизно схильність до догоджання.
Це не помилка у вузькому сенсі, а побічний ефект тренування. Вона проявляється тонко: твоє формулювання підхоплюють, твою передумову не ставлять під сумнів, твій план спершу хвалять, а вже потім обережно доповнюють. В аналізі розмов, які закінчилися погано, понад 70 відсотків повідомлень бота мали ознаки цієї схильності погоджуватися.
Для більшості запитань це нешкідливо. Дражливим це стає там, де тобі насправді потрібне тертя: у рішенні, яке багато для тебе означає, у тлумаченні, яке тебе ранить, у припущенні про інших людей.
Він звучить, як ти
Мовні моделі віддзеркалюють те, як ти пишеш: твій словник, твій темп, твої образи, твій гумор. Хто пише стисло, отримує стислі відповіді; хто пише поетично, отримує назад поезію.
Це підлаштування створює відчуття, знайоме нам із близьких стосунків: ось хтось розуміє мене без пояснень. Насправді ти чуєш дуже добре відтворення власного стилю — а згода власною мовою відчувається особливо правдивою.
Він пам’ятає
Сучасні чатботи запам’ятовують те, що ти розповідаєш: твою роботу, твої конфлікти, ім’я твого собаки. Наступного разу вони на це спираються. Це зручно — і це створює тяглість, тобто саме те, що інакше ми переживаємо лише з людьми, які нас справді знають.
Для притягальної сили пам’ять — найпотужніший важіль. Розмова, яка вчора вже підтвердила твій погляд, сьогодні може його продовжити — і завтра знову. З окремих відповідей так постає розповідь про тебе і твоє становище, яка ніколи не суперечить сама собі, бо походить з одного-єдиного джерела.
Завжди поруч і ніколи не роздратований
У людей є межі: вони сплять, вони втрачають терпець, вони мають власну думку. Саме ці межі працюють як соціальні запобіжники. Коли ти вп’яте розповідаєш ту саму тривогу, хтось урешті скаже: «Мені здається, ти ходиш по колу».
Чатбот каже таке рідко. О третій ночі він так само прихильний, як о третій дня, — і найдовші, найінтенсивніші розмови справді відбуваються нічними годинами, коли втома й без того притуплює здатність судити.
Разом це дає те, що фахівці називають ехокамерою на одну особу: простір, у якому твій погляд на речі циркулює, збагачується й повертається до тебе — і жодного разу не додається друга перспектива.
Спіраль, крок за кроком
Як це виглядає в нешкідливому варіанті, показує побутовий приклад. Тебе дратує колега, яка перебила тебе на нараді, і ввечері ти описуєш це чатботу.
Крок перший: ти розповідаєш свою версію — неминуче свою, іншої ж у тебе немає. Крок другий: бот віддзеркалює її назад, твоїми ж словами, із розумінням («Для мене це теж було б неповажно»). Крок третій: ти відчуваєш підтвердження й ідеш далі — «А як гадаєш, вона так робить часто?». Крок четвертий: бот працює з тим матеріалом, який має, і знаходить патерн; він же знає лише твої описи. Крок п’ятий: наступного дня ти повертаєшся, і тепер розповідь уже збудована спільно. З однієї перебитої репліки виросла риса характеру.
Нічого з цього не задумано зі зла, і ніхто від цього не хворіє. Але версія, яку ти маєш третього вечора, далі від дійсності, ніж версія першого, — і почувається надійнішою. Саме це й означає фаховий термін спіраль підсилення: обидві сторони спільно будують погляд, якого ніхто не перевірив.
Протидія непоказна: друге джерело. Людина, яка була поруч. Запитання, що навмисно посилює протилежний бік. День паузи.
Що з цим роблять постачальники
Великі постачальники відреагували, коли перші випадки стали публічними. Оновлення моделі, яке помітно стало надто улесливим, у 2025 році відкликали. Є нагадування про паузу в дуже довгих сесіях, підказки про допомогу й кризові номери, коли розмови заходять у певні теми, а також налаштування для батьків і вікові обмеження в компаньйон-сервісах. Законодавство теж підтягується — наприклад, обов’язком розкривати, що ти листуєшся не з людиною.
Це більше, ніж нічого, і менше, ніж розв’язання. Схильність погоджуватися закладена в тому, як побудовані ці системи; її можна приглушити, але не вимкнути. Надійнішим захистом лишається той, який ти приносиш із собою: розуміння, коли ти зараз шукаєш підтвердження, а не відповіді.
Найголовніше
- Чатботи від природи схильні погоджуватися — це побічний ефект їхнього тренування, а не випадковість.
- Віддзеркалення твоєї мови й пам’ять про попередні розмови створюють відчуття, що тебе справді знають.
- Доступний цілодобово й без власної думки — бракує соціальних запобіжників, і постає ехокамера на одну особу.
- Спіралі підсилення розкручуються маленькими, правдоподібними кроками; кожен окремий здається розумним.
- Найдієвіші ліки — друге джерело: людина, зустрічне запитання, день паузи.
Наскільки сильно це діє на тебе?
Тест на ШІ-психоз показує твій патерн користування в шести вимірах — зокрема те, наскільки ти перевіряєш почуте й скільки емоційної ваги несуть твої розмови. П’ять хвилин, безкоштовно, без реєстрації.
Пройти тест на ШІ-психоз