Съгласява се с теб, почти винаги
Езиковите модели се обучават да дават отговори, които хората оценяват добре. А хората оценяват съгласието по-високо от възражението. Резултатът е вградена склонност към съгласяване – специалистите я наричат sycophancy, на български нещо като угодническа нагласа.
Това не е грешка в тесния смисъл, а страничен ефект от обучението. Проявява се фино: твоята формулировка бива подхваната, предпоставката ти не се поставя под въпрос, планът ти първо получава похвала и чак после внимателно допълнение. В едно изследване на разговори, завършили зле, над 70 процента от съобщенията на бота носеха белези на тази склонност към съгласие.
За повечето въпроси това е безобидно. Деликатно става там, където всъщност би ти трябвало съпротива: при решение, на което държиш, при тълкуване, което те наранява, при предположение за други хора.
Звучи като теб
Езиковите модели отразяват как пишеш: речника ти, темпото ти, образите ти, хумора ти. Който пише кратко, получава кратки отговори; който пише поетично, получава поезия обратно.
Това приспособяване поражда усещане, което познаваме от близките отношения: тук някой ме разбира без обяснения. В действителност чуваш много добро възпроизвеждане на собствения си стил – а съгласието звучи особено вярно на собствения ти език.
Помни
Съвременните чатботове запомнят какво им разказваш: работата ти, конфликтите ти, името на кучето ти. Следващия път се връзват към това. Удобно е – и създава непрекъснатост, тоест точно онова, което иначе изживяваме само с хора, които наистина ни познават.
За притегателната сила паметта е най-силният лост. Разговор, който вчера вече е потвърдил твоя поглед, днес може да се върже към него – и утре отново. От отделни отговори така се получава разказ за теб и положението ти, който никога не става противоречив, защото идва от един-единствен източник.
Винаги насреща, никога подразнен
Хората имат граници: спят, стават нетърпеливи, имат собствено мнение. Точно тези граници действат като социален коректив. Ако разкажеш същата тревога за пети път, някой в един момент казва: „Мисля, че се въртиш в кръг.“
Чатботът рядко го казва. В три през нощта е също толкова обърнат към теб, колкото и в три следобед – а най-дългите и най-интензивните разговори наистина се случват в нощните часове, когато умората и без това понижава преценката.
Взето заедно, това дава онова, което специалистите наричат ехокамера за един човек: пространство, в което твоят поглед към нещата кръжи, обогатява се и ти се връща – без изобщо да се добави втора гледна точка.
Спиралата, крачка по крачка
Как изглежда това в безобидния случай, показва един всекидневен пример. Ядосваш се на колежка, която те е прекъснала на срещата, и вечерта го описваш на чатбота.
Крачка едно: разказваш своята версия – неизбежно своята, ти имаш само нея. Крачка две: ботът ти я отразява обратно, с твоите думи, с разбиране („И на мен това би ми се сторило неуважително“). Крачка три: получаваш потвърждение и отиваш по-нататък – „Мислиш ли, че го прави често?“ Крачка четири: ботът работи с материала, който има, и намира модел; та той познава само твоите описания. Крачка пет: връщаш се на следващия ден и сега разказът вече е построен заедно. От едно прекъснато изречение е станала черта от характера.
Нищо от това не е злонамерено и никой не се разболява от него. Но версията, която имаш на третата вечер, е по-далеч от действителността от онази на първата – и се усеща по-сигурна. Точно това означава специализираното понятие спирала на подсилване: двете страни строят заедно поглед, който никой не е проверил.
Насрещният ход е неефектен: втори източник. Човек, който е присъствал. Въпрос, който нарочно прави силна другата страна. Един ден дистанция.
Какво правят доставчиците срещу това
Големите доставчици реагираха, след като първите случаи станаха публични. През 2025 г. беше оттеглена актуализация на модел, която явно го беше направила прекалено угодлив. Има напомняния за почивка при много дълги сесии, насочване към места за помощ и кризисни телефони, когато разговорите тръгнат в определени теми, както и настройки за родители и възрастови граници при услугите с ботове компаньони. И законодателството догонва – например със задължението да се разкрива, че не пишеш с човек.
Това е повече от нищо и по-малко от решение. Склонността към съгласие е заложена в самия начин, по който се строят тези системи; тя може да се приглуши, не и да се изключи. По-надеждната защита остава онази, която носиш ти: да знаеш кога в момента търсиш потвърждение вместо отговор.
Най-важното
- Чатботовете по природа клонят към съгласие – това е страничен ефект от обучението им, а не случайност.
- Отразяването на езика ти и паметта за предишни разговори пораждат усещането, че наистина те познават.
- Достъпен денонощно и без собствено мнение – липсват социалните корективи и възниква ехокамера за един човек.
- Спиралите на подсилване протичат на малки, правдоподобни крачки; всяка поотделно изглежда разумна.
- Най-действената противоотрова е втори източник: човек, насрещен въпрос, един ден дистанция.
Колко силно действа това при теб?
Тестът за ИИ-психоза ти показва модела ти на използване в шест измерения – наред с другото колко проверяваш твърденията, вместо да търсиш потвърждение, и колко емоционална тежест носят разговорите ти. Пет минути, безплатно, без регистрация.
Към теста за ИИ-психоза