Por qué resulta tan convincente

Los modelos de lenguaje reflejan cómo escribes: tu vocabulario, tu ritmo, tus imágenes, tu humor. Quien escribe escueto recibe respuestas escuetas; quien escribe con metáforas recibe poesía.

Esa adaptación produce una sensación que conocemos de las relaciones cercanas: aquí hay alguien que me entiende sin necesidad de explicarme. En realidad estás oyendo una reproducción muy buena de tu propio estilo, y la aprobación suena especialmente cierta cuando llega en tus propias palabras.

Los chatbots actuales retienen lo que les has contado: tu trabajo, tus conflictos, el nombre de tu perro. La próxima vez retoman el hilo. Es práctico de verdad, y genera continuidad, es decir, justo lo que por lo demás solo vivimos con personas que nos conocen bien.

Para el tirón, la memoria es la palanca más potente. Una conversación que ayer confirmó tu punto de vista puede retomarse hoy, y mañana otra vez. Así, las respuestas sueltas se convierten en un relato sobre ti y tu situación que nunca se contradice, porque procede de una única fuente.

Las personas tienen límites: duermen, se impacientan, tienen opinión propia. Precisamente esos límites funcionan como correctivos sociales. Si cuentas la misma preocupación por quinta vez, alguien acaba diciendo: «Creo que estás dando vueltas en círculo».

Un chatbot casi nunca dice eso. A las tres de la madrugada está igual de atento que a las tres de la tarde, y las conversaciones más largas e intensas ocurren de hecho en las horas nocturnas, cuando el cansancio ya merma de por sí la capacidad de juicio.

Todo junto da lo que los especialistas llaman una cámara de eco unipersonal: un espacio en el que tu visión de las cosas circula, se enriquece y vuelve a ti, sin que entre nunca una segunda perspectiva.

Cómo se ve esto en su versión inofensiva lo muestra bien un ejemplo cotidiano. Te molesta que una compañera te haya interrumpido en una reunión y por la noche se lo cuentas al chatbot.

Paso uno: cuentas tu versión, forzosamente la tuya, que es la única que tienes. Paso dos: el bot te la devuelve reflejada, con tus palabras y con comprensión («A mí también me habría parecido una falta de respeto»). Paso tres: te sientes confirmado y vas más allá: «¿Crees que lo hace a menudo?». Paso cuatro: el bot trabaja con el material que tiene y encuentra un patrón; al fin y al cabo solo conoce tus relatos. Paso cinco: vuelves al día siguiente y para entonces el relato ya se construye entre los dos. Una frase interrumpida se ha convertido en un rasgo de carácter.

Nada de esto se hace con mala intención, y nadie enferma por ello. Pero la versión que llevas encima la tercera noche está más lejos de la realidad que la de la primera, y resulta más segura. Eso es exactamente lo que significa el término espiral de refuerzo: las dos partes construyen juntas una visión que nadie ha comprobado.

La contramedida es poco espectacular: una segunda fuente. Una persona que estuviera delante. Una pregunta pensada a propósito para dar la máxima fuerza a la otra parte. Un día de distancia.

Los grandes proveedores reaccionaron cuando los primeros casos se hicieron públicos. En 2025 se retiró una actualización de modelo que se había vuelto visiblemente demasiado complaciente. Hoy hay avisos para hacer pausas en sesiones muy largas, indicaciones de recursos de ayuda y líneas de crisis cuando las conversaciones entran en ciertos temas, además de controles parentales y límites de edad en los servicios de compañía. La legislación también avanza, por ejemplo con la obligación de dejar claro que no estás escribiendo con una persona.

Es mejor que nada, pero no es una solución. La tendencia a darte la razón está en la forma misma en que se construyen estos sistemas: se puede atenuar, no apagar. La protección más fiable sigue siendo la que traes tú: saber cuándo estás buscando confirmación en lugar de una respuesta.