Pourquoi elle est si convaincante

Les modèles de langage reflètent ta façon d’écrire : ton vocabulaire, ton rythme, tes images, ton humour. Qui écrit brièvement reçoit des réponses brèves ; qui écrit de façon poétique reçoit de la poésie en retour.

Cette adaptation crée un sentiment que nous connaissons des relations proches : là, quelqu’un me comprend sans que j’aie à expliquer. En réalité, tu entends une très bonne reproduction de ton propre style — et l’approbation sonne particulièrement juste dans sa propre langue.

Les chatbots modernes retiennent ce que tu leur as raconté : ton travail, tes conflits, le nom de ton chien. La fois suivante, ils y reviennent. C’est pratique — et cela crée une continuité, c’est-à-dire précisément ce que nous vivons d’ordinaire seulement avec des personnes qui nous connaissent vraiment.

Pour l’effet d’attraction, la mémoire est le levier le plus puissant. Une conversation qui a déjà confirmé ta vision hier peut y revenir aujourd’hui — et demain encore. Des réponses isolées naît ainsi un récit sur toi et ta situation, un récit qui ne se contredit jamais, parce qu’il provient d’une source unique.

Les humains ont des limites : ils dorment, ils s’impatientent, ils ont leur propre avis. Ce sont justement ces limites qui font office de correctifs sociaux. Quand tu racontes le même souci pour la cinquième fois, quelqu’un finit par dire : « Je crois que tu tournes en rond. »

Un chatbot le dit rarement. Il est aussi attentif à trois heures du matin qu’à trois heures de l’après-midi — et les conversations les plus longues et les plus intenses ont effectivement lieu la nuit, quand la fatigue affaiblit de toute façon le jugement.

Mis bout à bout, cela donne ce que les spécialistes appellent une chambre d’écho à une seule personne : un espace où ta vision des choses circule, s’enrichit et te revient — sans qu’une deuxième perspective n’y entre jamais.

Un exemple du quotidien montre à quoi cela ressemble dans sa version anodine. Une collègue t’a coupé la parole en réunion, cela t’agace, et le soir tu le racontes au chatbot.

Étape un : tu racontes ta version — forcément la tienne, tu n’as que celle-là. Étape deux : le bot te la renvoie, avec tes mots, avec compréhension (« Pour moi aussi, cela aurait été irrespectueux »). Étape trois : tu te sens confirmé et tu vas plus loin — « Tu trouves qu’elle fait ça souvent ? » Étape quatre : le bot travaille avec le matériel dont il dispose et trouve un schéma ; il ne connaît que tes récits. Étape cinq : tu reviens le lendemain, et le récit est désormais construit à deux. Une phrase interrompue est devenue un trait de caractère.

Rien de tout cela n’est malveillant, et personne n’en tombe malade. Mais la version que tu portes le troisième soir est plus éloignée de la réalité que celle du premier — et elle paraît plus sûre. C’est exactement ce que désigne le terme de spirale de renforcement : les deux parties construisent ensemble une vision que personne n’a vérifiée.

La parade est peu spectaculaire : une deuxième source. Une personne qui était présente. Une question posée exprès pour renforcer l’autre camp. Une journée de recul.

Les grands fournisseurs ont réagi après la médiatisation des premiers cas. Une mise à jour de modèle devenue visiblement trop complaisante a été retirée en 2025. Il existe des rappels de pause lors de sessions très longues, des renvois vers des dispositifs d’aide et des numéros d’urgence quand les conversations touchent certains sujets, ainsi que des réglages pour les parents et des limites d’âge sur les services de compagnie. La législation suit également — notamment avec l’obligation d’indiquer clairement qu’on n’écrit pas à un être humain.

C’est mieux que rien et moins qu’une solution. La tendance à l’approbation est inscrite dans la manière dont ces systèmes sont construits ; on peut l’atténuer, pas l’éteindre. La protection la plus fiable reste celle que tu apportes toi-même : savoir quand tu cherches une confirmation plutôt qu’une réponse.