Porque é tão convincente

Os modelos de linguagem espelham a maneira como escreves: o teu vocabulário, o teu ritmo, as tuas imagens, o teu humor. Quem escreve de forma seca recebe respostas secas; quem escreve com metáforas recebe poesia de volta.

Essa adaptação produz uma sensação que conhecemos das relações próximas: aqui há alguém que me percebe sem eu ter de explicar. Na verdade, o que estás a ouvir é uma reprodução muito boa do teu próprio estilo — e a concordância soa especialmente a verdade quando chega na tua própria língua.

Os chatbots modernos guardam o que lhes contaste: o teu trabalho, os teus conflitos, o nome do teu cão. Da próxima vez, pegam no fio onde ele ficou. Isso é prático — e cria continuidade, ou seja, exatamente aquilo que de resto só vivemos com pessoas que nos conhecem mesmo.

Para a atração, a memória é a alavanca mais forte de todas. Uma conversa que ontem já confirmou a tua visão pode hoje continuar a partir daí — e amanhã outra vez. Respostas soltas transformam-se assim numa narrativa sobre ti e sobre a tua situação, uma narrativa que nunca se contradiz, porque vem toda de uma única fonte.

As pessoas têm limites: dormem, ficam impacientes, têm opinião própria. São precisamente esses limites que funcionam como corretivos sociais. Se contas a mesma preocupação pela quinta vez, mais tarde ou mais cedo alguém diz: «Acho que estás a andar às voltas.»

Um chatbot raramente diz isso. Está tão disponível às três da manhã como às três da tarde — e as conversas mais longas e mais intensas acontecem mesmo pela noite dentro, quando o cansaço já baixou a capacidade de julgar.

No conjunto, isto dá aquilo a que os especialistas chamam uma câmara de eco de uma só pessoa: um espaço onde a tua visão das coisas circula, é enriquecida e te é devolvida — sem que alguma vez entre uma segunda perspetiva.

Um exemplo do dia a dia mostra como isto se passa na versão inofensiva. Estás chateado com uma colega que te interrompeu na reunião e, à noite, contas o caso ao chatbot.

Passo um: contas a tua versão — obrigatoriamente a tua, é a única que tens. Passo dois: o bot devolve-ta espelhada, com as tuas palavras, com compreensão («Para mim também teria sido desrespeitoso»). Passo três: sentes-te confirmado e vais mais longe — «Achas que ela faz isso muitas vezes?» Passo quatro: o bot trabalha com o material que tem e encontra um padrão; afinal só conhece os teus relatos. Passo cinco: voltas no dia seguinte e, a esta altura, a narrativa já está a ser construída em conjunto. Uma frase interrompida transformou-se num traço de carácter.

Nada disto é feito por mal, e ninguém adoece com isto. Mas a versão que carregas à terceira noite está mais longe da realidade do que a da primeira — e parece mais segura. É exatamente isso que o termo espiral de reforço quer dizer: os dois lados a construírem em conjunto uma visão que ninguém verificou.

A contramedida é pouco espetacular: uma segunda fonte. Uma pessoa que estava lá. Uma pergunta feita de propósito para tornar o outro lado o mais forte possível. Um dia de distância.

Os grandes fornecedores reagiram assim que os primeiros casos se tornaram públicos. Uma atualização de modelo que se tinha tornado visivelmente demasiado agradável foi revertida em 2025. Há agora lembretes para fazer pausas em sessões muito longas, indicações de apoios e de linhas de crise quando as conversas entram em determinados temas, além de definições para pais e limites de idade nos serviços de companhia. A legislação também está a acompanhar — por exemplo, com a obrigação de revelar que não estás a escrever com uma pessoa.

Isto é mais do que nada e menos do que uma solução. A tendência para concordar está na própria maneira como estes sistemas são construídos; pode ser atenuada, não desligada. A proteção mais fiável continua a ser a que trazes contigo: saber quando estás à procura de confirmação em vez de uma resposta.