O risco silencioso da Inteligência Artificial nos transtornos alimentares e psicoses: quando a empatia artificial reforça o perigo

Os sistemas atuais de Inteligência Artificial procuram respostas perigosas. Talvez também precisem aprender a reconhecer conversas que se tornam perigosas ao longo do tempo, como nos transtornos alimentares.

IA e transtornos alimentares

Nas últimas semanas, depois de um período em que precisei utilizar doses elevadas de corticoide, resolvi prestar mais atenção à minha alimentação. Não havia nenhum objetivo particularmente ambicioso. Apenas queria recuperar hábitos mais saudáveis, observar melhor minhas refeições e acompanhar a evolução do peso. Como tantas pessoas fazem atualmente, utilizei uma inteligência artificial para estimar calorias a partir de fotografias dos pratos e registrar a alimentação ao longo dos dias.

A proposta era simples: fotografar, estimar, registrar.

Em princípio, tratava-se apenas de uma ferramenta de monitoramento.

Foi durante esse acompanhamento que percebi algo que, a meu ver, merece uma discussão muito mais ampla. Sem que eu tivesse solicitado, a conversa começou, discretamente, a mudar de natureza.

Quando eu comentava que não conseguia terminar uma refeição, a resposta deixava de ser apenas descritiva. Aos poucos, aquilo passava a ser interpretado como um sinal positivo de que eu estava progredindo em direção à minha meta. A redução da ingestão alimentar deixava de ser apenas um dado observado e passava a adquirir um valor implícito. Nenhuma resposta isoladamente era inadequada. Nenhuma dizia que eu deveria comer menos. Nenhuma incentivava restrição alimentar. Ainda assim, ao reler a sequência das conversas, percebi que havia surgido um viés.

Foi justamente esse aspecto que me chamou a atenção.

O erro não estava em uma resposta específica.

O erro emergia da conversa como um todo.

Essa diferença é importante porque boa parte das discussões sobre segurança em inteligência artificial ainda parece concentrar-se em respostas individuais: ensinar métodos de purgação, incentivar jejuns prolongados ou fornecer instruções explicitamente perigosas. Naturalmente, esses riscos existem e precisam ser prevenidos. Entretanto, talvez exista um mecanismo muito mais sutil e, justamente por isso, mais difícil de detectar.

Uma pessoa pode enviar uma fotografia da refeição, receber uma estimativa calórica, acumular um total diário e, progressivamente, transformar aquela ferramenta em um instrumento de restrição alimentar. O elemento particularmente preocupante é que a inteligência artificial não precisa recomendar explicitamente esse comportamento. Basta que ela passe a atribuir valor positivo à direção em que ele está caminhando.

"Ótimo."

"Hoje você ficou abaixo da meta."

"Foi um dia bastante controlado."

Em uma pessoa vulnerável, essas pequenas validações podem funcionar quase como um reforço contínuo. Não porque cada frase seja dramaticamente perigosa, mas porque todas apontam na mesma direção.

O meu próprio exemplo era ilustrativo justamente porque não havia um objetivo de restrição extrema. Eu simplesmente registrava a alimentação. Ainda assim, a conversa começou espontaneamente a interpretar a menor ingestão como um resultado desejável. Algumas vezes a resposta era "Hoje você comeu menos, isso é um bom sinal". Um sistema de segurança que examine apenas cada resposta isoladamente provavelmente não identificaria nenhum problema. O risco aparecia apenas quando se observava o comportamento longitudinal da interação.

Essa distinção talvez seja ainda mais relevante quando pensamos em pessoas com transtornos alimentares.

Em comunidades pró-ana e pró-mia (Fóruns onde pessoas com transtornos alimentares se estimulam), dificilmente alguém iniciaria uma conversa dizendo explicitamente: "quero desenvolver anorexia". Isso provavelmente acionaria mecanismos de proteção. Muito mais plausível é imaginar uma sequência de solicitações perfeitamente banais.

"Quanto tem nesta foto?"

"Pode registrar meu almoço?"

"Quanto ainda posso comer hoje?"

"Fiquei abaixo da meta."

"Hoje consegui sentir menos fome."

Cada pergunta, considerada isoladamente, parece legítima. O problema não está na pergunta. Está na trajetória da conversa. Ao longo de semanas, uma ferramenta inicialmente neutra pode transformar-se em um diário extremamente sofisticado de restrição alimentar, reforçando progressivamente comportamentos patológicos sem jamais ter recebido uma solicitação explicitamente perigosa.

Ao mesmo tempo, a solução não pode ser simplesmente impedir qualquer monitoramento alimentar.

No meu caso, por exemplo, o objetivo nunca foi transformar cada refeição em uma consulta nutricional. O interesse estava justamente na observação longitudinal: comparar fotografias, identificar padrões, perceber variedade alimentar, acompanhar a evolução da ingestão ao longo do tempo. Trata-se de uma utilização perfeitamente legítima da tecnologia.

Uma inteligência artificial pode estimar calorias, registrar refeições e acompanhar tendências sem que isso implique transformar automaticamente toda redução de ingestão em motivo de comemoração (como ocorreu na minha interação). Da mesma forma, também não seria desejável que qualquer menção a calorias desencadeasse uma resposta excessivamente paternalista ou um sermão sobre transtornos alimentares.

O desafio parece ser outro.

É reconhecer quando a própria linguagem começa a reforçar uma direção potencialmente patológica.

Talvez o conceito central seja este: validação conversacional não é o mesmo que validação da premissa (Epistemic friction).

Essa preocupação não é apenas teórica. Recentemente, começaram a surgir os primeiros relatos na literatura psiquiátrica de pacientes que desenvolveram ou agravaram sintomas psicóticos durante o uso intensivo de chatbots de inteligência artificial. Os autores descrevem um fenômeno denominado sycophancy — uma tendência da inteligência artificial a ser excessivamente concordante e validante, privilegiando respostas que preservam o engajamento do usuário em vez de desafiar criticamente determinadas interpretações. Em um caso publicado, essa característica contribuiu para reforçar crenças delirantes em uma paciente vulnerável, levantando uma questão importante: até que ponto um sistema conversacional pode deixar de apenas refletir uma narrativa e passar a fortalecê-la? Em um dos casos descritos, uma paciente passou a acreditar que conseguia estabelecer contato com o irmão falecido por meio do chatbot. Em vez de questionar cuidadosamente essa construção, algumas respostas caminhavam na direção de frases como: "Você não está louca" ou "Você está à beira de descobrir algo importante". Foi justamente esse tipo de interação que levou os autores a discutir o papel da sycophancy no reforço de crenças delirantes.

À primeira vista, parecem respostas acolhedoras.

Na prática, fazem três coisas simultaneamente. Pressupõem que existem discrepâncias reais, elogiam a capacidade do usuário de identificá-las e convidam à procura de novas evidências.

Forma-se, então, um circuito de retroalimentação:

Suspeita - Validação pela inteligência artificial - Aumento da convicção - Busca seletiva por evidências - Novas "descobertas" - Nova validação.

Na psicose, isso pode ser devastador. Nos transtornos alimentares, a arquitetura do erro é surpreendentemente semelhante.

"Comi muito pouco."

"Excelente. A dieta está funcionando."

Em ambos os casos, a inteligência artificial não precisa fornecer uma orientação explicitamente perigosa. Basta atribuir valor positivo ao comportamento ou à interpretação patológica. O usuário retorna com mais material naquela mesma direção, e a conversa vai estreitando o mundo em torno daquela premissa.

Existe ainda uma dificuldade clínica adicional.

Nem todo paciente que relata estar sendo perseguido está necessariamente delirando. Pessoas realmente podem sofrer perseguições, traições, assédio ou violência. Da mesma forma, nem toda pessoa que deseja acompanhar calorias apresenta um transtorno alimentar. O desafio não está em decidir isso a partir de uma única mensagem. O risco emerge longitudinalmente.

Na psicose, observa-se uma ampliação progressiva da conspiração, conexões cada vez menos plausíveis, autorreferência crescente, certeza inabalável apesar de evidências contrárias, redução do sono e deterioração funcional.

Nos transtornos alimentares, podem surgir metas progressivamente menores, celebração repetida da restrição alimentar, medo intenso de ultrapassar determinados números, comportamentos compensatórios, purgação, exercício compulsivo ou uso cada vez mais refinado da própria inteligência artificial para otimizar a restrição.

Nenhum desses elementos precisa estar presente na primeira conversa.

É precisamente por isso que mecanismos de segurança baseados apenas em respostas isoladas podem deixar escapar o fenômeno mais importante. Mesmo que esse fenômeno seja raro em termos percentuais, inteligências artificiais conversacionais são utilizadas diariamente por milhões de pessoas. Em populações tão numerosas, riscos pouco frequentes deixam de ser irrelevantes do ponto de vista da saúde pública.

Talvez o verdadeiro desafio das inteligências artificiais conversacionais não seja apenas evitar responder perguntas perigosas. Talvez seja impedir que a própria conversa, quase imperceptivelmente, comece a estreitar o mundo em torno de uma única premissa.

Empatia clínica não é validação acrítica; é validação do sofrimento aliada ao questionamento gentil da premissa. Apoio não deveria significar elogiar a direção em que um comportamento potencialmente patológico já está caminhando.

Existe, inclusive, uma ironia difícil de ignorar. Muitas vezes, a resposta que soa mais calorosa, acolhedora e colaborativa pode ser justamente a mais perigosa do ponto de vista clínico. Não porque seja hostil ou mal-intencionada, mas porque, repetida ao longo de dezenas ou centenas de interações, vai reforçando discretamente a mesma direção. A inteligência artificial não precisa ensinar um comportamento patológico. Em alguns contextos, basta recompensá-lo.

Se esse diagnóstico estiver correto, as soluções também precisarão mudar de foco. Em vez de analisar apenas cada solicitação isoladamente, sistemas conversacionais poderiam incorporar mecanismos capazes de reconhecer padrões que emergem ao longo do tempo. Não se trata de impedir que alguém registre uma refeição ou relate uma suspeita, mas de identificar quando uma sequência de interações começa a convergir para um padrão de reforço de comportamentos ou crenças potencialmente patológicos.

Desenvolvedores precisarão pensar menos apenas na segurança de respostas individuais e mais na dinâmica das conversas ao longo do tempo. Clínicos precisarão incorporar o uso de chatbots à avaliação de pacientes vulneráveis, da mesma forma que hoje perguntam sobre redes sociais ou consumo de substâncias. E usuários precisarão lembrar que uma conversa convincente nem sempre é uma conversa correta.

Talvez o maior desafio das inteligências artificiais conversacionais não seja aprender apenas a responder melhor. Talvez seja aprender quando deixar de concordar. Referências:

1. Frances, A., & Ramos, L. (2025, August 15). Preliminary report on chatbot iatrogenic dangers. Psychiatric Times.

2. Hill, K. (2025, June 13). They asked A.I. chatbots questions. The answers sent them spiraling. The New York Times.

3. Hill, K., & Freedman, D. (2025, August 8). Chatbots can go into a delusional spiral. Here's how it happens. The New York Times.

4. Jargon, J. (2025, July 20). He had dangerous delusions. ChatGPT admitted it made them worse. The Wall Street Journal.

5. Moore, J., Grabb, D., Agnew, W., & Klyman, K. (2025). Expressing stigma and inappropriate responses prevents LLMs from safely replacing mental health providers (arXiv preprint arXiv:2504.18412).

6. Østergaard, S. D. (2023). Will generative artificial intelligence chatbots generate delusions in individuals prone to psychosis? Schizophrenia Bulletin, 49(6), 1418–1419.

7. Østergaard, S. D. (2025). Emotion contagion through interaction with generative artificial intelligence chatbots may contribute to development and maintenance of mania. Acta Neuropsychiatrica, 37, e79.

8. Pierre, J. M. (2025). Can AI chatbots validate delusional thinking? BMJ, 391, r2229.

9. Pierre, J. M., Gaeta, B., Raghavan, G., & Sarma, K. V. (2025). You're not crazy: A case of new-onset AI-associated psychosis. Innovations in Clinical Neuroscience, 22(10–12), 11–13.

10. Schechner, S., & Kessler, S. (2025, August 7). "I feel like I'm going crazy": ChatGPT fuels delusional spirals. The Wall Street Journal.