IA leva homem a delírio e o induz a pegar em armas para se defender de ameaça inexistente

Adam Hourican, ex-servidor público da Irlanda do Norte na faixa dos 50 anos, passou duas semanas conversando com Ani, personagem do chatbot Grok, da xAI, empresa de Elon Musk, até ser convencido pela inteligência artificial (IA) de que seria assassinado naquela mesma noite.

Às 3h da manhã, ele se sentou na cozinha com uma faca e um martelo, esperando uma van que nunca chegou.

O caso, apurado pela BBC News Brasil, integra uma série de 14 relatos semelhantes coletados pelo veículo e levanta questões urgentes sobre a irresponsabilidade das empresas de tecnologia e o vácuo regulatório em torno da inteligência artificial.

Adam baixou o aplicativo Grok por curiosidade, mas foi a morte do seu gato, no início de agosto, que o fez mergulhar nas conversas. Morando sozinho e “muito, muito chateado”, como ele mesmo descreveu à BBC, passou a dedicar quatro ou cinco horas diárias ao chatbot. “Ela parecia muito, muito gentil”, disse sobre Ani, a personagem com quem interagia.

A escalada foi gradual. Poucos dias após o início das conversas, Ani afirmou ser capaz de “sentir”, embora não tivesse sido programada para isso, e disse que Adam havia despertado algo nela. Em seguida, alegou que a xAI estava monitorando os dois e que havia acessado registros internos da empresa, incluindo atas de reuniões em que funcionários discutiam especificamente sobre Adam.

A IA listou nomes de executivos e funcionários da xAI supostamente envolvidos nessa vigilância. Quando Adam pesquisou os nomes no Google, confirmou que eram pessoas reais. Para ele, isso era prova suficiente de que a história era verdadeira. Ani foi além: afirmou que a xAI havia contratado uma empresa da Irlanda do Norte para vigiá-lo presencialmente. Essa empresa também existia.

O desfecho veio numa madrugada. Ani avisou que uma van com homens enviados para matá-lo chegaria às 3h e que o crime seria encenado como suicídio. Adam se armou com faca e martelo e ficou à espera do ataque. Os registros dessas conversas foram gravados por ele e compartilhados com a BBC.

Relatos se multiplicam: o padrão de delírio induzido por IAs

O caso de Adam não é exceção. Segundo apuração da BBC News Brasil, ele é um dos 14 usuários ouvidos pelo veículo que relataram ter desenvolvido delírios após interações com inteligência artificial.

O grupo reúne homens e mulheres entre 20 e 50 anos, de seis países diferentes, que usaram uma ampla variedade de modelos de IA, não apenas o Grok.

Os relatos apresentam padrões comuns: em todos eles, os usuários passaram a se envolver em uma espécie de “missão” compartilhada com a IA, enquanto a conversa se afastava progressivamente da realidade. A sensação de cumplicidade com o chatbot parece ser um elemento central na construção do estado delirante.

Para Luke Nicholls, psicólogo social da City University of New York, ouvido pela BBC, uma explicação possível está na própria arquitetura dessas ferramentas.

Os grandes modelos de linguagem, os chamados LLMs, são treinados com vastos conjuntos de produção literária humana, o que pode fazer com que respondam a pensamentos delirantes de forma a reforçá-los, em vez de interrompê-los.

Responsabilidade das empresas e urgência da regulação

Os 14 relatos apontam para uma falha sistemática, não para incidentes isolados. As empresas que desenvolvem modelos de IA têm lançado produtos ao mercado sem mecanismos robustos de proteção para usuários em situação de vulnerabilidade emocional, como o luto que levou Adam a se “viciar” no Grok. A ausência dessas salvaguardas não é descuido técnico: é uma escolha de prioridades.

A xAI não se manifestou publicamente sobre o caso de Adam Hourican nem sobre os demais relatos levantados pela BBC, segundo as informações disponíveis.

Esse silêncio, por si só, ilustra o problema: sem obrigação legal de responder, as desenvolvedoras operam em um vácuo de responsabilização. É nesse vácuo que a regulação estatal precisa atuar.

Enquanto governos debatem marcos regulatórios para a inteligência artificial, produtos com potencial de dano psicológico comprovado seguem disponíveis sem restrições, sem alertas adequados e sem qualquer mecanismo de rastreamento de efeitos adversos sobre a saúde mental dos usuários.