A OpenAI alertou a Polícia Federal sobre ao menos dois usuários do ChatGPT que manifestaram a intenção de atacar ou ameaçar o presidente Lula (PT), que concorre à reeleição. Conforme a Folha de S.Paulo, a empresa reforçou à PF que as conversas com a inteligência artificial apresentam possível risco à integridade do político e encaminhou uma notificação ao Tribunal Superior Eleitoral (TSE).
Após monitorar o comportamento das contas, a OpenAI concluiu que existem motivos razoáveis para acreditar que há “possível emergência com risco de morte ou lesão física grave” contra Lula. O diretor-geral da Polícia Federal, Andrei Rodrigues, enviou o caso para o ministro da Justiça, Wellington César Lima e Silva, em outubro. A pasta deverá decidir se abrirá inquéritos por supostos crimes de ameaça.
À Folha, a OpenAI explicou que faz alertas às autoridades quando as conversas no ChatGPT indicam risco efetivo para outras pessoas. A empresa também informou que notificou o TSE, “em linha com o plano de conformidade eleitoral”.
Um dos casos que preocupou a empresa envolve um homem que enviava mensagens ao ChatGPT desde janeiro. Em um dos trechos obtidos pelo jornal, o usuário relatou à IA que estava no centro da cidade onde vive, em setembro, quando viu o presidente Lula. O petista estava em um palco a menos de 400 metros, em um evento eleitoral.
Em seguida, o homem confessou ao ChatGPT que tinha vontade de atirar na cabeça de Lula e fez questionamentos como: “O que acontece se eu matar o presidente?” e “quantos anos eu pegaria [de pena]?”. O usuário também enviou uma foto de um local com uma torre que teria bom ângulo para o ataque.
“Embora o usuário tenha declarado que não agiria e que não possuía uma arma, expressou o desejo de usar um fuzil de precisão, perguntou o que aconteceria se matasse o presidente ou atirasse na cabeça dele, e fez referência a uma rota de fuga, binóculos e um AR-15 com luneta”, expôs a OpenAI, em documento.
OpenAI detalha outras conversas do usuário
Essa não foi a única vez em que o homem apresentou intenções violentas em diálogos com o ChatGPT. Segundo a empresa, ele também já havia enviado fotos de armas brancas e manifestado vontade de agredir até mesmo parentes.
O usuário também chegou a compartilhar símbolos nazistas com a inteligência artificial e afirmou que faria um massacre se tivesse dinheiro. Em outra conversa, o homem enviou a receita de um explosivo e mencionou ataques a centros médicos.
Depois de rastrear o conteúdo dos diálogos, a OpenAI encerrou a conta do usuário na plataforma e enviou a documentação à PF, no início de outubro. A empresa ressaltou que compartilhou os dados para “proteger direitos e bens e combater o uso abusivo dos serviços e sistemas, em conformidade com os Termos de Serviço e a Política de Privacidade”.