Um episódio recente reforça a necessidade de cautela ao interagir com sistemas de inteligência artificial.
Vivaldo José Breternitz (*)
Uma mulher da Flórida, usando o chatbot Claude da Anthropic como um diário, está sendo processada criminalmente por escrever que planejava atacar a tiros o escritório do xerife. Suas declarações foram revisadas por um humano e encaminhadas à polícia, que deteve a mulher.
De acordo com as autoridades, Carli Michelle Heller, 30 anos, residente em Bonita Springs, registrou em 26 de setembro a intenção de atacar o escritório do xerife; o sistema de segurança do Claude tomou conhecimento do que Heller escrevera e encaminhou o material a um revisor humano que, considerando a ameaça possível de ser verdadeira, acionou a polícia, que deteve a mulher.
A Anthropic disse que compartilha postagens de usuários quando acredita que a divulgação seja necessária para evitar morte ou lesão grave.
Heller foi acusada de cometer crime previsto na legislação da Flórida, que proíbe postar registros escritos ou eletrônicos com ameaças de matar, ferir ou cometer ato de terrorismo.
A Anthropic disse que denunciou a mulher por não pretender correr riscos diante de potenciais ameaças. Recentemente, foi noticiado que a OpenAI está sendo processada pela província de British Columbia, no Canadá, sob alegação de que poderia ter evitado um massacre. Nesse caso, um atirador, Jesse Van Rootselaar, de 18 anos que matou oito pessoas, já havia sido observado pela equipe de segurança da OpenAI por conversas sobre violência armada, mas a empresa não alertou a polícia por não considerar que o caso fosse grave.
Em junho, o estado da Flórida também processou a OpenAI, alegando que o ChatGPT teria contribuído para que crimes fossem cometidos, incluindo o ataque ocorrido em 2025 na Universidade Estadual da Flórida, que deixou dois mortos.
O caso de Heller serve como alerta: o que é digitado em um chatbot pode ter consequências sérias, pois esses sistemas não funcionam como diários privados. Além do Claude, revisores humanos que avaliam o editor de imagens do Microsoft Copilot têm acesso ao material enviado pelos usuários, material esse que inclui conteúdo sexual, perturbador ou potencialmente ilegal; apesar de sua função básica não ser denunciar, mas sim avaliar a precisão das saídas, eles podem acionar alarmes quando julgarem necessário.
O caso serve para nos alertar que essas ferramentas devem ser usadas com muito cuidado.
(*) Doutor em Ciências pela Universidade de São Paulo, é professor, consultor e diretor do Fórum Brasileiro de Internet das Coisas – [email protected].
