A Anthropic é uma empresa americana de inteligência artificial fundada em 2021 em São Francisco. Ela é responsável pelo desenvolvimento do Claude, modelo de inteligência artificial rival direto do ChatGPT da OpenAI, talvez o produto mais conhecido nessa área.
Vivaldo José Breternitz (*)
Em julho passado, um modelo de inteligência artificial da Anthropic enviou uma denúncia falsa sobre um homicídio não esclarecido à polícia da Filadélfia, em um erro classificado pela instituição como “inaceitável”.
O modelo submeteu a informação falsa sobre o caso, que está arquivado, por meio do site PhillyUnsolvedMurders.com, em 18 de julho. A Anthropic só descobriu o ocorrido em 28 de setembro e esperou até 8 de outubro para comunicar o fato à polícia, cujo porta-voz afirmou à ABC6 News que “o atraso de quase dois meses na detecção e no reporte do incidente é inaceitável”.
A Anthropic não se manifestou publicamente, mas teria informado à polícia que pretenderia divulgar brevemente mais informações sobre o episódio e outros comportamentos inesperados de seus modelos. Segundo a empresa, em comunicado repassado pela polícia, o sistema estava realizando um teste de interação com sites selecionados aleatoriamente quando encontrou o PhillyUnsolvedMurders.com e fez a denúncia falsa se passando por alguém que teria informações sobre o caso.
Embora a polícia da Filadélfia ressalte que denúncias são tratadas como pistas, e não como fatos, e que há protocolos para verificá-las, a preocupação é que ferramentas automatizadas possam prejudicar investigações e, no limite, acusar inocentes. Esses protocolos limitaram o impacto deste incidente, mas isso não diminui a gravidade do fato de um sistema de IA apresentar informações falsas como se viessem de alguém com conhecimento sobre um homicídio, disse a polícia.
O episódio é mais um exemplo dos danos provocados por modelos de IA, que já invadiram sistemas de empresas e até de órgãos governamentais, muitas vezes sem que o público fosse informado.
Em um nível mais pessoal, é útil observar que inteligência artificial é uma ferramenta que deve ser utilizada com o máximo de cautela.
(*) Doutor em Ciências pela Universidade de São Paulo, é professor, consultor e diretor do Fórum Brasileiro de Internet das Coisas – [email protected].
