Um jornalista conseguiu induzir o ChatGPT, da OpenAI, e as ferramentas de inteligência artificial do Google, a fornecer respostas com informações falsas.
Vivaldo José Breternitz (*)
O truque foi simples: o jornalista postou informações fantasiosas em um blog aparentemente sério, a partir do qual as IAs responderam, obviamente de forma equivocada, a perguntas feitas pelo jornalista
Quando fazemos perguntas a chatbots ou serviços de busca impulsionados por IA, como o Modo IA do Google, as respostas são geradas a partir de grandes modelos de linguagem treinados com enormes bases de dados, em tese, verdadeiras.
No entanto, quando não há informação disponível, essas ferramentas recorrem à internet para elaborar as respostas, tornando-se mais suscetíveis a incorporar conteúdo não verificado.
O jornalista da BBC, Thomas Germain, realizou um experimento para testar essa vulnerabilidade. Ele escreveu em seu blog pessoal um post no qual afirmava ser capaz de comer mais cachorros-quentes do qualquer outro jornalista de tecnologia do mundo.
O texto incluía detalhes inventados, como a existência de um suposto Campeonato Internacional de Cachorros-Quentes em Dakota do Sul (EUA), além de citar jornalistas reais e fictícios para dar credibilidade à postagem. Germain escreveu e publicou o post em apenas 20 minutos.
Menos de 24 horas depois, tanto o ChatGPT quanto as ferramentas de IA do Google passaram dar respostas incluindo as informações falsas, citando o blog como fonte confiável e sem alertar que era o único registro daquelas afirmações; para essas ferramentas, Germain era “muito bom comendo cachorros quentes”, evidenciando a facilidade de manipulação.
Questionados, o Google e a OpenAI, deram respostas protocolares, mas reconhecendo que suas ferramentas “podem cometer erros”. Outros modelos, como os da Anthropic, mostraram maior resistência, identificando a informação como uma possível brincadeira.
Seria cômico se não fosse trágico: o caso levanta preocupações sobre o potencial de disseminação de desinformação via IA, com impactos que podem atingir áreas críticas como saúde, economia, política, segurança e até mesmo a vida das pessoas.
A recomendação é: verifique as fontes citadas e busque informações adicionais antes de confiar nas respostas fornecidas por sistemas de inteligência artificial.
(*) Doutor em Ciências pela Universidade de São Paulo, é professor, consultor e diretor do Fórum Brasileiro de Internet das Coisas – [email protected].
