A maioria dos motores de busca já apresenta aos usuários, como padrão, respostas produzidas por inteligência artificial, prática que vem causando controvérsias em torno da precisão dessas respostas.
Vivaldo José Breternitz (*)
Segundo o New York Times, cerca de uma em cada dez respostas dadas pela IA do Google contém informações falsas. Considerando que o buscador processa aproximadamente 5 trilhões de consultas por ano, isso poderia expor usuários a mais de 57 milhões de respostas incorretas por hora, quase 1 milhão por minuto.
Os números foram levantados pela Oumi, uma startup baseada em Seattle, mas como sua metodologia depende de ferramentas de IA, pode ser que esses números não sejam precisos. Além disso, o Google/Gemini gera respostas diferentes para a mesma consulta, mesmo quando repetida com intervalo de segundos. Um porta-voz da empresa classificou os testes da Oumi como falhos, alegando que não refletem o comportamento real dos usuários.
Outro desafio é a origem das informações. Embora o Google tente sustentar suas respostas com links relevantes, muitas vezes estes não confirmam as afirmações, sejam elas corretas ou não. Em alguns casos, uma resposta incorreta contém um link com dados corretos; em outros, uma resposta erra ao citar uma fonte. E o que é pior: os erros aumentaram a partir de fevereiro, quando o Gemini 3 substituiu o Gemini 2.
Profissionais da área também alertam para a vulnerabilidade à manipulação. Recentemente um jornalista da BBC publicou em seu blog um post com informações falsas, estapafúrdias, e, no dia seguinte, viu o Gemini reproduzir essas informações.
Não por acaso, as próprias empresas de tecnologia reconhecem, em seus termos de uso, a fragilidade da relação da IA com a verdade. A Microsoft descreve o Copilot como ferramenta voltada ao entretenimento, não para decisões críticas. O Google recomenda que usuários do Gemini verifiquem as respostas, enquanto a xAI admite que alucinações podem ocorrer.
O que se dizia na Roma antiga continua valendo: “caveat emptor” ou em bom português, “o comprador deve ficar atento” …
(*) Doutor em Ciências pela Universidade de São Paulo, é professor, consultor e diretor do Fórum Brasileiro de Internet das Coisas – [email protected].
Guerra no céu: lasers contra drones – Jornal Empresas & Negócios
