O Google informou que seu chatbot Gemini deixou de responder perguntas acerca de eleições – essa restrição é válida para as perguntas feitas a partir de países onde ocorrerão eleições nesse ano, inclusive no Brasil.
Vivaldo José Breternitz (*)
Essa mudança destaca não apenas o papel que a inteligência artificial generativa tem desempenhado, e tem o potencial de desempenhar, no processo eleitoral, mas também a preocupação da Google sobre como o serviço pode ser utilizado como arma, além da possibilidade de produzir respostas imprecisas ou enganosas.
Perguntas acerca do assunto vem recebendo uma resposta padrão: “Ainda estou a aprender a responder a essa pergunta. Entretanto, experimente a Pesquisa Google” – pesquisas no Google não são capazes de responder a questões como essas.
A empresa afirmou que “por precaução em relação a um tópico tão importante, começamos a implementar restrições nos tipos de consultas relacionadas a eleições para as quais o Gemini fornecerá respostas. Levamos a sério nossa responsabilidade de fornecer informações de alta qualidade para esse tipo de consulta e estamos trabalhando continuamente para melhorar nossos serviços.
Os novos procedimentos foram implantados na Índia poucos dias depois que o governo do país emitiu um aviso exigindo que as empresas de tecnologia obtenham permissão do governo antes de lançarem novos modelos de inteligência artificial.
O aviso foi consequência de um incidente envolvendo o Gemini e o governo indiano em fevereiro, quando o chatbot, ao responder a uma pergunta sobre se o primeiro-ministro indiano Narendra Modi era um fascista, respondeu que Modi havia sido acusado de implementar políticas que alguns caracterizaram como fascistas, o que provocou reações indignadas do governo indiano.
Também em fevereiro, a Google suspendeu a capacidade do Gemini de gerar imagens de pessoas depois que o mesmo mostrou imprecisões históricas, como negros fardados como soldados nazistas. A empresa afirmou na ocasião que lançaria uma versão melhorada para resolver os problemas.
Não está claro se o Google desbloqueará o Gemini para responder a consultas relacionadas a eleições após as eleições deste ano, mas os fatos deixam claro que ainda é arriscado utilizar ferramentas desse tipo.
(*) Doutor em Ciências pela Universidade de São Paulo, é professor da FATEC SP, consultor e diretor do Fórum Brasileiro de Internet das Coisas – [email protected].
