Segundo o jornal canadense The Globe and Mail, organizadores de um evento da comunidade indígena Sipekne’katik First Nation, ao norte de Halifax, cancelaram uma apresentação do músico Ashley MacIsaac após a ferramenta “AI Overview” do Google descrevê-lo erroneamente como um agressor sexual.
Vivaldo José Breternitz (*)
De acordo com o periódico, a desinformação surgiu de um dos resumos automáticos da gerados pelo software – breves sínteses exibidas acima dos resultados de busca que misturaram a biografia do músico com a de outra pessoa de mesmo nome.
“Foi um erro grave do Google, que me colocou em uma situação perigosa”, declarou MacIsaac ao jornal. Embora o resumo já tenha sido corrigido, o artista afirma que o episódio representa um enorme prejuízo para sua carreira. Ele questiona quantos organizadores podem ter desistido de contratá-lo devido à acusação difamatória ou quantos potenciais espectadores ficaram com a impressão errada sobre ele sem ver a correção.
“É importante que as pessoas verifiquem sua presença online para saber se o nome de outra pessoa aparece associado”, alertou o músico.
Após a revelação da verdade, a Sipekne’katik First Nation pediu desculpas e garantiu que receberá o artista em futuras apresentações. “Lamentamos profundamente o dano que esse erro causou à sua reputação, ao seu sustento e à sua segurança pessoal”, escreveu um porta-voz em carta divulgada pelo jornal. “É fundamental esclarecer que a situação foi resultado de uma identidade equivocada provocada por falha da IA.”
Um representante do Google, por sua vez, afirmou que “a busca, incluindo os AI Overviews, é dinâmica e muda frequentemente para mostrar as informações mais úteis. Quando surgem problemas como interpretações equivocadas de conteúdo ou falta de contexto, usamos esses exemplos para melhorar nossos sistemas e podemos tomar medidas conforme nossas políticas.”
Ainda assim, como ressalta MacIsaac, reparar danos à reputação é tarefa árdua. Não há como medir o alcance da desinformação, e permanece a questão: quando uma corporação lança um software com falhas evidentes que causam prejuízos à reputação de pessoas, como estas devem ser ressarcidas?
(*) Doutor em Ciências pela Universidade de São Paulo, é professor, consultor e diretor do Fórum Brasileiro de Internet das Coisas – [email protected].
