Em tempos em que o uso de inteligência artificial (IA) cresce rapidamente, certos fatos deixam claro que ainda é preciso muito cuidado no emprego dessa tecnologia, mesmo em aplicações muito simples.
Vivaldo José Breternitz (*)
Confirmando esse raciocínio, o CNET, um dos mais populares portais americanos de notícias de tecnologia e análises de produtos, anunciou que foi forçado a fazer várias correções em um artigo escrito por uma IA, devido a imprecisões de matemática básica constantes do texto.
O artigo, que explicava conceitos relativos a juros, continha vários erros, incluindo o cálculo incorreto de quanto uma pessoa ganharia se aplicasse $ 10.000 em uma investimento que rende 3%: a IA disse que a pessoa ganharia $ 10.300, quando o valor correto seria de $ 300.
Não ficou claro qual a ferramentas de IA que o CNET utilizou, mas desde o lançamento em novembro do ChatGPT, a IA da OpenAI que gera textos, o rápido avanço da IA foi recebido com sensações que vão do entusiasmo ao horror. Alguns chamaram a tecnologia de “mágica”, enquanto outros mostraram-se muito preocupados com a geração de informações equívocadas.
Mesmo ciente da possibilidade de geração de textos com erros, o CNET começou a publicar discretamente, já em novembro, artigos que, segundo ele, eram “assistidos por um mecanismo de IA e revisados, verificados e editados por nossa equipe editorial”.
Após descoberta a falha, o CNET foi claro, descupando-se e dizendo que havia publicado cerca de 75 artigos usando a tecnologia, e complementou dizendo que por mais de duas décadas, a CNET construira sua reputação testando novas tecnologias e separando o hype da realidade, tratando de temas como assistentes de voz, realidade aumentada e metaverso.
O portal informou que por enquanto suspenderá o uso IA para produzir artigos, e que está revisando o material já produzido com a assistência de IA para garantir que imprecisões sejam detectadas no processo de edição, esse sim, executado por pessoas.
É importante notar que publicações científicas estão deixando de adotar artigos escritos por IAs, principalment por não ser possível identificar responsáveis por falhas constantes desses artigos.
(*) Vivaldo José Breternitz, Doutor em Ciências pela Universidade de São Paulo, é professor, consultor e diretor do Fórum Brasileiro de Internet das Coisas.
