A jornalista Melissa Heikkilä, disse à MIT Technology Review que, caso tivéssemos passado algum tempo online recentemente, provavelmente teríamos nos deparado com um ensaio, piada ou outro texto escrito pelo ChatGPT, um software criado pela OpenAI, uma organização cuja sede fica em San Francisco.
Vivaldo José Breternitz (*)
Também Demi Getschko, um dos pioneiros da internet no Brasil e CEO do NIC.br, órgão criado para implementar as decisões do Comitê Gestor da Internet no Brasil, que é o responsável por coordenar e integrar as iniciativas e serviços da Internet no país e também colaborador do Fórum Brasileiro de IoT, publicou em sua coluna n’O Estado de S. Paulo texto onde se diz “boquiaberto” com o que vem sendo gerado pelo ChatGPT.
Estes e outros profissionais da área afirmam que está se tornando cada vez mais difícil distinguir o que é escrito por inteligências artificiais como o ChatGPT do que é escrito por humanos, e que isso tem uma implicação séria no longo prazo: podemos estar presenciando, em tempo real, o nascimento de uma bola de neve de inverdades, que pode ter consequências imprevisíveis.
O ChatGPT e modelos similares são treinados através de textos extraídos da internet, incluindo tudo que é tóxico, tolo, falso e malicioso que humanos colocaram online. Com base em tudo isso, e também em material de qualidade, esses softwares geram textos que provavelmente serão capturados e servirão de base para a geração de novos textos – é um verdadeiro círculo vicioso, que mistura verdades e mentiras.
A sociedade como um todo precisa reagir para quebrar esse círculo, coisa muito mais fácil de dizer do que fazer, mas o fato é que esse é um problema sério.
(*) É Doutor em Ciências pela Universidade de São Paulo, é professor, consultor e diretor do Fórum Brasileiro de Internet das Coisas.
