A história se repete: surge uma nova tecnologia, que aparenta ser útil à sociedade e imediatamente surgem criminosos que a utilizam para o mal.
Vivaldo José Breternitz (*)
Há alguns dias, a startup voltada à aplicação de inteligência artificial no campo da fala, ElevenLabs, lançou uma versão experimental de uma plataforma que oferece aos usuários o poder de criar vozes artificiais, totalmente novas, a serem usadas em áudios criados a partir de textos. É uma tecnologia que pode facilitar muito a criação de audiolivros destinados a deficientes visuais, por exemplo.
A voz gerada pode ser também de uma pessoa conhecida, por exemplo de um autor narrando seu livro, mas, apenas alguns dias após a liberação da versão experimental, ela começou a ser utilizada para fins criminosos.
A EleventLabs informou no Twitter que está observando um “número crescente de casos de uso indevido de clonagem de voz” e que está pensando em uma maneira de resolver o problema “implementando proteções adicionais”.
Embora o ElevenLabs não tenha dado mais detalhes, o site de notícias Motherboard encontrou postagens de clipes com vozes geradas que soam como celebridades lendo ou dizendo algo no mínimo questionável, embora não tenha informado que esses clipes foram gerados com a nova ferramenta – há outras no mercado, embora muito menos sofisticadas.
Um clipe, por exemplo, apresentava uma voz que parecia ser a da atriz e ativista Emma Watson lendo um texto do Mein Kampf, livro escrito por Hitler. Outros, postaram clipes de voz que trazem ideias racistas e de apologia à violência.
O portal The Verge testou a plataforma e em segundos criou um áudio em que uma voz, que parecia ser a do presidente Joe Biden, anunciava a invasão da Rússia.
O surgimento desses clipes, não é propriamente uma surpresa, especialmente se levarmos em conta que outras ferramentas já haviam levado também à criação de vídeos falsos, especialmente casos em que materiais pornográficos existentes são alterados para usar rostos de celebridades; a própria Emma Watson já foi vítima de situações como essa.
Estamos diante de mais um caso em que novos tipos de crimes são cometidos e só depois que eles acontecem a sociedade tenta desenvolver defesas contra eles.
Infelizmente, os maus também são criativos.
(*) É doutor em Ciências pela Universidade de São Paulo, é professor, consultor e diretor do Fórum Brasileiro de Internet das Coisas.
