De maneira simples, podemos chamar de deep fakes os vídeos e áudios criados com o uso de inteligência artificial que trazem informações falsas.
Vivaldo José Breternitz (*)
Há muito tempo deep fakes vem sendo criadas, mas ferramentas como o ChatGPT, DALL-E e similares estão permitindo que falsificações mais sofisticadas sejam criadas de maneira mais fácil, consequentemente aumentando a probabilidade da ocorrência de problemas graves derivados de sua disseminação.
Um problema desse tipo ocorreu há alguns dias, quando uma imagem falsa de uma explosão ocorrida no Pentágono circulou pelas redes sociais; a imagem era claramente fabricada, mas isso não impediu que vários portais de notícias a divulgassem.
A polícia recebeu diversas comunicações de pessoas que acreditavam que outro ataque como o feito às Torres Gêmeas estivesse em andamento; o caos que se seguiu provocou um breve choque no mercado de ações.
Tudo se esclareceu rapidamente, mas o fato deixou claro que as consequências poderiam ter sido muito graves, justificando os trabalhos que startups e grandes empresas que atuam na área de inteligência artificial vem desenvolvendo para criar ferramentas eficazes para detecção de deep fakes.
Alguns desses esforços estão sendo feitos há anos, mas o crescimento muito rápido de ferramentas de inteligência artificial generativa despertou o senso de urgência de muitos, levando a mais investimentos e esforços no sentido de encontrar formas para detectar mais facilmente falsificações como essas.
Algumas empresas, como a startup Optic e o FakeCatcher da Intel, estão se voltadas ao desenvolvimento de ferramentas que permitam identificar áudios e vídeos falsos, enquanto outras, como a Fictitious.AI, estão concentrando seus esforços em tecnologia que permita identificar textos gerados por chatbots.
Profissionais da área acreditam que essas ferramentas podem trazer algum grau de segurança, mas é oportuno lembrar que os criminosos estão sempre um passo à frente.
(*) Doutor em Ciências pela Universidade de São Paulo, é professor, consultor e diretor do Fórum Brasileiro de Internet das Coisas.