Imagens falsas geradas por inteligência artificial foram responsáveis por uma onda de desinformação online nos últimos meses.
Vivaldo José Breternitz (*)
Agora, o New York Times relata que software que detecta se uma imagem foi gerada por inteligência artificial, uma das melhores ferramentas para combater a disseminação da desinformação, pode ser facilmente enganado, simplesmente adicionando-se textura às imagens geradas por IA – e essa adição pode ser feita de maneira extremamente fácil, utilizando recursos amplamente disponíveis na internet.
O NYT diz que quando há a adição de textura, a probabilidade de o software de detecção identificar a imagem como gerada por IA, cai de 99% para apenas 3,3%.
Para chegar a essa conclusão o NYT testou vários detectores, inclusive o Hive, ferramenta reconhecidamente eficiente, que não conseguiu mais identificar corretamente fotos geradas por IA depois que texturas foram adicionadas a elas.
Dado esse cenário, recomenda-se que software de detecção não seja a única ferramenta utilizada no combate à desinformação gerada pela distribuição de imagens.
É uma situação clássica: os criminosos estão sempre um passo à frente da lei e, nesse caso, o aperfeiçoamento de software detector leva os criminosos a buscarem novas ferramentas para atingir seus objetivos, disse Cynthia Rudin, professora Duke University, ao Times, confirmando uma percepção bastante difundida entre os profissionais da área de segurança cibernética.
As informações do Times chegam em um momento em que a aproximação das eleições americanas aumenta os esforços para produção de desinformação gerada por IA – já se sabe, por exemplo, que a campanha presidencial de Ron DeSantis distribuiu recentemente imagens falsas de Donald Trump e Anthony Fauci.
No Brasil, onde a polarização política anda em níveis elevados, tais fatos tendem a ser mais frequentes, exigindo de todos muita atenção.
(*) Doutor em Ciências pela Universidade de São Paulo, é professor, consultor e diretor do Fórum Brasileiro de Internet das Coisas.
