73 views 2 mins

Inteligência artificial e pornografia infantil

em Tecnologia
sexta-feira, 25 de outubro de 2024

O número de imagens e vídeos de agressões sexuais a crianças gerados por inteligência artificial (IA) e disponíveis na internet, tem aumentado de forma assustadora.

Vivaldo José Breternitz (*)

Muitas dessas imagens e vídeos que mostram menores «sendo atacados e maltratados são tão realistas que é quase impossível distingui-los de imagens verdadeiras”, disse em um comunicado a Internet Watch Foundation (IWF, Fundação de Vigilância da Internet), organização que combate o abuso de crianças – fundada em 1996 e baseada no Reino Unido, é a mais importante dessa área em todo o mundo.

A IWF, que havia recebido 70 denúncias de fatos desse tipo entre abril de 2023 e março de 2024, já contabilizou 74 entre abril e setembro deste ano. Quase todas essas imagens e vídeos se encontravam em sites abertos, de fácil acesso para o grande público, sites esses baseados principalmente na Rússia (36%), Estados Unidos (22%) e Japão (11%). Mais de três quartos dessas denúncias foram feitas diretamente à IWF por internautas que viram o material em fóruns ou galerias de fotos e vídeos gerados por IA.

Ainda segundo a IWF, para alcançar o nível de sofisticação dessas fotos e vídeos, o software utilizado para gera-los teve que ser treinado com imagens e vídeos reais de agressões sexuais a menores, o que torna o problema ainda mais sério.

Segundo a jornalista britânica Octavia Sheepshanks, que investiga o tema, essas imagens parecem estar sendo produzidas em escala industrial – seriam pelo menos mil imagens a cada mês.

Esse é um crime muito grave, devendo a sociedade mobilizar-se para combate-lo, garantindo a punição rigorosa daqueles que o cometem.

(*) Doutor em Ciências pela Universidade de São Paulo, é professor, consultor e diretor do Fórum Brasileiro de Internet das Coisas – [email protected].