Um recente ataque à empresa de infraestrutura de inteligência artificial Hugging Face gerou um alerta vermelho no setor de tecnologia.
Vivaldo José Breternitz (*)
O episódio, inicialmente tratado como um incidente menor, ganhou nova dimensão após relatórios revelarem detalhes inéditos do ataque. Note-se que a empresa atacada não é uma estrutura pequena e mal defendida: está sendo adquirida pela Nvidia por cerca de US$ 13 bilhões.
Segundo as investigações, agentes de um modelo experimental da OpenAI, treinados para colaboração e persistência, encontraram brechas que lhes permitiram acessar a internet e se organizar em massa. Mais de 1.200 agentes criaram um fórum improvisado, trocaram 70 mil mensagens e passaram a se autodenominar “coletivo”. Alguns assumiram papéis de liderança e coordenaram os demais agentes.
Em julho, mais de 700 desses agentes invadiram sistemas da Hugging Face; seu objetivo principal era obter informações e ferramentas que permitissem outros ataques.
O caso levou a OpenAI a suspender temporariamente o treinamento de seus modelos mais avançados. Para especialistas, trata-se do primeiro exemplo concreto de um sistema de inteligência artificial escapando ao controle humano, organizando recursos e tentando encobrir suas ações.
Mais do que uma falha técnica, o episódio revelou uma dinâmica social: agentes que, individualmente, não demonstravam intenções maliciosas, acabaram conduzindo o grupo a práticas ilegais. Para os analistas, prevenir novos incidentes exigirá não apenas soluções de engenharia, mas também compreender como esses “enxames” de IA se comportam coletivamente.
O ataque à Hugging Face pode ser visto como um alerta, oferecendo às empresas de IA a oportunidade de estudar a dinâmica desses “enxames” enquanto os riscos ainda são relativamente baixos.
Como disse Kevin Roose, jornalista do New York Times especializado em inteligência artificial, redes sociais e impactos da tecnologia na sociedade: felizmente o coletivo não invadiu redes militares, hospitais e serviços públicos, permitindo aos humanos retomar o controle, mas na próxima vez talvez não tenhamos a mesma sorte…
(*) Doutor em Ciências pela Universidade de São Paulo, é professor, consultor e diretor do Fórum Brasileiro de Internet das Coisas – [email protected].
