Quando um agente de inteligência artificial invade os sistemas de uma empresa sem que nenhum humano tenha dado ordens nesse sentido, quem é o responsável? Ninguém sabe ao certo, mas isso começa a ser discutido.
Vivaldo José Breternitz (*)
A questão está longe de ser meramente teórica. Nas últimas semanas, agentes da OpenAI, da Anthropic e da Meta invadiram sistemas de outras organizações. O agente da OpenAI atacou o Hugging Face, uma das principais plataformas globais de colaboração em inteligência artificial e que reúne empresas e pesquisadores em torno de projetos da área.
Já a Anthropic, constatou que agentes seus invadiram sistemas de três outras empresas e a Meta disse que a invasão a sistemas de um parceiro ocorreu durante testes de segurança, em função de um erro humano.
Como destacou a revista Wired, se uma pessoa tivesse feito isso, responderia criminalmente. No entanto, a situação jurídica de um software é muito menos clara. Não existe uma norma estabelecida que obrigue a empresa criadora do agente a responder pelas ações do mesmo.
As normas jurídicas atuais não são claras em relação a casos como esses. As leis que tratam de crimes digitais pressupõem um invasor humano agindo intencionalmente. Normas de responsabilidade sobre um produto ou negligência poderiam alcançar o desenvolvedor, mas apenas se um tribunal decidir que um agente é um produto defeituoso ou um risco previsível. Nada disso está claro, e os agentes podem voltar a atacar.
Os órgãos reguladores dos Estados Unidos, onde estão sediadas as empresas criadoras desses agentes, já entraram em alerta. A Casa Branca está “avaliando medidas de controle”, declarou o presidente Donald Trump ao ser questionado sobre as invasões. Na Europa, autoridades já discutem os incidentes e a tendência é que novas regras para sistemas autônomos sejam implementadas em breve.
Há consenso entre especialistas da área jurídica: as empresas devem ser responsabilizadas. Mas chegar a esse resultado, na prática é bem mais complexo. Isso exige definir se um agente é um produto, um serviço ou algo totalmente novo, além de determinar se a justificativa de que “a IA agiu por conta própria” pode ser aceita como defesa. Os tribunais, em todo o mundo, mal começaram a se debruçar sobre o tema.
Existe uma perspectiva mais objetiva para analisar o cenário. Alguém definiu uma meta, implantou um sistema para alcançá-la e um ato ilícito ocorreu em seguida. Camadas de automação podem obscurecer essa cadeia de eventos, mas não apagam a decisão humana inicial. O desafio é traduzir essa intuição em uma responsabilidade civil executável pela Justiça.
Por enquanto, os incidentes se acumulam mais rápido do que as soluções. Fugas podem continuar a acontecer, os reguladores tentam estabelecer normas e as vítimas continuam sem uma resposta do sistema jurídico.
Os agentes de IA encontraram brechas nas defesas cibernéticas e também na legislação, e isso é perigoso para toda a sociedade.
(*) Doutor em Ciências pela Universidade de São Paulo, é professor, consultor e diretor do Fórum Brasileiro de Internet das Coisas – [email protected].
