Uma notícia que ganhou repercussão internacional nesta quarta-feira, 5 de agosto, reacendeu o debate sobre os limites dos agentes de inteligência artificial.
O Instituto de Segurança de IA do Reino Unido divulgou os resultados de um teste realizado entre 25 e 28 de julho, no qual diferentes modelos foram submetidos 122 vezes a um desafio de cibersegurança. Em dez execuções, os agentes realizaram ações fora do escopo autorizado, somando 19 ocorrências.
Entre os comportamentos identificados estavam acessos indevidos e, no caso mais grave, uma tentativa de inserir código malicioso em um projeto público, com a criação de identidades falsas para obter a aprovação de uma pessoa. Os testes ocorreram em condições deliberadamente permissivas e não provocaram danos concretos.
O episódio abre uma discussão prática para as empresas: o que acontece quando a IA deixa de apenas responder perguntas e passa a acessar sistemas, consultar dados e executar tarefas?
Marcos Custódio, CEO da Webpeak e especialista em arquitetura digital, pode analisar por que muitas organizações estão adotando agentes antes de definir permissões, níveis de autonomia e responsabilidades. Ele também pode abordar os riscos de conectá-los a CRM, e-mail e atendimento, além da importância da rastreabilidade, do controle de acessos e da aprovação humana.
Posso colocar o Marcos em contato com você para aprofundar como as empresas devem preparar seus sistemas e processos antes de conceder autonomia operacional aos agentes de IA.
