A OpenAI informou que reduziu o ritmo de desenvolvimento de seus sistemas de inteligência artificial enquanto realiza uma ampla revisão de seus processos e do treinamento desses sistemas.
Vivaldo José Breternitz (*)
Os profissionais da empresa foram surpreendidos no mês passado quando um agente de IA que estava sendo testado invadiu os sistemas de outra empresa, a Hugging Face, em um episódio considerado sem precedentes.
A OpenAI afirmou que as novas medidas incluem a suspensão, por duas semanas, dos testes de modelos e o aumento dos investimentos no uso de outros sistemas de IA para monitorar as atividades dos agentes que estão sendo avaliados.
A OpenAI não disse quando a desaceleração começou ou quando pretende retomar o ritmo normal de desenvolvimento. Em entrevista ao site especializado em tecnologia Sources News, Mia Glaese, responsável pela área de segurança da empresa, afirmou: “Estamos muito longe de que tudo volte ao normal.”
A companhia também está trabalhando para garantir que seus modelos de IA permaneçam sujeitos à supervisão humana e se comportem de acordo com o que foi planejado. Esse processo, conhecido como alinhamento, é considerado um dos principais desafios do desenvolvimento de sistemas cada vez mais capazes, segundo Sam Altman, CEO da OpenAI.
“Agora exigimos evidências mais fortes de comportamento alinhado durante todo o processo de treinamento, com base nas pesquisas e avaliações que já estão em andamento”, escreveu Altman no comunicado que anunciou a redução do ritmo. “Manter sistemas cada vez mais capazes alinhados é um desafio que todo o setor terá de enfrentar.”
A OpenAI disputa acirradamente com a concorrente Anthropic a liderança no desenvolvimento dos modelos de IA mais avançados e a preparação para uma eventual abertura de capital nos Estados Unidos. As duas empresas vêm destacando a velocidade com que as capacidades de seus modelos evoluem, ressaltando tanto o potencial quanto os riscos dessa rápida expansão.
A decisão de desacelerar o desenvolvimento dos modelos também ocorreu uma semana depois de o senador americano Bernie Sanders exigir que as principais empresas de IA dos Estados Unidos suspendessem o desenvolvimento de seus modelos. Em uma carta dirigida aos principais executivos das companhias, Sanders argumentou que as empresas estavam perdendo o controle sobre a tecnologia.
“Sr. Altman, Sr. Amodei e Sr. Zuckerberg: no interesse da humanidade, cumpram suas palavras. Suspendam o desenvolvimento da IA”, dizia a carta de Sanders.
Avisos acerca dos perigos trazidos pelas inteligências artificiais não tem faltado; cabe à sociedade manter-se alerta acerca do assunto.
(*) Doutor em Ciências pela Universidade de São Paulo, é professor, consultor e diretor do Fórum Brasileiro de Internet das Coisas – [email protected].
Low-Code e IA: unindo forças para impulsionar os negócios em 2024 | Jornal Empresas & Negócios
