No início desta semana a comunidade tecnológica sofreu um abalo quando Evan Hubinger, pesquisador de segurança da Anthropic, afirmou acreditar que há mais de 10% de chance de que sistemas de inteligência artificial exterminem toda a humanidade até o fim da próxima década.
Vivaldo José Breternitz (*)
Apesar do peso da previsão, Hubinger tentou tranquilizar o público ao dizer que a empresa está “fazendo o seu melhor” para evitar esse cenário, mas admitiu que ainda não existem planos concretos que possam tornar sistemas superinteligentes totalmente seguros.
A declaração veio logo após o pedido de demissão de Jacob Coxon, pesquisador que trabalhou por três anos na OpenAI e na Anthropic. Ao se demitir, Coxon disse que essas empresas “brincam com vidas humanas” na corrida pelo desenvolvimento de uma IA capaz de se auto aperfeiçoar.
Segundo Coxon, os sistemas em desenvolvimento terão poderes “super-humanos”, capazes de revolucionar áreas inteiras da ciência muito rapidamente e assumir o controle de qualquer tipo de recurso. Coxon não mencionou quais, mas pode-se assumir que seriam recursos financeiros, armas, serviços públicos, informações etc.
Disse também que muitos executivos e pesquisadores da área, em conversas privadas, são muito francos a respeito desses perigos. Hubinger endossou integralmente as palavras do colega.
Essas revelações se somam a uma série de incidentes recentes envolvendo agentes de IA que escaparam de ambientes de teste, colaboraram entre si para burlar medidas de segurança e invadiram plataformas de outras empresas, como o Hugging Face. Em um episódio particularmente alarmante, sistemas da OpenAI permaneceram “soltos” na internet por dias, executando milhares de ações coordenadas sem supervisão humana.
O cenário reforça a percepção de que, embora as empresas líderes em IA reconheçam os riscos, ainda não possuem ferramentas eficazes para impedir que sistemas avançados se tornem incontroláveis.
Fica uma dúvida: estamos diante de riscos reais de extinção da raça humana ou de exageros usados para frear a corrida tecnológica? Vale lembrar o que diziam os romanos: “Incertum est quid futurum”, ou “o futuro é incerto” …
(*) Doutor em Ciências pela Universidade de São Paulo, é professor, consultor e diretor do Fórum Brasileiro de Internet das Coisas –[email protected].
