132 views 3 mins

Criado consórcio para inteligência artificial segura

em Tecnologia
sexta-feira, 23 de fevereiro de 2024

O governo dos Estados Unidos anunciou a criação do “U.S. Artificial Intelligence Institute Consortium”, entidade que reunirá grandes empresas de tecnologia, pesquisadores do governo e de universidades com o objetivo de apoiar o desenvolvimento de padrões de inteligência artificial seguros e confiáveis.

Vivaldo José Breternitz (*)

A criação do consórcio obedece a ordem executiva do presidente Biden que estabelece diretrizes para o desenvolvimento seguro de IA, incluindo normas para a indústria, padrões de segurança e proteção ao consumidor.

Mais de 200 empresas de tecnologia aderiram ao novo consórcio, incluindo OpenAI, Google, Microsoft, Meta, Amazon, Apple, Nvidi, Cisco, Intel e outras.

Segundo a Secretária de Comércio dos Estados Unidos, Gina Raimondo “nosso governo tem um papel significativo a desempenhar no estabelecimento de padrões e no desenvolvimento de ferramentas necessárias para mitigar os riscos e aproveitar o imenso potencial da inteligência artificial.

Disse também que “o Presidente Biden nos instruiu a usar todas as medidas para atingir dois objetivos principais: definir padrões de segurança e proteger nosso ecossistema de inovação. É exatamente isso que o Consórcio vai nos ajudar a fazer.”

O Consórcio reúne uma grande equipe de profissionais e deverá trabalhar em conjunto com organizações sem fins lucrativos e equipes de outros países.

Seus trabalhos compreendem a criação de marcas d’água a serem adicionadas a produtos gerados por IA, de forma a deixar clara a origem desses produtos. Também trabalhará no desenvolvimento de diretrizes para red teaming, prática que pretende testar a segurança de sistemas informatizados através de tentativas de invasão.

O anúncio da criação do Consórcio ocorre dias depois que a OpenAI e a Meta anunciaram que começarão criar marcas d’água para imagens geradas por IA, utilizando metadados; o Google também está tomando providências similares.

Neste momento em que IA se torna cada vez mais comum, cada vez mais cuidados com a segurança devem ser tomados, por todos.

(*) Doutor em Ciências pela Universidade de São Paulo, é professor da FATEC SP, consultor e diretor do Fórum Brasileiro de Internet das Coisas – [email protected].