Luciana Maselli (*)
O avanço crescente da Inteligência Artificial em múltiplos setores da sociedade impõe uma reflexão aprofundada sobre os marcos regulatórios necessários para garantir desenvolvimento e aplicação éticos, seguros e responsáveis. Os algoritmos influenciam hoje desde a moderação de conteúdos digitais até decisões administrativas, acesso a crédito, políticas públicas e oportunidades de trabalho. Nesse contexto, a governança da IA deixa de ser um debate somente técnico e passa a constituir uma questão central de democracia, direitos humanos e cidadania.
Sistemas de IA aprendem a partir de dados históricos. Em sociedades marcadas por desigualdades estruturais, esses dados frequentemente reproduzem padrões discriminatórios. Isso pode resultar em exclusão algorítmica, invisibilização de denúncias, reforço de estereótipos e ampliação de violências digitais, especialmente contra mulheres e crianças. Mais do que conter riscos, a regulação contribui para a confiança pública na tecnologia e no setor público. Por isso, cabe ao Estado assegurar que sistemas de IA estejam alinhados à Constituição, à proteção de direitos fundamentais, às políticas de igualdade e a princípios éticos e responsáveis.
A estratégia nacional propõe regular sistemas de alto risco para proteger direitos humanos e valores democráticos sem inviabilizar a inovação.
Entre as funções centrais do poder público destacam-se:
• Estabelecer critérios de avaliação de risco e impacto algorítmico;
• Exigir transparência e rastreabilidade de sistemas;
• Garantir supervisão humana em decisões automatizadas;
• Estruturar governança robusta de dados;
• Assegurar mecanismos de contestação acessíveis aos cidadãos e responsabilização pelas decisões automatizadas.
No entanto, a regulamentação da IA não pode ser construída apenas por governos e empresas. Organizações da sociedade civil desempenham função estratégica na produção de evidências, no monitoramento de impactos e na incidência legislativa. Essa participação é condição para evitar que normas sejam excessivamente técnicas ou capturadas por interesses econômicos.
Entre suas contribuições centrais estão:
• Produção de estudos independentes sobre impactos sociais da IA;
• Advocacy por direitos digitais e igualdade de gênero;
• Educação e letramento algorítmico e digital;
• Monitoramento das implementações;
• Denúncia de discriminações automatizadas.
A relevância da regulação não se limita à mitigação de riscos. Ela também cria condições estruturais para inovação responsável e sustentável. Normas claras reduzem incertezas jurídicas, aumentam a confiança institucional e estimulam investimentos tecnológicos alinhados ao interesse público. A direção do desenvolvimento da IA não é determinada apenas pela tecnologia, mas pelas escolhas institucionais e políticas que orientam seu uso. Regular a IA, portanto, não significa restringir o progresso tecnológico, mas moldá-lo de forma democrática, inclusiva e orientada por direitos. A governança da inteligência artificial é, em última instância, um projeto coletivo de sociedade. Seu sucesso dependerá da capacidade de articulação entre Estado, sociedade civil, academia e setor produtivo para garantir que a tecnologia sirva ao interesse público e não o contrário.
(*) Luciana Maselli é fundadora do ImpactAI, organização especializada em inteligências artificial aplicada.