Neiva Dourado Mendes (*)
No dia 12 de fevereiro, participei de um painel na CSU Digital e citei um artigo do The Guardian que me ficou na cabeça: à medida que a IA generativa se torna a principal forma de encontrar informações, saberes locais e tradicionais correm o risco de desaparecer.
Agora acrescente uma informação importante: IA aprende com o que está documentado.
E o que acontece quando a IA vira o “principal jeito” de buscar informação e começa a reciclar aquilo que ela mesma ajudou a popularizar?
A resposta é preocupante: podemos estar caminhando para um tipo de colapso do conhecimento, um estreitamento progressivo do que é visível, pesquisado, lembrado e considerado “verdade”. Um ciclo em que o que é mais repetido ganha mais espaço, e o que já era marginal vai sendo empurrado para fora do campo de visão.
Mas o problema não é apenas a perda de saberes tradicionais. É também a consolidação de vieses antigos. Foi aí que outra leitura me atravessou: Invisible Women: Exposing Data Bias in a World Designed for Men, de Caroline Criado Perez, junto com as resenhas e artigos que venho devorando sobre o tema.
A conclusão objetiva não é nada confortável: quando não há dados, ou quando os dados são enviesados, as decisões vêm de suposições, e a IA só escala isso.
Uma ideia que volta o tempo todo nesses textos é a do homem como padrão default. No design. Na medicina. Nas métricas. E agora, nos algoritmos.
Um exemplo impossível de ignorar:
A maioria dos testes automotivos é modelada no corpo masculino.
O boneco padrão tem cerca de 1,77 m e 76 kg. Mulheres têm aproximadamente 47% mais chances de se ferirem gravemente em acidentes e 17% mais chance de morrer do que homens, em parte porque itens de segurança (cinto, airbag, encosto) foram pensados com base nesse “padrão”. Isso não é “mimimi de design”, é estatística com consequência física.
Outro ponto crítico está na medicina, historicamente baseada no corpo masculino como referência. Em 1991, a Dra. Bernadine Healy cunhou o termo “Yentl syndrome” para descrever como mulheres frequentemente recebem cuidados menos agressivos, a menos que apresentem sintomas considerados “clássicos”, isto é, aqueles mais estudados em homens.
No caso de infarto, por exemplo, mulheres podem não apresentar a dor intensa no peito tradicionalmente associada ao quadro. Em vez disso, os sintomas podem surgir como falta de ar, náusea, fadiga ou dor abdominal. Como esses sinais foram rotulados por muito tempo como “atípicos”, muitas mulheres acabam mal diagnosticadas ou tratadas tardiamente, com desfechos piores.
Quando a base de conhecimento nasce incompleta, o protocolo nasce incompleto.
Mulheres, que representam cerca de 50% da população no Brasil e no mundo, foram historicamente sub-representadas em pesquisas clínicas, testes de produto, bancos de dados e análises que moldam decisões públicas e privadas.
Essa é a raiz do problema.
Não é que “faltam casos”.
Faltam dados bem coletados.
Faltam recortes adequados.
Faltam critérios que considerem realidades diversas.
Faltam mulheres definindo as perguntas, os indicadores e o que será considerado relevante.
Eu gosto de IA. Eu trabalho com tecnologia. Eu estou empenhada para que isso dê certo.
Mas há um ponto que precisamos encarar: a IA não inventa conhecimento do nada, ela aprende padrões a partir do que está documentado e acessível.
Se o que está documentado exclui mulheres, generaliza o corpo masculino como “humano”, trata sintomas femininos como “atípicos”, mede produtividade e mobilidade com lógica masculina e prioriza o que é mais popular e repetido, então a IA vai reproduzir isso.
E pode ir além: quando conteúdo gerado por IA passa a alimentar a própria internet, cria-se um ciclo de retroalimentação, o feedback loop descrito pelo Guardian como risco de “knowledge collapse”. Ideias dominantes se fortalecem e o saberes menos visíveis perdem espaço.
Trocando em miúdos: a IA pode virar megafone do que já era desigual. Se queremos IA útil para tomada de decisão e não apenas IA convincente, precisamos tratar documentação e dados como infraestrutura crítica.
Algumas provocações que eu gostaria de fazer:
Sem dados por sexo, gênero e etnia não existe decisão robusta. “Neutro” muitas vezes é apenas “masculino não declarado”.
Não basta ter IA, é preciso ter governança do conhecimento. O que entra no repositório? Quais são as fontes? O que é atualizado? O que é versionado? O que é auditável?
Representatividade não é slogan, é método. Quando mulheres participam da pesquisa, da decisão e da produção de conhecimento, elas deixam de ser invisíveis nos dados.
IA precisa citar, rastrear e justificar. Para decisão, resposta sem origem, sem fonte confiável é risco. No fim, o que está em jogo não é a tecnologia em si, é a qualidade do mundo que ela vai ajudar a construir. Quando alguém me diz “IA vai resolver”, eu respondo: IA só vai resolver aquilo que tivermos coragem de medir, registrar e tornar visível. E hoje ainda existe gente demais vivendo no rodapé da planilha.
(*) Atual presidente do Conselho e sócia-fundadora da Blue6ix Tecnologia ([email protected]).