A confiança da Microsoft no Copilot, sua própria inteligência artificial, parece não ser muito grande.
Vivaldo José Breternitz (*)
Apesar de posicionar o software como a peça central de sua estratégia para integrar a IA ao Windows e a ferramentas corporativas, a documentação da própria empresa deixa claro: os usuários não devem confiar no sistema para tarefas críticas.
Os termos de uso do Copilot, atualizados em outubro passado, estabelecem limites nítidos sobre a finalidade do software. O documento afirma que o Copilot se destina apenas a fins de entretenimento, acrescentando que “ele pode cometer erros e pode não funcionar como pretendido”. A Microsoft desaconselha explicitamente o uso da ferramenta para decisões importantes, alertando: “Use o Copilot por sua conta e risco.”
Essa linguagem destoa da mensagem institucional da companhia. A Microsoft tem promovido intensamente o Copilot, integrando-o ao Windows 11 e aos seus aplicativos de produtividade. Embora isenções de responsabilidade sejam práticas comuns no setor, esses termos de uso destacam uma contradição generalizada na indústria: a publicidade diz que a IA é essencial e de “próxima geração”, mas apresenta-a como não confiável.
Essa contradição não é exclusividade da Microsoft. Outros competidores no setor de IA incluem ressalvas semelhantes. A xAI, de Elon Musk, diz que sua IA está evoluindo rapidamente, mas ainda pode gerar resultados que contém ‘alucinações’, ofensivos, imprecisos com relação a pessoas, lugares ou fatos ou, ainda, serem inadequados para o propósito pretendido pelo usuário.
Tais avisos podem parecer redundantes para quem entende o funcionamento de inteligências artificiais generativas, que são sistemas probabilísticos que sintetizam textos com base em padrões, e não na verdade dos fatos. No entanto, eles são muito necessários diante da frequência com que usuários depositam confiança demasiada nos resultados dos comandos que dão a esses softwares.
Essa confiança equivocada pode gerar consequências tangíveis. Na Amazon, por exemplo, ocorreram ao menos duas interrupções nos serviços da AWS causados por um bot de codificação que fez alterações de código sem supervisão humana. Posteriormente, a empresa classificou os incidentes como erro humano, e não falha da IA.
Casos como esses evidenciam o gap persistente entre a promessa tecnológica e o risco operacional. A IA generativa pode acelerar fluxos de trabalho, mas a responsabilidade final pelos erros recai sobre os humanos e as organizações que a implementam.
Operadores humanos continuam vulneráveis ao viés de automação, uma tendência cognitiva de favorecer resultados gerados por máquinas em detrimento de evidências contraditórias. Na era do texto e código sintéticos, esse viés pode se tornar mais grave, à medida que os sistemas de IA produzem resultados persuasivos, porém falhos.
Os alertas dados pelas empresas servem para que estas se protejam, já que esses termos são escritos por advogados, não por equipes de marketing ou por profissionais da área tecnológica. Contudo, enquanto as empresas buscam monetizar a IA, cresce o risco de que o potencial de erro seja minimizado em favor dos esforços para adoção em massa.
Em resumo: os termos de uso oferecem uma visão mais realista do que as campanhas publicitárias, deixando claro para os usuários que IA é poderosa, mas ainda não plenamente confiável.
(*) Doutor em Ciências pela Universidade de São Paulo, é professor, consultor e diretor do Fórum Brasileiro de Internet das Coisas – [email protected].
