Heloisa Zampieri (*)
A inteligência artificial já está sendo usada em operações reais, mas garantir seu funcionamento de forma confiável ainda é um desafio. Uma pesquisa da Sinch mostra que 62% das empresas já têm agentes de IA em produção, enquanto 74% já precisaram desligar ou reverter um agente após a implantação por falhas de governança. Entre os motivos identificados, 22% dos casos estavam relacionados a alucinações. Os dados evidenciam uma questão central para as empresas: como garantir que agentes de IA sejam confiáveis?
As chamadas “alucinações” acontecem quando a tecnologia gera uma resposta que parece correta e convincente, mas contém uma informação incorreta ou que não é sustentada pelas fontes disponíveis. Isso acontece porque os Grandes Modelos de Linguagem (LLMs) são sistemas probabilísticos que geram a resposta mais provável a partir do contexto recebido, mas não têm uma garantia intrínseca de que aquilo que estão dizendo é verdadeiro. Por isso, mesmo os modelos mais avançados podem produzir respostas incorretas.
O problema não é simplesmente escolher um modelo melhor. O desafio está em aplicar uma tecnologia probabilística em situações de negócio que exigem alta confiabilidade. Um agente de atendimento não pode informar um desconto que não existe, confirmar um estoque incorretamente ou oferecer uma condição de pagamento diferente da praticada pela empresa. Cada um desses deslizes carrega um risco real de negócio que vai muito além do erro técnico e chega direto ao caixa e ao jurídico da empresa.
No Brasil, o Código de Defesa do Consumidor determina que a oferta veiculada obriga o fornecedor ao seu cumprimento. Se um agente de IA promete, por engano, um desconto de 20%, a empresa pode ser obrigada a honrar essa condição e, dependendo do caso, enfrentar consequências jurídicas. Em setores regulados, como saúde e financeiro, o erro pode se tornar também um problema crítico de compliance. Há ainda o impacto financeiro direto: descontos concedidos indevidamente, fretes absorvidos, estornos e retrabalho das equipes.
Para além desses pontos, é importante também destacar o impacto no âmbito digital. Um erro grave cometido por um bot, por exemplo, pode virar print em poucos minutos e se espalhar como postagem negativa nas redes sociais, muitas vezes antes de a empresa sequer perceber o que aconteceu. E há ainda um impacto mais silencioso: quando o agente recomenda o produto errado, informa uma condição equivocada ou diz que não há estoque, o cliente pode simplesmente desistir da compra. Não gera reclamação, mas não gera conversão.
Diante desse cenário, não existe uma única solução capaz de eliminar as alucinações. A confiabilidade vem de diferentes camadas trabalhando juntas. O primeiro passo é definir claramente o que o agente pode e não pode fazer e criar guardrails ou camadas de segurança específicas para cada contexto. Algumas regras devem ser comuns a todos os agentes, enquanto outras precisam ser definidas de acordo com a função do agente ou com o negócio em que ele atua. Por exemplo, em uma farmácia, o agente não deve recomendar medicamentos e deve orientar o cliente a buscar um profissional de saúde.
Também é fundamental dar ao agente acesso a fontes confiáveis e atualizadas da empresa. Para isso, devem ser usadas bases de conhecimento que reúnem informações sobre produtos, serviços e processos, e o RAG (Retrieval-Augmented Generation), que permite à IA consultar essas informações antes de formular uma resposta. Em casos mais sensíveis, a empresa pode adotar mecanismos adicionais de segurança, como um LLM Judge, segundo modelo que avalia a resposta gerada, e um fallback, que define uma resposta alternativa para os casos em que o sistema não consegue responder com segurança.
Na Connectly, essa abordagem é aplicada de forma estruturada, com diferentes camadas de controle ao longo do ciclo de vida do agente. O processo começa no código, com guardrails que podem incluir um decision gate para avaliar a resposta antes do envio e bloqueá-la caso necessário. Antes de ser implementado, os agentes passam por testes simulados para validar sua prontidão e identificar possíveis regressões, enquanto o monitoramento de conversas reais acompanha seu desempenho no dia a dia. Se um erro é identificado, a equipe recebe um alerta, atua sobre a camada responsável e volta a testar o cenário para validar a correção.
Essa combinação de camadas mostra por que a confiabilidade de um agente não depende apenas do modelo de linguagem utilizado. Duas empresas podem utilizar exatamente o mesmo modelo e obter resultados completamente diferentes. Uma pode depender apenas de um prompt e esperar que o modelo siga as instruções, enquanto a outra pode combinar contexto adequado, bases de conhecimento, ferramentas, guardrails, testes, monitoramento, validação e fallback inteligente. E essa preocupação não termina quando o agente entra no ar. Como os sistemas de IA generativa não são determinísticos, uma mudança que melhora um comportamento pode provocar uma regressão em outro. Por isso, qualidade precisa ser um processo contínuo.
No fim, a pergunta mais importante para as empresas não é “A nossa IA alucina?”, mas quais mecanismos existem para garantir que o modelo esteja se comportando da maneira que o negócio precisa. O objetivo não é eliminar 100% das alucinações, e sim reduzir os erros, detectar e bloquear falhas críticas, corrigir suas causas e evitar que se repitam. Confiabilidade em inteligência artificial não é algo estático ou imutável, mas algo que precisa ser medido continuamente, antes e depois da produção. Mais do que o modelo utilizado, é essa disciplina de testar, monitorar e aprimorar continuamente que determina se uma empresa está realmente preparada para colocar a IA diante de seus clientes.
(*) Gerente de Produto Sênior de IA na Connectly.
