Neiva Dourado Martins Mendes (*)
Você já parou para pensar no que acontece quando uma inteligência artificial generativa responde a um cliente e ninguém confere o resultado desse contato? Ou quando uma IA agêntica não apenas responde, mas interpreta uma solicitação, consulta sistemas e executa uma ação?
Muitas empresas estão descobrindo que velocidade, sozinha, não resolve o atendimento.
Nos últimos dois anos, acompanhei de perto como organizações de diferentes tamanhos correram para implementar IA generativa em suas operações. A pressa era totalmente compreensível diante da necessidade de reduzir custos, responder mais rápido e oferecer uma experiência mais moderna. Entretanto, é imprescindível a compreensão de que tecnologia sem curadoria pode colocar uma resposta inadequada diante do cliente. No caso da IA agêntica, o risco pode ser ainda maior, porque o sistema não fica restrito à geração de texto.
A IA generativa produz conteúdo a partir de padrões. Já a IA agêntica pode organizar etapas, usar ferramentas, consultar sistemas e executar tarefas para alcançar um objetivo com supervisão limitada. Esses agentes de IA são sistemas capazes de realizar tarefas de forma autônoma, a partir de objetivos, regras e recursos definidos por pessoas.
Não significa que esses sistemas compreendam automaticamente o contexto regulatório, as políticas específicas da empresa ou as consequências de uma resposta ou ação inadequada. O NIST, órgão norte-americano de referência em tecnologia e padrões, chama de “confabulação”, também conhecida como alucinação, o fenômeno em que um sistema apresenta conteúdo falso ou incorreto com aparente segurança.
Uma pesquisa da Deloitte, publicada em 2024, ouviu 2.770 líderes de negócios e tecnologia envolvidos em projetos de IA generativa, em 14 países. O levantamento mostrou que 36% apontaram a conformidade regulatória como uma barreira para ampliar o uso da tecnologia. Outros 30% relataram dificuldade para gerenciar riscos, e 29% citaram a falta de um modelo de governança. Apenas 16% afirmaram produzir relatórios regulares ao CFO sobre o valor gerado pelas iniciativas de IA.
Esses números ajudam a explicar por que a discussão não deve ser apenas tecnológica. O problema começa quando uma empresa automatiza uma etapa sem definir critérios para acompanhar, testar e corrigir o que está sendo automatizado.
Trabalho há mais de 40 anos com dados, análise e interpretação de informações. Vi empresas avançarem por tratar os dados com seriedade e também vi decisões ruins nascerem de informações mal interpretadas. A experiência me ensinou que ter dados não é o mesmo que saber transformá-los em decisão.
É nesse contexto que se revela a importância da curadoria. Ela não significa, necessariamente, que uma pessoa precise revisar cada resposta antes do envio. Significa definição bem clara de regras, validação de fontes, testes de sistema, acompanhamento de indicadores e encaminhamento de situações sensíveis para profissionais qualificados. Em uma IA agêntica, significa também delimitar quais sistemas o agente pode acessar, quais ações pode executar e em que momento precisa interromper o fluxo e chamar uma pessoa.
Quando uma empresa quer entender se sua IA está funcionando, o primeiro passo deve ser uma avaliação: quais respostas estão sendo geradas, onde surgem erros, quais tarefas estão sendo executadas e que situações exigem intervenção?
A IA generativa não é o problema. A IA agêntica também não. O problema é deixar qualquer sistema responder ou agir sem critérios, acompanhamento e responsabilidade definidos. Se você está implementando (ou já implementou) IA no atendimento, faça a pergunta certa: quem está verificando se ela está funcionando e quem pode interrompê-la quando necessário?
A tecnologia evolui rápido, mas saber quando confiar nela e quando questioná-la é uma competência que precisa ser construída. É isso que separa uma implementação que gera eficiência de outra que apenas transfere o custo para o futuro.
(*) Presidente do Conselho e sócia-fundadora da Blue6ix Tecnologia ([email protected]).