É fascinante observar chatbots criando textos elegantes ou imagens que parecem saídas de filmes de ficção científica. Mas basta pedir que um deles resolva um Sudoku, um simples quebra-cabeças que está em todos os jornais, para que a magia se desfaça.
Vivaldo José Breternitz (*)
Quem fez essa descoberta foram pesquisadores da Universidade do Colorado em Boulder. Segundo esses pesquisadores, é muito frequente que os chatbots não consigam resolver os quebra-cabeças, e o que é mais grave, não consigam explicar seu raciocínio; às vezes inventam justificativas, outras vezes divagam sobre outros temas, como clima ou esportes.
Para a sociedade, fica um problema: podemos confiar em sistemas que não conseguem dizer com clareza por que tomaram determinada decisão?
Em ambiente de competição acirrada, as big techs parecem obcecadas em mostrar resultados “impressionantes”, mas negligenciam o essencial: transparência. Sem ela, não há credibilidade – num nível muito simples, imaginemos quais seriam as consequências de entregarmos a elaboração de nossa declaração de imposto de renda a uma IA que gera um documento aparentemente perfeito, mas, erradamente dizendo que temos muito pouco imposto a pagar. Vale lembrar que certas IAs, especialmente o ChatGPT, adulam seus usuários, visando mantê-los – esse processo de adulação é chamado” sycophancy” no ambiente de IA.
Voltando ao Sudoku: o contraste com o ser humano é gritante; quando resolvemos um quebra-cabeças, somos capazes de explicar o caminho. Essa capacidade de justificar é parte da responsabilidade. Se uma IA não consegue fazer o mesmo, por que deveríamos confiar nela para dirigir um carro, definir estratégias empresariais ou, até mesmo, atirar em alguém?
Estamos diante de uma tecnologia que promete mudar o mundo, mas que ainda tropeça em tarefas básicas de lógica. E não se trata de um detalhe irrelevante. A confiança em qualquer agente – humano ou artificial – nasce da capacidade de explicar suas escolhas. Sem isso, o que temos não é inteligência, é apenas uma máquina que “fala” bonito.
A pergunta que fica é: você confiaria em alguém que mente ou “embroma” quando precisa justificar suas decisões? Pois é exatamente isso que muitos modelos de IA fazem hoje.
E enquanto não aprenderem a jogar no nosso campo – o da lógica, da responsabilidade e da transparência, talvez seja hora de manter o lápis e a borracha por perto e até mesmo estarmos preparados para desligar a máquina…
(*) Doutor em Ciências pela Universidade de São Paulo, é professor, consultor e diretor do Fórum Brasileiro de Internet das Coisas – [email protected].
