Um caso alarmante, relatado no periódico científico Annals of Internal Medicine, descreve como um homem de 60 anos desenvolveu bromismo, um quadro de intoxicação crônica causada pela ingestão excessiva de compostos contendo bromo, depois de interagir com o ChatGPT.
Vivaldo José Breternitz (*)
A doença, que era um problema de saúde pública no início do século XX, ressurgiu de maneira inesperada, levantando sérias preocupações sobre a segurança das orientações de saúde fornecidas por inteligência artificial.
O paciente, que não teve o nome divulgado, decidiu eliminar o sal de sua dieta após ler sobre os efeitos negativos do mesmo. Ele consultou o ChatGPT sobre como substituir o sal e, por três meses, começou a tomar brometo de sódio, um sedativo usado no início do século 20.
Apesar do chatbot ter dito que o brometo poderia substituir o sal para outros fins, como limpeza, mas não ter dito que o mesmo poderia ser usado como tempero, o homem simplesmente trocou um produto pelo outro.
Os autores do artigo, pesquisadores da Universidade de Washington, enfatizaram que este caso ilustra como a inteligência artificial pode contribuir para resultados de saúde adversos e evitáveis. Como não tiveram acesso ao histórico de conversas do homem com o ChatGPT, não foi possível determinar a orientação exata que ele recebeu.
No entanto, ao consultarem o chatbot sobre o assunto, os pesquisadores descobriram que a ferramenta sugeria o brometo como substituto do sal sem emitir um aviso de saúde específico ou questionar o motivo da busca, algo que um profissional de saúde faria.
Recentemente, a OpenAI anunciou que seu novo modelo, o GPT-5 será mais eficaz em questões de saúde e proativo em identificar possíveis problemas, mas reforçou que o chatbot não substitui a orientação de médicos e outros profissionais da área de saúde.
Os pesquisadores alertam que aplicativos de IA, como o ChatGPT, podem gerar imprecisões científicas, carecem da capacidade de discutir criticamente os resultados e, em última análise, fomentam a disseminação de informações incorretas.
O caso serve como um alerta para a necessidade de muita cautela ao buscar orientações de saúde, física e mental, em ferramentas de inteligência artificial.
(*) Vivaldo José Breternitz, Doutor em Ciências pela Universidade de São Paulo, é professor e consultor – [email protected].
*******************************************************************
Prezado(a) leitor(a),
Gostaríamos de convidá-lo(a) a participar de uma breve pesquisa. Suas respostas nos ajudarão a entender melhor o perfil de nossos leitores e a direcionar nossos esforços para oferecer o melhor jornalismo de negócios.
PESQUISA JORNAL EMPRESAS E NEGÓCIOS
