Bowen Wan foi uma engenheira de software demitida pela Amazon como parte do processo de redução do quadro de pessoal promovido pela empresa.
Vivaldo José Breternitz (*)
Wan, de 31 anos, era epilética e passou a consultar o ChatGPT com medo de que um remédio que tomava para tratamento da doença pudesse prejudicar seu desempenho em entrevistas para conseguir um novo emprego.
Segundo sua família, o chatbot induziu a jovem a suspender o uso do remédio, o que acabou levando-a à morte em fevereiro passado, após sofrer uma crise epiléptica nos dias seguintes à suspensão da medicação. Agora, seus pais entraram com uma ação judicial contra a OpenAI, fornecedora do ChatGPT, acusando a empresa de fornecer orientações equivocadas e de exercer ilegalmente a medicina.
As conversas entre Wan e o chatbot teriam começado em 2023 e se estendido até sua morte – foram milhares de mensagens. A jovem sofria de uma forma grave de epilepsia e fazia uso diário de 400 miligramas de lamotrigina, medicamento utilizado para controlar crises convulsivas.
Preocupada com o impacto do remédio em sua busca por emprego, Wan teria perguntado ao ChatGPT como reduzir gradualmente a dosagem até interromper completamente o uso da lamotrigina.
Em resposta, o sistema teria elaborado instruções para a retirada progressiva da medicação, chegando a sugerir que os comprimidos fossem divididos. Além disso, a inteligência artificial teria minimizado sintomas neurológicos relatados por Wan, classificando-os como reações normais do organismo à redução do uso do remédio.
A família afirma também que a jovem disse ao ChatGPT que estava preocupada com sua saúde em pelo menos 158 ocasiões. Ainda assim, segundo os autores da ação, o sistema teria reforçado sua orientação no sentido que o tratamento fosse abandonado, inclusive incentivando a jovem a não informar seu neurologista sobre a decisão de suspender a medicação.
Infelizmente situações como essa estão se tornando cada vez mais comuns, com pessoas buscando resultados milagrosos, especialmente na área estética, através da consulta a ferramentas de inteligência artificial, o que nos permite acreditar que casos como o de Bowen Wan devam se tornar cada vez mais comuns.
(*) Doutor em Ciências pela Universidade de São Paulo, é professor, consultor, diretor do Fórum Brasileiro de Internet das Coisas e pesquisador colaborador da Faculdade de Medicina de Jundiaí – [email protected].
