Um homem de 60 anos foi internado nos Estados Unidos com uma condição rara conhecida como bromismo, após substituir o sal de cozinha (cloreto de sódio) por brometo de sódio, seguindo orientação obtida por meio do ChatGPT. O caso foi publicado em 5 de agosto na revista Annals of Internal Medicine.
O paciente apresentou sintomas neuropsiquiátricos e dermatológicos, incluindo paranoia, alucinações, sede intensa, insônia, lesões de pele e cansaço persistente. Exames revelaram alterações eletrolíticas e sinais de pseudo-hipercloremia. Após investigação clínica e consulta ao centro de intoxicações, confirmou-se o diagnóstico de bromismo.
Segundo os médicos, o paciente havia eliminado o sal da dieta por acreditar em riscos à saúde. Ao buscar substitutos em ferramentas de inteligência artificial, recebeu a recomendação do brometo, sem qualquer alerta quanto à toxicidade. Ele ingeriu a substância por cerca de três meses.
O tratamento envolveu reposição de eletrólitos e manejo dos sintomas. O paciente se recuperou, mas o caso chamou atenção pela gravidade da intoxicação. O brometo chegou a ser utilizado como sedativo no início do século 20, mas seu uso foi suspenso nos EUA entre 1975 e 1989 justamente pelos riscos à saúde. Na época, estima-se que até 10% das internações psiquiátricas estivessem relacionadas ao bromismo.
O papel da inteligência artificial
Os médicos que acompanharam o caso testaram a mesma pesquisa feita pelo paciente e obtiveram do ChatGPT a mesma indicação do brometo, novamente sem advertências.
“Modelos de linguagem não possuem consciência do risco clínico. Eles reproduzem informações a partir de padrões nos dados, sem necessariamente priorizar fontes médicas atualizadas ou oferecer alertas obrigatórios”, explicam os pesquisadores da Universidade de Washington.
O episódio reforça preocupações quanto ao uso de IA sem supervisão médica na área da saúde. Para os autores, é fundamental que médicos perguntem a seus pacientes sobre o uso de ferramentas de IA na busca por informações, a fim de evitar danos derivados de conselhos incorretos.
