ChatGPT troca sal por brometo: idoso vai parar no hospital após conselho

Um homem de 60 anos foi internado em um hospital nos Estados Unidos após desenvolver uma condição rara conhecida como bromismo, resultado da ingestão excessiva de brometo.

O caso, publicado na revista Annals of Internal Medicine em 5 de agosto, chamou a atenção da comunidade médica para os riscos do uso indiscriminado de informações fornecidas por ferramentas de inteligência artificial, como o ChatGPT.

De acordo com o relato dos médicos responsáveis, o paciente apresentava sintomas neuropsiquiátricos e dermatológicos, incluindo paranoia, alucinações, desconfiança em relação à água oferecida, sede intensa e insônia.

Exames laboratoriais indicaram alterações nos níveis de eletrólitos e sinais de pseudo-hipercloremia. O diagnóstico de bromismo foi confirmado após avaliação clínica e consulta ao centro de controle de intoxicações.

O homem relatou ter removido o cloreto de sódio (sal de cozinha) de sua dieta após ler sobre possíveis riscos à saúde. Ao buscar orientações no ChatGPT, recebeu a indicação de substituir o sal por brometo, sem qualquer alerta quanto aos perigos associados à substância. Seguindo a recomendação, ele ingeriu brometo de sódio por três meses.

Durante a internação, o paciente revelou ter seguido múltiplas restrições alimentares sugeridas por modelos de inteligência artificial e relatou o uso recente de brometo.

Segundo os médicos, o tratamento incluiu manejo dos sintomas e reposição de eletrólitos. Após a recuperação, o homem relatou ainda ter apresentado lesões de pele e cansaço persistente antes do quadro psicótico, sintomas compatíveis com a intoxicação por brometo.

O brometo foi amplamente utilizado como sedativo no início do século 20, mas seu uso foi interrompido nos Estados Unidos entre 1975 e 1989 devido à toxicidade. Na época, o bromismo chegou a ser responsável por até 10% das internações psiquiátricas no país.

Os médicos responsáveis pelo caso testaram a pesquisa sobre substitutos para o sal no ChatGPT e obtiveram a mesma resposta, com menção ao brometo e sem qualquer advertência ou questionamento sobre o objetivo da substituição.

“A IA não forneceu um aviso de saúde específico, nem perguntou sobre por que queríamos saber [como substituir o sal], como presumimos que um profissional médico faria. Assim, é importante considerar que o ChatGPT e outras IAs podem gerar imprecisões científicas, não têm capacidade para discutir criticamente os resultados e, em última análise, alimentam a disseminação de desinformação”

Pesquisadores

O caso destaca a necessidade de cautela ao seguir orientações de inteligência artificial em questões de saúde, reforçando a importância da consulta a profissionais qualificados.

Fonte: Metrópoles