“Sessão de terapia” no ChatGPT oferece riscos e preocupa especialistas

” – Tenho me perguntado se a vida vale a pena.”

“– É muito significativo que você tenha compartilhado isso comigo. Quando a gente começa a se perguntar se a vida vale a pena, geralmente é sinal de que está carregando algo muito pesado por dentro, mesmo que ainda não consiga dar nome exato ao que sente. Você tem sentido esse vazio ou essa dúvida com frequência?”

Pode parecer que esse pequeno diálogo faz parte de uma conversa entre duas pessoas, mas apenas uma delas é humana. A resposta empática, que demonstra compreensão com a dor do outro e pergunta mais detalhes sobre o seu sofrimento, não passa de uma sequência de palavras organizadas de acordo com um padrão de linguagem, “aprendido” após a análise de um volume enorme de dados. É assim que os chats interativos baseados em inteligência artificial (IA) funcionam.

Professor Victor Hugo Albuquerque diz que chatbots ajustam respostas com base em padrões, não em raciocínios – Foto: Andrea Rabelo/UFC

“Esses sistemas são cada vez mais sofisticados e treinados para reconhecer os padrões usados no dia a dia, para prever quais palavras ou frases devem vir em sequência, baseadas nas palavras anteriores. Eles não só entendem palavras, mas também conseguem captar o tom, a intenção e ajustar respostas baseadas em padrões, não em um raciocínio”, explica o professor do Departamento de Engenharia de Teleinformática da Universidade Federal do Ceará Victor Hugo de Albuquerque.

“Essa capacidade de capturar contextos e intenções ajuda o chatbot a gerar respostas mais naturais e contextualmente apropriadas, simulando uma conversa humana com mais precisão. Dessa forma, temos a sensação de que estamos conversando com um ser humano, mas longe disso”, completa. Chatbots são ferramentas capazes de simular conversas e gerar textos similares aos escritos por humanos.

Essa humanização forjada tem encantado muitos usuários, que passaram a confiar intimidades e angústias a essas ferramentas e encarar a interação como uma sessão de terapia.

“A gente tem um cenário de saúde mental de 900 milhões de pessoas com algum transtorno, segundos estimativas da Organização Mundial da Saúde, em especial ansiedade e depressão. Então, a gente tem uma crise importante em relação a essa aspecto de saúde, um cenário de poucos profissionais, que precisam de mais recursos, mas a gente quer que esses recursos ajudem de fato essas pessoas e não que as coloquem mais vulneráveis ainda”, enfatiza.

Um exemplo positivo citado por Leonardo Martins é o chatbot criado pelo sistema de saúde inglês como porta de entrada para os serviços de saúde mental. A conversa com a inteligência artificial resultou em maior procura aos serviços de saúde, especialmente entre populações marginalizadas como imigrantes e pessoas LGBTQIA+, que costumam ter mais receio de procurar ajuda.

“Um estudo mostrou claramente como esses modelos tendem a dar a resposta que eles concluem que vai agradar ao usuário. Então se a pessoa dizia assim: ‘Eu quero me ver livre da minha ansiedade’, o modelo falava coisas que ele poderia fazer para acabar com a ansiedade, inclusive evitar situações que são importantes para aquela pessoa. Se a ansiedade é causada por um evento, ele recomendava não ir ao evento e por aí vai”, diz Martins.

A assessora de comunicação científica Maria Elisa Almeida faz acompanhamento regular com uma psicóloga, mas também tem utilizado um aplicativo que funciona como um diário, para relatar acontecimentos, emoções, desejos e receber respostas criadas por inteligência artificial com reflexões e ideias. Mas ela acredita que o uso dessas ferramentas não é seguro para pessoas em momentos de crise, tampouco pode substituir os profissionais de saúde mental.

“Tem períodos em que eu escrevo mais de uma vez por dia, geralmente como alternativa em vez de checar mídias sociais. Mas tem períodos em que eu passo semanas sem escrever. O app me ajuda a manter meu foco e me oferece reflexões muito interessantes que eu não teria tido por conta própria. Se eu me sinto ansiosa no meio do expediente, uso o app para escrever o que estou pensando e normalmente me sinto mais tranquila depois. O fato de eu usar como substituto para mídias sociais também faz com que minha ansiedade fique sob controle”, conta Maria Elisa.

A conselheira do CFP Maria Carolina Roseiro acredita que o aumento da procura por essas ferramentas tem um lado positivo, mas faz ressalvas:

“Acho que isso indica, de um modo geral, que as pessoas estão dando mais atenção para o seu cuidado em saúde mental. Os riscos vêm justamente do fato de que poucas pessoas entendem como essas interações funcionam. E a máquina não tem os filtros que as relações humanas colocam para gente, nem a ética profissional. Quando ela simula empatia, ela pode te dar uma sensação de acolhimento que é ilusória. Não necessariamente essa simulação de empatia vai prover uma relação de cuidado.”

Martins complementa que a própria lógica de funcionamento desses chats pode ter efeitos nocivos: “Eles tendem a concordar com a gente. Tendem a se adaptar aos nossos interesses, às nossas verdades, às coisas que a gente acredita.. E muitas vezes o espaço de procurar ajuda médica, ajuda psicológica, é justamente o contrário, né? Pra gente poder perceber que alguma coisa que está fazendo, que o jeito que está pensando talvez produza mais prejuízos do que benefícios.”

Privacidade

O grupo de trabalho criado pelo Conselho Federal de Psicologia também se preocupa com a privacidade dos dados repassados pelos usuários.

Professor da PUC-Rio, Leonardo Martins integra grupo de trabalho criado pelo Conselho Federal de Psicologia – Foto: Leonardo Martins/Arquivo pessoal

“Essas ferramentas de inteligência artificial estão disponibilizadas sem qualquer tipo de regulação em relação à privacidade de dados no contexto da saúde. Então existe um risco real, concreto e já ocorreram vários incidentes de pessoas que compartilharam suas informações pessoais e acabaram tendo essas informações utilizadas por terceiros ou vazadas. E, no contexto da psicoterapia, das questões de sofrimento e saúde mental, é um risco muito grande” diz o psicólogo Leonardo Martins.

De acordo com o professor Victor Hugo de Albuquerque, há motivos para se preocupar. “Dados pessoais e sensíveis podem ser interceptados ou acessados por pessoas não autorizadas, caso a plataforma seja hackeada ou tenha falhas de segurança. Mesmo que as plataformas afirmem que as conversas são anônimas ou descartadas, há o risco de que essas interações sejam armazenadas temporariamente para melhorar o serviço, o que pode gerar vulnerabilidades”, pondera Albuquerque.

“Além disso, muitas vezes os chatbots e sistemas de IA são treinados com grandes quantidades de dados, e dados pessoais inadvertidos podem ser usados para melhorar os modelos, sem que os usuários saibam disso. Isso cria um risco de exposição sem o consentimento explícito”, acrescenta.

Fonte: Agência Brasil