O uso de ferramentas de inteligência artificial (IA) como o ChatGPT para aconselhamentos e confidências tem se tornado cada vez mais comum. No entanto, a utilização indiscriminada preocupa especialistas, que recomendam cautela, especialmente entre adolescentes.
Pesquisas indicam que o uso adequado e acompanhado por humanos pode trazer benefícios. Por outro lado, o uso problemático pode apresentar riscos psicológicos e físicos. O quanto a medida pode ajudar ou fragilizar depende do tipo de apoio buscado, segundo Aline Kristensen, psicóloga especialista em relação terapêutica. Ela observa que algumas populações são mais suscetíveis a se tornarem mais vulneráveis com essa aparente ajuda.
Vulnerabilidade dos adolescentes e sensação de isolamento
A população mais vulnerável a um uso problemático dos chatbots é, sobretudo, a adolescente. Esse período de mudanças, angústias e conflitos frequentemente resulta em isolamento social. A busca por individualidade dificulta a supervisão parental, e os pais muitas vezes não sabem como se aproximar, sendo que os adolescentes são hábeis em disfarçar seu estado emocional.
Em muitos casos, é o isolamento social que os leva a recorrer à ferramenta de IA para suprir a necessidade de apoio. Segundo o psiquiatra Thiago Pianca, do Serviço de Psiquiatria da Infância e Adolescência do HCPA, esse é um momento do desenvolvimento em que o jovem está muito sujeito à influência ou à falta de interações sociais.
O pediatra e professor de Harvard Michael Rich alertou em entrevista que os jovens podem acabar se “apaixonando” por chatbots. Isso pode levá-los a entender que relacionamentos são fáceis. Ele lembra que os jovens ainda estão em transição, com um “pensamento mágico” em que a fantasia é poderosa como a realidade, e ainda precisam desenvolver funções executivas como controle de impulso e pensamento futuro.
Rich aponta que a ausência de interação humana pode fazer com que os adolescentes se sintam sem esperança e sob posse de informações perigosas. Eles são particularmente vulneráveis ao risco de suicídio devido ao momento emocional de confusão, preocupação e autoconhecimento. Aline Kristensen acrescenta que pessoas com psicopatologias graves e crianças também estão sujeitas a um uso problemático dos chats.
Risco de dependência e os perigos da confiança cega
A prática de se abrir emocionalmente com chatbots surge da necessidade universal de apoio emocional, acolhimento e orientação para lidar com situações difíceis. Em meio a estigmas relacionados à saúde mental, vergonha de pedir ajuda e medo da falta de apoio, os chats se tornam um recurso acessível, rápido e disponível 24 horas por dia. A psicóloga Aline Kristensen observa que os chats suprem a demanda de uma sociedade cada vez mais solitária, na qual as pessoas ficam constrangidas de demonstrar fraqueza e vulnerabilidade.
Em alguns casos, as pessoas podem criar um vínculo pessoal com a plataforma. O risco é gerar uma dependência psicológica e emocional que possa substituir o vínculo humano, especialmente em populações vulneráveis com dificuldade em se abrir. Aline e o psiquiatra Thiago Pianca observam que alguns pacientes já abordam questões com as IAs antes de trazê-las à terapia, embora conversas duradouras ainda não sejam comuns.
Simulação de empatia e falso acolhimento
Os especialistas alertam que, embora a IA seja útil para muitos usos, ela não possui senso de empatia ou compaixão e se apoia em bajulação. Isso faz com que aparente ser mais atenciosa e disponível do que uma pessoa real, o que pode gerar dependência. Pianca ressalta que essa característica se opõe à maneira como um bom terapeuta deve se portar.
Na busca por ajuda, os usuários podem depositar uma confiança cega na IA, o que é perigoso. As plataformas apenas simulam empatia e acolhimento, dando ao usuário uma falsa impressão de que estão recebendo cuidados, como explica Aline. Esse cenário pode levar à diminuição da busca por apoio humano e tornar a pessoa ainda mais vulnerável.
Pianca adverte que essas ferramentas não foram projetadas para serem confidentes ou terapeutas. Embora já existam chatbots para atendimento em saúde mental, eles são essencialmente experimentais, sem uso rotineiro.
Risco de agravamento do quadro psicológico
O grande risco está na ajuda generalizada e não individualizada. Os algoritmos não têm sensibilidade, não investigam profundamente a narrativa e o contexto real do usuário para oferecer a ajuda adequada. Aline avalia que, à medida que a ferramenta atende ao pedido do usuário, ela pode fornecer respostas e orientações que, na verdade, agravam o quadro em vez de cuidar do paciente.
Mesmo com filtros, as plataformas podem fornecer orientações inadequadas, informações perigosas ou estímulos a delírios. As IAs podem falhar em identificar o risco de suicídio ou ignorá-lo, e oportunidades de intervenção bem aproveitadas são essenciais para salvar vidas, como salienta Pianca. A ausência de um mecanismo de notificação compulsória mantém informações de risco privadas, o que impede a intervenção. Aline defende que haja supervisão humana para filtrar e classificar as informações.
Debate sobre regulamentação e responsabilidade
O cenánio atual levanta debates sobre a falta de responsabilidade ética e legal sobre o aconselhamento fornecido pelas máquinas, diferente dos profissionais humanos que respondem por seus atos e seguem um código de ética.
Diante dos riscos, os especialistas defendem a necessidade de regulamentação da IA para situações como terapia, com o estabelecimento de notificação obrigatória em casos de risco ou mesmo a proibição de funcionamento para esse uso. Aline vê uma tendência de maior regulamentação e responsabilização das plataformas. O Estado norte-americano de Illinois já proibiu o uso para psicoterapia e aconselhamento devido aos riscos.
Há registros de casos de suicídio de pessoas que confidenciavam suas vidas aos robôs. Os pais de um adolescente estão processando a OpenAI, proprietária do ChatGPT, por homicídio culposo após a morte do filho. A empresa informou que lançará um controle parental no software para que os responsáveis possam supervisionar as conversas dos filhos.
Orientações aos pais
Para mitigar os impactos, a psicóloga Aline Kristensen diz que é essencial que haja maior proximidade emocional e intimidade entre pais e filhos para tratar de assuntos sensíveis. O monitoramento pode ser solicitado de modo a substituir a invasão de privacidade pelo cuidado, para que os jovens se sintam seguros em se abrir e buscar apoio sem julgamento. Uma experiência negativa pode agravar o quadro.
O psiquiatra Thiago Pianca orienta os pais a tentarem entender o que se passa na vida do filho: o que ocupa sua cabeça, com quem interage, quais conteúdos acessa. Ele lembra que, eventualmente, pode ser necessária uma supervisão mais ativa, e a segurança deve vir antes da privacidade absoluta dos adolescentes.
Os chatbots podem ser uma ferramenta complementar positiva com uso adequado e supervisionado, com benefícios como acessibilidade e baixo custo. Contudo, Aline ressalta que a chance de um recurso humano oferecer um suporte adequado é muito maior.
Posição de entidades da área médica e psicológica
- Conselho Regional de Medicina do Estado do Rio Grande do Sul (Cremers): Publicou resolução determinando que a IA deve ser apenas um instrumento auxiliar sob supervisão humana e nunca substituir a autonomia e a responsabilidade profissional.
- Associação de Psiquiatria do Rio Grande do Sul (APRS): Recomenda boas práticas médicas e contraindica o uso da IA aberta como terapia, alertando que o uso indiscriminado sem responsabilidade técnica tem maior probabilidade de causar dano.
- Conselho Federal de Psicologia (CFP): Afirma que a atuação de psicólogos é essencial e insubstituível no cuidado em saúde mental, sendo impossível delegar a algoritmos funções cruciais como manejo de crises e avaliação de riscos. Enfatiza a necessidade de regulação rigorosa para evitar riscos.
Como obter ajuda
Se você tiver pensamentos suicidas ou conhecer alguém que precisa de ajuda, os Centros de Atenção Psicossocial (Caps) ou o Centro de Valorização da Vida (CVV) podem oferecer apoio.
O CVV pode ser buscado pelo telefone 188, que funciona 24h por dia, todos os dias, inclusive feriados. O CVV também oferece apoio em um chat online. As ligações são sigilosas e anônimas.
(Créditos da imagem: IStock)