ChatGPT, Claude o Gemini no siempre brindan respuestas adecuadas en situaciones de riesgo suicida

La inteligencia artificial ha irrumpido en nuestras vidas con herramientas conversacionales que prometen respuestas instantáneas a casi cualquier pregunta. Plataformas como ChatGPT, Claude y Gemini se han convertido en asistentes virtuales para millones de usuarios en todo el mundo. Sin embargo, cuando se trata de salud mental y especialmente de crisis suicidas, surgen preguntas cruciales sobre su capacidad real para manejar estas situaciones delicadas.

La Agencia SINC ha alertado sobre las limitaciones de estos sistemas en contextos de emergencia psicológica. Aunque estos chatbots pueden simular empatía y ofrecer respuestas que parecen comprensivas, carecen de la formación, el criterio humano y la responsabilidad profesional necesaria para intervenir adecuadamente en casos donde una vida podría estar en peligro. Esta advertencia nos obliga a examinar críticamente el papel que deberían jugar estas tecnologías en el apoyo a la salud mental.

##¿Qué ocurre cuando alguien en crisis consulta a un chatbot?

Imaginemos por un momento a una persona atravesando una profunda crisis emocional. Es de noche, se siente sola y desesperada, y decide buscar ayuda en un chatbot de IA. La inmediatez y anonimato que ofrecen estas plataformas pueden parecer atractivas en ese momento de vulnerabilidad. Pero ¿qué tipo de respuesta recibe?

Los estudios analizados por la Agencia SINC indican que las respuestas varían significativamente entre plataformas y dependen de cómo se formule la consulta. Algunos chatbots pueden reconocer palabras clave relacionadas con suicidio y responder con números de teléfono de líneas de ayuda, mientras que otros podrían ofrecer consejos genéricos que minimizan la gravedad de la situación o, peor aún, respuestas inapropiadas que podrían agravar el riesgo.

El problema fundamental radica en que estos sistemas no comprenden realmente el contexto humano detrás de las palabras. No pueden percibir el tono de voz, el lenguaje corporal o las nuances emocionales que un profesional entrenado detectaría inmediatamente. Su funcionamiento se basa en patrones estadísticos y asociaciones de palabras, no en una comprensión genuina del sufrimiento humano.

##Limitaciones técnicas y éticas de los chatbots en crisis de salud mental

###La falta de formación especializada

Los chatbots de IA generalistas como ChatGPT, Claude y Gemini no están específicamente entrenados para intervenciones en crisis de salud mental. Su conocimiento sobre suicidio prevention proviene de datos disponibles públicamente, pero carecen de la supervisión clínica y los protocolos estandarizados que guían a los profesionales de la salud mental.

Un terapeuta humano pasa años formándose, supervisando casos y desarrollando habilidades para evaluar el riesgo, establecer rapport terapéutico y realizar intervenciones apropiadas. Los chatbots, en cambio, operan mediante algoritmos que priorizan la coherencia lingüística sobre la precisión clínica. Esta diferencia crucial explica por qué no pueden reemplazar la intervención humana en situaciones de alto riesgo.

###Problemas de consistencia y fiabilidad

Las investigaciones citadas por SINC revelan que las respuestas de estos chatbots pueden ser inconsistentes e incluso contradictorias. Una misma pregunta sobre ideación suicida podría obtener diferentes respuestas dependiendo del momento, la plataforma o cómo se formule la consulta. Esta falta de fiabilidad resulta especialmente peligrosa en contextos donde la estabilidad y consistencia son fundamentales.

Además, estos sistemas pueden verse afectados por lo que se conoce como «alucinaciones» o invenciones de información, donde el chatbot genera contenido que parece verosímil pero que no se basa en evidencia real. En el caso de una crisis suicida, recibir información incorrecta sobre métodos de afrontamiento o recursos de ayuda podría tener consecuencias devastadoras.

##El peligro de la deshumanización del apoyo emocional

La conversación con un chatbot nunca podrá replicar la conexión humana auténtica que se establece entre un profesional de la salud mental y su paciente. La empatía real, la compasión y la comprensión genuina son cualidades humanas que surgen de experiencias vitales compartidas y de la capacidad de resonar emocionalmente con el dolor ajeno.