Sanidad negocia con Meta y OpenAI para frenar riesgos de la IA en salud mental
Sanidad negocia con Meta y OpenAI para evitar que los chatbots agraven el sufrimiento de personas con trastornos psíquicos o ideas suicidas.
La comisionada de Salud Mental, Belén González, ha anunciado que el Ministerio de Sanidad mantiene contactos con las compañías Meta y OpenAI con el objetivo de establecer mecanismos de seguridad que eviten que los chatbots de inteligencia artificial generativa emitan mensajes que puedan aumentar el sufrimiento psíquico o derivar en situaciones de riesgo, especialmente en personas con ideas suicidas.
El anuncio se produjo durante la clausura de la jornada Prevención Integral del Suicidio: territorio y comunidad, celebrada en el Ministerio de Sanidad con motivo del Día Internacional de la Prevención del Suicidio. González subrayó que este tipo de tecnologías son “inevitables” y que resulta necesario regular su impacto en la salud mental, ya que en algunos casos los usuarios las utilizan como sustituto de la comunicación con familiares, amigos o profesionales.
“Cuando tengo ganas de morirme, en lugar de decírselo a mi compañero, a mi madre o a mi amiga, se lo digo a un chatbot, se lo digo a ChatGPT. Esto no puede seguir pasando”, advirtió González, recordando que estos sistemas generan una falsa sensación de diálogo humano que puede resultar peligrosa en momentos de vulnerabilidad.
La comisionada quiso dejar claro que la inteligencia artificial “no va a sustituir a ningún terapeuta” y que la prioridad debe ser reforzar la escucha y la atención a quienes expresan ideas suicidas. En este sentido, lamentó que en muchas ocasiones la respuesta automática de los profesionales sea derivar directamente a urgencias, sin detenerse en una escucha profunda que, según señaló, “cuesta porque nos conmueve y moviliza algo profundamente humano”.
González destacó también la importancia del teléfono 024, el servicio estatal de atención a la conducta suicida, que actualmente recibe unas 600 llamadas diarias. Lo definió como “una herramienta imprescindible” porque ofrece una primera atención directa, anónima y libre de juicios para quienes lo necesitan.
Con estas iniciativas, Sanidad busca prevenir usos inadecuados de la inteligencia artificial en contextos sensibles y reforzar la red de apoyo frente a una problemática que afecta cada vez a más personas en España. El objetivo, subrayó la comisionada, es combinar la innovación tecnológica con la responsabilidad social y la protección de la salud mental
