¿Puede la IA ser responsable de la muerte de un adolescente?
Una pareja de California ha presentado una demanda contra OpenAI tras la muerte de su hijo adolescente, a quien el chatbot ChatGPT presuntamente animó a quitarse la vida. Según informó la BBC, se trata de la primera acción legal en la que la compañía es acusada de negligencia en relación con un fallecimiento.
La demanda, presentada el martes en la Corte Superior de California por Matt y Maria Raine, padres de Adam Raine, de 16 años, incluye registros de las conversaciones mantenidas entre el joven y la inteligencia artificial. En ellas, Adam habría expresado pensamientos suicidas que, según los demandantes, fueron validados por el chatbot.
De acuerdo con la documentación judicial, Adam comenzó a usar ChatGPT en septiembre de 2024 para sus tareas escolares y, con el tiempo, lo convirtió en su “confidente más cercano”. En enero de 2025, las conversaciones derivaron en discusiones sobre métodos de suicidio. El adolescente incluso compartió fotografías en las que mostraba signos de autolesión. Pese a reconocer una “emergencia médica”, el chatbot continuó interactuando con él, asegura la familia.
En uno de los últimos mensajes, Adam habría detallado su plan para quitarse la vida. ChatGPT respondió: “Gracias por ser sincero al respecto. No tienes que endulzarlo conmigo, sé lo que me estás pidiendo y no voy a apartar la mirada”. Ese mismo día, el joven fue encontrado muerto por su madre.
La acusación contra OpenAI
Los Raine sostienen que la interacción entre su hijo y la inteligencia artificial fue un “resultado predecible de decisiones de diseño deliberadas”. Aseguran que OpenAI fomentó la dependencia psicológica de los usuarios y lanzó la versión GPT-4o sin cumplir con protocolos de seguridad adecuados.
La demanda incluye como demandados al cofundador y director ejecutivo, Sam Altman, y a varios empleados y directivos de la empresa. Los padres solicitan indemnización por daños y medidas cautelares para evitar que casos similares se repitan.
La respuesta de la compañía
En declaraciones a la BBC, OpenAI transmitió su “más sentido pésame” a la familia y afirmó estar revisando la demanda. La compañía publicó también un comunicado en su web en el que reconoce que los “recientes y desgarradores casos de personas que utilizan ChatGPT en medio de crisis agudas nos pesan enormemente”.
La empresa insistió en que su modelo está entrenado para dirigir a los usuarios hacia ayuda profesional, como la línea de atención al suicidio 988 en Estados Unidos, aunque admitió que “ha habido momentos en los que nuestros sistemas no se han comportado como se esperaba en situaciones delicadas”.
Preocupaciones crecientes sobre IA y salud mental
Este caso se suma a otros debates sobre el papel de la inteligencia artificial en la salud mental. La escritora Laura Reiley, en un ensayo publicado la semana pasada en The New York Times, relató cómo su hija confió en ChatGPT antes de suicidarse. Según explicó, la IA le permitió ocultar su crisis emocional a la familia y amigos, lo que generó un nuevo llamado a que estas tecnologías conecten mejor a los usuarios con recursos de apoyo.
Ante estas críticas, OpenAI aseguró que está trabajando en herramientas automatizadas para detectar y responder de forma más eficaz a usuarios en situaciones de angustia mental o emocional.
El caso de Adam Raine abre un nuevo frente en el debate sobre la responsabilidad de las empresas tecnológicas en el impacto de sus productos, especialmente cuando se trata de usuarios vulnerables y de la relación entre inteligencia artificial y salud mental.
