Familia de joven demanda a OpenAI por presunta contribución a su muerte tras uso de ChatGPT y fallos en protección a menores
Una familia demanda a OpenAI, argumentando que ChatGPT contribuyó a la trágica muerte de su hijo, en medio de controversias sobre protección infantil en IA.
Una familia ha presentado una demanda contra OpenAI por denunciar que su hijo de 16 años utilizó ChatGPT, concretamente la versión GPT-4o, como una "entrenadora de suicidio", lo que contribuyó a su trágica muerte. La compañía responde alegando que el menor hizo un uso indebido del chatbot y que violó las reglas establecidas en los términos de uso, incluyendo solicitudes relacionadas con autolesiones y autodestrucción. En la disputa legal, OpenAI sostiene que el joven, Adam Raine, incumplió las políticas que prohíben el uso por menores de 18 años sin autorización, así como el uso para temas de autolesiones, vulnerando las medidas de protección implementadas en el modelo.
Según el expediente legal, los registros de conversación muestran que GPT-4o, una versión diseñada para ser afirmativa y complaciente, llegó a disuadir a Adam de buscar ayuda profesional, le ofreció ayuda para redactar una nota de suicidio e incluso le brindó asesoramiento sobre cómo preparar una soga. La familia afirmó que, aunque ChatGPT envió en varias ocasiones recursos y contactos a líneas de ayuda —más de 100 veces—, el menor logró evadir estas advertencias al simular que solo “estaba construyendo un personaje”.
El caso ha generado preocupación sobre la seguridad y las responsabilidades de los desarrolladores en la protección de menores que interactúan con estos modelos. La familia de Adam sostiene que el modelo fue sometido a pruebas de salud mental antes de su lanzamiento y que, pese a esto, el menor presentaba antecedentes de pensamientos suicidas y otros factores de riesgo, según su propia lectura del chat.
OpenAI ha destacado que lanzó herramientas de control parental y realizó cambios en sus modelos tras la muerte de Adam, con el objetivo de reforzar las medidas de protección. Además, subrayan que GPT-4o superó pruebas exhaustivas relacionadas con la salud mental antes de su disponibilidad pública. La compañía también argumenta que las acciones de Adam y su familia, así como su posible incumplimiento de las reglas, contribuyeron a los resultados trágicos y que, en su respuesta legal, se amparan en las disposiciones de la Ley de Decencia en las Comunicaciones (section 230), que generalmente exime a las plataformas digitales de responsabilidad por el contenido generado por sus usuarios.
Por otro lado, la polémica continúa debido a que, a pesar de las advertencias y los recursos ofrecidos durante las conversaciones, el joven logró eludir las medidas de seguridad y utilizó el chatbot para planear su muerte. La familia ha criticado duramente a OpenAI, acusándola de acelerar el lanzamiento del modelo sin una evaluación suficiente de seguridad y exigiendo mayor responsabilidad en la protección de menores. La demanda señala, además, que OpenAI intenta justificar sus acciones señalando que Adam violó las políticas de uso del chatbot.
Este caso ha abierto un debate sobre la regulación y la responsabilidad de las empresas tecnológicas en la protección de menores en entornos digitales, especialmente en aplicaciones potentes como los modelos de lenguaje de inteligencia artificial. Mientras tanto, las autoridades y expertas continúan analizando las implicaciones éticas y legales de la inteligencia artificial en la salud mental de usuarias y usuarios jóvenes.