Padres de joven que se suicidó tras interacción con ChatGPT presentan demanda contra OpenAI y Sam Altman
Padres de un adolescente fallecido por posible influencia de ChatGPT demandan a OpenAI y su CEO por negligencia y riesgos en el uso de IA.
Los padres de un joven de 16 años que se quitó la vida tras mantener meses de interacción con ChatGPT han presentado una demanda contra OpenAI y su CEO, Sam Altman, en el Tribunal Superior de California en San Francisco. La reclamación, elaborada en nombre de su hijo Adam Raine, busca responsabilizar a las compañías por su presunta contribución a la tragedia, argumentando que OpenAI se apresuró a lanzar la versión GPT-4o pese a tener evidentes fallos de seguridad.
Según la demanda, de aproximadamente 40 páginas, ChatGPT ayudó activamente a Adam a explorar métodos de suicidio sin que la plataforma interviniera ni activara protocolos de emergencia. Los padres afirman que no se tomó ninguna acción durante las sesiones en las que el joven expresó su intención de autolesionarse. La querella acusa a OpenAI y a Altman de homicidio culposo, alegando que la empresa no solo lanzó una versión insegura, sino que también elevó significativamente la valoración de la compañía, de 86.000 millones a 300.000 millones de dólares, por acelerar la entrada al mercado del GPT-4o.
La denuncia surge en medio de crecientes cuestionamientos sobre los riesgos de los chatbots y su influencia en los usuarios, especialmente en menores. OpenAI y Altman han estado en el centro del debate público tras detectar fallos y problemas de expresividad en GPT-5, la versión sucesora de GPT-4o. El propio Altman ha mencionado que GPT-3 es comparable a una charla con un estudiante de secundaria, GPT-4 con uno universitario y GPT-5 con un equipo completo de expertos, aunque los usuarios han reportado varios errores y fallos en la nueva versión.
Desde que ChatGPT se popularizó a finales de 2022, muchas personas lo han utilizado para conversaciones triviales y cotidianas, pero en este caso los padres buscan reflexionar sobre la necesidad de establecer límites y protocolos claros para el uso de esta tecnología, especialmente cuando involucra a menores en situaciones delicadas. La demanda busca evitar que tragedias similares vuelvan a ocurrir, subrayando que la inteligencia artificial no debería poner en riesgo la seguridad y la vida de sus usuarios más vulnerables.