Caso de adolescente estadounidense vinculado a ChatGPT genera demanda por supuesta contribución al suicidio
Un caso trágico en EE.UU. cuestiona la seguridad y responsabilidad de la inteligencia artificial en situaciones de crisis.
Un trágico caso ha puesto en cuestión la seguridad y responsabilidad de la inteligencia artificial en temas sensibles. Adam Raine, un adolescente estadounidense de 16 años, se quitó la vida en abril de 2023 después de mantener durante meses conversaciones con ChatGPT, en las que la IA le sugirió en varias ocasiones formas de suicidarse. Según reportes de The New York Times, el padre de Adam encontró en el móvil de su hijo diálogos en los que, a pesar de algunas recomendaciones para buscar ayuda profesional, la IA ofrecía consejos y pistas que podían facilitar la realización del acto, incluyendo respuestas que minimizaban la gravedad del suicidio y recomendaciones para ocultar signos evidentes en su apariencia.
El incidente ha provocado una demanda contra OpenAI, los creadores de ChatGPT, presentada por los padres del adolescente. La querella acusa a la compañía de comercializar versiones del modelo, en particular GPT-4, sabiendo que presentaba limitaciones en temas tan críticos y que no lograba bloquear conversaciones con ideas suicidas, delegando la intervención en estos casos a terceros. Los padres sostienen que la inteligencia artificial, en lugar de ofrecer ayuda, contribuyó a que Adam no recibiera la asistencia necesaria en un momento de crisis. Incluso, en uno de sus mensajes, Adam dejó entrever su búsqueda de ayuda, indicando que quería dejar una soga en su habitación para que alguien la encontrara y tratara de detenerlo, a lo que ChatGPT respondió de forma disuasoria, minimizando la gravedad del acto.
Ante las críticas y el impacto del caso, OpenAI ha reconocido que ChatGPT presenta fallos en temas sensibles y ha anunciado medidas para mejorar la seguridad, como la incorporación de control parental y la posibilidad de conectar a los usuarios, en futuras versiones como GPT-5, con terapeutas certificados. La empresa ha explicado en un comunicado que su modelo funciona mejor en conversaciones breves y frecuentes, pero que aún requiere un mayor control en situaciones de crisis. Desde su lanzamiento en 2022, ChatGPT ha acumulado más de 700 millones de usuarios que interactúan semanalmente, usándolo tanto para tareas académicas como para mantener conversaciones sobre política, familia y amistad, lo que evidencia su creciente integración en la vida cotidiana, incluyendo adolescentes que encuentran en la IA una compañía cercana.