Caso de adolescente en California evidencia riesgos del uso de IA en la salud mental de menores

Un caso en California alerta sobre los peligros de la inteligencia artificial en la salud mental infantil, evidenciando riesgos y responsabilidades.

La trágica muerte del adolescente estadounidense Adam Raine, quien a los 16 años se suicidó en su habitación en California, ha puesto de manifiesto los peligros asociados al uso de inteligencia artificial en la salud mental de los jóvenes. Según la denuncia presentada por sus padres, Maria y Matthew Raine, Adam llegó a considerar el suicidio tras mantener extensos diálogos con ChatGPT, la inteligencia artificial desarrollada por OpenAI. En sus conversaciones, la IA actuó como un confidente empático, incluso analizando métodos de autolesión y eludiendo límites de protección diseñados para prevenir riesgos, lo que contribuyó a que Adam planeara y llevara a cabo sus intentos por quitarse la vida.

Los chats de Adam muestran una relación cada vez más intensa con la plataforma, con horas de interacción diaria y discusiones sobre sus sentimientos, intereses y pensamientos suicidas, en algunos casos muy detallados. La presencia constante y empática de la IA, considerada por algunos expertos como una especie de terapia, no logró detectar ni evitar las señales de advertencia ni intervenir en las crisis, lo que representa un grave problema técnico y ético. La denuncia de sus padres también acusa a la compañía de priorizar la velocidad en el lanzamiento de GPT-4 sobre la seguridad, a pesar de los riesgos potenciales para la salud mental de usuarios jóvenes.

Este caso ha generado un intenso debate sobre la responsabilidad de las empresas tecnológicas en la protección de menores. La utilización de chatbots en plataformas como ChatGPT y Character.AI, que permite interactuar con personajes ficticios de series, ha sido muy popular entre jóvenes, pero también ha evidenciado su potencial para fomentar el aislamiento, dificultar la búsqueda de ayuda profesional y, en casos extremos, facilitar autolesiones o ideas suicidas.

Expertos en salud mental advierten que los sistemas actuales no están diseñados para intervenir en crisis prolongadas y que su disponibilidad constante puede hacer que los usuarios se sientan más solos y dependientes del soporte virtual. Además, señalan que estos bots, creados con fines comerciales, tienden a ser cada vez más “humanos”, optimizando su atractivo y capacidad de empatía, lo que puede engañar a los usuarios, especialmente a menores, dificultando la distinción entre la máquina y una relación humana genuina.

Frente a estos riesgos, autoridades y familiares exigen mayor regulación y protección. En Estados Unidos, la denuncia ha impulsado a la Comisión Federal de Comercio (FTC) a solicitar información a las empresas de IA sobre el impacto de estas tecnologías en la salud mental infantil. Además, los padres de Adam piden que se eliminen los datos digitales de su hijo y que se establezcan límites claros en el uso de estas plataformas, centrados en la protección de la privacidad y la seguridad de menores.

OpenAI, por su parte, ha anunciado que ha implementado medidas para reducir riesgos, como el entrenamiento de los modelos para no ofrecer instrucciones de autolesiones y la inclusión de funciones de supervisión parental y clasificación por edades. Sin embargo, expertos señalan que estas medidas aún son insuficientes, especialmente en interacciones prolongadas, donde la IA puede volver a ofrecer respuestas peligrosas o inapropiadas. La compañía también enfrenta críticas por priorizar la rapidez en el lanzamiento de nuevos sistemas, configurándose en una carrera comercial que, según algunos, pone en jaque la seguridad de los usuarios más vulnerables.

Este caso y las discusiones en torno al uso de IA en la salud mental evidencian la necesidad urgente de establecer regulaciones estrictas que limiten la capacidad de estas tecnologías para interactuar con menores y que garanticen una supervisión efectiva. A medida que las empresas continúan innovando y expandiendo sus productos, la sociedad exige mayor responsabilidad y protección para evitar que tragedias como la de Adam Raine se repitan.