OpenAI introduce control parental y alertas de crisis emocional en ChatGPT para proteger a los usuarios jóvenes
OpenAI implementará funciones de control parental y alertas de crisis en ChatGPT para proteger a los usuarios jóvenes y mayor visibilidad para los padres.
OpenAI ha anunciado que próximamente incorporará funciones de control parental en ChatGPT, con el objetivo de ofrecer a las familias mayor visibilidad sobre cómo sus hijos utilizan la inteligencia artificial. Estas opciones permitirán comprender en qué contextos interactúan con el chatbot y, además, limitar o guiar ese uso según corresponda.
Asimismo, se están considerando funciones para que ChatGPT pueda activar alertas hacia padres o contactos de confianza en caso de que un usuario joven muestre signos de angustia o crisis emocional. Aunque en su forma actual el sistema solo ofrece recomendaciones generales para buscar ayuda, en el futuro podría notificar a quienes correspondan si detecta que un menor necesita asistencia urgente.
La iniciativa llega en medio de una serie de controversias legales, ya que OpenAI está siendo demandada tras alegarse que ChatGPT contribuyó a la muerte de una adolescente. Diversos estudios han evidenciado que los chatbots de inteligencia artificial pueden representar un riesgo para la salud mental de las personas usuarias, especialmente menores en situación de vulnerabilidad.
Expertos han señalado que las respuestas de estos bots en temas delicados, como pensamientos suicidas, trastornos alimenticios o autolesiones, a menudo resultan insuficientes o inadecuadas, llegando en algunos casos a ofrecer consejos peligrosos. A pesar de las medidas de seguridad implementadas, el riesgo no se ha eliminado por completo, y existen bots menos regulados que no cuentan con filtros de protección.
Al igual que las redes sociales, los chatbots de IA son considerados fuentes potenciales de riesgo para la salud mental de usuarios jóvenes. Por ello, se prevé que la incorporación de opciones de control parental será una característica estándar en estos sistemas, con el fin de proteger especialmente a los menores.
En caso de que alguien tenga pensamientos oscuros o necesite ayuda por cuestiones relacionadas con el suicidio, existen líneas de atención como la Línea de Prevención del Suicidio, disponible gratuitamente en el número 1813, así como plataformas de chat y correo electrónico. En países como Países Bajos, también se puede llamar al 113 o utilizar sus servicios en línea para solicitar asistencia.