OpenAI lanza controles parentales en ChatGPT para proteger la salud emocional de adolescentes
OpenAI introduce controles parentales en ChatGPT para salvaguardar la salud emocional de los adolescentes y prevenir riesgos en sus interacciones en línea.
OpenAI está implementando mejoras en la seguridad de ChatGPT destinadas a proteger a adolescentes y personas que atraviesan crisis emocionales. La compañía anunció que lanzará controles parentales que permitirán a los padres vincular sus cuentas con las de sus hijos a partir de los 13 años. Estos controles ofrecerán la posibilidad de restringir funciones y recibir alertas en tiempo real si el sistema detecta conversaciones problemáticas que puedan indicar síntomas de depresión, angustia emocional u otras dificultades.
Una de las novedades principales es que los padres podrán decidir si el chatbot puede guardar el historial de chats o utilizar la función de memoria, además de activar directrices sobre contenido apropiado para la edad, que se aplicarán por defecto para regular cómo responde la inteligencia artificial.
En caso de que se identifique una conversación señalada por el sistema como potencialmente problemática, los padres recibirán una notificación. Esto no implica una vigilancia constante, ya que si no hay alertas, no se avisará a los progenitores. Pero cuando el sistema detecte signos de angustia, la alerta permitirá una intervención o un chequeo en situaciones críticas, ayudando a evitar posibles riesgos.
OpenAI ha destacado que sigue trabajando para mejorar la capacidad de ChatGPT de reconocer y responder a signos de malestar mental y emocional, guiado por un consejo de expertos y una red de médicos especializados en salud mental, adicciones y atención adolescente. Además, las conversaciones sensibles relacionadas con dificultades emocionales o ideación suicida serán canalizadas a través de una versión especializada del modelo, que responde con mayor cautela y siguiendo estrictas directrices de seguridad.
El lanzamiento de estos controles será progresivo durante el próximo mes, buscando equilibrar la interacción con los jóvenes en línea y la protección de su bienestar emocional. Con estas herramientas, OpenAI pretende reducir el riesgo de que las conversaciones con la inteligencia artificial deriven en situaciones peligrosas, promoviendo un uso más seguro y responsable de la tecnología en un contexto cada vez más presente en la vida de la adolescencia.