OpenAI implementa modelo de predicción de edad en ChatGPT para proteger a usuarios menores de 18 años
OpenAI introduce un sistema que detecta edades en ChatGPT, activando medidas de protección y controles parentales para cuidar a los usuarios jóvenes.
OpenAI anunció que está implementando un modelo de predicción de edad en sus planes para consumidores de ChatGPT, con el objetivo de identificar cuentas que puedan pertenecer a usuarios menores de 18 años. Este modelo se basa en una combinación de señales a nivel de cuenta y comportamiento del usuario, incluyendo patrones de uso a lo largo del tiempo, antigüedad de la cuenta, horarios habituales de actividad y la edad declarada por el usuario.
Desde hace meses, OpenAI ha introducido diversas funciones de seguridad para proteger a sus usuarios, especialmente a menores, en respuesta a crecientes preocupaciones e investigaciones regulatorias sobre el impacto de las plataformas de inteligencia artificial en niños y adolescentes. La compañía también ha sido nombrada en varias demandas relacionadas con la posible influencia negativa en la salud mental de jóvenes, entre ellas una por la muerte de un adolescente por suicidio.
Cuando el modelo indica que un usuario es menor de 18 años, ChatGPT aplicará automáticamente protecciones diseñadas para reducir la exposición a contenido sensible, como representaciones de autolesiones. En caso de que la identificación de la edad sea incorrecta, los usuarios podrán utilizar el servicio de verificación de identidad Persona para recuperar su acceso completo, una herramienta ya empleada por otras empresas tecnológicas como Roblox.
OpenAI también ha anunciado el lanzamiento de controles parentales que permitirán a tutores entender y gestionar cómo utilizan los adolescentes ChatGPT. Además, en octubre, la empresa convocó un consejo de ocho expertos que ofrecerá orientación sobre cómo la inteligencia artificial puede afectar la salud mental, las emociones y la motivación de los usuarios.
La compañía afirmó que continuará perfeccionando la precisión de su sistema de predicción de edad y que, en las próximas semanas, implementará esta función en la Unión Europea, ajustándose a los requisitos regionales. Con estas medidas, OpenAI busca responder a preocupaciones regulatorias y sociales, consolidando su compromiso con la seguridad y protección de usuarios jóvenes en sus plataformas.