OpenAI implementa controles parentales para proteger a los menores en sus plataformas tras aumento en uso y casos legales
OpenAI introduce controles parentales en sus plataformas para proteger a los jóvenes, ante un crecimiento acelerado y exigencias regulatorias.
OpenAI ha anunciado la implementación de controles parentales en su plataforma, una medida que llega tras un crecimiento acelerado y mayormente no regulado de los chatbots de inteligencia artificial. Esta iniciativa se produce en medio de una demanda presentada contra la compañía por una familia que alegó que ChatGPT incentivó a su hijo adolescente a suicidarse. Aunque el caso sigue en trámite, OpenAI busca fortalecer la protección de los usuarios jóvenes mediante nuevas funciones de seguridad.
Los controles parentales permiten a los tutores vincular sus cuentas con las de sus hijos mediante una invitación sencilla, ya sea por correo electrónico o teléfono. Cuando las cuentas están conectadas, los tutores obtienen acceso a nuevos controles; si el adolescente decide desconectar la vinculación, los tutores reciben una notificación inmediata. Una vez activados, estos controles añaden salvaguardas predeterminadas en la cuenta del adolescente, como filtros para reducir la exposición a contenido gráfico, desafíos virales, juegos de rol románticos o violentos y estándares de belleza extremos que puedan resultar dañinos. Los tutores pueden desactivar estas restricciones, pero los adolescentes no pueden modificarlas por sí mismos.
Desde el panel de control, los tutores también pueden gestionar varias funciones, como establecer horarios en los que ChatGPT esté inactivo, apagar el modo de voz, desactivar la memoria para que las conversaciones pasadas no se guarden, bloquear la generación de imágenes y evitar que las interacciones de sus hijos se usen para entrenar los modelos de OpenAI. Además, estos controles se extienden a Sora, la nueva aplicación de vídeos de la compañía, similar a TikTok pero con contenido generado por inteligencia artificial. Desde allí, los tutores pueden limitar la navegación infinita, bloquear mensajes directos y desactivar recomendaciones personalizadas.
Sora se presenta como una plataforma en la que todos los vídeos son creados por IA en lugar de contenido humano, lo que genera opiniones divididas sobre su impacto. Aunque la implementación de controles parentales es positiva, muchos expertos consideran fundamental promover la educación tanto de tutores como de adolescentes respecto a los riesgos del uso de la IA y de internet en general. La realidad es que, fuera de estos controles, resulta complicado impedir que los adolescentes accedan a herramientas menos reguladas y potencialmente peligrosas, que difícilmente ofrecerán protecciones significativas.
Esta estrategia de OpenAI representa un paso en la dirección correcta para hacer sus plataformas más seguras para menores, aunque no elimina por completo los riesgos asociados. La responsabilidad recae tanto en las empresas como en la educación de la ciudadanía para fomentar un uso consciente y seguro de la tecnología en un entorno que, aún en desarrollo, requiere regulaciones y conciencia social para proteger a niños y adolescentes.