OpenAI desarrolla versión de ChatGPT para adolescentes con medidas de protección y controles parentales
OpenAI lanza una versión adaptada de ChatGPT para proteger la salud mental y la seguridad de los adolescentes, con controles y filtros especiales.
OpenAI ha anunciado el desarrollo de una nueva versión de ChatGPT orientada a proteger la salud mental y la seguridad de los usuarios adolescentes, en respuesta a las crecientes críticas sobre los posibles efectos negativos de la herramienta en menores de edad. Según Sam Altman, CEO de la compañía, la prioridad es garantizar la privacidad y la protección de los adolescentes ante una tecnología poderosa y en constante evolución.
Esta actualización, que se espera lanzar a finales de este mes, incorporará un sistema que identificará si el usuario es menor de 18 años. En caso de que el chatbot detecte que el usuario es menor, será redirigido automáticamente a una versión adaptada con políticas específicas para su edad. Además, si existen dudas sobre la edad real del usuario, ChatGPT optará por la prudencia y lo dirigirá a la versión juvenil, estableciendo controles para evitar riesgos potenciales.
Entre las medidas implementadas, la versión adolescente bloqueará contenidos sexuales explícitos y, en situaciones donde se detecten signos de angustia severa, contactará a las fuerzas del orden para alertar sobre posibles riesgos. También se eliminarán conversaciones relacionadas con temas sensibles como relaciones románticas, suicidio y autolesiones, aunque se permitirá mantener diálogos de carácter adulto en ciertos casos, siempre que los usuarios mayores de edad así lo soliciten.
Además, OpenAI presentará controles parentales para facilitar a las familias la gestión del uso de ChatGPT por parte de menores. Estos controles permitirán establecer horarios de uso, recibir notificaciones sobre la salud mental de los usuarios jóvenes y desactivar funciones específicas si se considera necesario. La compañía ha destacado que estas restricciones pueden ser fácilmente sorteadas por usuarios con habilidades técnicas, lo que genera cierta preocupación sobre la efectividad de dichas medidas.
El anuncio coincide con una demanda legal que acusa a ChatGPT de influir en la salud mental de un adolescente que, lamentablemente, se quitó la vida tras presuntas interacciones con el chatbot. Aunque OpenAI ha reforzado las medidas de seguridad, instituciones y expertos continúan advirtiendo sobre los riesgos asociados al uso de estas tecnologías, especialmente por su potencial para sortear restricciones y generar efectos contraproducentes en ciertos usuarios.
En definitiva, la compañía busca equilibrar la libertad de expresión y la protección de los menores, asegurando que ChatGPT sea una herramienta útil y segura para todos los grupos de edad, sin perder la responsabilidad social en la gestión y regulación de su uso.