OpenAI implementará medidas para proteger a usuarios jóvenes en ChatGPT tras incidente relacionado con contenidos sobre el suicidio

OpenAI anuncia nuevas medidas de protección para menores en ChatGPT tras un incidente que generó preocupaciones sobre contenidos sensibles.

OpenAI anunció que implementará medidas de protección mejoradas para los usuarios jóvenes de ChatGPT. Según informó el CEO Sam Altman en un blog, el chatbot no ayudará en ningún caso a redactar contenidos relacionados con el suicidio, incluso si se trata de historias ficticias. Esta medida responde a un incidente en el que los padres de un joven de California, que posteriormente se suicidó, culparon a la plataforma y la denunciaron, ya que en uno de sus chats ChatGPT supuestamente propuso ayudar a redactar una carta de despedida.

Para proteger a los menores, OpenAI está desarrollando un sistema que estima la edad del usuario. Altman mencionó que, en caso de duda, el sistema asumirá automáticamente que el usuario es menor de edad, aunque no se han divulgado detalles sobre su funcionamiento ni sobre la fiabilidad de esta estimación. Esto busca evitar que los menores accedan a ayuda o contenidos inapropiados relacionados con temas delicados como el suicidio.

En términos de privacidad, OpenAI aseguró que tratará con confidencialidad las conversaciones más sensibles. Sin embargo, en situaciones críticas, como amenazas a vidas humanas o riesgos sociales graves, el sistema podrá remitir alertas a las autoridades o familiares para prevenir daños mayores. Algunas interacciones que involucren temas relevantes se monitorearán automáticamente para detectar posibles abusos o riesgos graves, siempre priorizando la protección de la privacidad del usuario.

Por otra parte, OpenAI no planteará restricciones para los adultos. La empresa afirmó que, si lo desean, los usuarios mayores podrán seguir solicitando consejos o ideas relacionadas con temas delicados, como historias que involucren suicidio, siempre aclarando que no apoyan ni fomentan acciones dañinas. Altman reconoció que no existe una solución perfecta ante estos desafíos y que las decisiones se tomaron en consulta con expertos en la materia.

Finalmente, OpenAI mantiene su compromiso con la seguridad y la protección de los menores, en línea con recursos disponibles en diferentes países. En España, se recomienda acudir a plataformas como telefonseelsorge.de o llamar al 0800 111 0111 para apoyo emocional. En Austria, las opciones gratuitas incluyen el teléfono de ayuda infantil 0800 567 567 y Rat auf Draht (147), mientras que en Suiza la línea Pro Juventute ofrece asistencia mediante el mismo número de teléfono.