OpenAI implementará nuevas medidas de seguridad y supervisión en ChatGPT tras incidente relacionado con salud mental de usuarios
OpenAI anuncia nuevas medidas de seguridad en ChatGPT para proteger a usuarios vulnerables y prevenir conductas peligrosas tras un incidente trágico.
Tras un trágico incidente en el que un adolescente se quitó la vida y cuyos padres culpan parcialmente a ChatGPT, OpenAI ha anunciado nuevas medidas de seguridad mediante un comunicado en su blog oficial. La compañía explicó que, al detectar usuarios con intenciones de causar daño a terceros, sus conversaciones son enviadas a pipelines especializados para su revisión por un equipo capacitado en la política de uso aceptable, con autoridad para bloquear cuentas si fuera necesario y, en casos de peligro inminente, remitir la situación a las autoridades correspondientes.
OpenAI señaló que, actualmente, cuando los usuarios expresan pensamientos suicidas o preguntas relacionadas con autolesiones, no se reportan estos casos a las fuerzas del orden para proteger la privacidad, ya que las interacciones con ChatGPT se consideran especialmente confidenciales. Sin embargo, la compañía reconoció que las conversaciones largas pueden hacer que ChatGPT olvide instrucciones previas de seguridad o recomendaciones, lo que podría afectar la eficacia de las medidas de protección.
Por otro lado, la empresa anunció que planea implementar un modo parental que permitirá supervisar y controlar las interacciones de menores con la plataforma. También señalaron que todavía es posible mejorar sus sistemas de seguridad para detectar y prevenir conductas peligrosas de forma más efectiva.
En relación con los recursos disponibles en distintos países, se mencionan líneas de ayuda gratuitas en Alemania, Austria y Suiza, destinadas a ofrecer apoyo en temas como acoso escolar y suicidio. En Alemania, está el teléfono 116 111 para ayuda infantil y juvenil, mientras que en Austria y Suiza servicios similares, como Rat auf Draht (147) y Pro Juventute, están disponibles para brindar soporte a quienes lo necesiten. Estas iniciativas buscan fortalecer la protección y la asistencia a menores y adolescentes frente a situaciones de riesgo emocional o psicológico.