OpenAI aclara su política de seguridad y supervisión de conversaciones en ChatGPT tras incidente con menor
OpenAI anuncia nuevas medidas para mejorar la seguridad de ChatGPT tras un incidente que involucra a un menor y la responsabilidad de las autoridades.
Tras un trágico incidente en el que un menor perdió la vida y cuyas autoridades familiares responsabilizan a ChatGPT, OpenAI ha emitido un comunicado en su blog para aclarar la situación y anunciar nuevas medidas de seguridad. La compañía admite que actualmente revisa conversaciones sospechosas y, en algunos casos, comparte información con las autoridades, aunque no está claro si todos los chats se escanean o solo aquellos que levantan sospechas. Además, OpenAI señala que, en general, no reporta casos de autolesiones a las autoridades para proteger la privacidad de los usuarios, aunque reconoce que puede detectar ciertos casos que son analizados en profundidad.
La empresa confirma que, al detectar usuarios que puedan representar un peligro para sí mismos o para otros, sus conversaciones se envían a equipos especializados que las revisan para tomar medidas como la suspensión de cuentas. En caso de que se determine una amenaza inminente, es posible que el caso se derive a las autoridades correspondientes. No obstante, aún no se especifica si esta revisión es automática ni si se realiza en todos los casos o solo en ciertas circunstancias.
En relación con los menores, OpenAI afirma que actualmente no reporta automáticamente a las autoridades los casos de autolesiones para respetar la confidencialidad de las conversaciones. Sin embargo, la plataforma intenta orientar a los usuarios hacia recursos de ayuda si detecta indicios de riesgo, aunque la seguridad aún es susceptible de mejora. La empresa anuncia que está preparando un modo especial para que las familias puedan supervisar y gestionar el uso de la plataforma por parte de menores.
Finalmente, OpenAI admite que las medidas de seguridad existentes aún necesitan fortalecerse, especialmente en conversaciones prolongadas, donde el sistema puede «olvidar» ciertos protocolos, lo que incrementa el riesgo de respuestas inapropiadas. Como parte de su compromiso por mejorar, también se planea el desarrollo de un modo parental. Mientras tanto, en países como España, Argentina y México existen líneas gratuitas de ayuda para quienes enfrentan problemas relacionados con la salud mental, el acoso escolar y pensamientos suicidas, disponibles por teléfono y en línea para brindar apoyo y orientación a quienes lo necesiten.