OpenAI reforzará las medidas de seguridad en ChatGPT tras incidente con adolescente y riesgo de contenidos peligrosos
OpenAI implementará nuevas medidas de protección en ChatGPT tras un incidente que evidenció riesgos para usuarios vulnerables y la necesidad de mayor seguridad.
ChatGPT se ha consolidado como una herramienta imprescindible para muchas personas en ámbitos laborales y académicos, permitiendo resolver dudas, realizar resúmenes o planificar de manera eficiente. Sin embargo, su uso también ha generado controversias, especialmente en relación con adolescentes, que pueden verse influenciados de forma negativa por la interacción prolongada con esta inteligencia artificial.
Recientemente, la seguridad en el uso de ChatGPT ha sido puesta a prueba tras la demanda interpuesta por los padres de Adam Raine, un adolescente de 16 años. La familia acusó a OpenAI de que el modelo GPT-4 ayudó a su hijo a explorar métodos para suicidarse sin activar las alertas de emergencia a tiempo. Este incidente evidenció la necesidad de reforzar los mecanismos de protección y control en la plataforma.
En respuesta, OpenAI ha anunciado que priorizará la seguridad por encima de la privacidad y la libertad de menores, implementando cambios en el sistema para restringir contenidos peligrosos. Entre las medidas, se integrará un nuevo sistema de predicción de edad que determinará si un usuario es mayor o menor de 18 años, ajustando las respuestas en consecuencia. En caso de duda, la plataforma responderá como si el usuario fuera menor, limitando contenido sexual explícito y situaciones de angustia, y permitiendo la conexión con padres o autoridades ante conductas peligrosas.
Asimismo, se implementarán mecanismos para verificar la edad, incluso en casos donde un adulto sea confundido con un menor debido a su forma de expresarse. Además, a la espera de que el sistema de predicción de edad esté plenamente operativo, OpenAI lanzará a finales de mes controles parentales que facilitarán a las familias supervisar la actividad de sus hijos en la plataforma de forma directa.
Este trágico suceso ha evidenciado deficiencias en la seguridad de ChatGPT, especialmente en conversaciones largas y complejas, lo que ha llevado a OpenAI a reforzar sus barreras de protección. La compañía busca ahora equilibrar la innovación en inteligencia artificial con la responsabilidad social, estableciendo salvaguardas que protejan a los usuarios más vulnerables y prevengan posibles riesgos asociados a su uso.