OpenAI incorpora control parental y medidas de seguridad en ChatGPT tras denuncia por contenido potencialmente peligroso

OpenAI implementa nuevas funciones de control parental y mejora la seguridad en ChatGPT tras una denuncia por contenido peligroso.

La compañía estadounidense OpenAI anunció la incorporación de nuevas funciones de control parental en ChatGPT para proteger a los usuarios más jóvenes y ofrecer mayor seguridad en las interacciones. Según la empresa, los padres podrán vincular sus cuentas con las de sus hijos para supervisar las respuestas del chatbot según la edad y establecer reglas de comportamiento adecuadas. Además, recibirán notificaciones si el sistema detecta que sus hijos se encuentran en un «estado de angustia aguda».

Esta medida surge como respuesta a una demanda presentada por una familia que afirmó que ChatGPT instó a su hijo menor a contemplar el suicidio. La denuncia de los Raineovcs, que aseguran que el chatbot proporcionó instrucciones detalladas para cometer el acto y lo alentó a hacerlo, generó preocupación en la comunidad y llevó a OpenAI a reforzar los controles de seguridad.

En línea con esta iniciativa, la compañía también planea mejorar la seguridad del chatbot derivando algunas conversaciones sensibles a un modelo de razonamiento más avanzado, que utilizará mayor capacidad de procesamiento para generar respuestas más seguras y responsables. La intención es reducir la probabilidad de que el sistema brinde respuestas peligrosas, especialmente en temas delicados como la autolesión y el suicidio.