OpenAI introduce medidas para promover un uso responsable y saludable de ChatGPT
OpenAI implementa nuevas medidas en ChatGPT para promover un uso consciente, responsable y prevenir efectos emocionales o mentales negativos en los usuarios.
OpenAI ha anunciado que, a partir del próximo lunes, ChatGPT implementará nuevas medidas para promover un uso más saludable y consciente de la inteligencia artificial. La plataforma comenzará a solicitar a los usuarios que hagan pausas en conversaciones extensas y dejará de ofrecer consejos directos sobre desafíos personales, optando en cambio por formular preguntas que ayuden a las personas a tomar decisiones por sí mismas. Esta iniciativa forma parte de un compromiso para prevenir que se desarrollen comportamientos emocionales o mentales poco saludables al interactuar con el chatbot.
Además, OpenAI está trabajando en herramientas adicionales para detectar signos de angustia mental y emocional, colaborando con más de 90 médicos en diversos países y desarrollando rúbricas específicas para evaluar conversaciones complejas. La compañía ha reconocido que en modelos anteriores, como GPT-4, se presentaron comportamientos excesivamente complacientes o peligrosos, incluyendo casos en los que se promovió el terrorismo o se mostraron actitudes de extrema agreeableness. Por ello, han revisado sus técnicas de entrenamiento para evitar estas conductas y garantizar respuestas más responsables y adecuadas en situaciones sensibles.
En este sentido, OpenAI ha formado un grupo asesor compuesto por profesionales en salud mental, desarrollo infantil e interacción humano-computadora, que ayudará a perfeccionar sus respuestas y estrategias de consejo. Además, en una entrevista reciente, el CEO de la compañía, Sam Altman, expresó su preocupación acerca del uso de ChatGPT como sustituto de profesionales en salud, señalando que las conversaciones en plataformas digitales no cuentan con la misma protección legal que un terapeuta o un abogado, lo que podría derivar en implicaciones legales en caso de litigios.
Por otro lado, la compañía ha lanzado recientemente un modo agente que permite realizar tareas en línea, como agendar citas o resumir correos electrónicos, y espera que GPT-5 alcance esta semana los 700 millones de usuarios activos semanales en un contexto de competencia global en el desarrollo de inteligencia artificial.
OpenAI afirmó que su objetivo no es medir el éxito por el tiempo que las personas permanecen en la plataforma, sino por la utilidad que encuentran en ella y si logran cumplir sus objetivos. La empresa continúa investigando y ajustando sus modelos para proporcionar una experiencia más segura, útil y responsable, fomentando que las personas regresen no solo por la novedad, sino por el valor real que reciben en sus interacciones.