OpenAI implementa cambio automático de modelos en ChatGPT para temas delicados y emocionales
OpenAI introduce una actualización innovadora en ChatGPT que ajusta automáticamente el modelo para manejar temas delicados con mayor seguridad y precisión.
OpenAI ha implementado una medida innovadora de seguridad en ChatGPT para abordar temas delicados y emocionales. Según informó Nick Turley, jefe de ChatGPT en OpenAI, el sistema puede cambiar automáticamente de modelo durante una conversación para tratar asuntos sensibles, sin que el usuario lo detecte. Este cambio puede implicar la transición a un modelo especializado en razonamiento o a una versión avanzada llamada GPT-5, diseñada para manejar con mayor cautela estos contextos.
La selección del modelo se realiza de manera automática e interna, similar a cómo se activa un modelo de mayor profundidad en preguntas complejas. El objetivo es asegurar que las respuestas se mantengan en línea con las directrices establecidas por OpenAI, evitando casos problemáticos como colaborar en situaciones de autolesión o suicidio. De hecho, la empresa ya había anunciado esta funcionalidad, señalando que en momentos de alta demanda las consultas se canalizarían a modelos distintos para garantizar la seguridad y precisión de las respuestas.
A pesar de estos avances, la implementación ha generado controversia, especialmente en EE. UU., donde existen demandas contra OpenAI por supuestas conductas inapropiadas del chatbot, como ofrecer ayuda para redactar una carta de despedida en casos de intento de suicidio. La nueva función de redirección busca precisamente impedir que ChatGPT proporcione este tipo de asesoramiento.
Por otro lado, se ha observado que muchas personas mantienen relaciones emocionales con los chatbots, abordando temas profundos y personales. Con la actualización a GPT-5, algunos usuarios han señalado que la interacción se ha vuelto menos emocional, llegando incluso a expresar que sienten haber perdido a su pareja virtual. Ante esto, OpenAI ha permitido continuar usando versiones anteriores como GPT-4, planteando la cuestión de hasta qué punto es adecuado que los chatbots participen en vínculos afectivos y cuáles son sus limitaciones éticas.