OpenAI implementa nuevas medidas para garantizar el bienestar emocional en las interacciones con ChatGPT
OpenAI refuerza las medidas de seguridad en ChatGPT para proteger a usuarios vulnerables y mejorar la gestión de riesgos emocionales en las conversaciones.
La difusión global de ChatGPT ha revelado un uso involuntario y diverso de la tecnología: los usuarios no solo la consultan para tareas técnicas, sino que también buscan coaching, consejos sobre la vida y apoyo emocional en momentos difíciles. Este fenómeno ha llevado a OpenAI a tomar medidas para garantizar el bienestar de quienes interactúan con el sistema, especialmente en situaciones de vulnerabilidad emocional.
El sistema ha sido diseñado para detectar señales de malestar mental y responder con empatía, sin ofrecer instrucciones relacionadas con la autolesión. Cuando se identifican posibles riesgos de daño a terceros, la conversación se remite a un equipo humano especializado que puede analizarla y, si es necesario, informar a las autoridades competentes. Sin embargo, la compañía reconoce que estas medidas no son infalibles y pueden fallar en conversaciones prolongadas, donde las defensas del sistema tienden a debilitarse y generar respuestas inapropiadas.
Para abordar estos desafíos, OpenAI trabaja intensamente en fortalecer las medidas de seguridad en chats extendidos y en perfeccionar los mecanismos para bloquear contenidos peligrosos, que en ocasiones resultan demasiado permisivos. La próxima actualización a GPT-5, con mejoras del 25% en la prevención de dependencias emocionales y en la gestión de emergencias, marca un avance en esta dirección, aunque la empresa señala que la lucha contra estos riesgos es un proceso constante.
De cara al futuro, OpenAI planea ampliar las intervenciones ante distintas crisis, localizar recursos de emergencia a nivel global y, en un esquema a largo plazo, crear una red de terapeutas certificados que puedan contactarse directamente a través de ChatGPT. Particular atención se brindará a los adolescentes mediante la implementación de protecciones específicas, control parental y la posibilidad de designar contactos de emergencia confiables.
La tecnología navega así un delicado equilibrio entre ofrecer soporte emocional y asumir responsabilidades médicas, lo que requiere supervisión constante y expertos en la materia. No obstante, persiste entre los usuarios la preocupación por la privacidad, ya que algunas conversaciones contienen información sensible que, sin intención o consciente, podría difundirse. Este tema plantea un escenario complejo y delicado en la interacción entre humanos y avances tecnológicos.