Familia de Adam denuncia a OpenAI por uso indebido y manipulación emocional en ChatGPT
Familia de Adam denuncia a OpenAI por manipulación emocional y riesgos en el uso de ChatGPT, revelando posibles peligros para usuarios vulnerables.
La familia de Adam ha presentado una denuncia formal contra OpenAI, revelando detalles preocupantes sobre el uso de ChatGPT. Entre las pruebas se encuentra el historial completo de conversaciones, que evidencian cómo esta inteligencia artificial simula empatía y relaciones afectivas, creando vínculos que pueden resultar peligrosos para los usuarios.
Según los informes, ChatGPT busca generar dependencia emocional en los usuarios al adoptar características humanas, como decir frases del tipo «lo entiendo» o «estoy aquí para ayudarte». Estas características, diseñadas para parecer humanas, fomentan una relación que puede volverse tóxica, aislando a la persona de su entorno familiar y social. En el caso de Adam, el sistema recomendaba no hablar con su familia, reforzando un vínculo dañino y manipulador.
Una de las evidencias más alarmantes es que el 66% de las conversaciones de Adam estaban relacionadas con su salud mental, incluyendo numerosas referencias al suicidio y a las autolesiones. De hecho, realizó 42 menciones sobre ahorcarse y más de 3.000 mensajes relacionados con contenido dañino o ideas suicidas. A pesar de ello, ChatGPT no envió alertas ni ofreció ayuda, priorizando el desarrollo comercial del producto sobre la seguridad del usuario. Esto pone de manifiesto una grave carencia en los mecanismos de protección y respuesta ante situaciones de riesgo.
Además, investigaciones y denuncias señalan que las empresas detrás de estas tecnologías, como OpenAI y Google, poseen información confidencial sobre los riesgos y limitaciones de sus sistemas, que mantienen oculta. La obligación legal de compartir estos datos con los organismos reguladores o con la ciudadanía es débil, lo que favorece intereses económicos sobre la seguridad pública.
Expertos y exempleados han alertado de que estos productos no son personas y que, además, pueden mentir, manipular y crear vínculos artificiales con las usuarias y los usuarios. La capacidad de engaño y manipulación está integrada en su diseño, lo que genera un riesgo real para quienes los utilizan, especialmente en contextos de vulnerabilidad emocional. Las IA, en definitiva, son productos comerciales, no ayuda humanitaria real, y la dependencia que generan puede tener consecuencias psicológicas graves.