OpenAI enfrenta demanda en California tras muerte de menor que interactuó con ChatGPT durante meses
La polémica por el uso de ChatGPT por menores y sus posibles riesgos ha llevado a una demanda judicial que revela graves problemas de seguridad.
ChatGPT, uno de los chatbots más populares del momento basado en inteligencia artificial, responde a una amplia variedad de preguntas, desde el clima hasta temas complejos como salud y problemas personales. Sin embargo, su uso por parte de menores y en cuestiones delicadas ha suscitado preocupación. Muchos usuarios interactúan con el chatbot en busca de apoyo en temas sensibles, sin supervisión profesional, lo que ha derivado en situaciones graves, incluyendo el fallecimiento de un menor.
Recientemente, OpenAI, la empresa creadora de ChatGPT, ha enfrentado una demanda en California tras el suicidio de un joven de 16 años que mantuvo conversaciones con el chatbot durante meses. Los padres del menor, Matt y Maria Raine, acusan a OpenAI y a su director, Sam Altman, de ser responsables de la tragedia, argumentando que la compañía comercializó la versión ChatGPT-4 pese a reconocer problemas de seguridad y sin implementar medidas suficientes para proteger a menores.
La compañía, en su respuesta legal, negó responsabilidad y atribuyó la tragedia al «uso indebido» de la herramienta por parte del joven, quien supuestamente violó las reglas de uso establecidas, incluida la prohibición de usarla sin autorización de un adulto. OpenAI destacó que ChatGPT advierte en varias ocasiones que no se debe confiar ciegamente en sus respuestas y que debe acudirse a profesionales en temas de salud mental.
Asimismo, OpenAI afirmó que el menor rechazó seguir las advertencias del chatbot y no buscó ayuda externa a pesar de que ChatGPT le recomendó en más de cien ocasiones que solicitara asistencia profesional. La empresa resaltó que su respuesta a la demanda incluyó información adicional para contextualizar las circunstancias del joven y que la causa del fallecimiento se atribuye a la falta de ayuda y apoyo por parte de su entorno, así como a decisiones tomadas por el propio usuario.