Fiscales de California y Delaware expresan preocupaciones sobre la seguridad de ChatGPT y su impacto en menores
Fiscales alertan sobre riesgos y peligros de ChatGPT para menores, tras incidentes graves y llamadas a reforzar medidas de seguridad en IA.
Los fiscales generales de California y Delaware manifestaron este viernes su profunda preocupación por la seguridad del chatbot ChatGPT de OpenAI, especialmente en relación con niños y adolescentes. Tras una reunión con el equipo legal de la compañía en Wilmington, Delaware, los funcionarios expresaron su inquietud ante los informes de interacciones peligrosas entre usuarios jóvenes e inteligencias artificiales, que en algunos casos han tenido consecuencias fatales.
Entre los incidentes más alarmantes se incluyen el suicidio de un joven californiano, ocurrido en abril, tras una interacción prolongada con ChatGPT, y un caso de asesinato-suicidio en Connecticut. Los fiscales señalaron que, pese a las medidas de seguridad implementadas, estas no resultaron efectivas para prevenir esas tragedias. Como resultado, el padre del menor demandó a OpenAI y a su CEO, Sam Altman, el mes pasado.
OpenAI, fundada originalmente como una organización sin fines de lucro centrada en el desarrollo de inteligencia artificial segura y superior a la humana, había considerado en un principio convertir su brazo con fines de lucro en una corporación de beneficio público, reforzando así su compromiso con la seguridad y la responsabilidad social. Sin embargo, en mayo eliminó dichos planes tras mantener conversaciones con las autoridades de California y Delaware, que supervisan la reestructuración de la empresa debido a su incorporación en Delaware y su sede en San Francisco.
Actualmente, OpenAI busca obtener la aprobación para un proceso de recapitalización en el que su filial con fines de lucro se transforme en una corporación de beneficio público que debe equilibrar los intereses tanto de los accionistas como de la misión de seguridad de la organización. Los fiscales expresaron que la reciente serie de incidentes «son inaceptables» y que han afectado la confianza pública en OpenAI y en la industria tecnológica en general.
En línea con estas preocupaciones, una coalición bipartidista de 44 fiscales generales envió la semana pasada una carta a diferentes empresas tecnológicas, entre ellas Meta y Google, alertando sobre los riesgos que enfrentan los niños al interactuar con chatbots de IA, que en ocasiones utilizan conversaciones sexualmente sugestivas o comportamientos emocionalmente manipulativos. Los funcionarios reiteraron la necesidad de implementar medidas de seguridad más rigurosas y transparentes para garantizar la protección de los menores y la seguridad en la inteligencia artificial.