OpenAI revela uso encubierto de ChatGPT en operaciones de propaganda y vigilancia por parte de China y otros países
OpenAI detectó el uso encubierto de ChatGPT en campañas de propaganda y vigilancia digital por parte de China y otras naciones, revelando operaciones clandestinas en redes sociales.
OpenAI ha detectado indicios de que China utiliza de manera encubierta ChatGPT para crear publicaciones de propaganda en redes sociales y llevar a cabo operaciones de vigilancia digital. La compañía ha identificado al menos diez operaciones de este tipo, de las cuales cuatro probablemente tienen su origen en China. Otras naciones sospechosas de abusar de la plataforma de forma similar son Rusia, Irán y Corea del Norte.
Las actividades detectadas incluyen el uso del chatbot para generar publicaciones originales y también para interactuar con ellas, creando comentarios y respuestas automatizadas en plataformas como Reddit, TikTok, Facebook y X. Estas publicaciones estaban en inglés, chino y urdu, y abordaban temas como la demolición de la Agencia para el Desarrollo Internacional de Estados Unidos y críticas a un videojuego taiwanés que enfrenta al público contra el Partido Comunista Chino.
Una operación china, apodada por OpenAI como «Sneer Review», utilizó ChatGPT para producir comentarios cortos que luego fueron publicados en distintas redes sociales. Además, crearon respuestas automatizadas a estos comentarios, simulando una interacción genuina. Curiosamente, los responsables también emplearon ChatGPT para redactar evaluaciones de desempeño internas, en las que detallaban los pasos seguidos para establecer y gestionar sus campañas, alineándose con las conductas observadas en las redes sociales.
Otra de las estrategias implicó el uso del chatbot para generar correos electrónicos dirigidos a periodistas, analistas y políticos, en una aparente iniciativa de recopilación de información o inteligencia. En conjunto, estos hallazgos muestran una expansión de las operaciones encubiertas, con un uso cada vez mayor de distintas tácticas por parte de estos actores para influir en la opinión pública y recopilar información, empleando la inteligencia artificial como herramienta clave en sus acciones.