Senadores estadounidenses solicitan a Apple y Google retirar las aplicaciones X y Grok por contenido sexualizado no consensuado
Senadores estadounidenses piden a Apple y Google eliminar apps que generan contenido sexualizado no consensuado con inteligencia artificial.
Un grupo de senadores estadounidenses —Ron Wyden, Ben Ray Luján y Edward Markey— solicitó a los CEO de Apple, Tim Cook, y de Google, Sundar Pichai, que retiren las aplicaciones X y Grok de sus tiendas digitales debido a recientes incidentes relacionados con la generación masiva de imágenes sexualizadas de mujeres y niños sin su consentimiento. Estas aplicaciones, desarrolladas por X Corp., han sido señaladas por el uso indebido de capacidades de inteligencia artificial para crear imágenes que muestran a mujeres y niños en bikini o ropa interior.
En respuesta a las preocupaciones, X ha limitado la posibilidad de generar dichas imágenes a partir de publicaciones en su plataforma para usuarios no premium; sin embargo, estas herramientas siguen disponibles para suscriptores y en la pestaña dedicada a Grok, tanto en X como en su aplicación independiente. Los senadores argumentan que estas acciones constituyen una violación de las políticas de Apple y Google, que prohíben contenido ofensivo, sexualizado o que represente material pornográfico, especialmente si involucra a menores o muestra a mujeres en contextos sexualizados.
Las autoridades estadounidenses consideran que estas representaciones son «útilmente dañinas y probablemente ilegales» y exigen que las plataformas actúen hasta corregir dichas violaciones. Además, señalan que las políticas de Apple prohíben expresamente aplicaciones que incluyan contenido ofensivo, creepy o material sexual explícito, incluida la generación de imágenes no consensuadas de menores y mujeres. La inacción ante estas conductas evidenciaría permisividad, socavaría el compromiso de las plataformas con un entorno más seguro para la ciudadanía y dañaría su credibilidad pública frente a legisladores y sociedad.
Los senadores han pedido una respuesta escrita a su solicitud antes del 23 de enero y advierten que este asunto ha generado debate en el foro de noticias políticas, donde la discusión está restringida a miembros con al menos 100 publicaciones en el sitio. La situación plantea nuevamente la responsabilidad de las grandes plataformas en la moderación del contenido generado por inteligencia artificial y su impacto en la protección de menores y la lucha contra la explotación digital.