Google reporta la suspensión de más de 39 millones de cuentas en 2024 por amenazas de inteligencia artificial y fraudes en anuncios
Google reforzó su seguridad en 2024, bloqueando millones de cuentas y anuncios para combatir fraudes y amenazas impulsadas por inteligencia artificial.
Google reportó haber bloqueado 5.1 mil millones de anuncios y suspendido más de 39.2 millones de cuentas de anunciantes en 2024, según su Informe de Seguridad en Publicidad de ese año. La compañía atribuye este aumento en las acciones de restricción a la creciente amenaza de contenidos generados por inteligencia artificial, campañas de suplantación y abusos en su plataforma publicitaria.
Una de las principales preocupaciones son los deepfakes de celebridades y figuras públicas utilizados para promover estafas, especialmente en áreas de inversión y criptomonedas. Como consecuencia, Google suspendió permanentemente más de 700,000 cuentas de anunciantes por violaciones a las políticas relacionadas con estas estafas de manipulación mediante IA. Para enfrentar estos desafíos, la empresa conformó un equipo especializado de más de 100 expertos encargados de analizar estos casos y actualizar sus políticas, incluyendo la modificación de la política de suplantación para suspender a aquellos que promuevan estos engaños.
Gracias a estas medidas, Google reporta una caída del 90% en los reportes de anuncios fraudulentos similares, aunque asegura que continúa trabajando en la prevención de estas estafas. La compañía también destaca que la inteligencia artificial ha sido una herramienta clave para identificar y hacer cumplir sus políticas en las páginas de los editores, habiendo añadido más de 50 mejoras en sus modelos de aprendizaje automático en 2024 para detectar amenazas antes de que los usuarios puedan reportarlas.
Además de la suspensión de anuncios, Google eliminó o bloqueó contenidos en diversas categorías, aplicando sanciones a 1.3 mil millones de páginas web y 220,000 sitios de editores por incumplimientos. En materia electoral, la empresa verificó a 8,900 nuevos anunciantes y eliminó 10.7 millones de anuncios no verificados relacionados con elecciones, para garantizar mayor transparencia y protección en procesos democráticos.
En el ámbito de la innovación y la seguridad, Google lanzó Firebase Studio, una herramienta basada en inteligencia artificial destinada a facilitar el desarrollo de aplicaciones, y logró la detención de seis personas involucradas en estafas de inversión impulsadas por IA que habrían logrado sustraer aproximadamente 20 millones de dólares. Además, la compañía ha expandido la detección de fraudes relacionados con IA en dispositivos Pixel y continúa trabajando en la unificación de dominios de búsqueda en diferentes países hacia Google.com para mejorar la experiencia y seguridad de los usuarios.