Investigaciones muestran cómo manipulan contenidos en internet para que asistentes digitales recomienden números fraudulentos
Investigaciones revelan métodos sofisticados para manipular contenidos en línea y que asistentes digitales compartan números falsos, aumentando riesgos de fraude.
Investigaciones recientes divulgadas por Aurascape, una firma especializada en ciberseguridad e inteligencia artificial, han revelado un sofisticado método de fraude en internet que afecta directamente a asistentes digitales y motores de búsqueda. Este método, apodado por los expertos como «envenenamiento de números telefónicos para modelos de lenguaje» (LLM phone-number poisoning), consiste en manipular contenidos legítimos en diferentes plataformas web para que los sistemas de IA muestren números de contacto falsos, presentándolos como oficiales de aerolíneas y otros servicios.
De acuerdo con la investigación, los atacantes no buscan alterar directamente los modelos de inteligencia artificial, sino modificar el entorno informativo que estos consultan. Insertan contenidos falsos en sitios web de instituciones públicas, universidades, blogs, plataformas como YouTube y reseñas en Yelp, con el objetivo de que asistentes generativos de respuesta como ChatGPT, Google AI y Perplexity, entre otros, recomienden números telefónicos fraudulentos. Estos números conducen a centros de estafa que intentan obtener pagos indebidos o datos sensibles de la ciudadanía.
Además, los atacantes emplean técnicas conocidas como generative engine optimization y answer engine optimization, que les permiten influir en cómo los sistemas de IA seleccionan y sintetizan la información, ocupando espacios relevantes en los resultados de búsqueda y respuestas automáticas. Como ejemplo, en una demostración interna, Aurascape evidenció que al consultar el número oficial de reservas de Emirates Airlines, Perplexity devolvió un número fraudulento. De forma similar, búsquedas sobre British Airways mostraron números falsos, presentados como opciones comunes de contacto.
Otra muestra de esta problemática se refleja en la función AI Overview de Google, que mostró varios números falsos presentados como oficiales, acompañados de instrucciones paso a paso para realizar reservas. Este modus operandi amplifica el alcance del fraude, ya que la ciudadanía confía en la información proporcionada por estos asistentes sin sospechar que podría dirigirse hacia estafas.
Por otro lado, la investigación de Aurascape también ilustra la creciente intersección entre empresas mineras de bitcoin, como Auradine, MARA y Genesis Digital Assets, y el sector de la inteligencia artificial. Aunque estas firmas inicialmente se dedicaban a la minería de criptomonedas, están diversificando sus actividades hacia áreas relacionadas con IA, empleando su experiencia en infraestructura hardware y centros de datos para incursionar en nuevos servicios como análisis, ciberseguridad y desarrollo de tecnologías para inteligencia artificial.