Google lanza programa de recompensas para detección de vulnerabilidades graves en inteligencia artificial

Google lanza un programa que recompensa la identificación de vulnerabilidades graves en inteligencia artificial, promoviendo mayor seguridad en sus aplicaciones.

Google ha presentado su nuevo programa de recompensas por vulnerabilidades en IA, enfocado en detectar y atender fallas de seguridad graves en aplicaciones basadas en inteligencia artificial. Según informó la compañía en su blog, las vulnerabilidades premiadas serán aquellas que puedan causar daños severos, excluyendo problemas relacionados con contenido como jailbreaks o inyecciones de prompts, que deben reportarse directamente a los canales correspondientes.

Entre las amenazas más peligrosas, Google clasifica como problemas de nivel S-Tier aquellos que alteran cuentas o datos, comprometiendo la seguridad del usuario y su información confidencial. En la categoría A-Tier se encuentran cuestiones serias como phishing, robo de modelos o manipulación del contexto, que representan riesgos importantes pero menos graves que las de nivel S-Tier.

En cuanto a las recompensas, Google ofrece hasta 20.000 dólares por reportar un problema de gran gravedad en sus programas insignia de IA, que puede aumentar hasta 30.000 dólares si la vulnerabilidad es especialmente innovadora o de alta calidad, mediante un bono adicional. Las recompensas para otros problemas—considerados menos graves o fuera del programa insignia—son menores, pero aún así incentivan la búsqueda activa de vulnerabilidades.

Destaca también el caso reciente de una vulnerabilidad en Google Gemini, descubierta en julio por un gestor de bug bounty, que permitía a los atacantes manipular los resúmenes automáticos de correos electrónicos generados por la IA, poniendo en evidencia la importancia de estos programas para fortalecer la seguridad en las aplicaciones de inteligencia artificial.