Google lanza programa de recompensas por fallos en inteligencia artificial con premios de hasta 30.000 dólares
Google lanza un programa de recompensas para detectar vulnerabilidades en inteligencia artificial, ofreciendo hasta 30.000 dólares por errores peligrosos.
Google ha lanzado un nuevo programa de recompensas especializado en detectar fallos en productos de inteligencia artificial (IA), con premios que pueden llegar hasta 30.000 $ por errores especialmente peligrosos. Este programa, llamado KI-Bug-Bounty, se integra en su anterior Abuse Vulnerability Reward Program (VRP) y busca fomentar la colaboración entre investigadores externos y la compañía para mejorar la seguridad de sus sistemas de IA.
Desde la inclusión de temas relacionados con IA en su programa de recompensas, Google ha premiado a investigadores con más de 430.000 $ en total, logrando avances importantes en la identificación de vulnerabilidades. El programa se ha centrado en errores que puedan tener consecuencias graves, como inyecciones de prompts invisibles, cambios en el estado de cuentas o datos de usuarios, y acciones que comprometan la seguridad, como manipular dispositivos conectados para abrir persianas o encender luces sin autorización.
El nuevo programa aclara que no basta con que la IA «halucine» o que la app Gemini muestre un rendimiento deficiente; los fallos aceptados incluyen, entre otros, inyecciones de prompts que afectan la privacidad, alteraciones en el estado de las cuentas y datos empleados en aplicaciones principales como Búsqueda, Gmail, Drive y Gemini. Los investigadores que reporten errores críticos pueden recibir hasta 20.000 $ en recompensas, y aquellos que impliquen innovaciones o reportes de alta calidad pueden obtener bonos que elevan la recompensa máxima a 30.000 $.
Asimismo, Google ha añadido bonos multiplicadores que premian la innovación y la calidad de los informes, permitiendo que una sola vulnerabilidad pueda recibir hasta 30.000 $. Los hallazgos en otros productos de IA de Google, como Jules o AI Studio, y los errores menos graves, reciben recompensas menores.
Además del programa para detectar fallos en IA, Google ha anunciado el desarrollo de CodeMender, un agente de inteligencia artificial creado por DeepMind que en solo seis meses ha realizado 72 correcciones de seguridad en proyectos de código abierto, algunos con millones de líneas de código. Este agente está diseñado para revisar y reescribir código de forma proactiva, mejorando la seguridad mediante el uso de estructuras y APIs más seguras, contribuyendo así a fortalecer la protección de los sistemas y software utilizados por la compañía y la comunidad.