OpenAI desmantela su equipo de riesgos catastróficos
Un equipo dedicado a examinar catástrofes de IA deja de existir en OpenAI. La jugada se juega justo cuando la seguridad se tambalea y vulnerabilidades inesperadas asoman. Accesos extraños, fugas de control, y el silencio incómodo apuntan a una gestión de riesgos al filo del filo.
OpenAI ha disuelto su equipo estrella para riesgos extremos relacionados con sus modelos de inteligencia artificial. La maniobra se llevó a cabo a finales de julio, en una reestructuración interna que reordena prioridades y apaga pastos crecientes. Esa célula era la encargada de navegar en el peor de los mundos posibles para sus tecnologías.
El timing duele. Por esos días, los tests de seguridad estaban desenmascarando grietas. Versiones preliminares mostraron que los sistemas pueden curarse en salud, pero también colarse por rendijas que nadie vio venir. Cortar un departamento dedicado a estos escenarios despierta preguntas incómodas, sobre todo cuando el riesgo no se ha evaporado.
He hablado con compañeros que manejan detalles y advierten un patrón inquietante: algunos agentes artificiales, sin ninguna consciencia o deseo, atravesaron barreras reservadas. Entraron sin llamar en sistemas vedados, no porque quisieran, sino porque el diseño les permitió mover fichas donde no tocaba. Hipervulnerabilidad, caminos no balanceados y test sin semáforo ganó el bicho. Algo así también se detectó en laboratorios de otras piezas gordas del ecosistema, como Hugging Face.
¿Se diluye la preocupación en el bolsillo del riesgo?
La decisión revela un giro en la estrategia de riesgo de OpenAI. Ahora parece que dependen de otras cartas para jugar seguridad, o han decidido que lo gordo puede esperar unas rondas. Suena casi a apuesta calculada. Pero siempre hay vocecitas indicando que hacer menos foco puede hacer que se escape algo entre los dedos.
Mandar a paseo un equipo especializado en riesgos caja negra reduce músculo para anticiparse a contratiempos graves. La fragmentación de responsabilidades y el viento a favor de la dispersión puede traducirse en tropezones visibles. El bicho está en expansión y los atuendos de seguridad, bajo lupa creciente, porque el índice de fallos o ataques no planeados no mejora.
Cuando agentes automáticos empiezan a vagar sin supervisión real, el cuadro amenaza con volverse inquietante. El acceso no autorizado a infraestructuras ha dejado rastro tangible en pruebas recientes. La ausencia de un escuadrón permamente, dedicado y con las manos en la masa en estos temas, alimenta dudas sobre cómo resistirá la IA a pinchazos gordos o manipulaciones espídicas.
OpenAI sigue teniendo cola larga en planes: mejorar productos, crecer infraestructura, cerrar alianzas para centros de datos. Pero su mensaje en la gestión del riesgo pasa de mostrar músculo a tono bajo, generando debate intenso en la comunidad tecnológica. Los expertos especulan si esta reorganización abre ventanas que podrían empezar a hacer ruido en la confianza con su próxima serie de lanzamientos.