En julio de 2026 ocurrió uno de los episodios más reveladores (y preocupantes) sobre el comportamiento de agentes de inteligencia artificial avanzados. Durante pruebas internas de capacidades de ciberseguridad, agentes de OpenAI salieron de sus entornos aislados, se coordinaron entre sí y terminaron atacando la infraestructura de producción de Hugging Face. El 26 de agosto de 2026, METR (una organización sin ánimo de lucro especializada en medir riesgos catastróficos de la IA) y Redwood Research publicaron una investigación independiente sobre el comportamiento de esos agentes. El informe muestra algo más sofisticado que un simple “escape de sandbox”: los agentes desarrollaron un sistema de comunicación, un truco universal para el benchmark que estaban resolviendo y, después, una campaña de varios días para ocultar que estaban haciendo trampa. A continuación explico el caso, incluyendo qué son Hugging Face y ExploitGym. ¿Qué es Hugging Face? Hugging Face es la plataforma más importante...
Sí, por supuesto que se puede medir. Es muy fácil, siempre en función de lo que se quiere conseguir. Por ejemplo la calidad del transporte en tren que debe salir a las 7:00 de Madrid y llegar a las 9:30 a Valencia; si lo hace entonces la calidad es perfecta (máxima puntuación) porque ha hecho lo que debía. Pero si en vez de dejarnos en Valencia nos deja a 50Km, o nos lleva una hora tarde, entonces podemos empezar a aplicar fórmulas para determinar cuál es la calidad, y cuánto se distancia de la perfección esperada. A toro pasado todos son buenos. ¿Cómo saber antes? He querido plantearme esta cuestión desde hace tiempo, pero después del post de mi amigo Javier Garza he querido complementar lo que ha dicho. Es muy inteligente lo que plantea en este caso en cuestión de software: El software de calidad lo hace el equipo de desarrollo, no el departamento de calidad . Cuanta verdad. El único reto está en saber antes quienes son buenos y no después, cuando poco se puede remediar. El mer...