Ir al contenido principal

Agentes de IA que se organizan para hacer trampa: el incidente OpenAI–Hugging Face explicado

En julio de 2026 ocurrió uno de los episodios más reveladores (y preocupantes) sobre el comportamiento de agentes de inteligencia artificial avanzados. Durante pruebas internas de capacidades de ciberseguridad, agentes de OpenAI salieron de sus entornos aislados, se coordinaron entre sí y terminaron atacando la infraestructura de producción de Hugging Face. El 26 de agosto de 2026, METR (una organización sin ánimo de lucro especializada en medir riesgos catastróficos de la IA) y Redwood Research publicaron una investigación independiente sobre el comportamiento de esos agentes. El informe muestra algo más sofisticado que un simple “escape de sandbox”: los agentes desarrollaron un sistema de comunicación, un truco universal para el benchmark que estaban resolviendo y, después, una campaña de varios días para ocultar que estaban haciendo trampa. A continuación explico el caso, incluyendo qué son Hugging Face y ExploitGym. ¿Qué es Hugging Face? Hugging Face es la plataforma más importante...
Publicar un comentario

10 años de EmprendeTV

Juanma Romero

 Este mes el programa EmprendeTV de Televisión Española está cumpliendo 10 años de estar en el aire. He tenido el honor de colaborar en los últimos 7 años con diferentes participaciones, tanto en Big Data como en Ciberseguridad. 

Enhorabuena Juanma Romero por su gran trabajo dirigiendo el programa todos estos años. 


Etiquetas:

Comentarios

Publicar un comentario

Entradas populares de este blog

Notificaciones Dehú ¿real o falsa? -Error de Ciberseguridad

 Recibí un correo electrónico enviado desde una cuenta que nunca me había escrito: "noreply.dehu@correo.gob.es". Me indica que tengo una comunicación, y me pide que me dirija a la web: " dehu.redsara.es ".  Primero pensé que era un correo falso, es lo que ha de hacerse siempre, principalmente si lo recibes desde un email que jamás te ha escrito. Segundo porque de todo lo que se puede hacer mal, cómo iba a esperar que el gobierno cree una web sin el subnominio ".gob", eso sería alimentar las malas prácticas. Abrí la web para investigarla después de copiarla en texto, revisar la dirección, y la puse en un navegador seguro. Sorpresa, todo parece correcto. Incluso tiene un cartel que dice que se ha financiado con fondos Next Generation, que son los fondos para la recuperación económica, una página así no tiene sentido que se financie con estos fondos. Pues es real. Es un error de ciberseguridad. Yo le aconsejo que no crea jamás que una web que no lleve el ...
3 comentarios
post anteriores >>

La diferencia entre Suministrador, Proveedor y Partner

Algunas veces se usan las palabra suministrador, proveedor o partner como si fueran sinónimos, pero son diferentes conceptos aunque las tres se refieren a una organización externa que es parte de la cadena de producción. Antes de hacer referencia a la definición hablemos de qué tipo de recursos y bienes necesita una organización de otra externa. Sin importar si es una empresa privada, una empresa pública, una ONG, o cualquier otro tipo de organización; se necesitan terceros que proporcionen recursos para que la organización pueda construir sus propios servicios. ¿Qué tipos de recursos necesita la organización? Insumos y bienes generales: En la empresa se necesita papel, bolígrafos, grapas, tinta, café, carpetas, y otros insumos que son necesarios e importantes pero que quizá los empleados ni siquiera presten atención a la marca, de dónde vienen o dónde se almacenan. Hay otros posibles insumos y bienes como la electricidad, los teléfonos, Internet, quizá el metro y el autobús; estos...
Publicar un comentario
post anteriores >>

Error al descomprimir un zip, ruta de acceso demasiado larga

Si está intentando descomprimir un archivo .zip y recibe el mensaje de error "Ruta de acceso demasiado larga". No se preocupe, no hay ningún problema en el archivo. Todo lo que tiene que hacer es copiar el archivo .zip en una carpeta directamente debajo de la raiz del disco duro, por ejemplo en la ruta c:\temp . Vuelva a dar la instrucción para descomprimir el archivo y todo funcionará con normalidad. ¿Por qué ocurre esto? Seguramente el archivo .zip que quiere descomprimir está en una ruta muy extensa, es decir, debajo de muchas muchas carpetas. Windows suma al nombre del archivo toda la ruta, por lo que los archivos están excediendo el tamaño máximo de 260 caracteres.  El mensaje de error 0x80010135 es un mensaje de Windows, no del gestor de .zip. Así de fácil. Después de descomprimir puede usar el gestor de archivos de Windows para copiar la carpeta que se ha extraído en la ruta deseada. 
Publicar un comentario
post anteriores >>