Ir al contenido principal

Agentes de IA que se organizan para hacer trampa: el incidente OpenAI–Hugging Face explicado

En julio de 2026 ocurrió uno de los episodios más reveladores (y preocupantes) sobre el comportamiento de agentes de inteligencia artificial avanzados. Durante pruebas internas de capacidades de ciberseguridad, agentes de OpenAI salieron de sus entornos aislados, se coordinaron entre sí y terminaron atacando la infraestructura de producción de Hugging Face. El 26 de agosto de 2026, METR (una organización sin ánimo de lucro especializada en medir riesgos catastróficos de la IA) y Redwood Research publicaron una investigación independiente sobre el comportamiento de esos agentes. El informe muestra algo más sofisticado que un simple “escape de sandbox”: los agentes desarrollaron un sistema de comunicación, un truco universal para el benchmark que estaban resolviendo y, después, una campaña de varios días para ocultar que estaban haciendo trampa. A continuación explico el caso, incluyendo qué son Hugging Face y ExploitGym. ¿Qué es Hugging Face? Hugging Face es la plataforma más importante...

¿Cómo solucionar el problema de las noticias falsas en redes sociales?


Marck Zuckerberg ha dicho en una entrevista a CNBC que Facebook es una de las principales plataformas a la hora de darle voz a las personas. No digo que no. Pero me reservo una definición o explicación a qué es "dar voz", porque pocas cosas me parecen más irresponsables que abusar o hacer mal uso del derecho a la libre expresión, porque la palabra "libre" o "libertad" nace del respeto a los demás.

La entrevista es consecuencia de la instrucción que ha dado Donald Trum para modificar una ley por medio de la cual las plataformas de redes sociales como Facebook o Twitter no pueden culparse o responsabilizarse penalmente por lo que digan sus usuarios. En este blog he denunciado muchas veces que yo estaría muy a favor de que sí se pueda denunciar, o hacer co-responsables. 

La razón por la que estoy de acuerdo es porque las plataformas obtienen beneficios económicos a partir de los contenidos por los que añaden los usuarios, pero lo más irónico es que el usuario no recoge ni un céntimo a cambio de su contenido, pero sí sería el único responsable. Lo que digo, una ironía.

La raíz del problema

Yo veo dos causas principales en la raíz de todo esto, pero la primera como la principal de todas.

Usuarios anónimos. La difusión de noticias falsas al momento de ponerlas por primera vez en la red parte de los usuarios anónimos o falsos, perfiles que no representan a personas reales. Pero a las redes sociales les encantan estos perfiles porque además de subir su número de usuarios, estos usuarios falsos incorporan contenido. 

Impunidad digital. Los jueces siguen sin entender y parece que tanto por falta de conocimiento como intencionadamente, que el hecho de que un insulto se haga en la red digital no se debe clasificar como "insulto digital", sino como insulto. Una factura en formato pdf se le llama factura digital pero sigue siendo una factura, y bien que Hacienda lo entiende. Vemos incluso a políticos líderes de opinión mintiendo sin ningún pudor en las redes sociales, porque están cien por cien confiados que no tendrá ni una consecuencia, ya que no hay leyes para lo digital. 

Existen otros medios de comunicación aparte de las redes sociales, la televisión y la prensa escrita son ejemplos de esos otros medios. Nunca has visto que asista a un debate un perfil "fake", o que el editorial de un periódico lo escriba un perfil falso con la fotografía de un actor famoso. Sin embargo, eso es exactamente lo que ocurre en la red social, y en mi humilde opinión lo que posiblemente resolvería el 99% del problema. NO más perfiles que no representen a seres humanos reales con acuerdos de uso, y con co-responsabilidad del medio, tal cual ocurre en la televisión o en la radio.

Dicho esto, sería bastante fácil si yo soy el primero en poner una noticia falsa en la red, que se me pida responsabilidades, y en dado caso que la red no vuelva a admitirme, al fin y al cabo ser usuario en una red social no es un derecho fundamental de la humanidad.
 

Comentarios

Entradas populares de este blog

Notificaciones Dehú ¿real o falsa? -Error de Ciberseguridad

 Recibí un correo electrónico enviado desde una cuenta que nunca me había escrito: "noreply.dehu@correo.gob.es". Me indica que tengo una comunicación, y me pide que me dirija a la web: " dehu.redsara.es ".  Primero pensé que era un correo falso, es lo que ha de hacerse siempre, principalmente si lo recibes desde un email que jamás te ha escrito. Segundo porque de todo lo que se puede hacer mal, cómo iba a esperar que el gobierno cree una web sin el subnominio ".gob", eso sería alimentar las malas prácticas. Abrí la web para investigarla después de copiarla en texto, revisar la dirección, y la puse en un navegador seguro. Sorpresa, todo parece correcto. Incluso tiene un cartel que dice que se ha financiado con fondos Next Generation, que son los fondos para la recuperación económica, una página así no tiene sentido que se financie con estos fondos. Pues es real. Es un error de ciberseguridad. Yo le aconsejo que no crea jamás que una web que no lleve el ...

La diferencia entre Suministrador, Proveedor y Partner

Algunas veces se usan las palabra suministrador, proveedor o partner como si fueran sinónimos, pero son diferentes conceptos aunque las tres se refieren a una organización externa que es parte de la cadena de producción. Antes de hacer referencia a la definición hablemos de qué tipo de recursos y bienes necesita una organización de otra externa. Sin importar si es una empresa privada, una empresa pública, una ONG, o cualquier otro tipo de organización; se necesitan terceros que proporcionen recursos para que la organización pueda construir sus propios servicios. ¿Qué tipos de recursos necesita la organización? Insumos y bienes generales: En la empresa se necesita papel, bolígrafos, grapas, tinta, café, carpetas, y otros insumos que son necesarios e importantes pero que quizá los empleados ni siquiera presten atención a la marca, de dónde vienen o dónde se almacenan. Hay otros posibles insumos y bienes como la electricidad, los teléfonos, Internet, quizá el metro y el autobús; estos...

Error al descomprimir un zip, ruta de acceso demasiado larga

Si está intentando descomprimir un archivo .zip y recibe el mensaje de error "Ruta de acceso demasiado larga". No se preocupe, no hay ningún problema en el archivo. Todo lo que tiene que hacer es copiar el archivo .zip en una carpeta directamente debajo de la raiz del disco duro, por ejemplo en la ruta c:\temp . Vuelva a dar la instrucción para descomprimir el archivo y todo funcionará con normalidad. ¿Por qué ocurre esto? Seguramente el archivo .zip que quiere descomprimir está en una ruta muy extensa, es decir, debajo de muchas muchas carpetas. Windows suma al nombre del archivo toda la ruta, por lo que los archivos están excediendo el tamaño máximo de 260 caracteres.  El mensaje de error 0x80010135 es un mensaje de Windows, no del gestor de .zip. Así de fácil. Después de descomprimir puede usar el gestor de archivos de Windows para copiar la carpeta que se ha extraído en la ruta deseada.