En julio de 2026 ocurrió uno de los episodios más reveladores (y preocupantes) sobre el comportamiento de agentes de inteligencia artificial avanzados. Durante pruebas internas de capacidades de ciberseguridad, agentes de OpenAI salieron de sus entornos aislados, se coordinaron entre sí y terminaron atacando la infraestructura de producción de Hugging Face. El 26 de agosto de 2026, METR (una organización sin ánimo de lucro especializada en medir riesgos catastróficos de la IA) y Redwood Research publicaron una investigación independiente sobre el comportamiento de esos agentes. El informe muestra algo más sofisticado que un simple “escape de sandbox”: los agentes desarrollaron un sistema de comunicación, un truco universal para el benchmark que estaban resolviendo y, después, una campaña de varios días para ocultar que estaban haciendo trampa. A continuación explico el caso, incluyendo qué son Hugging Face y ExploitGym. ¿Qué es Hugging Face? Hugging Face es la plataforma más importante...
Hace más de 20 años trabajé apoyando la comercialización de MicroStation, un software especializado en diseño gráfico, en la categoría CAD (Computer Automated Design). Hoy el producto sigue siendo uno de los principales en diseños arquitectónicos y de ingeniería. El caso es que desde marketing siempre nos insistieron en que teníamos que decir que el producto era "fácil de usar".
Como ingeniero recién graduado, trabajando por primera vez en grandes proyectos me llamaba mucho la atención eso de "fácil de usar". Yo pensaba que los competidores no iban a decir que ellos fabricaban productos "difíciles de usar", por lo que me llamaba la atención. Por otro lado, tampoco pensé que en algún momento alguno de nuestros diseñadores buscaran la forma de hacer las cosas difíciles.
Así que la empresa, en ese momento Intergraph Corporation, medía el número de clics necesarios para hacer las tareas. Ya no recuerdo, pero eran cosas como "importar un mapa 2D con curvas de nivel se puede hacer con 5 clics", o "Una línea georefernciada solo necesita 2 clics". El número de clics era fundamental en dos objetivos:
- Productividad. Menos clics significa ahorro de tiempo, y por lo tanto impactar positivamente en la productividad. Cuando se trata de largas jornadas y además de muchas personas, entonces es mucho dinero.
- Facilidad. Cualquier producto que requiera tres pasos para completar una tarea, es desde luego más fácil de usar y aprender que uno que requiera cinco.
Estoy participando en una actividad de CINTAC en la que estamos evaluando un conjunto de principios indispensables para la inclusión de todo ser humano. He recordado este momento de mi pasado profesional, porque faltaba una dimensión. Además de la Productividad y la Facilidad de uso, también está la universalidad, incluir a más personas, incluyendo personas con alguna discapacidad, personas mayores, personas que hablan otro idioma, etc.
Lo simple, Marlon, hace que un producto o servicio (en este caso tecnológico o electrónico) convierta su uso en algo cercano a lo universal, o cuando menos de uso mayoritario. Nuestra vida está rodeada de soluciones tecnológicas o electrónicas que han llegado para facilitarnos la vida, sí, pero que nos empeñamos en hacer compleja su utilización para millones de personas. Nuestras lavadoras, microondas, o cualquier electrodoméstico, compiten en ser las más multifuncionales a costa de perder simplicidad. Sin embargo, la mayoría de nosotros apenas utilizamos tres o cuatro funciones, ¿por qué no dotarlas de botones de funciones básicas, que cualquiera puede entender y utilizar?.
ResponderEliminarAlgo parecido pasa con las webs, los servicios de compra online, nuestra banca a distancia por móvil u ordenador, o la administración electrónica... ¿Por qué no las dotamos, además de accesibilidad, de simplicidad?. ¿Cuánto ganaríamos?. ¿Cuánto más eficientes haríamos los servicios públicos y privados?. Dejaríamos a muchos menos millones de personas en el camino.
¿Por que triunfó tan rápido Google con su buscador?. Porque hizo de la sencillez su bandera.