Ir al contenido principal

El abuso de la personificación en trabajos hechos con IA puede ser un problema de ciberseguridad

Encontré con un titular que dice “La Inteligencia Artificial encuentra una vía para diseñar alas de avión más eficientes”, el titular corresponde a una noticia del medio Infobae y puede verse completa en el siguiente enlace: enlace .  Este tipo de titulares debería marcarse como sospechoso, o sensacionalista. La Inteligencia Artificial no tiene esa capacidad porque no puede por su cuenta buscar líneas de investigación, profundizar, hasta llegar a conclusiones. Además, no se hace con la ayuda de los humanos, es justo lo contrario, lo hace un humano con la ayuda de la inteligencia artificial.   Considere los siguientes titulares: Un cohete espacial rompe un récord de velocidad Un tren consigue hacer un viaje de 300 kilómetros con consumo de energía cero Una base de datos consigue almacenar todas las estrellas de la vía láctea Mi profesora de lengua diría que esto se llama “personificación” o “prosopopeya”. Son figuras literarias que atribuyen a cosas las cualidades, acciones...

riesgo es la probabilidad de que una amenaza se materialice

Cuando regresamos de ver la cabalgata de los Reyes con las niñas, Ana Paula mi hija menor de 5 años me preguntó ¿que es arriesgues? Su madre estuvo todo el rato diciendo “no te arriesgues por un caramelo”. El caso es que los niños se emocionan mucho cuando pasan las carrozas y lanzan caramelos a la multitud, todo el mundo se ve tentado a coger los chuches, pero pasa que algunos quedan muy cerca del paso de carrozas, camellos y elefantes, y por supuesto un niño no mide los riesgos correctamente.

cabalgata

Yo le respondí que “arriesgue” es “tomar riesgos”, a lo que siguió la pregunta lógica ¿Qué es un riesgo?. Mi respuesta fue automática, me la tengo aprendida de memoria: un riesgo es la probabilidad de que una amenaza se materialice, y pueda convertirse en un desastre. Me miró con sus lindos ojitos y se dirigió a su madre a repetir la pregunta, estaba claro que necesitaba un mejor lenguaje.

Aprendí dos cosas:

Lenguaje

 

Evaluación de riesgos

Los riesgos existen en toda la organización y en todos los proyectos de la misma. Las mayores vulnerabilidades están en los empleados menos formados y con menor conocimiento de los mismos.

Hay que explicarlos bien, no es suficiente con escribir un documento técnico y enviarlo en un adjunto en un correo electrónico. Hay que hacer una reunión de formación y explicarlo en un lenguaje claro y accesible.
  Igual que los niños, el personal de una empresa en su mayoría no es capaz de evaluar los riesgos, no por naturaleza, esto es necesario aprenderlo, e ir creciendo.

Pero sí es imprescindible hacer una evaluación de riesgos tanto para las Tecnologías, como por parte de la Gobernabilidad y la Gestión de las Tecnologías (itSM). Hay que identificar los riesgos, decidir cuáles se pueden asumir, y en los que no preparar las contramedidas.

Específicamente en Tecnología hay varios métodos para evaluación y prevención de riesgos, por ejemplo:

  • ISO/IEC 27000: conjunto de normas para la Seguridad de la información
  • ISO/IEC 31000: conjunto de normas para la evaluación de Riesgos
  • Método Management of Risk (M_o_R)

Comentarios

  1. Marlón; en diferentes entradas en mi blog, he mencionado historias . de mis hijas - que acontecen como la que cuentas de tus niñas.

    Ellos aún no se les ha acordado su visión, sus ganas de experimentación y el buscar sus por qués, y enlazan con repetidas preguntas a la causa raíz de forma sutil y sencilla.

    Qué lástima, que a las personas adultas se nos haya olvidada nuestras facultades socráticas de realizar preguntas sobre todo lo que necesitemos cuestionarnos.

    Excelente entrada.

    Un abrazo

    ResponderEliminar
  2. Si el riesgo es la posibilidad de que se materialice una amenaza, estamos hablando de un nivel, de un número, de una probabilidad... Ten cuidado cuando hablas de riesgo y no lo vayas a confundir con una amenaza... Las amenazas son las que abundan en las organizaciones, unas con un mayor riesgo que otras... En las clases que dicto hago la pregunta: Me compro un automóvil... qué riesgos tengo??? El 100% de los asistentes normalmente enumeran: robo, choque, pérdida.... pero esos no son los riesgos... son las AMENAZAS!!! El riesgo es qué tan probable es que me roben, que me choquen, que se me pierda!!!! OJO.

    ResponderEliminar

Publicar un comentario

Entradas populares de este blog

Notificaciones Dehú ¿real o falsa? -Error de Ciberseguridad

 Recibí un correo electrónico enviado desde una cuenta que nunca me había escrito: "noreply.dehu@correo.gob.es". Me indica que tengo una comunicación, y me pide que me dirija a la web: " dehu.redsara.es ".  Primero pensé que era un correo falso, es lo que ha de hacerse siempre, principalmente si lo recibes desde un email que jamás te ha escrito. Segundo porque de todo lo que se puede hacer mal, cómo iba a esperar que el gobierno cree una web sin el subnominio ".gob", eso sería alimentar las malas prácticas. Abrí la web para investigarla después de copiarla en texto, revisar la dirección, y la puse en un navegador seguro. Sorpresa, todo parece correcto. Incluso tiene un cartel que dice que se ha financiado con fondos Next Generation, que son los fondos para la recuperación económica, una página así no tiene sentido que se financie con estos fondos. Pues es real. Es un error de ciberseguridad. Yo le aconsejo que no crea jamás que una web que no lleve el ...

La diferencia entre Suministrador, Proveedor y Partner

Algunas veces se usan las palabra suministrador, proveedor o partner como si fueran sinónimos, pero son diferentes conceptos aunque las tres se refieren a una organización externa que es parte de la cadena de producción. Antes de hacer referencia a la definición hablemos de qué tipo de recursos y bienes necesita una organización de otra externa. Sin importar si es una empresa privada, una empresa pública, una ONG, o cualquier otro tipo de organización; se necesitan terceros que proporcionen recursos para que la organización pueda construir sus propios servicios. ¿Qué tipos de recursos necesita la organización? Insumos y bienes generales: En la empresa se necesita papel, bolígrafos, grapas, tinta, café, carpetas, y otros insumos que son necesarios e importantes pero que quizá los empleados ni siquiera presten atención a la marca, de dónde vienen o dónde se almacenan. Hay otros posibles insumos y bienes como la electricidad, los teléfonos, Internet, quizá el metro y el autobús; estos...

Error al descomprimir un zip, ruta de acceso demasiado larga

Si está intentando descomprimir un archivo .zip y recibe el mensaje de error "Ruta de acceso demasiado larga". No se preocupe, no hay ningún problema en el archivo. Todo lo que tiene que hacer es copiar el archivo .zip en una carpeta directamente debajo de la raiz del disco duro, por ejemplo en la ruta c:\temp . Vuelva a dar la instrucción para descomprimir el archivo y todo funcionará con normalidad. ¿Por qué ocurre esto? Seguramente el archivo .zip que quiere descomprimir está en una ruta muy extensa, es decir, debajo de muchas muchas carpetas. Windows suma al nombre del archivo toda la ruta, por lo que los archivos están excediendo el tamaño máximo de 260 caracteres.  El mensaje de error 0x80010135 es un mensaje de Windows, no del gestor de .zip. Así de fácil. Después de descomprimir puede usar el gestor de archivos de Windows para copiar la carpeta que se ha extraído en la ruta deseada.