Ir al contenido principal

El abuso de la personificación en trabajos hechos con IA puede ser un problema de ciberseguridad

Encontré con un titular que dice “La Inteligencia Artificial encuentra una vía para diseñar alas de avión más eficientes”, el titular corresponde a una noticia del medio Infobae y puede verse completa en el siguiente enlace: enlace .  Este tipo de titulares debería marcarse como sospechoso, o sensacionalista. La Inteligencia Artificial no tiene esa capacidad porque no puede por su cuenta buscar líneas de investigación, profundizar, hasta llegar a conclusiones. Además, no se hace con la ayuda de los humanos, es justo lo contrario, lo hace un humano con la ayuda de la inteligencia artificial.   Considere los siguientes titulares: Un cohete espacial rompe un récord de velocidad Un tren consigue hacer un viaje de 300 kilómetros con consumo de energía cero Una base de datos consigue almacenar todas las estrellas de la vía láctea Mi profesora de lengua diría que esto se llama “personificación” o “prosopopeya”. Son figuras literarias que atribuyen a cosas las cualidades, acciones...

El abuso de la personificación en trabajos hechos con IA puede ser un problema de ciberseguridad

Encontré con un titular que dice “La Inteligencia Artificial encuentra una vía para diseñar alas de avión más eficientes”, el titular corresponde a una noticia del medio Infobae y puede verse completa en el siguiente enlace: enlace

Este tipo de titulares debería marcarse como sospechoso, o sensacionalista. La Inteligencia Artificial no tiene esa capacidad porque no puede por su cuenta buscar líneas de investigación, profundizar, hasta llegar a conclusiones. Además, no se hace con la ayuda de los humanos, es justo lo contrario, lo hace un humano con la ayuda de la inteligencia artificial. 

Considere los siguientes titulares:

  • Un cohete espacial rompe un récord de velocidad
  • Un tren consigue hacer un viaje de 300 kilómetros con consumo de energía cero
  • Una base de datos consigue almacenar todas las estrellas de la vía láctea

Mi profesora de lengua diría que esto se llama “personificación” o “prosopopeya”. Son figuras literarias que atribuyen a cosas las cualidades, acciones, o sentimientos que poseen los humanos.

imagen que ilustra unos cohetes personificados en una carrera

Los ejemplos anteriores muestran posibles titulares donde en principio no se miente, sin embargo, lo que dicen no ha ocurrido. El récord no se atribuye al cohete, como no se le da al vehículo en un campeonato de fórmula 1, sino al equipo y la empresa que patrocinó la acción, por supuesto que se puede dejar constancia de la máquina y características de la máquina. En el caso del tren, será una forma de llamar la atención ya que al inicio de la salida, el tren consumió una gran cantidad de energía, pero posteriormente se podía generar energía de tal forma que la cuenta sale a cero. Tanto en el ejemplo del cohete como el del tren, hacen referencia a elementos que las personas conocen, y posiblemente puede llega a sus propias conclusiones sin miedo.

Pero en el caso de la base de datos, o el caso del titular con la inteligencia artificial, son tendencias que la mayoría de las personas no entienden. Quizá sea parte del objetivo de periodistas, dar un poco de miedo y así conseguir lecturas y viralizar su contenido. En ambos casos, son tecnologías que usan los humanos, ninguna de ellas actúa por cuenta propia si alguien no se lo pide. Por lo tanto, esta personificación puede generar confusión, error, y miedo; por este motivo lo marcaremos como sensacionalista.

Desde el ángulo de ciberseguridad añadiría otro riesgo en la atribución, responsabilidad y confianza. No es solo una cuestión lingüística decir que “la IA decidió”, “la IA descubrió” o “la IA atacó” ya que puede diluir responsabilidades. En seguridad esto importa muchísimo puesto que detrás de un sistema existen desarrolladores, operadores, propietarios, usuarios, datos, configuraciones y decisiones humanas. Cuando algo sale mal, la personificación puede dificultar responder quién hizo qué y quién responde por ello.

Comentarios

Entradas populares de este blog

Notificaciones Dehú ¿real o falsa? -Error de Ciberseguridad

 Recibí un correo electrónico enviado desde una cuenta que nunca me había escrito: "noreply.dehu@correo.gob.es". Me indica que tengo una comunicación, y me pide que me dirija a la web: " dehu.redsara.es ".  Primero pensé que era un correo falso, es lo que ha de hacerse siempre, principalmente si lo recibes desde un email que jamás te ha escrito. Segundo porque de todo lo que se puede hacer mal, cómo iba a esperar que el gobierno cree una web sin el subnominio ".gob", eso sería alimentar las malas prácticas. Abrí la web para investigarla después de copiarla en texto, revisar la dirección, y la puse en un navegador seguro. Sorpresa, todo parece correcto. Incluso tiene un cartel que dice que se ha financiado con fondos Next Generation, que son los fondos para la recuperación económica, una página así no tiene sentido que se financie con estos fondos. Pues es real. Es un error de ciberseguridad. Yo le aconsejo que no crea jamás que una web que no lleve el ...

La diferencia entre Suministrador, Proveedor y Partner

Algunas veces se usan las palabra suministrador, proveedor o partner como si fueran sinónimos, pero son diferentes conceptos aunque las tres se refieren a una organización externa que es parte de la cadena de producción. Antes de hacer referencia a la definición hablemos de qué tipo de recursos y bienes necesita una organización de otra externa. Sin importar si es una empresa privada, una empresa pública, una ONG, o cualquier otro tipo de organización; se necesitan terceros que proporcionen recursos para que la organización pueda construir sus propios servicios. ¿Qué tipos de recursos necesita la organización? Insumos y bienes generales: En la empresa se necesita papel, bolígrafos, grapas, tinta, café, carpetas, y otros insumos que son necesarios e importantes pero que quizá los empleados ni siquiera presten atención a la marca, de dónde vienen o dónde se almacenan. Hay otros posibles insumos y bienes como la electricidad, los teléfonos, Internet, quizá el metro y el autobús; estos...

Error al descomprimir un zip, ruta de acceso demasiado larga

Si está intentando descomprimir un archivo .zip y recibe el mensaje de error "Ruta de acceso demasiado larga". No se preocupe, no hay ningún problema en el archivo. Todo lo que tiene que hacer es copiar el archivo .zip en una carpeta directamente debajo de la raiz del disco duro, por ejemplo en la ruta c:\temp . Vuelva a dar la instrucción para descomprimir el archivo y todo funcionará con normalidad. ¿Por qué ocurre esto? Seguramente el archivo .zip que quiere descomprimir está en una ruta muy extensa, es decir, debajo de muchas muchas carpetas. Windows suma al nombre del archivo toda la ruta, por lo que los archivos están excediendo el tamaño máximo de 260 caracteres.  El mensaje de error 0x80010135 es un mensaje de Windows, no del gestor de .zip. Así de fácil. Después de descomprimir puede usar el gestor de archivos de Windows para copiar la carpeta que se ha extraído en la ruta deseada.