Ir al contenido principal

El abuso de la personificación en trabajos hechos con IA puede ser un problema de ciberseguridad

Encontré con un titular que dice “La Inteligencia Artificial encuentra una vía para diseñar alas de avión más eficientes”, el titular corresponde a una noticia del medio Infobae y puede verse completa en el siguiente enlace: enlace .  Este tipo de titulares debería marcarse como sospechoso, o sensacionalista. La Inteligencia Artificial no tiene esa capacidad porque no puede por su cuenta buscar líneas de investigación, profundizar, hasta llegar a conclusiones. Además, no se hace con la ayuda de los humanos, es justo lo contrario, lo hace un humano con la ayuda de la inteligencia artificial.   Considere los siguientes titulares: Un cohete espacial rompe un récord de velocidad Un tren consigue hacer un viaje de 300 kilómetros con consumo de energía cero Una base de datos consigue almacenar todas las estrellas de la vía láctea Mi profesora de lengua diría que esto se llama “personificación” o “prosopopeya”. Son figuras literarias que atribuyen a cosas las cualidades, acciones...

Ejemplo de noticia falsa

Reconocer una noticia falsa tiene dos partes, la primera es la necesidad, si no necesita validar la información entonces asuma que es falsa y continue con sus tareas. Si desea validarla entonces parta de que es falsa y revise los extremos partiendo de las fuentes autorizadas. 

¿Qué es una noticia falsa?

Es una noticia que puede cumplir con al menos uno de las siguientes características:

  1. Es inventada. Todo lo que dice es inventado y no es cierto
  2. No cuenta toda la verdad. Cuenta una parte de la situación ocultando una parte de la misma, ya sea por descuido o con intención. Por ejemplo: "María golpeó a Juan y se dió a la fuga". La frase es cierta, pero qué pasaría si Juan ha agredido a María, y ella ha conseguido golpearle para huír. La frase inicial es cierta, pero no se cuenta todos los hechos, y además se intenta dar una idea equivocada de lo que en realidad ha ocurrido.
  3. Usa elementos reales para dar otra noticia. Muy similar al caso anterior, pero esta vez se usa un dato falso, por ejemplo, en la noticia anterior se cuenta que la policía busca a María y se incluye una fotografía de Elena, que es a quien se intenta perjudicar. 

Las noticias reales pueden perjudicar a alguien, si hay un asesino huído y se comunica en las noticias evidentemente para el asesino hay una desventaja, pero se entiende que es por el bien de la sociedad. En las noticias flasas por lo general el beneficio no es social, y se busca perjudicar a una persona, colectivo, o un gobierno. 

Ejemplo de noticia falsa

Si bien ha una gama muy grande de posibles noticias falsas, he elegido el siguiente ejemplo porque tiene muchas condiciones. 

Nota: he obtenido certificados de las dos web que cito en este ejemplo, para evitar futuras reclamaciones. En mi opinión se trata de una noticia falsa, no obstante en algún momento futuro podría alegarse que se trata de un error.


En la red social X, la cuenta @gaceta_es publica el siguiente texto: La ONG Cruz Roja se suma al boicot a X y anuncia que dejará la red social en 2025: «Recibimos continuos mensajes de odio». Puede ver el tuit original en el siguiente enlace: https://x.com/gaceta_es/status/1867566392905453645

La imagen se extrae del enlace de la publicación web, y la red X añade la leyenda automáticamente del título. 

Paso 1 ¿interesa validar la noticia?

Si no le afecta la noticia lo mejor es que asuma que es falsa y continúe con sus tareas. Desde luego no la comparta, no de like, y mucho menos la reenvíe a alguien más. 

Si le interesa como ha sido mi caso, porque he tenido mucha relación con Cruz Roja y me ha extrañado la situación, entonces me interesa validarla. 

Paso 2 Leer y entender

La noticia habla de una institución y una red social, pero incluye otro elemento quizá más importante, habla de un supuesto boicot a la red X. Si solo vemos el quién y qué, el subconciente se quedará con el boicot en la cabeza.

Por lo tanto, requiere validación:

  1. Si Cruz Roja realmente dejará de usar y comunicar en X
  2. Si hay un boicot contra X
  3. Si la noticia existe
Paso 3 Fuente oficial
Cada situación tiene sus elementos. En este caso es bastante fácil puesto que Cruz Roja tiene una web oficial y un canal en la red X

Examiné el canal de Cruz Roja en la red X, y visité la página https://www.cruzroja.es/ que además contiene en portada los anuncios de la institución. NADA, absolutamente nada. Ni una sola mención.

Paso 4 Otras fuentes
Lo normal es que más de una fuente se haga eco de la noticia. Una búsqueda en Google puede añadir, si no se encuentra nada en la primera búsqueda entonces se puede dar clic en el filtro "noticias". Si sigue sin aparecer entonces no parecerá serio. Lo más posible es que sea falsa. 

Paso 5 Evaluar al emisor original
Quién lo dice. No es necesario entender el por qué, sino inicialmente conocer al emisor y en algún punto validarlo. 

Este paso puede ser de riesgo. Llegados a este punto y dado que no se ha validado la información, podría tratarse de una web falsa, de una estafa, o un sitio de riesgo. Si desea continuar con la validación, entonces le recomiendo:
  1. Use un navegador diferente al que usa habitualmente
  2. Abra una ventana en modo incógnito
  3. Si es posible no lo haga desde el móvil o desde un equipo corporativo. Idealmente desde un equipo que se use para pruebas

La Gaceta existe, la siguiente imagen es una captura de la web a la que lleva el enlace desde la red X:

captura de pantalla de https://gaceta.es/espana/la-ong-cruz-roja-se-suma-al-boicot-a-x-y-anuncia-que-dejara-la-red-social-en-2025-recibimos-continuos-mensajes-de-odio-20241213-1432/

Lea con cuidado, y busque los detalles:

  1. Hay un título en la parte superior de la imagen, sobre el título principal: Han acusado a la "extrema derecha europea" de orquestar una campaña. Ahora hay otro elemento ideológico, de los que señalan a un colectivo.
  2. Vea la fotografía. No hay nadie de Cruz Roja ni de la red X, los dos involucrados, ni de nada que les represente. Ni las personas, ni las imágenes que tienen en las manos. 
  3. El piede de la fotografía dice en letra súper-mega-hiper pequeña: Miembros de Open Arms con los carteles de su nueva campaña. Europa Press. Se trata por lo tanto de personas de otra organización llamada Open Arms
  4. Al leer el texto también se evidencia que en realidad se trata de una noticia en relación a Open Arms, y no a Cruz Roja.
En este punto ya sabemos que la noticia es falsa, pero falta un elemento, el boicot. Buscando en la misma noticia no hay nada más, ningún enlace. Así que he buscado en Google por si La Gaceta tiene más información al respecto, tampoco:
búsqueda en Google de la palabra "boicot" en la web de La Gaceta


Elementos de una noticia falsa
Si queremos saber si realmente se trata de Open Arms, sería necesario iniciar toda la investigación. Pero en este punto se reconocen elementos de una noticia falsa:
  1. No dice la verdad de quien se habla
  2. Las imágenes no se corresponden con ninguno de los actores
  3. La acción no está validada
La Gaceta podría "arreglar" la noticia diciendo que equivocó el titular, que no se trataba de Cruz Roja, sino de Open Arms. Recuerde que si una persona se equivoca en el reconocimiento de un delincuente, habrá acusado a la persona falsamente. No tiene muchos ángulos de análisis. Ahora bien, todo el mundo tiene la posibilidad de equivocarse. 

Terceros

¿Quién sería capaz de pagar el daño causado? Depende del impacto que haya tenido, solo en la red X lo que puede verse en la primera imagen, en el post en X, se tienen los siguiente resultados:

  • Más de 75.500 visualizaciones
  • Más de 1.000 comentarios
  • Se ha compartido 742 veces
  • Ha recibido 2.000 likes
  • 50 personas han guardado la noticia

Sin tomar en cuenta las posibles consecuencias legales, no prestar atención podría causar problemas y ser cómplice, por lo tanto:

  • No apoye las noticias falsas
  • No sea cómplice compartiendo noticias falsas
  • No acuse falsamente a alguien que está siendo víctima de una noticia falsa

Un último apunte. Si en un principio asume que es falso y continúa con sus tareas, estará a salvo.


Comentarios

Entradas populares de este blog

Notificaciones Dehú ¿real o falsa? -Error de Ciberseguridad

 Recibí un correo electrónico enviado desde una cuenta que nunca me había escrito: "noreply.dehu@correo.gob.es". Me indica que tengo una comunicación, y me pide que me dirija a la web: " dehu.redsara.es ".  Primero pensé que era un correo falso, es lo que ha de hacerse siempre, principalmente si lo recibes desde un email que jamás te ha escrito. Segundo porque de todo lo que se puede hacer mal, cómo iba a esperar que el gobierno cree una web sin el subnominio ".gob", eso sería alimentar las malas prácticas. Abrí la web para investigarla después de copiarla en texto, revisar la dirección, y la puse en un navegador seguro. Sorpresa, todo parece correcto. Incluso tiene un cartel que dice que se ha financiado con fondos Next Generation, que son los fondos para la recuperación económica, una página así no tiene sentido que se financie con estos fondos. Pues es real. Es un error de ciberseguridad. Yo le aconsejo que no crea jamás que una web que no lleve el ...

La diferencia entre Suministrador, Proveedor y Partner

Algunas veces se usan las palabra suministrador, proveedor o partner como si fueran sinónimos, pero son diferentes conceptos aunque las tres se refieren a una organización externa que es parte de la cadena de producción. Antes de hacer referencia a la definición hablemos de qué tipo de recursos y bienes necesita una organización de otra externa. Sin importar si es una empresa privada, una empresa pública, una ONG, o cualquier otro tipo de organización; se necesitan terceros que proporcionen recursos para que la organización pueda construir sus propios servicios. ¿Qué tipos de recursos necesita la organización? Insumos y bienes generales: En la empresa se necesita papel, bolígrafos, grapas, tinta, café, carpetas, y otros insumos que son necesarios e importantes pero que quizá los empleados ni siquiera presten atención a la marca, de dónde vienen o dónde se almacenan. Hay otros posibles insumos y bienes como la electricidad, los teléfonos, Internet, quizá el metro y el autobús; estos...

Error al descomprimir un zip, ruta de acceso demasiado larga

Si está intentando descomprimir un archivo .zip y recibe el mensaje de error "Ruta de acceso demasiado larga". No se preocupe, no hay ningún problema en el archivo. Todo lo que tiene que hacer es copiar el archivo .zip en una carpeta directamente debajo de la raiz del disco duro, por ejemplo en la ruta c:\temp . Vuelva a dar la instrucción para descomprimir el archivo y todo funcionará con normalidad. ¿Por qué ocurre esto? Seguramente el archivo .zip que quiere descomprimir está en una ruta muy extensa, es decir, debajo de muchas muchas carpetas. Windows suma al nombre del archivo toda la ruta, por lo que los archivos están excediendo el tamaño máximo de 260 caracteres.  El mensaje de error 0x80010135 es un mensaje de Windows, no del gestor de .zip. Así de fácil. Después de descomprimir puede usar el gestor de archivos de Windows para copiar la carpeta que se ha extraído en la ruta deseada.