Documentales creados con IA generativa | Etiquetar los productos hechos con IA generativa

Hoy he visto un documental de la vida del maestro Goya creado todo con IA generativa. Si estuviera en un concurso probablemente no pasaría ni el registro, el documental (para mis gusto) es malo con ganas. Sin embargo, me parece una herramienta espectacular para contar algo. 

Sin hacerse el productor de cine, el documental cuenta una historia y lo ilustra, algo que a los humanos nos encanta. 

Buen uso de la IA generativa, siempre que desde la perspectiva de la ciberseguridad explique claramente quién lo ha hecho y con qué herramienta. Quizá lo ha creado un historiador, o un entusiasta, esto debe quedar claro. 

Etiquetar los productos hechos con IA generativa

Todos hemos visto un documental alguna vez, pero empezamos con algunas características que me gustaría enumerar:

1. Era evidente que costaba mucho dinero, con lo cual lo esperado sería un producto en el que se puede confiar
2. La televisión que lo proyectaba era una cadena de confianza
3. No se pregunta, pero las condiciones anteriores permitían asumir que en la producción participaban expertos, personas con mucho conocimiento, universidades, centros de investigación, etc. 

Hoy con la IA alguien sin ningún conocimiento puede hacer un producto que engañaría a cualquiera. Me hago algunas preguntas para una persona que no conociera quién fue Francisco de Goya:

1. ¿Qué pasaría si cuenta una historia en la que Goya en vez de sordo era ciego?
2. ¿Qué pasaría si cuenta una historia diciendo que en realidad era hijo secreto de un rey y que nunca se le reconoció?
3. ¿Qué pasaría si cuenta una historia diciendo que era enemigo de Velázquez?
4. ¿Qué pasaría si cuenta una historia diciendo que en era un niño huérfano francés?
5. ¿Qué pasaría si confunde fechas, explica mal el entorno?

El mundo no puede ir validando todos los días cada cosa que ve. No todas las personas pueden validar fácilmente. La validación será cada vez más difícil e inaccesible. 

Tómese en cuenta que la generación de contenido se hace a partir de contenido previo, con lo que algo mal hecho servirá de fuente para futuras creaciones. 

Este asunto lo he abierto en CINTAC y lo estoy comentando con el presidente de la asociación, porque en mi opinión es un problema de accesibilidad. Las plataformas como YouTube, Instagram, TikTok, Spotify y otras similares permiten el contenido porque además de representar más contenido, venden publicidad sobre lo que sea que las personas consuman. 

Un engaño permanente

Corremos el riesgo de vivir en un engaño permanente. El problema no es la IA, el problema o la solución está en la plataforma. 

Si enfocamos el mismo efecto en las plataformas tradicionales, imagine que el vídeo arriba lo llevan a Antena 3, o a Televisión Española ¿lo programarían? Incluso gratis creo que no ocurriría ¿Puedo pagarle a El País, o a La Razón para que publiquen una imagen falsa? creo que no. ¿Competencia desleal?

Hacemos difusión y educación constante de ciberseguridad para que la población no caiga con la publicidad estafa, la que ahora se hacen con IA generativa para intentar darle realismo. Pueden escalar a este tipo de "documental" y engañar a las personas, no solo a quien tenga una discapacidad cognitiva, también a personas mayores, a personas muy jóvenes, y a cualquiera que no sepa del tema. ¿Qué pasaría con un "documental" entrevistando a un médico falso?

¿Necesitamos más legislación?

Creo que no necesitamos más legislación, la actual es suficiente. La misma que afectaría a Televisión Española, a Antena 3, a La Sexta, a La Razón, o a El País. Una cuota de responsabilidad con sus consecuencias. También, y en especial, el Real Decreto 193/2023, de 21 de marzo, por el que se regulan las condiciones básicas de accesibilidad y no discriminación de las personas con discapacidad para el acceso y utilización de los bienes y servicios a disposición del público. 

La falta de transparencia informativa constituye una barrera de acceso para personas con limitaciones cognitivas o falta de alfabetización digital (especialmente mayores y menores). Obligar al usuario a "investigar" si lo que escucha es real o sintético impone una carga cognitiva injusta. La accesibilidad exige que la naturaleza del contenido sea obvia y directa. 

Etiquetar los productos producidos con IA generativa

Sin ninguna duda, los productos producidos con IA generativa deben etiquetarse como tal. No veo ningún problema con el hecho de que existan, siempre que se diferencien. 

Esta vez creo que necesitamos más información asociada a la etiqueta:

1. Que ha sido creada con IA Generativa
2. Quién la ha creado
3. Qué ferfil profesional tiene quien lo ha creado, algo en lo que no creo que se necesite un doctorado para crear contenido, me valdría con la etiqueta "aficionado" o "publicista", pero que sea fácil discriminar.
4. Puntos extra, quizá no extremadamente necesario, pero ya que estamos, una clasificación que indique si es un estudio serio apegado a la realidad, o si es ficción.