Entre los muchos miedos que despiertan las nuevas herramientas de inteligencia artificial está la posibilidad de generar fotos falsas que parecen verdaderas.
Hace unos días se anunció la imputación de Donald Trump por el sórdido pago, presuntamente ilegal, a una actriz porno llamada Stormy Daniels. Aparentemente, Trump utilizó el dinero de su campaña electoral para comprar su silencio sobre una relación en la que más vale no indagar mucho.
Esa misma tarde, tras leer la noticia, se me ocurrió pedirle a Midjourney que me creara una foto del momento de la detención del expresidente americano. Midjourney es uno de los modelos generativos actualmente disponibles, de forma casi gratuita, para el público en general. Tú le explicas lo que quieres ver y en menos de un minuto te ofrece, de una forma que parece mágica, cuatro versiones diferentes de la foto que le has pedido.
La primera de las cuatro fotos que me ofreció Midjourney es la que encabeza este texto. A primera vista la foto parece genuina. Luego, si te fijas un poco, hay algunos detalles que no están del todo conseguidos. Los rótulos de los uniformes de los policías son un batiburrillo sin sentido, y la mano derecha de Trump no resulta demasiado verosímil.
Con el estado actual de la tecnología, los deep fakes ya son, a veces, casi indistinguibles de las fotografías auténticas. En pocos meses, con seguridad, será imposible detectar las diferencias.
Sin duda, la inteligencia artificial ofrece muchas posibilidades a los delincuentes y otros individuos malintencionados. Los que saben de esto están muy preocupados por las implicaciones éticas de estas tecnologías. En mi opinión, el problema no es muy distinto al que, en su día, produjo la aparición de cualquier otro avance técnico o científico.
La creación del papel moneda abrió las puertas a los falsificadores. La invención del revólver fue un regalo del cielo para los atracadores. Para los timadores, el telégrafo y el teléfono fueron herramientas muy útiles. Y la química orgánica ofreció todo un mundo de posibilidades para los envenenadores y los narcotraficantes.
En el ámbito de las imágenes, desde el comienzo de la fotografía ésta se utilizó para alterar la realidad. Me viene ahora a la cabeza esa famosa foto de Stalin en la que su lugarteniente Nikola Yezhov desaparece mágicamente cuando el dictador decide ejecutarlo.
Y, desde mucho antes, el arte siempre nos ha presentado una versión del mundo cuya relación con el mundo real es completamente arbitraria. Cuando miro este retrato de Carlos V me pregunto qué pinta tendría realmente el emperador. Para el público del siglo XVI, la obra de Tiziano reflejaba fielmente la realidad. Para cualquier historiador contemporáneo, su valor es sólo el de una excelente obra de arte.
Al final, en mi modesta opinión, las herramientas y los deep fakes no son el problema. El verdadero problema es cómo construir un mundo capaz de manejar el progreso sin renunciar a los valores, las normas y los comportamientos que hagan que nuestra sociedad sea vivible para todos.
Tenés razón, Javier. Es como aquello de » hecha la ley, hecha la trampa «.
Te mando un abrazo grande ( que no es fake )
Desde Benicasim, en estos momentos, Javier te envío un abrazo inquieto porque no tengo claro si la inteligencia artificial nos va a facilitar o a complicar la vida aún más.
Empezamos a estar un poco “inquietos”…
Hola Javier. Me alegro de que estés bien y que andes despierto a los nuevos cambios que vienen. Me han gustado tu inquietud y tu reflexión acerca de la inteligencia emocional. Creo que es acertado no posicionarse contra todo lo nuevo de forma constante. Eso demuestra que -de momento- no envejeces jejejejeje.
En cuanto a las inteligencias artificiales creo que van a traer muy pronto problemas de derechos. Ya sabemos que la nueva creación parte de creaciones anteriores, pero estas «inteligencias» están usando un material que la gente había subido a internet pensando que de alguna manera estaba protegido. ¿Que pasaría si de repente todos los fotógrafos y creadores del mundo dejasen de vender porque estos programas fuesen capaces de crear nuevas imágenes partiendo de todo el material subido? Creo que nacerá un movimiento que muy probablemente se llamará «no con mis imágenes» formado por artistas que se nieguen a enriquecer a los dueños de esas inteligencias con sus trabajos. Entonces -voy más lejos- estas empresas ¿deberán pagar sumas enormes de derechos por usar todo lo subido a internet por millones de usuarios? Se creará una lista como la Robinson pero de artistas y obras de arte? Un abrazo Javier!
Hola Luis,
¡Cuánto tiempo! Me gustaría volver a verte y ponernos al día cuando tengas un rato libre.
Lo que hacen estos programas es aprender de la información que existe en internet. De la misma forma que los humanos, pero a lo bestia. Opino que el aprendizaje no es una infracción de la propiedad intelectual. Si tú haces una imagen al estilo de Cartier-Bresson, o de Miguel Barceló, o de Bansky, basándote en lo que has visto de ellos, nadie podrá reclamarte nada. Me temo que en este caso los derechos de autor no aplican.
Por supuesto que algunos artistas se verán perjudicados por estos inventos, de la misma forma que los pintores de retratos se vieron perjudicados por la fotografía y la industria musical se vino abajo cuando surgieron Napster y luego Spotify. Pero creo que escudarse en la propiedad intelectual para negarle a los robots el derecho a aprender es una estrategia no sólo equivocada sino también, a la larga, estéril. Fíjate en los 15 años de purgatorio que han pasado las discográficas cuando optaron por este camino.
Hay ya en marcha algunas demandas contra los fabricantes de estos sistemas, entre ellas la de Getty Images, que conocerás. Veremos en qué queda el asunto. En la práctica, como proclama el casón del Buen Retiro, todo lo que no es tradición es plagio. Y pienso que más vale que los artistas y creadores vayan aprendiendo a convivir con estas tecnologías y a buscar formas de aprovecharlas en su trabajo. La inteligencia artificial se lo va a poner difícil también a muchas otras profesiones, desde los radiólogos a los documentalistas y a los abogados especializados en derecho procesal. Confío en que también a los notarios.
No va a ser fácil, pero prefiero ser optimista y creer que sabremos, como sociedad, gestionar el progreso de forma más o menos sensata. Hace años inscribí mi teléfono en las listas Robinson, y cada día recibo dos o tres llamadas no deseadas de operadoras telefónicas y empresas de inversiones dudosas. La privacidad ha muerto, y la propiedad intelectual está en ello. A ver cómo lo manejamos.
Un abrazote,
Hola Javier,
Los miedos de la IA tienen un fundamento sólido. En especial el entrenamiento de equipos de IA hasta la fase 5. Su implantación en la red y desarrollo como ser inteligente superior a los humanos tendría consecuencias más allá de la manipulación de información o datos.
Creo que es tarde para parar los desarrollos, ya que se llevan a cabo en sitios muy variados. La única solución es que si aparece un monstruoso desarrollo en la IA se compensase con otros muchos bien concebidos que le parasen los pies.
Sería bueno orientar el desarrollo desde el principio de forma ordenada, pero esto nunca ha sido así. Como ejemplo tienes la bioética. La investigación con animales o humanos ha tardado mucho en aceptarse.
Pararlo todo en medio de la carrera no sucederá, pese al alarmismo.
Javier, me llega tu artículo coincidiendo con otro de «The Algorithm», que me envía semanalmente MIT Technology Review. Ambos comentáis las «Fake pictures» de Trump siendo detenido.
En tu artículo muestras ejemplos clásicos del pasado, en particular la muy conocida de Stalin.
Mi discrepancia con tu punto de vista sobre la trascendencia de las nuevas herramientas para crear imágenes falsas es que la falsificación de imágenes sin las herramientas de IA, estaba limitada a especialistas para crearlas y a medios con capacidad de comunicación que, o bien era públicos, o bien eran privados pero enormemente poderosos como para poder crear un impacto de credibilidad.
Lo que hoy tenemos entre manos es que la herramienta está al alcance de cualquiera. La herramienta de crear fotografías falsas y la herramienta para ponerla en circulación y hacerla llegar al último rincón. Estamos entrando en la era del «Fake pictures» anytime, everywhere.
Mi conclusión y expectativa es que después del boom inicial, estamos reforzando la utilidad del servicio público de la prensa responsable. No vamos a tener más remedio que volvernos a recibir hacia los divulgadores de información fiables ante el marasmo de falsedades que nos va a inundar.
Un abrazo.