A medida que la producción de modelos de IA se ha ido haciendo más realista, los medios generados por IA se están infiltrando en la política cotidiana, como muestran estos ejemplos.
Ha comenzado una nueva era de «noticias falsas» generadas por IA, no siempre tan inofensivas como las imágenes del Papa con ropa sorprendentemente a la moda. También pueden causar graves confusiones, como en el caso de las imágenes que supuestamente muestran la supuesta detención de Donald Trump, o la falsa imagen de un incendio cerca del Pentágono.
En este artículo recogemos ejemplos del uso de la IA para la manipulación política. Este artículo se actualizará periódicamente.
Anthony Furey, candidato a la alcaldía de Toronto
Toronto está a punto de elegir nuevo alcalde. Anthony Furey, que afirma haber trabajado como periodista y locutor durante 15 años, ha reconocido el potencial de los generadores de imágenes de IA y los utiliza para ilustrar partes de su campaña. Uno de sus temas centrales es: quiere librar a las calles de Toronto de los sin techo.
Por ejemplo, una imagen de su campaña muestra una calle de Toronto con gente acampada sin cobijo. Otra imagen muestra a un hombre y una mujer, pero rápidamente se revela que ha sido generada por IA: la mujer tiene tres brazos.
La fuente de las distintas imágenes del folleto digital no está clara. La imagen de los tres brazos ha sido sustituida por otra menos llamativa, también generada por IA.
Partido Nacional de Nueva Zelanda
La imagen utilizada por el Partido Nacional de Nueva Zelanda, de derecha conservadora, en Instagram transmite una sensación más realista. «Nueva Zelanda no es segura bajo un gobierno del Partido Laborista», reza el pie de foto de una imagen de un ladrón sin rostro. No se hace referencia al origen de la imagen. Las reacciones de los votantes en los comentarios son variadas: algunos condenan la política «à la Trump» y otros aplauden el uso de la tecnología moderna.
Candidato a la alcaldía de Chicago
El uso de la IA para la manipulación política no se limita a la generación de imágenes. Según el New York Times, un candidato a la alcaldía de Chicago se quejó de que un medio de comunicación aparentemente legítimo clonó su voz en Twitter. De este modo, dijo, le engañaron diciéndole que apoyaba la violencia policial. No se pudo comprobar si se trataba de un engaño o no.
Pentágono
En mayo de 2023, imágenes de un edificio en llamas, supuestamente cerca del Pentágono, circularon por Twitter a través de cuentas que inicialmente parecían fiables, ya que tenían el sello azul de verificación.
Sin embargo, desde que Elon Musk se hizo con el control de Twitter, el sello azul de verificación ya no es un signo fiable de información legítima, ya que cualquiera puede comprar una cuenta por ocho dólares al mes. El supuesto ataque al Pentágono causó revuelo e incluso provocó una breve caída del Dow Jones.
Alternativa para Alemania (AfD)
En marzo de 2023, el líder adjunto del grupo parlamentario AfD, Norbert Kleinwächter, llamó la atención utilizando una imagen de IA. «No a aún más refugiados», rezaba su post de Instagram, en el que mostraba a gente enfadada con la boca abierta. Esa no fue la última imagen de IA en el canal de Kleinwächter; también le gusta caricaturizar a oponentes políticos usando Midjourney.
La detención de Donald Trump
La IA puede crear imágenes en segundos que parecen fotos reales a primera vista. Esto permite a los usuarios malintencionados aprovecharse de las noticias de última hora y difundir rápidamente visualizaciones falsas.
Por ejemplo, cuando la opinión pública discutía la posible detención del expresidente estadounidense Donald Trump, poco después aparecieron en las redes sociales imágenes parcialmente fotorrealistas que supuestamente confirmaban el hecho.
Esto fue provocado por Eliot Higgins, fundador de la organización de investigación holandesa Bellingcat, que visualizó su fantasía carcelaria utilizando Midjourney y compartió los resultados en Twitter.
¿Está permitido utilizar modelos de imágenes de IA en las campañas políticas?
Midjourney, el modelo de imágenes de IA considerado actualmente el más potente de su clase y que se ha acercado más al fotorrealismo en versiones recientes, prohíbe explícitamente el uso de sus imágenes con fines políticos en sus condiciones de uso.
Sin embargo, los operadores de Midjourney -en caso de tener conocimiento de tales casos- tienen poco poder para actuar, salvo moderar las solicitudes y bloquear las cuentas correspondientes. Tales consecuencias quedan excluidas en el modelo de código abierto de Stable Diffusion, que poco a poco va alcanzando un nivel de calidad similar al de SDXL. Con información deldecodificador.
