La production de modèles d’IA devenant de plus en plus réaliste, les médias générés par l’IA s’infiltrent dans la vie politique quotidienne, comme le montrent ces exemples.
Une nouvelle ère de « fake news » générées par l’IA a commencé, qui ne sont pas toujours aussi inoffensives que des images du pape portant des vêtements étonnamment à la mode. Elles peuvent également être à l’origine de graves confusions, comme dans le cas des images censées montrer la prétendue arrestation de Donald Trump, ou de la fausse image d’un incendie près du Pentagone.
Dans cet article, nous rassemblons des exemples d’utilisation de l’IA à des fins de manipulation politique. Cet article sera mis à jour régulièrement.
Anthony Furey, candidat à la mairie de Toronto
Toronto est sur le point d’élire un nouveau maire. Anthony Furey, qui affirme avoir travaillé comme journaliste et diffuseur pendant 15 ans, a reconnu le potentiel des générateurs d’images de l’IA et les utilise pour illustrer certaines parties de sa campagne. L’un de ses thèmes centraux est le suivant : il veut débarrasser les rues de Toronto des sans-abri.
Par exemple, une image de sa campagne montre une rue de Toronto où des personnes campent sans abri. Une autre image montre un homme et une femme, mais on s’aperçoit rapidement qu’elle a été générée par l’IA : la femme a trois bras.
La source des différentes images figurant sur le dépliant numérique n’est pas claire. L’image des trois bras a été remplacée par une image moins accrocheuse, également générée par l’IA.
Parti national néo-zélandais
L’image utilisée par le Parti national néo-zélandais (droite conservatrice) sur Instagram transmet un sentiment plus réaliste. « La Nouvelle-Zélande n’est pas en sécurité sous un gouvernement du Parti travailliste », peut-on lire en légende de l’image d’un voleur sans visage. Aucune référence n’est faite à l’origine de l’image. Les réactions des électeurs dans les commentaires sont mitigées, certains condamnant la politique « à la Trump » et d’autres saluant l’utilisation de la technologie moderne.
Candidat à la mairie de Chicago
L’utilisation de l’IA à des fins de manipulation politique ne se limite pas à la génération d’images. Selon le New York Times, un candidat à la mairie de Chicago s’est plaint qu’un média apparemment légitime ait cloné sa voix sur Twitter. De cette manière, il a été amené à dire qu’il soutenait la violence policière. Il n’a pas été possible de vérifier s’il s’agissait ou non d’un canular.
Pentagone
En mai 2023, des images d’un bâtiment en feu, censé se trouver près du Pentagone, ont circulé sur Twitter via des comptes qui semblaient initialement dignes de confiance puisqu’ils portaient le tampon de vérification bleu.
Cependant, depuis qu’Elon Musk a pris le contrôle de Twitter, le tampon de vérification bleu n’est plus un signe fiable d’information légitime, car n’importe qui peut acheter un compte pour huit dollars par mois. L’attaque présumée du Pentagone a fait grand bruit et a même fait chuter brièvement le Dow Jones.
Alternative für Deutschland (AfD)
En mars 2023, le chef adjoint du groupe parlementaire de l’AfD, Norbert Kleinwächter, a attiré l’attention en utilisant une image d’IA. « Non à encore plus de réfugiés », pouvait-on lire dans son post Instagram, montrant des personnes en colère la bouche ouverte. Ce n’était pas la dernière image d’IA sur la chaîne de Kleinwächter ; il aime aussi caricaturer ses opposants politiques en utilisant Midjourney.
L’arrestation de Donald Trump
L’IA peut créer en quelques secondes des images qui ressemblent à première vue à de vraies photos. Cela permet à des utilisateurs malveillants de tirer parti de l’actualité et de diffuser rapidement de fausses visualisations.
Par exemple, lorsque le public a discuté de la possible arrestation de l’ancien président américain Donald Trump, des images partiellement photoréalistes sont apparues sur les médias sociaux peu de temps après, censées confirmer le fait.
Ce phénomène a été déclenché par Eliot Higgins, fondateur de l’organisation de recherche néerlandaise Bellingcat, qui a visualisé sa prison imaginaire à l’aide de Midjourney et a partagé les résultats sur Twitter.
Est-il permis d’utiliser des modèles d’images d’IA dans les campagnes politiques ?
Midjourney, le modèle d’imagerie d’IA actuellement considéré comme le plus puissant de son genre et qui s’est rapproché du photoréalisme dans ses versions récentes, interdit explicitement l’utilisation de son imagerie à des fins politiques dans ses conditions d’utilisation.
Cependant, les opérateurs de Midjourney – s’ils ont connaissance de tels cas – n’ont que peu de moyens d’agir, si ce n’est de modérer les demandes et de bloquer les comptes correspondants. De telles conséquences sont exclues dans le modèle open source de Stable Diffusion, qui atteint lentement un niveau de qualité similaire à celui de SDXL. Avec l’aide de thedecoder.
