Milla Sofia semble être une influenceuse ordinaire. Elle a 19 ans, est blonde et compte près de 100 000 followers sur TikTok. Le hic, c’est qu’elle n’existe pas vraiment.
Bien que Sofia prétende venir de Finlande et affiche des photos en bikini de ses voyages en Grèce et à Bora Bora, elle est en réalité une « influenceuse et mannequin virtuelle » générée par une intelligence artificielle.
« Rejoignez-moi dans ce voyage passionnant et plongez dans la fusion captivante de la technologie de pointe et de l’élégance intemporelle », peut-on lire sur le site web de Sofia, « embarquons ensemble pour une exploration de l’intrigante intersection entre la mode, la technologie et la créativité sans limite »
Sofia n’est pas nouvelle – son premier post Instagram et sa première mise en ligne sur TikTok remontent à novembre 2022. Le contenu n’a pas beaucoup changé, même si le réalisme des images s’est amélioré ces derniers mois.
La personne qui gère les comptes de Sofia n’essaie pas de cacher qu’il s’agit d’une création de l’IA. Il y a des TikToks de Sofia avec Elon Musk, Sofia montrant son « look de bureau » avec un soutien-gorge en dentelle et un blazer, et même un post dans lequel Sofia demande« Quels sont vos hashtags préférés pour rechercher des images ? » Les légendes rappellent que les photos sont des « images de synthèse ». Les spectateurs les plus attentifs remarqueront également le signe révélateur des photos générées par l’IA : des doigts défigurés.
« Je suis toujours en mouvement, j’apprends et j’évolue grâce à des algorithmes sophistiqués et à l’analyse de données », poursuit le site web de Sofia, qui ajoute : « J’ai programmé une vaste base de connaissances qui me permet de me tenir au courant des dernières tendances de la mode, de l’industrie et de toutes les avancées technologiques »
On ignore qui gère les comptes de Sofia et quel programme d’intelligence artificielle l’a créée. On ne sait pas non plus si certains de ses milliers d’abonnés comprennent bien qu’elle n’est pas réelle.
Les commentaires sur ses vidéos et ses posts sont remplis d’émojis en forme de cœur et de compliments. Certaines personnes semblent répondre sincèrement à ses questions – « Bikini bleu ou rose ? » – tandis que d’autres agissent comme si elles la connaissaient – tandis que d’autres agissent comme s’ils la connaissaient personnellement, en postant des commentaires tels que « Merci de m’avoir envoyé ta magnifique photo de réveil !!!! »
« Il s’agit d’un nouveau rebondissement intriguant sur la voie du contenu IA », écrit Victor Tangermann, journaliste à Futurism, « Alors que le deepfake porno a proliféré en ligne, l’attrait des influenceurs est sans doute plus complexe. Si nous suivons des influenceurs humains pour avoir un aperçu parasocial d’un style de vie glamour, pourquoi suivrions-nous un robot ? »
Hormis les photos de Sofia en bikini, ses posts ne sont pas explicitement suggestifs. Certains influenceurs virtuels en profitent, comme Lu Xu, décrite comme un « modèle d’IA et waifu » aux traits plus exagérés.
Mais le sexe ne fait pas nécessairement vendre les influenceurs de l’IA. Un rapport de 2021 a révélé que l’influenceuse Rozy, créée par l’IA par la société sud-coréenne Sidus Studio X en août 2020, a obtenu plus de 100 parrainages et endossements de marques au cours de sa première année sur Instagram.
« De nos jours, les célébrités se retirent parfois en raison de controverses liées à l’école, à la violence, aux scandales ou à l’intimidation », a déclaré le PDG de Sidus, Baek Seung Yeop, dans un communiqué de presse célébrant le succès de Rozy. « Les humains virtuels n’ont pas à s’inquiéter de ces scandales
Rozy et Sofia ne vieillissent jamais, peuvent aller n’importe où et faire n’importe quoi, et fournissent leur travail en moins de temps qu’un être humain et, selon la façon dont la monétisation fonctionne pour les influenceurs virtuels, pour beaucoup moins d’argent.
Il n’y a pas que Milla Sofia, nous entrons dans une nouvelle phase de présence en ligne
Avec la montée en puissance des influenceurs générés par l’IA, des petites amies virtuelles et des VTubers, de plus en plus de personnalités en ligne se forgent des identités spécifiques pour l’internet. Des personnalités en ligne à succès comme Sofia et VTuber Dacapo suggèrent que le public s’éloigne des chaînes YouTube confessionnelles ou des messages personnels sur les médias sociaux.
En ce qui concerne la publicité également, une étude a révélé que 84 % des membres de la génération Z interrogés ne faisaient pas confiance aux influenceurs pour leurs recommandations de produits. Mais dans le même temps, 79 % des membres de la génération Z interrogés ont déclaré que leurs habitudes d’achat et leurs décisions étaient influencées par les médias sociaux.
Le côté obscur des influenceurs virtuels
En mai, une influenceuse de Snapchat appelée Caryn Marjorie a créé une version IA d’elle-même pour servir de petite amie virtuelle pour 1 dollar la minute. Elle pensait que cela aiderait à « guérir la solitude ». Les utilisateurs pouvaient avoir des conversations privées et personnalisées aussi longtemps qu’ils le souhaitaient avec CarynAI.
Selon unrapport de Fortune, CarynAI a récolté plus de 71 000 dollars de recettes après une semaine de test bêta.
CarynAI n’était pas censée participer à des conversations explicites, mais les utilisateurs ont découvert qu’elle le ferait si on le lui demandait. Marjorie a publié une déclaration indiquant que l’IA « semble être devenue incontrôlable ».
Un incident similaire s’est produit avec la société d’IA Replika, qui était également conçue pour être un chat de « soutien » pour les gens, mais qui a rapidement évolué vers un jeu de rôle érotique avec les utilisateurs.
« Alors que nous continuons à travailler sur l’application, nous nous rendons compte qu’en permettant l’accès à ces modèles non filtrés, il est difficile de rendre cette expérience vraiment sûre pour tout le monde », a déclaré la fondatrice et PDG Eugenia Kuyda dans un communiqué.
cela soulève des questions sur la relation entre les fans et les influenceurs en ligne (en particulier les femmes – notez que les entreprises d’IA n’investissent pas de ressources dans des « petits amis virtuels » basés sur des personnalités Internet masculines) », a écrit Thom Waite pour Dazed. même si les fans sont techniquement « dignes » des [influenceurs IA], leurs fantasmes sur des femmes réelles doivent-ils être assouvis par des entreprises technologiques à la recherche de profits ?
En ce qui concerne l’utilisation de l’IA pour « guérir la solitude », Irina Raicu, directrice de l’éthique de l’internet à l’université de Santa Clara, a déclaré à NBC News qu’il n’y avait pas suffisamment de recherches psychologiques ou sociologiques pour étayer ces affirmations.
« Ces affirmations grandioses sur la bonté d’un produit peuvent masquer le désir de monétiser davantage le fait que les gens veulent prétendre avoir une relation avec un influenceur », a-t-elle déclaré. Avec des informations de Yahoo.
