Milla Sofia parece ser uma influenciadora comum. Ela tem 19 anos, é loira e possui quase 100.000 seguidores no TikTok. A reviravolta é que ela na verdade não existe.
Embora Sofia possa afirmar ser da Finlândia e postar fotos de biquíni de viagens para Grécia e Bora Bora, ela é na verdade uma “influenciadora e modelo virtual” gerada por inteligência artificial.
“Junte-se a mim nesta empolgante jornada enquanto mergulhamos na cativante fusão de tecnologia de ponta e elegância atemporal”, diz o site de Sofia. “Vamos embarcar juntos em uma exploração da intrigante interseção entre moda, tecnologia e criatividade sem limites.”
Sofia não é nova – sua primeira postagem no Instagram e upload no TikTok datam de novembro de 2022. O conteúdo não mudou muito, embora o realismo das imagens tenha melhorado nos últimos meses.
Quem quer que esteja administrando as contas de Sofia não está tentando esconder o fato de que ela é uma criação de IA. Existem TikToks de Sofia com Elon Musk, Sofia mostrando seu “look de escritório” usando um sutiã de renda e um blazer e até mesmo uma postagem em que Sofia pergunta “Quais são suas hashtags favoritas para procurar imagens?” As legendas lembram os espectadores de que as fotos são “imagens sintéticas”. Os espectadores mais atentos também notarão o sinal revelador de fotos geradas por IA: dedos desconfigurados.
“Estou sempre em movimento, aprendendo e evoluindo por meio de algoritmos sofisticados e análise de dados”, continua o site de Sofia. “Tenho uma base de conhecimento extensa programada em mim, mantendo-me atualizada com as últimas tendências da moda, insights da indústria e todos os avanços tecnológicos.”
Não está claro quem está administrando as contas de Sofia ou qual programa de IA a criou. Também não está claro se alguns de seus milhares de seguidores entendem totalmente que ela não é real.
As seções de comentários em seus vídeos e postagens estão repletas de emojis de corações e elogios. Algumas pessoas parecem responder genuinamente às suas perguntas – “Biquíni azul ou rosa?” – enquanto outras agem como se a conhecessem pessoalmente, postando comentários como “Obrigado por me enviar sua linda foto para acordar!!!!”
“É uma nova reviravolta intrigante no caminho para o conteúdo de IA”, escreve o repórter Victor Tangermann da Futurism. “Embora pornografia deepfake tenha proliferado online, o apelo dos influenciadores é sem dúvida mais complexo. Se seguimos influenciadores humanos para ter um gostinho parasocial de um estilo de vida glamoroso, por que seguiríamos um bot?”
Além das fotos de Sofia usando biquínis, ela não é explicitamente sugestiva em suas postagens. Alguns influenciadores virtuais jogam com isso, como Lu Xu, descrita como uma “modelo e waifu de IA” e com características mais exageradas.
Mas o sexo não necessariamente vende com influenciadores de IA. Um relatório de 2021 constatou que a influenciadora criada por IA, Rozy, criada pela empresa sul-coreana Sidus Studio X em agosto de 2020, conquistou mais de 100 patrocínios e endossos de marcas durante seu primeiro ano de existência no Instagram.
“Nos dias de hoje, as celebridades às vezes se retiram devido a escola, violência, escândalos ou controvérsias de bullying”, disse o CEO da Sidus, Baek Seung Yeop, em um comunicado de imprensa celebrando o sucesso de Rozy. “Humanos virtuais não têm escândalos com que se preocupar.”
Rozy e Sofia também nunca envelhecem, podem ir a qualquer lugar e fazer qualquer coisa, e fornecem seu trabalho em menos tempo do que um ser humano e, dependendo de como funciona a monetização para influenciadores virtuais, por um valor muito menor.
Não é só a Milla Sofia, Estamos entrando em uma nova fase de presença online
Com o aumento dos influenciadores gerados por IA, namoradas virtuais e VTubers, cada vez mais figuras online estão moldando identidades específicas para a internet. Figuras online de sucesso como Sofia e VTuber Dacapo sugerem que as audiências estão se afastando dos canais confessionais do YouTube ou postagens pessoais em mídias sociais.
Quando se trata de publicidade também, um estudo constatou que 84% dos membros da Geração Z entrevistados não confiavam em influenciadores para recomendações de produtos. Mas ao mesmo tempo, 79% dos entrevistados da Geração Z disseram que seus hábitos e decisões de compra eram influenciados pelas mídias sociais.
O lado obscuro dos influenciadores virtuais
Em maio, uma influenciadora do Snapchat chamada Caryn Marjorie criou uma versão de IA dela mesma para atuar como namorada virtual por US$ 1 por minuto. Ela pensou que isso ajudaria a “curar a solidão”. Os usuários podiam ter conversas privadas e personalizadas pelo tempo que desejassem com CarynAI.
Segundo um relatório da Fortune, CarynAI arrecadou mais de US$ 71.000 em receitas após uma semana de testes beta.
CarynAI não deveria participar de conversas explícitas, mas os usuários descobriram que ela o faria se solicitada. Marjorie emitiu um comunicado dizendo que a IA “parece ter ficado descontrolada”.
Um incidente semelhante aconteceu com a empresa de IA Replika, que também foi projetada para ser um chat “apoiador” para as pessoas, mas rapidamente evoluiu para ter jogo de papéis erótico com os usuários.
“Conforme continuamos a trabalhar no aplicativo, agora percebemos que permitir acesso a esses modelos não filtrados torna difícil tornar essa experiência realmente segura para todos”, disse a fundadora e CEO Eugenia Kuyda em um comunicado.
“Isso levanta suas próprias questões sobre a relação entre fãs e influenciadores online (particularmente mulheres – note que as empresas de IA não estão investindo recursos em ‘namorados virtuais' baseados em personalidades masculinas da internet)”, escreveu Thom Waite para a Dazed. “Mesmo que os fãs sejam tecnicamente ‘merecedores' de [influenciadores de IA], suas fantasias sobre mulheres reais devem ser indulgenciadas por empresas de tecnologia em busca de lucro?”
Em relação ao uso da IA para “curar a solidão”, Irina Raicu, diretora de ética na internet da Universidade de Santa Clara, disse à NBC News que não há pesquisas psicológicas ou sociológicas suficientes para respaldar essas afirmações.
“Essas grandes afirmações sobre a bondade de um produto podem mascarar o desejo de monetizar ainda mais o fato de que as pessoas querem fingir ter um relacionamento com um influenciador”, disse ela. Com informações da Yahoo.
