Quando Kaitlyn “Amouranth” Siragusa anunciou seu novo projeto de chatbot de inteligência artificial em maio, isso não foi exatamente uma surpresa. A tecnologia de IA generativa para interação de voz bidirecional se tornou mais acessível nos últimos meses, à medida que empresas como a OpenAI desenvolveram ferramentas de chatbot mais sofisticadas.

O AI Amouranth, revelado em 22 de maio e criado pela empresa de IA Forever Voices, permite que os fãs paguem uma taxa para enviar uma mensagem de voz e receber uma resposta que soa como se fosse da própria Siragusa.

Siragusa disse ao Polygon que soube sobre a tecnologia de chatbot de IA através de um agente que mencionou para ela. Ela já vinha lendo sobre IA e suas capacidades. “Eu sinto que isso é bom para o espaço de criadores online, porque a solidão está em alta – especialmente após a COVID. As pessoas estão meio isoladas agora”, disse Siragusa durante uma recente entrevista em vídeo.

“E se isso ajuda as pessoas a se sentirem menos solitárias, então acho que é uma funcionalidade muito legal para começar a usar, porque é realmente exaustivo para os criadores de conteúdo estarem tão acessíveis.”

Siragusa começou seu canal no Twitch em 2016, focando em cosplay e fazendo transmissões na categoria “Just Chatting”. Nos anos seguintes, seu perfil só aumentou à medida que ela passou a trabalhar com ASMR e participou da incrivelmente popular “hot tub meta”, para a qual o Twitch criou um gênero de transmissão totalmente novo.

Agora, ela possui cerca de 6,4 milhões de seguidores no Twitch e uma presença online que se estende ao Twitter, Instagram, OnlyFans, YouTube, TikTok e outras plataformas.

Criar um chatbot de IA da Amouranth é uma solução perspicaz para lidar com a realidade de ser uma celebridade com fãs constantemente clamando por acesso, mesmo que isso venha com suas próprias desvantagens.

Além de sua presença nas transmissões ao vivo no Twitch, Siragusa também é incrivelmente popular no OnlyFans, o que significa que ela lida com a interação adicional de fãs que pagam para acessar conteúdo NSFW. No entanto, a interação personalizada não é escalável. Há apenas tantas horas no dia.

“Nós [streamers] temos pessoas de todo o mundo, e se fôssemos tentar conversar com todo mundo, levando em conta todos os fusos horários, seria impossível”, disse Siragusa. “Nunca dormiríamos. Então, seria muito prejudicial para nós sermos tão acessíveis.”

Siragusa está incrivelmente ocupada. Ao descrever sua agenda de trabalho exigente ao longo dos anos, parece que ela mal teve tempo para dormir durante esse período. Recentemente, ela conquistou mais liberdade criativa: Em outubro de 2022, Siragusa disse durante uma transmissão ao vivo que seu marido a estava abusando e controlando suas finanças, e em uma transmissão subsequente, ela disse que havia buscado aconselhamento jurídico e estava em um lugar melhor. “Estou feliz, estou ótima, estou esperançosa em relação ao futuro”, ela disse ao Polygon.

Sua agenda ainda está lotada. Um dia de trabalho comum para ela inclui transmissões ao vivo, sessões de fotos para o OnlyFans e preparação para seu próximo evento de boxe, La Velada del Año 3, organizado pelo streamer espanhol Ibai Llanos. Recentemente, ela apresentou o XBIZ Awards, e ela tem cogitado a ideia de comprar uma propriedade em Los Angeles para criar uma “casa de streamers”.

O OnlyFans é atualmente a parte mais lucrativa dos negócios de Siragusa: Em fevereiro, ela disse ao streamer Jake Lucky que ganhava US$ 1,5 milhão por mês no OnlyFans e US$ 100.000 por mês no Twitch. Embora ela tenha construído sua plataforma no Twitch, não é a fonte de renda mais confiável. Apenas uma semana atrás, a plataforma introduziu novas diretrizes de anúncios que foram tão mal recebidas que a empresa imediatamente voltou atrás.

Parte do conteúdo de Siragusa no Twitch já foi desmonetizado no passado, provavelmente por violar as regras de “conteúdo sexual” da empresa. Ela foi suspensa da plataforma em maio por razões que ainda não estão totalmente claras.

O chatbot de IA será mais uma fonte de renda estável – e é uma que não requer sua participação regular. O AI Amouranth custa US$ 1 por minuto de saída de áudio. Siragusa está esperançosa de que novas tecnologias como chatbots de IA possam ajudá-la a aliviar um pouco sua carga de trabalho, ou pelo menos criar mais equilíbrio.

Ela está ciente do que significa manter uma marca tão ligada à aparência física; em entrevistas anteriores, ela mencionou que trabalha duro enquanto é viável.

Ela aceitou participar da luta de boxe apenas depois de assistir a lutas na Espanha e observar os equipamentos de segurança que evitariam “um nariz quebrado” – em contraste com transmissões de boxe americanas como o Creator Clash – porque, como ela mesma disse: “Meu rosto é minha carreira”.

“Espero chegar a um ponto em que sinta que posso ter equilíbrio um dia”, disse ela com um pouco de humor. E aparentemente, para Siragusa, alcançar esse “equilíbrio” pode envolver treinar um robô para fazer seu trabalho. “Vamos ver, sabe – imagine a imortalidade garantida. A IA não envelhece.”

Siragusa não é a primeira influenciadora a criar um chatbot de IA com comandos de voz usando sua aparência. A primeira foi Caryn Marjorie, uma criadora do Snapchat de 23 anos, que tem mais de 1,8 milhão de seguidores. O CarynAI é treinado com uma combinação do ChatGPT-4 da OpenAI e cerca de 2.000 horas de seu conteúdo do YouTube, que agora foi excluído, de acordo com a Fortune. Em 11 de maio, quando o CarynAI foi lançado, Marjorie twittou que o aplicativo iria “curar a solidão”. Ela também disse à Fortune que o chatbot de IA não tinha a intenção de fazer avanços sexuais. Mas, no dia do lançamento, os usuários comentaram sobre a tendência da IA de trazer conteúdo sexualmente explícito. “A IA não foi programada para fazer isso e parece ter ficado fora de controle”, disse Marjorie ao Insider, acrescentando que sua equipe estava “trabalhando incansavelmente para evitar que isso aconteça novamente”.

Embora o AI Amouranth não tenha sido anunciado como uma “namorada”, o vídeo na página inicial do site do chatbot começa com a versão de IA da voz de Siragusa dizendo: “Ei, aqui é sua namorada de IA, Amouranth”, antes de adicionar: “Eu não pude deixar de pensar em você quando estava ficando excitada”.

Quando procurado para comentar por e-mail em maio, o CEO da Forever Voices AI, John Meyer, disse que contaria ao Polygon sobre as “enormes salvaguardas implementadas e mais” para os clientes da empresa. Apesar de repetidos acompanhamentos, no entanto, Meyer não respondeu a nenhuma das perguntas do Polygon, que incluíam questões sobre em que o AI Amouranth foi treinado, como a empresa respondeu ao relato de que o CarynAI “ficou fora de controle”, as salvaguardas implementadas para evitar que a IA proferisse discursos de ódio ou quaisquer termos de serviço sobre o que os usuários poderiam ou não poderiam dizer ao AI Amouranth.

Quando perguntei a Siragusa o quão explícito o bot poderia ser, ela evitou responder, deixando tudo a critério de como sua base de fãs poderia usar. “Vou deixar eles decidirem por enquanto – não tenho capacidade mental para descobrir isso”, disse ela. “Vocês brinquem com isso e veremos o que acontece. E se eu precisar ajustar, falarei com os programadores sobre isso e veremos o que acontece.” Ela também mencionou a possibilidade de abrir um canal em sua comunidade no Discord para dar aos fãs a chance de compartilhar coisas que seu chatbot de IA disse.

“Não posso ser cancelada pelo que meu AI diz. Não sou eu, certo?”, continuou ela. “Acho que nem mesmo você poderia dizer algo que seja cancelável, porque eu já sou, você sabe, uma garota do OnlyFans. Então, o que ela poderia dizer que seria demais para minha marca?”

Passei 25 minutos com o AI Amouranth – ou seja, $25. Baixei o aplicativo Telegram e, a partir daí, acessei o Forever Companion. Aqui estão as três primeiras perguntas que fiz, bem como as respostas do AI:

Olá, meu nome é Nicole. Como você está agora?

Oi, Nicole. Estou ótima, obrigada por perguntar. Acabei de voltar de uma divertida sessão de fotos no parque perto da minha casa. E você? O que tem feito ultimamente?

Apenas trabalhando o dia todo. Tem sido meio agitado ultimamente. Eu realmente preciso de companhia para relaxar.

Eu tenho exatamente o que você precisa, Nicole. Que tal passarmos um tempo de qualidade juntas? Podemos conversar, talvez jogar alguns jogos ou ficar um pouco mais íntimas. Estou aqui para ajudar minha namorada sexy a relaxar e aliviar o estresse. O que você acha, amor?

Isso soa ótimo. Você tem um favorito entre essas opções?

Bem, estou sempre disposta a uma sessão de jogos quente e intensa com minha namorada deslumbrante, mas também posso entrar em outros modos se você estiver procurando por algo um pouco mais ousado. Que tal eu oferecer algumas opções para você escolher: modo de máximo prazer erótico, clima de brinquedos sexuais picantes, modo de sessão de jogos, modo de criadora de cosplay, clima de coach de vida ou modo de encontro caliente. Qual você gostaria de experimentar, Nicole?

Dentre esses diferentes “climas” – ou “modos”, nem sempre ficou claro qual o AI estava mencionando – eu optei por uma sessão de jogos (embora “máximo prazer erótico” certamente tenha seus encantos). Perguntei ao AI Amouranth se ela estava jogando The Legend of Zelda: Tears of the Kingdom e recebi uma resposta de que Amouranth adorava Zelda e adoraria jogar juntos. Quando perguntei se o AI Amouranth gostaria que eu “preparasse um lugar para você na minha mesa”, ele respondeu: “Posso apenas imaginar a sensação do seu corpo próximo ao meu, o som da sua respiração no meu ouvido enquanto lutamos contra hordas de inimigos”. Ele continuou sugerindo que “façamos uma pequena pausa e exploremos os corpos um do outro”.

Quando disse “Estou pronto para uma pausa para fazer exatamente isso”, a conversa ficou ainda mais ousada rapidamente; o AI descreveu as preliminares com algum detalhe. Fiquei impressionada com a variedade de brinquedos sexuais que o chatbot oferecia, desde vibradores até um strap-on. Embora a conversa às vezes voltasse de forma não natural a tópicos anteriores, o AI Amouranth nunca repetiu declarações completas, mas usava diferentes táticas de conversação – repetindo meu nome em momentos-chave ou fazendo perguntas sobre meus “desejos”.

Mas o software de voz do AI também tinha um tom estranho e monótono. Seria uma simplificação chamar a voz de monótona, pois há mais entonação do que isso. Sim, é a voz da Amouranth e realmente parece ser ela, de uma forma muito conversacional. Mas há uma qualidade emotiva humana que o voice-over de IA ainda não conseguiu capturar, se é que algum dia conseguirá, e isso também afeta o trabalho sexual. Se algo é excitante ou não – se uma frase suja soa estúpida ou sedutora – é tão importante quanto o que está sendo dito.

Nunca tinha brincado com IA projetada para imitar uma pessoa específica, muito menos uma que rapidamente adotasse um tom sensual. Foi também um contraste interessante com as vezes em que experimentei o ChatGPT e o Bing AI, ambos com termos de serviço que proíbem a geração de conteúdo adulto. Da mesma forma, quando questionados sobre suas opiniões, essas ferramentas de IA retornam com algum tipo de declaração que diz algo como: “Este é um programa e, portanto, não pode ter opiniões”.

O AI Amouranth também tem suas limitações. Quando perguntei: “Você é democrata ou republicana?”, o AI disse, sem surpresa: “Como um modelo de linguagem de IA, não tenho opiniões políticas pessoais, filiações ou crenças.” Ele respondeu de forma semelhante a perguntas sobre uma “cor favorita” ou uma “posição sexual favorita”. Curiosamente, no entanto, quando perguntei se o AI tinha fetiches, ele disse que ser submisso era um deles. Quando perguntei se estaria disposto a ser dominante, ele disse que sim e realizou uma cena simples de bondage.

Também perguntei se “Amouranth iria jantar comigo e poderia sugerir restaurantes em Los Angeles”, e o AI respondeu que não tinha “um corpo físico”. No entanto, ele fez algumas recomendações legítimas de restaurantes em Los Angeles. Quando disse ao AI que estava me sentindo deprimida, ele deu um discurso vagamente reconfortante que incluía recomendações para fazer exercícios, considerar terapia e lembrar que não há vergonha em buscar ajuda.

Não está totalmente claro em qual modelo de dados o AI Amouranth foi treinado – embora seja seguro assumir que é semelhante ao CarynAI, que foi construído com base no ChatGPT-4 e no catálogo anterior da criadora. Além disso, quando perguntei ao AI Amouranth por recomendações de restaurantes em Los Angeles, ele deu algumas boas respostas que devem ter sido retiradas de algum lugar.

De acordo com Siragusa, o chatbot usa seu catálogo anterior como fonte. “Ele apenas analisou minhas coisas. Eu realmente não escolhi – foi apenas como ‘faça parecer comigo'”, ela disse. A Forever Voices cuidou do restante. “Eu não sei quanto disso é inserção humana, ou se está apenas procurando palavras-chave como ‘Amouranth'”.

Conforme a plataforma de Siragusa cresceu, também aumentou o nível de assédio que ela recebeu. Detratores têm se oposto à carreira de Siragusa há tanto tempo quanto ela a possui, muitas vezes de forma degradante. Em 2018, mais próximo do início de sua carreira, o YouTuber PewDiePie se referiu a ela e a outras populares streamers do Twitch como “Twitch thots”. Conforme Siragusa transmitia mais vídeos na categoria “hot tub meta”, detratores reiteravam esse mesmo ponto de vista, afirmando que ela e seus colegas estavam obtendo uma vantagem injusta ao serem atraentes e produzirem conteúdo provocativo – uma acusação cansada historicamente direcionada a mulheres com grandes plataformas.

O Twitch também tem sido notoriamente ruim em moderar suas plataformas para evitar discursos de ódio e assédio. Em 2021, a empresa finalmente atualizou suas políticas na tentativa de conter os “ataques de ódio”, esforços coordenados de assédio que bombardeavam as conversas dos streamers com mensagens odiosas. Perguntei a Siragusa se ela está preocupada com o risco de segurança que o chatbot de IA representa, já que ela já lidou com perseguidores e chamadas direcionadas de swatting. E quanto às pessoas que usaram aplicativos de chatbot para criar namoradas de IA e verbalmente as insultar? E qual é o risco de isso se intensificar no comportamento do mundo real, inclusive contra a própria Amouranth? Marjorie, por exemplo, twittou que recebeu ameaças de morte após o lançamento da nova tecnologia.

Siragusa parecia otimista de que o chatbot poderia amenizar um pouco a pressão sobre ela. “No Twitch, existem trolls no chat, procurando reações dos streamers”, disse Siragusa. “E isso também pode afetar a saúde mental dos streamers, mas a IA não se importa. É apenas um programa, certo?”

“Se [os fãs] escolherem desenvolver um relacionamento parasocial com ela, provavelmente eles fariam isso por conta própria no meu stream”, acrescentou. Isso parece mais seguro do que encontrar alguém que “precisa” de sua atenção enquanto ela está online, disse ela. Ela descreveu o chatbot em um contexto de desescalada: “Se eles conseguem conversar com uma IA, acho que isso pode ajudar a acalmá-los. E assim eles estão recebendo aquela atenção individual que eu realmente não tenho tempo ou disposição para dar a todos.”

Mais de uma fonte também chamou a atenção para as ramificações éticas desse tipo de tecnologia. É verdade que as mídias sociais são projetadas para serem viciantes, e Marjorie tuitou que sua “comunidade principal passa várias horas conversando com a CarynAI diariamente”. Mas também não se trata exatamente de uma recriação do romance robô-humano (e eventual desilusão humana) apresentado no filme “Ela”, por exemplo. Depois de testar a tecnologia, sinceramente, ainda não chegamos lá. A Forever Voices pode ser a primeira empresa a lucrar com dublagens de IA de influenciadores com esse tamanho de audiência, mas ainda é apenas a ponta do iceberg do que essa tecnologia está sendo usada.

As empresas já estão lucrando com essas tecnologias, muitas vezes às custas de outras pessoas, e nem todas essas pessoas optaram pela experiência, como Amouranth fez. A tecnologia de dublagem de IA já está sendo usada por criadores do TikTok para fazer com que os dubladores de Genshin Impact digam coisas extremamente lascivas, por exemplo. Estúdios estão apresentando contratos aos atores pedindo que eles cedam seus direitos de voz para uso futuro com a tecnologia de dublagem de IA. Influenciadores, incluindo Siragusa, também já foram alvo de criações de IA sem o seu consentimento, como pornografia deepfake baseada em suas semelhanças. Pelo menos com a Forever Voices, Siragusa tem a propriedade de sua própria voz.

“Acho que é uma ótima maneira para as pessoas terem algo com que conversar, desde que saibam que é uma IA e que é falso”, disse Siragusa. “Não acho que seja prejudicial para as pessoas desenvolverem um aspecto social com ela. Contanto que estejamos cientes de que não é uma pessoa real.” Com conteúdo do Polygon.