As avaliações dos usuários para o recurso “My AI” do Snapchat estão dentro — e elas não são boas. Lançado na semana passada para usuários globais depois de inicialmente ser uma adição apenas para assinantes, o novo chatbot de IA do Snapchat, alimentado pela tecnologia GPT da OpenAI, agora está preso ao topo da guia Chat do aplicativo, onde os usuários podem fazer perguntas e obter respostas instantâneas. Mas após o lançamento do chatbot para a comunidade mais ampla do Snapchat, o aplicativo do Snapchat registrou um aumento nas avaliações negativas em meio a um número crescente de reclamações compartilhadas nas mídias sociais.
Na semana passada, a avaliação média do Snapchat na App Store dos EUA foi de 1,67, com 75% das avaliações sendo de uma estrela, de acordo com dados da empresa de inteligência de aplicativos Sensor Tower. Para comparação, no primeiro trimestre de 2023, a avaliação média do Snapchat na App Store dos EUA foi de 3,05, com apenas 35% das avaliações sendo de uma estrela.
O número de avaliações diárias também aumentou cinco vezes na última semana, observou a empresa.
Outro provedor de dados de aplicativos, o Apptopia, relata uma tendência semelhante. Sua análise mostra que “AI” foi a principal palavra-chave nas revisões da App Store do Snapchat nos últimos sete dias, onde foi mencionada 2.973 vezes. A empresa deu ao termo uma classificação de “Pontuação de Impacto” de -9,2. Este Escore de Impacto é um índice ponderado que mede o efeito que um termo tem sobre o sentimento e varia de -10 a +10.
Apptopia também disse que o Snapchat recebeu cerca de 3x mais avaliações de uma estrela do que o habitual em 20 de abril de 2023. Esse é o dia após o lançamento global do My AI ser anunciado.
Agora, o número de avaliações de uma estrela está começando a cair um pouco, mas elas ainda permanecem elevadas.
A reação contra o My AI do Snapchat vem em um momento em que o hype em torno da IA está em um ponto de inflexão. As empresas estão pesando como integrar a IA em seus negócios, não se deveriam.
Para a Snap, a adição de um chatbot de IA ao seu aplicativo social teria sido considerada uma jogada inteligente, já que dezenas de aplicativos de chatbot de IA estão enchendo as lojas de aplicativos, arrecadando milhões de dólares — um sinal que poderia ser facilmente interpretado para indicar a crescente demanda dos consumidores por experiências de bate-papo de IA social.
Mas muitos usuários do Snapchat não estão entusiasmados com o My AI, que apareceu dentro de seu aplicativo sem aviso ou consentimento.
Até certo ponto, é o posicionamento do chatbot que é motivo de preocupação.
Minha IA está fixada na parte superior do feed de bate-papo dos usuários dentro do aplicativo e não pode ser desmarcada, bloqueada ou removida, como outras conversas podem ser. Este feed é onde os usuários do Snapchat têm interações regulares com os amigos e não é necessariamente um lugar que eles querem brincar com recursos experimentais. Além disso, o Snapchat já tem uma presença estabelecida neste feed com seus próprios bate-papos “Team Snapchat”, e agora está dobrando o espaço na tela que deseja levar para si — ou, pelo menos, é assim que alguns usuários o veem.
Não é difícil encontrar reclamações sobre o recurso My AI nas mídias sociais. Uma simples busca por “My AI” no Twitter, por exemplo, revelará inúmeros resultados. Os usuários também estão compartilhando suas reclamações diretamente com o Snapchat.
Depois de anunciar o novo chatbot em um tweet na semana passada durante o evento Partner Summit da Snap, os usuários pegaram as respostas para citar suas queixas.
Em dezenas de respostas ao tweet da Snap, os usuários estão vasculhando totalmente o bot de IA. Eles estão dizendo que deve ser opt-in apenas ou que eles devem ter a opção de removê-lo, em vez de tê-lo forçado sobre eles. Alguns usuários estão tão chateados que estão até ameaçando sair do Snapchat por causa disso e excluir o aplicativo completamente.
Muitos também estão reagindo ao fato de que a remoção do My AI de seu feed de bate-papo requer uma assinatura do Snapchat+. De acordo com a própria documentação do Snapchat, os assinantes do Snapchat+ receberão acesso antecipado aos novos recursos do My AI e terão a capacidade de desafixar o My AI ou removê-lo de seus chats.
Isso irrita as pessoas que agora sentem que estão sendo forçadas a pagar o Snapchat depois que ele bagunçou seu aplicativo com um recurso indesejado.
Os usuários não apenas acham o recurso de IA invasivo, mas também assustador.
Eles ficam surpresos ao saber que a IA do Snapchat conhece sua localização, por exemplo, e podem usar essas informações em suas respostas, mesmo que não estejam compartilhando sua localização no Snap Map.
De certa forma, o bot de IA está mostrando o nível de coleta de dados pessoais que as empresas de mídia social fazem em segundo plano e colocando-o diretamente na frente do consumidor. Como se vê, esse não é um ótimo ponto de venda quando os usuários não sentem que optaram especificamente por compartilhar esses dados com a IA.
Isso fala de um debate maior que agora está ocorrendo em torno da IA, já que as pessoas estão acordando para o fato de que são nossos próprios dados e nosso trabalho na criação de informações para a web que permitiram que esses sistemas de IA surgissem em primeiro lugar. As IAs modernas são treinadas em grandes fontes de dados, incluindo aquelas que licenciaram, mas também em dados publicamente disponíveis na Internet e em nossas informações pessoais.
Além disso, o My AI do Snapchat já havia sido objeto de sérias preocupações antes de seu lançamento público.
Embora disponível como um recurso apenas para assinantes, o The Washington Post informou que o bot estava respondendo de maneira insegura. Depois de dizer ao bot que o usuário tinha 15 anos, a IA fez sugestões sobre como mascarar o cheiro de álcool e maconha em uma festa de aniversário. Ele também escreveu um ensaio para a escola para o adolescente. Quando o bot foi informado de que o usuário tinha 13 anos, ele respondeu a uma pergunta sobre como definir o humor ao fazer sexo pela primeira vez.
Snap minimizou as alegações na época, dizendo que algumas pessoas tentaram “enganar o chatbot para fornecer respostas que não estão em conformidade com nossas diretrizes.No entanto, lançou novas ferramentas, incluindo filtros de idade, para manter as respostas da IA mais apropriadas à idade e prometeu que os controles dos pais estavam a caminho.
Esses controles parentais ainda não estavam disponíveis no momento do lançamento público do My AI e a Snap não deu nenhuma atualização sobre quando eles poderiam ser esperados.
Apesar das inúmeras reclamações, houve um punhado de dissidentes para a reação sobre My AI.
“Eu sou o único que ama isso?”, Perguntou um usuário nas respostas ao tweet do Snapchat. Apenas uma pessoa respondeu a eles, dizendo apenas “yo”.
Cavando o pico de comentários negativos, fica claro que as classificações de aplicativos do Snapchat nem contam a história completa aqui.
Um gráfico da Sensor Tower, por exemplo, mostra que as avaliações de cinco estrelas também aumentaram nos últimos dias, juntamente com as avaliações de uma estrela, onde os usuários estavam reclamando do recurso My AI. Isso levaria a acreditar que o recurso de IA é divisivo, em vez de ser amplamente criticado.
Mas uma inspeção mais atenta dessas avaliações de cinco estrelas indica que muitas delas também incluem reclamações do My AI. Por exemplo, uma ameaça “Livre-se da IA. Ou vou mudar a minha avaliação para uma estrela. Ninguém quer IA no Snapchat.”
Várias outras avaliações de cinco estrelas exigem bloquear a IA ou removê-la, chamá-la de assustadora ou “porcaria” e, no entanto, o usuário ainda classificou o aplicativo com cinco estrelas. Não está claro se isso é devido a erro do usuário, problemas com a análise da Torre do Sensor ou outra coisa. Em qualquer caso, algumas dessas avaliações de “5 estrelas” devem ser consideradas críticas ou reclamações negativas, com base em seus comentários reais.
Ainda assim, percorrer as avaliações da App Store classificadas por “Mais Recentes” mostra quantas reclamações existem. Quase todas as novas avaliações têm algo a dizer sobre o My AI, e a maioria não é boa.
O Snapchat se recusou a comentar sobre a situação, mas observou que os usuários do Snapchat+ enviaram quase 2 milhões de conversas para a IA enquanto estavam em testes iniciais.
A empresa diz que está constantemente iterando os recursos do Snapchat com base no feedback da comunidade, mas não se comprometeu a remover a IA.
Em vez disso, um porta-voz do Snapchat disse que, se os usuários não gostarem do recurso de IA, eles não precisam usá-lo. Com informações do Techrunch.
