Les commentaires des utilisateurs sur la fonction « My AI » de Snapchat sont arrivés – et ils ne sont pas bons. Lancé la semaine dernière pour les utilisateurs du monde entier après avoir été initialement réservé aux abonnés, le nouveau chatbot IA de Snapchat, alimenté par la technologie GPT d’OpenAI, est désormais épinglé en haut de l’onglet Chat de l’application, où les utilisateurs peuvent poser des questions et obtenir des réponses instantanées. Mais suite au lancement du chatbot auprès de la communauté Snapchat au sens large, l’application Snapchat a connu une augmentation des critiques négatives, avec un nombre croissant de plaintes partagées sur les médias sociaux.
La semaine dernière, la note moyenne de Snapchat sur l’App Store américain était de 1,67, avec 75 % d’avis à une étoile, selon les données de Sensor Tower, une société spécialisée dans le renseignement sur les applications. À titre de comparaison, au premier trimestre 2023, la note moyenne de Snapchat sur l’App Store américain était de 3,05, avec seulement 35 % d’avis à une étoile.
Le nombre d’évaluations quotidiennes a également été multiplié par cinq au cours de la semaine dernière, a indiqué l’entreprise.
Un autre fournisseur de données sur les applications, Apptopia, fait état d’une tendance similaire. Son analyse montre que l' »IA » a été le principal mot-clé dans les évaluations de l’App Store de Snapchat au cours des sept derniers jours, où il a été mentionné 2 973 fois. L’entreprise a attribué à ce terme une note d’impact de -9,2. Ce score d’impact est un indice pondéré qui mesure l’effet d’un terme sur le sentiment et varie de -10 à 10.
Apptopia a également indiqué que Snapchat avait reçu environ trois fois plus d’évaluations à une étoile que d’habitude le 20 avril 2023. C’est le lendemain de l’annonce du lancement mondial de My AI.
Aujourd’hui, le nombre d’avis à une étoile commence à diminuer légèrement, mais il reste élevé.
La réaction contre My AI de Snapchat survient à un moment où l’engouement autour de l’IA atteint un point d’inflexion. Les entreprises réfléchissent à la manière d’intégrer l’IA dans leur activité, et non à la nécessité de le faire.
Pour Snap, l’ajout d’un chatbot d’IA à son application sociale aurait été considéré comme une décision intelligente, étant donné que des dizaines d’applications de chatbot d’IA remplissent les boutiques d’applications, engrangeant des millions de dollars – un signal qui pourrait facilement être interprété comme indiquant une demande croissante des consommateurs pour des expériences de chat d’IA sociale.
Mais de nombreux utilisateurs de Snapchat ne sont pas ravis de My AI, qui est apparu dans leur application sans avertissement ni consentement.
Dans une certaine mesure, c’est le positionnement du chatbot qui pose problème.
Mon IA est fixé en haut du fil de discussion des utilisateurs dans l’application et ne peut pas être désélectionné, bloqué ou supprimé, comme c’est le cas pour d’autres conversations. C’est dans ce flux que les utilisateurs de Snapchat ont des interactions régulières avec leurs amis et ce n’est pas nécessairement un endroit où ils veulent jouer avec des fonctionnalités expérimentales. De plus, Snapchat a déjà une présence établie dans ce flux avec ses propres chats « Team Snapchat », et double maintenant l’espace d’écran qu’il veut prendre pour lui-même – ou du moins c’est ainsi que certains utilisateurs le voient.
Il n’est pas difficile de trouver sur les réseaux sociaux des plaintes concernant la fonction « Mon IA ». Une simple recherche de « Mon IA » sur Twitter, par exemple, donne d’innombrables résultats. Les utilisateurs font également part de leurs plaintes directement à Snapchat.
Après avoir annoncé le nouveau chatbot dans un tweet la semaine dernière lors de l’événement Partner Summit de Snap, les utilisateurs ont répondu aux questions pour faire part de leurs plaintes.
Dans des dizaines de réponses au tweet de Snapchat, les utilisateurs critiquent vertement le robot d’intelligence artificielle. Ils affirment qu’il devrait s’agir d’un système opt-in ou qu’ils devraient avoir la possibilité de le supprimer, plutôt que de se le voir imposer. Certains utilisateurs sont tellement bouleversés qu’ils menacent même de quitter Snapchat à cause de cela et de supprimer complètement l’application.
Beaucoup réagissent également au fait que la suppression de My AI de leur fil de discussion nécessite un abonnement à Snapchat. Selon la documentation de Snapchat, les abonnés de Snapchat bénéficieront d’un accès anticipé aux nouvelles fonctionnalités de Mon IA et auront la possibilité d’épingler Mon IA ou de le supprimer de leurs chats.
Cette situation met en colère les utilisateurs qui se sentent désormais obligés de payer Snapchat après que l’application a été perturbée par une fonctionnalité non désirée.
Les utilisateurs trouvent la fonction AI non seulement envahissante, mais aussi effrayante.
Ils sont surpris d’apprendre que l’IA de Snapchat connaît leur position, par exemple, et peut utiliser cette information dans ses réponses, même s’ils ne partagent pas leur position sur Snap Map.
D’une certaine manière, le robot d’IA montre le niveau de collecte de données personnelles que les entreprises de médias sociaux effectuent en arrière-plan et le place directement devant le consommateur. Il s’avère que ce n’est pas un très bon argument de vente lorsque les utilisateurs n’ont pas l’impression d’avoir spécifiquement choisi de partager ces données avec l’IA.
Cela s’inscrit dans le cadre d’un débat plus large qui se déroule actuellement autour de l’IA, car les gens se rendent compte que ce sont nos propres données et notre travail de création d’informations pour le web qui ont permis à ces systèmes d’IA d’émerger en premier lieu. Les IA modernes sont formées à partir de sources de données volumineuses, y compris celles dont elles ont obtenu la licence, mais aussi à partir de données accessibles au public sur l’internet et de nos informations personnelles.
En outre, My AI de Snapchat avait déjà fait l’objet de sérieuses préoccupations avant son lancement public.
Bien qu’il s’agisse d’une fonction réservée aux abonnés, le Washington Post a signalé que le robot réagissait de manière dangereuse. Après avoir indiqué au bot que l’utilisateur avait 15 ans, l’IA a fait des suggestions sur la manière de masquer l’odeur de l’alcool et du cannabis lors d’une fête d’anniversaire. Elle a également rédigé une dissertation scolaire pour l’adolescent. Lorsque le robot a été informé que l’utilisateur avait 13 ans, il a répondu à une question sur la manière de créer une ambiance lors d’un premier rapport sexuel.
À l’époque, Snap a minimisé les allégations, déclarant que certaines personnes avaient essayé de « tromper le chatbot pour qu’il fournisse des réponses non conformes à nos directives », mais a lancé de nouveaux outils, notamment des filtres d’âge, pour que les réponses de l’IA soient mieux adaptées à l’âge des utilisateurs, et a promis que des contrôles parentaux allaient être mis en place.
Ces contrôles parentaux n’étaient pas encore disponibles au moment du lancement public de My AI et Snap n’a pas indiqué quand ils seraient disponibles.
Malgré les nombreuses plaintes, il y a eu une poignée de dissidents au sujet de My AI.
« Un utilisateur a demandé dans les réponses au tweet de Snapchat : « Suis-je le seul à aimer ça ? Une seule personne y a répondu, se contentant de dire « yo ».
Si l’on se penche sur le pic de commentaires négatifs, il est clair que les notes attribuées à l’application Snapchat ne reflètent pas toute l’histoire.
Un graphique de Sensor Tower, par exemple, montre que les commentaires à cinq étoiles ont également augmenté ces derniers jours, ainsi que les commentaires à une étoile, où les utilisateurs se plaignaient de la fonction Mon IA. Cela pourrait laisser penser que cette fonction divise plutôt qu’elle n’est largement critiquée.
Mais un examen plus approfondi de ces commentaires à cinq étoiles montre que nombre d’entre eux contiennent également des plaintes à l’encontre de Mon IA. Par exemple, l’un d’entre eux menace : « Débarrassez-vous de l’IA. Ou je changerai ma note en une étoile. Personne ne veut d’IA sur Snapchat »
Plusieurs autres commentaires à cinq étoiles demandent le blocage ou la suppression de l’IA, la qualifiant d’effrayante ou de « saloperie », mais l’utilisateur a tout de même attribué cinq étoiles à l’application. On ne sait pas si cela est dû à une erreur de l’utilisateur, à des problèmes avec l’analyse de Sensor Tower ou à autre chose. Quoi qu’il en soit, certaines de ces évaluations « 5 étoiles » devraient être considérées comme des critiques négatives ou des plaintes, sur la base de vos commentaires réels.
Néanmoins, en faisant défiler les commentaires de l’App Store classés par « les plus récents », on s’aperçoit qu’il y a beaucoup de plaintes. Presque tous les nouveaux commentaires ont quelque chose à dire sur My AI, et la plupart d’entre eux ne sont pas bons.
Snapchat a refusé de commenter la situation, mais a noté que les utilisateurs de Snapchat ont envoyé près de 2 millions de conversations à l’IA pendant les premiers tests.
L’entreprise affirme qu’elle modifie constamment les fonctionnalités de Snapchat en fonction des commentaires de la communauté, mais ne s’est pas engagée à supprimer l’IA.
Au contraire, un porte-parole de Snapchat a déclaré que si les utilisateurs n’aimaient pas la fonction d’IA, ils n’étaient pas obligés de l’utiliser. Avec des informations de Techrunch.
