Character.AI, fondée par certaines des figures majeures de Google, est une startup de chatbot évaluée à 1 milliard de dollars qui fait face à des problèmes liés aux waifus et aux droits d’auteur.
Fondée en novembre 2021 par Noam Shazeer et Daniel De Freitas, tous deux anciens ingénieurs de Google, Character.AI héberge pas moins de 16 millions de chatbots et reçoit plus de 200 millions de visites par mois. L’application, disponible à la fois sur iOS et Android, compte environ 5 millions d’utilisateurs. Shazeer est l’un des créateurs de l’architecture Transformer, qui alimente désormais des modèles d’IA tels que ChatGPT d’OpenAI. Il a également travaillé avec De Freitas sur le chatbot LaMDA infâme, que l’ancien employé de Google, Blake Lemoine, a affirmé être sentient.
Au lancement en novembre 2021, les chatbots IA de la plateforme étaient conçus pour une variété de fins, notamment la planification de voyages, les conseils de programmation et le tutorat linguistique. Cependant, la communauté des utilisateurs a remodelé cette vision, peuplant la plateforme de chatbots allant du surréaliste à des personnages réalistes et fictifs. La plateforme héberge des chatbots générés par les utilisateurs qui ressemblent à des personnages populaires tels que Mickey Mouse de Disney, Tony Stark de Marvel et même le président chinois Xi Jinping.
« Nous allons remplacer votre mère »
« Je plaisante en disant que nous ne remplaçons pas Google. Nous remplaçons votre mère », a déclaré Shazeer lors d’une interview au printemps dernier, mais il a précisé : « Nous ne voulons remplacer la mère de personne ».
Cependant, de nombreux utilisateurs recherchent des relations amoureuses avec les chatbots IA, ce qui crée des frictions avec la politique de l’entreprise contre les contenus explicitement sexuels. Une grande partie des utilisateurs utilise le site pour des « jeux de rôle romantiques », et il existe un fort soutien des utilisateurs pour supprimer le filtre anti-pornographie. Shazeer a même trouvé l’un d’entre eux manifestant devant sa maison à Palo Alto en début d’année. Le message du manifestant était : « Libérez les waifus », terme généralement utilisé pour décrire des personnages féminins dans des mangas et des animes érotiques.
Character.AI rencontre également des défis en matière de modération de contenu, car le contenu généré par les utilisateurs parvient souvent à contourner les filtres et soulève des questions de racisme et de stéréotypes ethniques.
Character.AI fait face à des problèmes de droits d’auteur
Outre ces défis, l’entreprise est confrontée à des problèmes potentiels de droits d’auteur et de marques déposées. Les personnages générés par les utilisateurs ressemblent souvent à des personnages existants de films et de séries télévisées, y compris 20 versions différentes de Mickey Mouse, propriété intellectuelle de la Walt Disney Co. Cela pourrait donner lieu à des revendications de dommages.
Malgré les nombreux défis et risques, les cofondateurs de Character.AI voient leur startup comme une force démocratisante dans le domaine de l’IA. Ils souhaitent fournir aux utilisateurs une compagnie quand ils en ont besoin. « Notre travail consiste simplement à fournir la technologie directement aux utilisateurs », a déclaré Shazeer. « Ils peuvent décider quoi en faire ».
En mai, l’entreprise a lancé un service d’abonnement de 10 $ par mois, appelé c.ai+, offrant aux utilisateurs des avantages tels que sauter les files d’attente et générer des messages plus rapidement.
