Chaque jour, des messages de princes nigérians, de vendeurs de médicaments miracles et de promoteurs d’investissements incontournables encombrent les boîtes aux lettres électroniques. Les améliorations apportées aux filtres anti-spam ne semblent qu’inspirer de nouvelles techniques pour franchir les protections.

Aujourd’hui, la course aux armements entre les bloqueurs de spam et les spammeurs est sur le point de s’intensifier avec l’émergence d’une nouvelle arme : l’intelligence artificielle générative. Grâce aux récentes avancées de l’IA rendues célèbres par ChatGPT, les spammeurs pourraient disposer de nouveaux outils pour éviter les filtres, attirer l’attention des internautes et les convaincre de cliquer, d’acheter ou de donner des informations personnelles.

En tant que directeur du laboratoire « Advancing Human and Machine Reasoning » à l’université de Floride du Sud, je mène des recherches à l’intersection entre l’intelligence artificielle, le traitement du langage naturel et le raisonnement humain. J’étudie comment l’intelligence artificielle peut apprendre les préférences, les croyances et les traits de personnalité de chacun.

Cela peut être utilisé pour mieux comprendre comment interagir avec les gens, les aider à apprendre ou leur fournir des suggestions utiles. Mais cela signifie aussi que vous devez vous préparer à recevoir des spams plus intelligents qui connaissent vos points faibles – et peuvent les utiliser contre vous.

Le spam.

Qu’est-ce que le spam ?

Le spam est défini comme un courrier électronique commercial non sollicité envoyé par une entité inconnue. Le terme est parfois étendu aux messages textuels, aux messages directs sur les médias sociaux et aux fausses critiques de produits. Les spammeurs veulent vous inciter à agir : acheter quelque chose, cliquer sur des liens d’hameçonnage, installer des logiciels malveillants ou modifier des visualisations.

Le spam est rentable. Un envoi de courriels peut rapporter 1 000 dollars en quelques heures seulement, ce qui ne coûte que quelques dollars aux spammeurs, sans compter les frais de mise en place. Une campagne de spam pharmaceutique en ligne peut générer environ 7 000 dollars par jour.

Les annonceurs légitimes souhaitent également vous encourager à agir – en achetant leurs produits, en répondant à des enquêtes, en vous inscrivant à des bulletins d’information – mais alors qu’un courriel de marketing peut renvoyer à un site web de l’entreprise et contenir une option de désabonnement conformément à la réglementation fédérale, ce n’est pas le cas d’un courriel de spam.

Les spammeurs n’ont pas non plus accès aux listes de diffusion auxquelles les utilisateurs se sont inscrits. Au lieu de cela, les spammeurs utilisent des stratégies contre-intuitives, telles que l’arnaque du « prince nigérian », dans laquelle un prince nigérian prétend avoir besoin de votre aide pour débloquer une somme d’argent absurde, en promettant de vous récompenser généreusement. Les natifs numériques expérimentés rejettent immédiatement de tels arguments, mais l’absurdité de la demande peut en fait écarter la naïveté ou l’âge avancé, en filtrant les personnes les plus susceptibles de tomber dans le piège des escroqueries.

Les progrès de l’IA signifient toutefois que les spammeurs pourraient ne pas avoir à s’en remettre à de telles approches. L’IA pourrait leur permettre de cibler des individus et de rendre leurs messages plus convaincants sur la base d’informations facilement accessibles, telles que les messages publiés sur les médias sociaux.

L’avenir du spam

Vous avez probablement entendu parler des progrès réalisés dans le domaine des modèles linguistiques génératifs de grande taille, tels que ChatGPT. La tâche que ces modèles génératifs de langage accomplissent est d’une simplicité déconcertante : à partir d’une chaîne de texte, il s’agit de prédire le token – c’est-à-dire la partie d’un mot – qui vient ensuite. Puis, prédire le jeton qui vient après. Et ainsi de suite, encore et encore.

D’une manière ou d’une autre, l’entraînement à cette seule tâche, lorsqu’il est effectué avec suffisamment de texte dans un LLM suffisamment grand, semble suffire à conférer à ces modèles la capacité d’accomplir étonnamment bien de nombreuses autres tâches.

Diverses façons d’utiliser la technologie sont déjà apparues, montrant la capacité de la technologie à s’adapter rapidement et à apprendre à connaître les individus. Par exemple, les LLM peuvent écrire des courriels complets dans votre style d’écriture, à partir de quelques exemples de votre façon d’écrire. Et il y a l’exemple classique – qui date maintenant de plus de dix ans – de Target qui a découvert qu’une cliente était enceinte avant qu’elle ne le soit.

Les spammeurs et les spécialistes du marketing gagneraient à pouvoir prédire davantage de choses sur les individus avec moins de données. À partir de votre page LinkedIn, de quelques messages et d’une ou deux photos de profil, les spammeurs armés de LLM peuvent émettre des hypothèses raisonnablement précises sur vos tendances politiques, votre situation de famille ou vos priorités.

Nos recherches ont montré que les LLM pouvaient être utilisés pour prédire le mot qu’une personne dira ensuite avec un degré de précision qui dépasse de loin les autres approches d’IA, dans une tâche de génération de mots appelée « tâche de fluidité sémantique ». Nous avons également montré que les LLM peuvent prendre certains types de questions dans des tests de capacité de raisonnement et prédire comment les gens répondront à cette question. Cela suggère que les LLM ont déjà une certaine connaissance de ce qu’est la capacité de raisonnement typique de l’homme.

Si les spammeurs passent les filtres initiaux et vous incitent à lire un courriel, à cliquer sur un lien ou même à engager une conversation, leur capacité à appliquer une persuasion personnalisée augmente considérablement. Là encore, les LLM peuvent changer la donne. Les premiers résultats suggèrent que les LLM peuvent être utilisés pour argumenter de manière persuasive sur des sujets allant de la politique à la politique de santé publique.

L’IA progresse dans tous les domaines

L’IA ne favorise toutefois pas un camp ou l’autre. Les filtres anti-spam devraient également bénéficier des progrès de l’IA, qui leur permettent d’ériger de nouvelles barrières contre les courriers électroniques indésirables.

Les spammeurs essaient souvent de tromper les filtres avec des caractères spéciaux, des mots mal orthographiés ou du texte caché, en comptant sur la propension humaine à pardonner les petites anomalies de texte – par exemple, « c1îck h.ere n0w ». Mais à mesure que l’IA améliore sa compréhension des messages de spam, les filtres pourraient mieux identifier et bloquer les spams indésirables – et peut-être même laisser passer les spams souhaités, tels que les courriels de marketing pour lesquels vous vous êtes explicitement inscrit. Imaginez un filtre qui prédit si vous souhaitez lire un courriel avant même de l’avoir lu.

Malgré les inquiétudes croissantes suscitées par l’IA – comme en témoignent Elon Musk, PDG de Tesla, SpaceX et Twitter, Steve Wozniak, fondateur d’Apple, et d’autres leaders de la technologie qui appellent à une pause dans le développement de l’IA – les progrès de cette technologie peuvent avoir beaucoup d’effets positifs. L’IA peut nous aider à comprendre comment les faiblesses du raisonnement humain peuvent être exploitées par des acteurs malveillants et à trouver des moyens de lutter contre les activités malveillantes.

Toutes les nouvelles technologies peuvent faire des merveilles comme elles peuvent présenter des dangers. La différence réside dans la personne qui crée et contrôle les outils et dans la manière dont ils sont utilisés. Avec des informations de japantoday.