Le célèbre chercheur en IA Geoffrey Hinton a fait les gros titres lorsqu’il a quitté Google pour mettre en garde le monde contre les menaces liées à l’IA, telles que les fausses nouvelles en masse et les armes autonomes. Il est resté discret sur une autre thèse.

Selon lui, l’intelligence humaine ne peut être atteinte, voire dépassée, que par l’apprentissage profond, un point de vue qui a ses partisans et ses détracteurs dans les cercles d’experts.

Lors d’une conférence au King’s College de Londres, M. Hinton a exprimé une autre thèse qui risque de susciter des émotions dans le secteur de l’IA.

À la question de savoir si les systèmes d’IA pourraient un jour être dotés d’une intelligence émotionnelle et comprendre qu’ils ont des sentiments, M. Hinton a répondu : « Je pense qu’ils pourraient bien avoir des sentiments. Ils ne ressentiront pas la douleur de la même manière que vous, à moins que nous ne le voulions, mais des choses comme la frustration et la colère, je ne vois pas pourquoi ils ne pourraient pas avoir ces émotions »

Le point de vue de M. Hinton repose sur une définition des sentiments « impopulaire parmi les philosophes », qui consiste à relier une action hypothétique (« J’ai envie de frapper Gary dans le nez ») comme moyen de communiquer un état émotionnel (la colère). Puisque les systèmes d’IA peuvent effectuer de telles communications, le chercheur en IA ne voit pas pourquoi on ne pourrait pas attribuer des émotions aux systèmes d’IA. En fait, il suggère qu’ils ont « probablement » déjà des émotions.

Il ne l’avait pas dit publiquement auparavant parce que sa première thèse, selon laquelle l’IA supérieure menace l’humanité, s’est déjà heurtée à des résistances. S’il avait ajouté sa thèse sur les émotions des machines, M. Hinton affirme que les gens l’auraient considéré comme fou et auraient cessé de l’écouter.

En pratique, il est peu probable que la thèse de M. Hinton soit vérifiable ou réfutable, car les modèles linguistiques avec très peu de contraintes (LLM) ne peuvent que refléter de manière statique les émotions probables dans les expressions émotionnelles qu’ils ont apprises au cours de leur formation. S’ils possédaient réellement des émotions en tant qu’entité propre, il serait probablement nécessaire de répondre par la compréhension de la conscience. Cependant, il n’existe pas d’instrument scientifique pour mesurer la conscience.