L’intelligence artificielle (IA) est censée s'emparer de tous nos emplois. Enfin, peut-être pas tous : des chercheurs ont récemment confié à l’IA le contrôle de leur satellite afin qu’il prenne des images de cibles depuis la Terre, et celle-ci a emprunté un chemin qui les a absolument déconcertés.
Soit elle est dotée d’une intelligence qui dépasse de loin notre compréhension, soit elle n’a tout simplement aucun sens.
Le rapport provient de chercheurs chinois, qui ont décrit leur travail dans un article du South China Morning Post, dans lequel ils ont donné à l’IA le contrôle d’un satellite pendant 24 heures. Techniquement, cela enfreint les règles de planification des missions, mais les chercheurs l’admettent volontiers et ne semblent pas s’en inquiéter outre mesure.
L’intervention humaine ne devrait pas être nécessaire pour l’IA, qui a été chargée de contrôler les mouvements du satellite et d’observer les zones d’intérêt au sol.
Le satellite d’observation Qimingxing 1 disposait d’une autonomie totale, ce qui nous a permis d’espionner l’esprit de l’IA et de découvrir ce qu’elle trouve intéressant.
Selon l’équipe, Qimingxing 1, contrôlé par l’IA, a choisi des endroits spécifiques et les a examinés en détail, sans que l’on sache exactement pourquoi.
Il a fait un zoom sur Patna, une grande ville ancienne située sur les rives du Gange en Inde, montrant ainsi un intérêt particulier pour cette région. Bien que l’IA n’ait pas été programmée pour expliquer ses actions, il est possible que Patna ait été choisie en raison d’un conflit frontalier mortel survenu en 2020 entre la Chine et l’Inde, ce qui indique un possible biais militaire dans les autres intérêts de l’IA.
L’IA s’est également intéressée à Osaka, un port japonais qui accueille parfois des navires de l’US Navy opérant dans le Pacifique, selon le SCMP.
À notre connaissance, c’est la première fois que l’IA se voit confier le contrôle complet d’un satellite d’observation sans instructions ou tâches spécifiques. Bien que l’IA soit de plus en plus utilisée dans certaines fonctions, telles que le traitement d’images et la prévention des collisions, les chercheurs estiment qu’il s’agit là d’une occasion manquée d’explorer son potentiel. Toutefois, compte tenu des enjeux importants, les chercheurs devront probablement procéder à de nombreuses démonstrations avant de faire pleinement confiance au contrôle de l’IA.
Il est important de noter que l’IA avait le contrôle total de la caméra, mais ne pouvait pas modifier la trajectoire ou l’orbite du satellite.
Les chercheurs espèrent que leurs travaux permettront d’éviter de gaspiller des ressources sur les 260 satellites de télédétection actuellement exploités par la Chine, qui restent souvent inactifs ou jouent un rôle de faible valeur.
Ils suggèrent que l’IA pourrait être utilisée dans les systèmes d’observation et de surveillance, notamment pour alerter la défense nationale en cas d’activités militaires.
Toutefois, compte tenu du grand intérêt que semble porter l’IA aux activités militaires et aux événements historiques terrestres, cette idée ne semble pas fantastique. L’IA, dans sa forme actuelle, ne « pense » pas, elle ne cherchera donc pas à détruire des cibles militaires sous l’effet d’une tendance sadique à la violence.
S’il est possible que l’IA ait été formée à l’histoire militaire sans que cela soit divulgué, ce que représente exactement cette « IA » n’est pas révélé, car le terme est devenu si large qu’il peut englober n’importe quoi, d’un programme de sélection de cibles de base à quelque chose comme le GPT-4.
Les chercheurs n’ont aucune idée de la raison pour laquelle ces sites ont été choisis, et confier le contrôle total à une IA incapable de comprendre les humains, leurs interactions complexes et tout ce qui va au-delà d’un ensemble de données d’entraînement, semble être un plan inquiétant à l’heure actuelle.
