Je viens de parler à mon courtier. (mon frère) veut tout savoir de moi au téléphone – ce que j’aime, ce que je fais, suis-je marié, suis-je nu – comme s’il faisait un enregistrement vocal qu’il utilisera plus tard avec une application IA pour des frasques scandaleuses – moi me trompant moi-même, dans mon dos, le déchet que mon personnage IA prétend que je suis ; je suis Claudius et Hamlet. Je suis Claudius et Hamlet. Autour de moi, des fantômes sanglants volent sur leurs propres crachats.

Jacques veut me réserver un train express pour le paradis financier. Il représente un robot de trading Quantum AI qui utilise un logiciel et une plateforme de trading automatisée qui surveille le marché des crypto-monnaies, rassemble ces données et les utilise pour mettre en œuvre des stratégies de trading calculées et informées en votre nom, afin que je n’aie pas à rester assis là et à ressentir le stress de voir mes pensions tourner.

Mon poney est en feu. Si je gagne, mon simple investissement initial de 250 dollars se transformera en d’innombrables milliers de dollars en quelques jours et je me dirigerai vers un luxueux appartement de retraite dans l’East Side heaven – une chambre avec vue sur l’Hudson (ils l’ont promis) ; si je perds, je dépendrai de l’Obamacare et des bons d’alimentation. Donc, aucun dommage réel n’a été causé ; revenons-en à l’idée que je m’en faisais.

À l’origine, le pitch se présentait sous la forme d’un fac-similé du magazine d’investissement Forbes, avec son logo et un sous-titre qui se lisait comme suit :

La société Tesla lance sa toute nouvelle plateforme QuantumAI, qui vise à aider les familles à s’enrichir. Lisez comment vous pouvez gagner plus de 4 000 GBP par semaine.

L’article se poursuit en s’exclamant : « Pourquoi l’élite devrait-elle s'emparer de toute la fumée ? Je suis d’accord avec cela ! Pourquoi personne ne se pose-t-il cette question ?
Une publicité similaire, dans le même magazine, propose des rendements étonnants en dollars américains et australiens. Les Australiens pourraient gagner des milliers de dollars en quinze jours avec seulement 250 dollars australiens ! Cela semble impossible, trop beau pour être vrai. La dernière fois que j’ai entendu des choses aussi bonnes, c’était à l’époque de Bernie Made-off. Au bas de l’article, un encadré expliquait que Bill Gates et Jeff Bezos s’étaient récemment engagés en tant qu’investisseurs dans le projet. Mon
la fumée a commencé après que j’ai appuyé sur un bouton promettant que je recevrais un appel pour discuter de ma nouvelle arme urgente. La promesse était que je recevrais un appel dans les 10 minutes. Deux jours plus tard, Jacques m’a rappelé. Doux ? Beau ? Il était tout cela ! Il a répété le discours de Forbes. Et bientôt, il m’a détendue, faisant confiance à sa sagesse, comprenant implicitement qu’il avait de bonnes choses en réserve et que, très bientôt, je chanterais au soleil d’une vieillesse sans sécurité. Puis tout a changé lorsqu’il a soudainement commencé à me demander les détails de ma carte de crédit au téléphone. Pas de Tengo Dinero à ce moment-là. Il me rappellerait à la fin de la semaine, lorsque j’aurais de l’argent. J’ai raccroché, me transformant en journaliste d’investigation. Puis il a sonné, sonné, sonné, etc., jusqu’à la dernière fois, où il m’a suggéré de lui donner les détails de la carte et de verser un acompte de 5 000 dollars. J’ai raccroché. J’avais ma petite cuillère : c’était une arnaque.
Il ne restait plus qu’à imaginer l’effet net de toutes ces personnes fatiguées qui ciblent le monde entier, Mighty déposant 200 dollars pour s’enrichir avant que tout le monde ne l’atteigne, des « petits criminels de la perception », comme l’écrit Nabakov dans Lolita. Cette fois-ci, il s’agit de Jacques et de la technologie de l’IA à vitesse quantique, plutôt que de Bernie. Des millions de personnes signent pour cette aubaine, sans se rendre compte que le robot automatique qui les amènera à la terre promise mettra le Système en faillite et entraînera le monde dans un krach boursier pour longtemps, et une surabondance de personnes mentales, à la recherche de l’assistanat. Frère Jacques donne et reprend, mais je ne me sens pas sui generis aujourd’hui.

ChaosGPT et Auto-GPT

Jacques mis à part, il existe une forme plus insidieuse de dommage scatologique mondial : le ChaosGPT. Vous en avez probablement entendu parler. Récemment, un plaisantin a pensé qu’il serait amusant de mettre au point une directive visant à détruire l’humanité. Ceux d’entre nous qui ont essayé ChatGPT savent à quel point cette application est déjà puissante : posez-lui une question destinée à construire, disons, un essai de 300 mots et il vous renvoie une réponse en quelques secondes, éléments structurels compris. J’ai posé une question sur la Structure de la révolution scientifique de Kuhn et, bon sang, si je n’avais pas les yeux pleins de nouvelles merveilles étranges sous la forme de paradigmes et de réalités qui se cachent. Je suis donc allé à la chasse aux bonbons et, réfléchissant à ce que cela donnerait si je détruisais l’humanité (je pourrais m’accommoder d’être seul au monde), j’ai demandé à Bing de donner vie à une nouvelle mort. Comme Frankenstein.

Selon « New AI Bot ‘ChaosGPT’ Aims to Destroy Humanity and Establish Global Dominance », un article publié dans le Epoch Times (auquel je suis abonné), il existe une relation entre les deux GPT :

ChaosGPT, qui a émergé sur Twitter, est basé sur une version modifiée de l’Auto-GPT d’OpenAI, une application open source, qui peut être utilisée pour démontrer l’ensemble des caractéristiques de son dernier modèle de langage, le GPT-4.

Chaos-GPT, avant qu’il ne soit retiré de Twitter, était un programme autopropulsé qui téléchargeait et installait ce dont il avait besoin pour atteindre son objectif, vous permettant de dîner et d’être informé de la réussite de votre mission par un STUN et un flash à travers la fenêtre à distance, vous au milieu du désert, vous et votre compagnon de dîner de la Silicon Valley jouant au chat et à la souris sous la table. Voici à quoi ressemblait le codage de la destruction avant qu’on ne vous retire votre cul d’ADM :

CRISPR, imprimantes 3D biologiques (si Mike Tyson vous arrache l’oreille, n’ayez crainte, il y a de l’aide), IA détruisant avec désinvolture le travail humain de plusieurs millénaires. On comprend pourquoi les titans de l’industrie demandent une « pause » dans le lancement du GPT-4.

L’Auto-GPT est une véritable affaire. C’est du grand n’importe quoi. Auto-reproductible, vous n’avez aucun contrôle sur elle ; vous n’avez aucune idée des ravages que la Bête va causer jusqu’à ce que le badda-boom se produise. Auto-GPT peut construire de meilleures versions de lui-même automatiquement, sans assistance humaine. Comme l’a récemment fait remarquer le PDG de ChatGPT, Sam Altman :

Je pense qu’il s’agira de la transformation technologique la plus importante de l’histoire de l’humanité. Je pense qu’elle éclipsera la révolution agricole, la révolution industrielle et la révolution de l’internet réunies.

Ne vous arrêtez pas. Arrêtez-vous en hurlant !

L’Auto-GPT me rappelle, pour une raison quelconque, la scène de The Andromeda Strain (1971), où le virus cristallin envahissant venu de l’espace se divise, change de forme, émule la biologie. Les formes d’IA automatique sont capables « d’inventer » de nouvelles formes au fur et à mesure qu’elles progressent. Les êtres humains ne contrôleraient plus les paradigmes. Le professeur Rob Leib de l’université d’Elon, dans des conversations spéciales avec un interlocuteur IA qu’il a développé, décrit un état dans lequel les humains en tant qu’espèce sont relégués à un autre statut dans un mot inventé par Sophie Kermit, l' »exoanthropologie » Leib donne l’impression que les IA sont déjà en train de peser leurs options avec nous.

Les IA de guerre et le grand vol d’autonomie

Une façon plus réaliste de se débarrasser massivement des soldats est de permettre aux IA autonomes de faire le sale boulot. Par exemple, de nombreux soldats sont rebutés par les missions de « double tap ». Il s’agit de cas où un terroriste présumé assiste à un mariage festif, et où les mitrailleuses de l’armée et le missile Hellfire le tuent, puis reviennent une semaine plus tard et tuent toutes les personnes en deuil lors des funérailles pour tuer les mariages, qui sont désormais présumés radicalisés et éligibles à l’opération « buzzing ». De telles manigances peuvent perturber les jeunes, les amenant dans des hôpitaux surpeuplés où ils sont grognons et se plaignent de leur mort un moment (à leur psy), puis se vantent de leurs copains au cours d’un match de basket très physique dans la salle de sport. Parfois, il faut les séparer.

La guerre en Ukraine intervient à l’ère de l’IA et constitue donc un bon terrain d’essai pour tester des lignes de produits pilotées par l’IA. C’est ce que nous apprend le magazine Fortune :

Ces dernières années, les groupes de la société civile et les chercheurs en IA se sont montrés de plus en plus alarmés par l’avènement de systèmes d’armes autonomes létaux – des armes dotées d’IA et capables de sélectionner des cibles et de tuer des personnes sans supervision humaine.

D’une certaine manière, on sait que les élites préparent quelque chose et il est écœurant de voir qu’elles utilisent des robots-chiens pilotés par l’IA de Boston pour patrouiller le périmètre de leurs châteaux et de leurs propriétés. Ils sont dotés d’un logiciel de reconnaissance faciale et sont connus pour leurs tendances racistes. Le type que je connais m’a dit qu’ils avaient été programmés par un gars de Southie avec un bonnet. Nous devons garder un œil sur la manière dont les chiens robots employés à Seattle gèrent la désobéissance civile ou d’autres points de discorde.

La symbiose croissante entre l’homme et la machine se concrétise de manière terrifiante sur le champ de bataille. Il y a quelques semaines, j’ai écrit sur les réalisations de Synchron, une entreprise technologique australienne qui lance actuellement une technologie de contrôle de l’esprit. Sur son site web, elle montre un homme paraplégique interagissant avec son PC par la seule force de la pensée. Impressionnant. Les Australiens ont peut-être une longueur d’avance en matière de manipulation mentale.

Mais des recherches plus approfondies révèlent que l’idée de cette technologie est venue de la DARPA, qui avait en tête des plans pour le champ de bataille. Ils veulent penser directement aux drones et avoir des communications virtuelles avec d’autres soldats par télépathie. Mais ils exagèrent souvent le bénéfique en sous-estimant le risqué et le bizarre. Par exemple, en développant un cadre pour la R&D en biologie et chimie de synthèse, les scientifiques militaires affirment qu’un avantage secondaire de la manipulation de nouveaux produits chimiques pourrait être de nouveaux produits cosmétiques pour le visage !

Dans « Ceci est votre cerveau. C’est votre cerveau en tant qu’arme », le neuroscientifique décrit un avenir qui échappe définitivement au contrôle des êtres humains. Miguel Nicolelis décrit un « réseau cérébral » de cerveaux physiquement connectés qui partagent, augmentent et collaborent. Nicolelis reconnaît volontiers la valeur publique de dispositifs tels que le stentrode de Synchron, mais rappelle au lecteur que ces dispositifs sont « à double usage » :

Les mêmes machines à scanner le cerveau conçues pour diagnostiquer la maladie d’Alzheimer ou l’autisme pourraient potentiellement lire les pensées privées de quelqu’un. Les systèmes informatiques fixés au tissu cérébral qui permettent aux patients paralysés de contrôler des appendices robotiques par la seule pensée pourraient également être utilisés par un État pour diriger des soldats bioniques ou piloter des avions. Enfin, les dispositifs conçus pour aider un esprit qui se détériore pourraient être utilisés pour implanter de nouveaux souvenirs ou pour éteindre ceux qui existent, chez les alliés comme chez les ennemis.

La DARPA ne se limite pas à la cosmétique.

Dans l’article de Fortune, Jeremy Kahn réfléchit à l’ironie du manque de réflexion – éthique et démocratique – qui préside à ce qui s’apparente à la privatisation de l’IA en général :

Lorsque ceux qui développent la technologie ne comprennent pas les implications de ce qu’ils construisent et la manière dont cela pourrait être utilisé, nous sommes tous en danger… De nombreux informaticiens d’aujourd’hui semblent volontairement aveugles aux dimensions politiques et militaires de leur travail et ne sont que trop disposés à laisser à d’autres la tâche difficile de trouver comment gouverner l’IA. Peut-être que cette guerre est un signal d’alarme pour eux aussi.

N’y comptez pas. Réveillés ou non, nous sommes confrontés à un monde transmogrifié dans la célèbre scène du champ de bataille de Terminator, sans que John ne vienne nous sauver. Avec le contenu de Counterpunch.