Thomas Dohmke explique comment l’IA est en train de changer la façon dont nous programmons, travaillons et apprenons – et même le futur de l’innovation elle-même.

Au cours des quinze dernières années, GitHub est devenu une partie indispensable du monde de la programmation. La plateforme, lancée en 2007, est désormais utilisée par plus de 100 millions de développeurs pour collaborer, suivre les changements et stocker leur code.

Acquis par Microsoft en 2018 pour 7,5 milliards de dollars, GitHub est maintenant en train de se faire une réputation pour quelque chose de différent : changer radicalement la façon dont la programmation fonctionne. Le catalyseur de cela est Copilot, un outil d’IA qui génère du code aussi facilement que ChatGPT de OpenAI produit des sonnets. (En fait, Copilot est alimenté par Codex de OpenAI, un grand modèle de langage formé sur du code extrait d’Internet.)

Ci-dessous, nous avons une interview avec Thomas Dohmke qui a été réalisée par Freethink et traduite par nos soins. Elle est initialement disponible en anglais.

Interview avec THOMAS DOHMKE

En appuyant sur la touche Tab, un développeur utilisant Copilot peut compléter une ligne, générer des blocs de code ou même écrire des programmes entiers. Selon GitHub, plus de 10 000 organisations, de Coca-Cola à Airbnb, se sont inscrites à la version entreprise de Copilot, et plus de 30 000 employés de Microsoft codent régulièrement avec l’aide de Copilot.

« Les compétences du développeur consisteront à découvrir ‘jusqu’où dois-je aller pour que je puisse exploiter l’IA pour synthétiser ce code à ma place ?' » THOMAS DOHMKE

Récemment, Freethink a interviewé Thomas Dohmke, PDG de GitHub, pour en savoir plus sur la façon dont Copilot promet de remodeler la programmation en tant que profession et les questions que le développement basé sur l’IA soulève quant à l’avenir de l’innovation elle-même. Nous avons également discuté de pourquoi programmer avec Copilot est si amusant, comment l’IA changera notre façon d’apprendre, et si Copilot peut réparer les banques qui utilisent encore du COBOL sur les mainframes.

Cette interview a été éditée pour plus de concision et de clarté.

Freethink : Quels changements prévoyez-vous dans le domaine de la programmation ? Le développement de logiciels restera-t-il le domaine des experts ? Ou pensez-vous que le développement sans code basé sur l’IA deviendra plus répandu au point de changer ce que signifie être un ingénieur logiciel ?

Thomas Dohmke : Je pense que la capacité à penser en termes de systèmes – comprendre la complexité des logiciels et être capable de s’attaquer à de gros problèmes, de gros défis, de nouvelles fonctionnalités et de les décomposer en problèmes plus petits – jouera un rôle de plus en plus important.

Nous sommes passés des cartes perforées à des centaines, des milliers, des millions, et probablement maintenant des trillions – si ce n’est pas ce qui vient après les trillions – de lignes de code. En tant que développeurs, nous devons être capables de gérer ces systèmes complexes qui résolvent de grands problèmes complexes. Et vous devez être capable de les diviser en petites briques de construction.

Les compétences du développeur consisteront à découvrir « jusqu’où dois-je aller pour que je puisse exploiter l’IA pour synthétiser ce code à ma place ? » Pour le moment, nous devrons toujours passer en revue tout ce code source – comprendre ce qu’il fait et effectuer des révisions de sécurité, des révisions de conformité, vérifier s’il y a une injection de prompt, où quelqu’un tente d’injecter un code malveillant dans la base de code.

Le développeur restera l’expert, comprenant le code et vérifiant si ce qui a été synthétisé par l’IA correspond réellement à l’intention du développeur. Cela changera probablement au cours de la prochaine décennie – la quantité que nous écrivons nous-mêmes et celle qui est simplement synthétisée. Mais je ne crois pas que nous soyons proches d’un scénario où tout sera développement sans code.

« Le nombre de distractions ne diminue pas, mais vous pouvez mieux exploiter le temps créatif. »

THOMAS DOHMKE

Freethink: Que constatez-vous quant à la façon dont le travail quotidien des programmeurs évolue grâce au Copilot ?

Dohmke: En réalité, les développeurs ne passent pas la majeure partie de leur temps à coder de nos jours – entre deux et quatre heures par jour, c’est le temps qu’un développeur consacre à l’écriture du code. Le reste de la journée, ils font d’autres choses, comme des réunions, l’analyse des rapports d’erreurs. (Ou peut-être que quelqu’un dans les avis de l’App Store dit que la dernière version a des problèmes et vous ne parvenez même pas à reproduire le bogue.)

Avec le Copilot, si vous avez seulement deux à quatre heures par jour pour coder, vous pouvez mieux utiliser ce temps. Vous pouvez vous concentrer, faire le travail et profiter du processus.

Le nombre de distractions ne diminue pas – que ce soit Slack, Twitter, le téléphone portable et les messages WhatsApp. Ils ne disparaissent pas, mais vous pouvez mieux exploiter le temps créatif et vous concentrer sur le problème, car si vous n’êtes pas constamment en train de passer de l’éditeur à autre chose, vous avez aussi moins de déclencheurs de distractions. Nous constatons donc que les gens se concentrent davantage.

« Le Copilot ramène le plaisir, ramène la créativité. Il ramène le flux. »

THOMAS DOHMKE

Freethink: Comment votre propre processus d’écriture de logiciels a-t-il changé ? Je ne sais pas combien de temps vous pouvez consacrer à la programmation de nos jours, mais je suis vraiment curieux de savoir comment votre propre processus de codage a évolué grâce au Copilot.

Dohmke: Pour moi, il s’agit principalement de projets de loisirs. Mais la première chose qui me vient à l’esprit : le Copilot ramène le plaisir. Souvent, il y a beaucoup de distractions et beaucoup d’autres choses que vous pourriez faire. Le week-end – notre temps en dehors du travail – est en quelque sorte une compétition pour la capacité de concentration : voulez-vous sortir vous promener ? Voulez-vous assembler quelques ensembles de Lego ? Ou voulez-vous coder ?

Quand je trouve une heure pour écrire du logiciel, le Copilot ramène le plaisir, ramène la créativité. Il ramène le flux, car vous n’avez pas besoin de passer constamment de l’éditeur au navigateur et aux moteurs de recherche, et de chercher sur des sites comme Stack Overflow ou même GitHub pour trouver ces trois lignes de code dont vous avez besoin – je ne sais pas, pour créer un coin arrondi dans l’application iPhone que vous êtes en train de construire.

Ainsi, je crois qu’il ramène ce sentiment de « je construis ma grande idée lumineuse » que j’ai eu à ce moment-là, dans cette heure ou deux que j’ai lors d’un dimanche matin avant que d’autres choses deviennent prioritaires.

« Les startups comprennent que même une augmentation de productivité de 20 à 25% peut décider de leur survie. »

THOMAS DOHMKE

Freethink: Comment pensez-vous que votre propre expérience en tant que fondateur aurait été différente si vous aviez eu accès à un outil comme le Copilot lorsque vous avez créé votre première startup ?

Dohmke: Je pense que cela aurait rendu ma vie beaucoup plus facile. En tant que fondateur d’une petite startup, vous devez aller vite, car c’est la seule façon de survivre. Donc, avoir un outil disponible qui vous maintient dans le flux, un outil qui vous permet d’arriver à un prototype, d’arriver à une démonstration et enfin de lancer le produit sur le marché, est incroyablement puissant.

Je parle avec beaucoup de startups et je suis investisseur providentiel dans certaines d’entre elles, et toutes utilisent le Copilot parce qu’elles comprennent que même une augmentation de productivité de 20 à 25% peut décider de leur survie.

« La réponse a été surprenante. Les gens nous ont dit qu’ils ne peuvent plus développer sans le Copilot. »

THOMAS DOHMKE

Freethink: Je suis curieux de savoir quels sont les données que vous avez collectées – que ce soit de manière anecdotique ou plus formelle – sur la façon dont le Copilot change la façon dont les programmeurs de GitHub et de Microsoft travaillent.

Dohmke: Nous avons commencé à travailler sur le Copilot en août 2020, puis nous avons lancé la première préversion interne au début de 2021 pour environ 250 employés de GitHub, ou « Hubbers », et la réponse que nous avons reçue a été impressionnante. Les gens étaient excités. Ils nous ont dit qu’ils ne peuvent plus développer sans le Copilot.

Nous mesurons le Net Promoter Score, NPS [note de l’éditeur : une mesure de satisfaction de l’utilisateur], qui varie de -100 à +100. Et nous avons obtenu un résultat de +73 dans notre population de 250 testeurs. Nous ne voyons jamais ces chiffres avec aucun autre changement dans l’environnement de développement. Habituellement, les développeurs disent : « Ne touchez pas à mon système, je sais ce que je fais, Thomas – pourquoi introduisez-vous un nouvel outil ? »

Nous avons reçu un retour extrêmement positif de notre équipe, et les chiffres de rétention, combien de personnes ont continué à utiliser après le premier jour ou la première semaine, étaient incroyablement élevés – plus élevés que n’importe quel autre produit que nous avons construit. On s’attend à une certaine baisse – vous lancez une nouvelle fonctionnalité en interne, et tout le monde est enthousiaste le premier jour, mais au troisième jour, tout le monde revient à ses anciennes habitudes. Et nous n’avons pas constaté cela avec le Copilot, que ce soit chez GitHub, chez Microsoft ou vraiment chez nos clients.

« Près de la moitié du code, en moyenne, est écrit par le Copilot. C’est impressionnant en soi. »

THOMAS DOHMKE

Freethink: Avez-vous des données ou des statistiques sur la manière dont la communauté plus large de développeurs sur GitHub utilise Copilot et quel impact cela a sur leur productivité ?

Dohmke: Lorsque les utilisateurs utilisent Copilot, nous suivons combien de fois ils appuient sur la touche Tab et quelle quantité de code est écrite par Copilot dans ces fichiers. Ce chiffre est maintenant en moyenne de 46 % – près de la moitié du code est écrit par Copilot dans ces fichiers où il est activé. C’est impressionnant en soi.

Nous avons commencé à travailler sur Copilot il y a trois ans ; il est entré en préversion il y a près de deux ans. Ce chiffre augmente constamment depuis son lancement. Tôt ou tard, 80 % du code sera écrit par Copilot. Et cela ne signifie pas, comme nous l’avons discuté, que le développeur sera remplacé. Cela signifie que le développeur aura plus de temps pour se concentrer sur les 20 % du code qu’il écrit.

Lorsque vous utilisez Copilot, votre style change, car vous devenez plus explicite. Vous écrivez des commentaires de code et peut-être un petit exemple. En écrivant une fonction avec une entrée et une sortie, en fournissant simplement des exemples d’entrées et de sorties, Copilot « comprend » ce que vous vouliez faire et utilise cela comme contexte supplémentaire pour synthétiser le code.

« Le groupe avec Copilot était 55 % plus rapide. Cela va changer l’industrie. »

THOMAS DOHMKE

En fait, nous avons des informations d’une étude quantitative menée auprès de 2 000 développeurs sur la manière dont ils se sentent en utilisant Copilot, et 75 % de ces développeurs affirment être plus satisfaits. Ils nous disent qu’ils ont besoin de moins de capacité mentale pour accomplir leur travail. Ils passent moins de temps à écrire le code de base que nous devons toujours écrire en tant que développeurs.

Nous avons également mené une étude qualitative, où nous avons donné accès à Copilot à 50 développeurs et nous avons eu environ 50 développeurs qui n’avaient pas Copilot – le groupe témoin, pour ainsi dire – et nous leur avons demandé de construire un serveur web. Le groupe avec Copilot était 55 % plus rapide. Cela va changer l’industrie.

En plus d’être 55 % plus rapides, ils ont eu un taux de réussite plus élevé : 78 % contre 70 %.

« Je crois que la façon dont nous apprenons changera complètement. »

THOMAS DOHMKE

Freethink: Quel sera l’effet de Copilot sur le développement des futurs programmeurs ? Il y a cette tension lors de l’apprentissage de la programmation, entre être frustré par des choses qui semblent faciles et le fait que, en faisant ces choses à plusieurs reprises, nous acquérons finalement une compréhension plus profonde de leur fonctionnement. Je suis curieux de connaître l’effet qu’un outil comme Copilot peut avoir, par exemple, sur un élève du secondaire qui apprend à trier avec le tri à bulles et qui peut simplement appuyer sur la touche Tab pour voir le code apparaître, sans avoir à le créer entièrement au préalable.

Dohmke: Je crois que la façon dont nous apprenons changera complètement, tout comme la façon dont nous enseignons dans les écoles changera également complètement.

Je crois que nous accorderons moins d’importance à savoir qui était le président en 1845 et nous nous concentrerons davantage sur la façon dont nous apprenons. L’enseignant devient davantage un entraîneur qui aide les enfants de tous âges à utiliser la technologie pour explorer ces sujets par eux-mêmes et à leur propre rythme. Je crois que cela sera incroyablement démocratisant pour les enfants, en particulier dans le développement de logiciels.

Il est facile d’oublier ici aux États-Unis que la langue la plus courante en programmation est l’anglais. Si vous grandissez ici, vous aurez probablement plus de facilité à comprendre l’anglais que si vous grandissez au Brésil, en Chine ou en Allemagne. Cela, en soi, sera libérateur pour les enfants, car ils pourront poser une question à un agent d’IA, comme Copilot, dans leur langue maternelle. Copilot comprendra ces langues et synthétisera toujours le code dans le langage de programmation que l’élève apprend, mais les élèves pourront interagir et poser des questions dans leur propre langue.

Je crois que la connaissance aura moins d’importance et savoir raisonner, savoir explorer le contenu – savoir découvrir si le contenu fourni parl’IA est réellement la bonne réponse sera crucial. Les enseignants travailleront avec les enfants pour apprendre à le faire. Et les étudiants devront découvrir si ce que l’IA propose est vraiment la réponse au problème qu’ils résolvent, ou si le modèle est « décalé ».

« Les enfants peuvent simplement poser une question à un agent d’IA, comme Copilot, dans leur langue maternelle. »

THOMAS DOHMKE

Freethink: Au moins à mon avis, il semble que, dans n’importe quelle discipline que vous choisissiez, que ce soit la médecine ou l’informatique, pour effectuer ce type de raisonnement de niveau supérieur, vous devez commencer par une certaine connaissance du contenu de base.

Dohmke: Si vous utilisez Copilot, vous vous rendrez rapidement compte que vous avez toujours besoin de cette connaissance de base. Vous ne pouvez pas y échapper. Vous pouvez aller sur ChatGPT ou Copilot et demander « comment construire GitHub », et il vous donnera une réponse très abstraite.

Vous devez avoir la compétence pour dire : « OK, maintenant comment décomposer ce problème vraiment complexe en problèmes plus petits ? » Et pour cela, vous devez comprendre ce qu’est une base de données, ce qu’est une machine virtuelle, ce qu’est un conteneur. Vous devez connaître toutes ces choses en informatique pour réellement arriver au point où l’IA peut répondre à votre question.

« Nous continuons à lutter pour les droits des développeurs open source car nous pensons que le code source ouvert est essentiel pour progresser dans l’humanité. »

THOMAS DOHMKE

Les enseignants, si nous revenons à l’exemple de l’école, le comprendront immédiatement. Si un élève essaie de tricher pour résoudre ses devoirs, il devra non seulement fournir la réponse, mais aussi montrer comment il est arrivé à cette réponse. C’est comme en cours de mathématiques : montrez votre processus de construction à l’aide de Copilot.

Une autre chose est que chaque projet logiciel est différent, et il y a une grande différence entre construire un système de point de vente pour une épicerie ou construire une application iPhone qui s’exécute sur chaque appareil individuel, mais qui peut encore avoir 100 millions d’utilisateurs. Il est toujours nécessaire d’apprendre sur ces concepts et comment résoudre ces problèmes. Et je pense que cette compétence est beaucoup plus utile pour nous en tant qu’êtres humains que de connaître tous les détails du langage de programmation.

Freethink: En tant que personne qui a toujours soutenu le code source ouvert, quel rôle voyez-vous pour le code source ouvert dans ce contexte ?

Dohmke: Le code source ouvert jouera un rôle essentiel dans l’évolution de Copilot. Le modèle fourni par OpenAI pour Copilot a été formé sur des données ouvertes sur Internet. Non seulement sur le code source, mais également sur divers autres documents. Cela permet à Copilot de comprendre non seulement les langages de programmation, mais aussi les langages humains. Le code source ouvert fournit les ensembles de données pour la formation de ces modèles.

Nous avons maintenant vu divers grands modèles de langage open source. Beaucoup d’entre eux sont hébergés sur GitHub, ce qui nous enthousiasme ! GitHub a embrassé l’écosystème open source que nous avons fourni au cours des 15 dernières années. Fondamentalement, toutes nos fonctionnalités ont été mises gratuitement à disposition des projets open source, et nous voulons continuer à soutenir cet écosystème. Nous continuons à lutter pour les droits des développeurs open source car nous pensons que le code source ouvert est essentiel pour progresser dans l’humanité.

Le modèle de collaboration qui accompagne le code source ouvert est probablement le modèle de collaboration le plus ouvert et sans frontières qui existe : des développeurs de différents pays travaillent ensemble et ne se soucient pas des autres conflits que nous avons sur cette planète.

« Les langages tombent en désuétude. Mais ils ne cessent jamais d’être utiles. »

THOMAS DOHMKE

La plupart du temps, lorsque vous recevez une demande de pull request, vous ne savez pas qui est cette personne, quel est son poste, sur quoi elle a travaillé, si elle a fréquenté l’université ou non. Vous vous en fichez. Je ne crois pas que si vous voulez contribuer du code au noyau Linux, quelqu’un va demander : « Avez-vous vraiment une éducation adéquate et cinq ans d’expérience professionnelle ? » C’est ainsi que fonctionne la collaboration en code source ouvert.

Sur GitHub, c’est ce que nous avons adopté et continuerons toujours d’adopter dans le cadre de notre mission de donner aux développeurs open source les moyens de réussir. Je crois que les grands modèles de langage joueront un rôle important et nous aideront à accélérer le progrès ensemble.

Freethink: Quel rôle pensez-vous que Copilot peut jouer dans le développement de nouveaux langages de programmation ? Les langages apparaissent, tombent en désuétude – je suis curieux de connaître l’effet que Copilot peut avoir sur cela.

Dohmke: Vous avez mentionné que les langages tombent en désuétude. Je pense que c’est exact. Mais ils ne cessent jamais d’être utiles. L’exemple le plus courant ici concerne les banques et les institutions financières qui utilisent toujours le COBOL sur des mainframes. Et ce n’est pas seulement une banque quelque part, c’est n’importe quelle banque avec laquelle j’ai discuté dans n’importe quel pays du monde qui utilise encore le COBOL sur des mainframes.

C’est un problème, car les personnes qui ont écrit du COBOL dans les années 60 sont heureusement toutes à la retraite maintenant et n’ont plus besoin de maintenir ce code pour les banques. Copilot jouera un rôle en aidant les entreprises à moderniser leur base de code – et le fera de plusieurs façons.

Tout d’abord, Copilot peut expliquer le code hérité au développeur qui doit maintenant le prendre en charge. Vous pouvez mettre en évidence le code et dire : « Expliquez-moi ce code ». Et une fois que vous avez une explication, vous pouvez réellement utiliser l’explication et le code pour générer des cas de test pour ce code. L’étape logique suivante consiste à utiliser l’IA dans un processus itératif avec le « copilote », le développeur, pour réécrire le tout en Python. Et comme vous avez généré les tests et généré la description – qui n’existaient probablement pas dans les années 60 ; une grande partie de ce code n’est pas documentée – vous êtes capable de transformer cette ancienne base de code en une nouvelle base de code.


« Nous avons un produit appelé Copilot Voice qui vous aide à programmer avec votre voix, au lieu de vos mains. »

THOMAS DOHMKE

« Nous luttons tous contre la dette technique, non seulement de la génération précédente de développeurs, mais aussi de notre propre base de code il y a six mois. La plupart des développeurs, lorsqu’ils regardent ce qu’ils ont écrit il y a six mois, disent : ‘Je ferais beaucoup mieux maintenant qu’il y a six mois’. Nous verrons plus d’itérations et, espérons-le, moins de bagages que nous transportons avec nous.

Je crois qu’une autre façon sera de simplifier l’apprentissage de la programmation, et les langages de programmation eux-mêmes changeront probablement pour devenir plus humains. Au lieu d’écrire beaucoup de code, je pourrais simplement écrire beaucoup de commentaires, puis synthétiser le reste du code. Et ces commentaires peuvent être en allemand, en portugais brésilien – pratiquement n’importe quelle langue sera comprise par ces modèles pour la synthèse de code.

Le dernier point est que nous avons une préversion d’un produit appelé Copilot Voice qui vous aide à programmer avec votre voix, au lieu de vos mains – cela donnera accès aux personnes handicapées qui ne peuvent pas taper toute la journée en raison de lésions par effort répétitif.

Freethink: Lorsque j’enseignais la programmation à des étudiants du secondaire, le plus grand défi pour eux était de comprendre ce qui est différent dans le langage de programmation par rapport au langage naturel. Ce qui les frustrait, c’était la façon dont les ordinateurs font exactement ce que vous dites – comme un frère irritant qui fera quelque chose de manifestement faux, puis dira : ‘Eh bien, techniquement, tu as dit ça’. Avec des outils comme Copilot, pensez-vous qu’il y aura une convergence, où la programmation deviendra plus similaire à la façon dont nous nous communiquons personnellement ?

Dohmke: Je pense que cela est déjà perceptible. Lorsque vous utilisez ces agents de discussion, ils n’ont pas seulement la phrase que vous venez de taper, ils ont également le contexte de la conversation précédente. Dans le cas de Copilot Chat, il sait réellement ce qui est dans votre éditeur – non seulement le fichier que vous avez ouvert, mais aussi les onglets adjacents et votre débogueur. À l’avenir, ils auront probablement l’ensemble du référentiel ou du dossier de fichiers disponible comme contexte.

De nos jours, vous pouvez déjà écrire un fichier HTML – une page Web – et, pendant que vous écrivez, avec l’aide de Copilot, vous pouvez dire : ‘Rendez ce texte en gras’ ou ‘Centre cette zone sur la page’. Et alors il vous montre comment le faire et élimine la frustration du passé lorsque nous pensions que l’ordinateur ne comprenait pas ce que nous voulions. Eh bien, maintenant il comprend. »

« L’un des meilleurs moments lors de l’interaction avec Copilot est de pouvoir lui dire que quelque chose ne va pas. »

THOMAS DOHMKE

« Récemment, lors d’une conférence, j’ai créé un jeu de Snake en démonstration du Copilot. J’ai dit : ‘Rendez le jeu plus beau’, et il a simplement généré les feuilles de style. Je n’ai jamais dit que je voulais une feuille de style. Je n’ai même pas mentionné les concepts de HTML ou de CSS. Le Copilot l’a compris tout seul, en ayant le contexte de ce que j’essayais d’accomplir.

Je pense qu’un des meilleurs moments lors de l’interaction avec le Copilot est de pouvoir dire que quelque chose ne va pas. Vous pouvez vraiment dire : ‘Ce n’est pas ce que je recherchais’ ou ‘Ça ne fonctionne pas’.

Et alors il dit : ‘Oh, je m’excuse. Voici autre chose que vous pouvez essayer.’ Ainsi, il possède ce mode interactif, et vous n’avez pas besoin de connaître la syntaxe exacte du langage de programmation. Vous n’avez pas besoin de savoir tout ce qui serait nécessaire pour résoudre le problème. Vous pouvez explorer et arriver à la solution par vous-même. »

« Même s’ils ont été formés uniquement sur la base de l’art existant, ils peuvent générer une toute nouvelle catégorie d’art. »

THOMAS DOHMKE

Freethink: D’après ce que je comprends, le Copilot est construit sur la base du Codex d’OpenAI, qui est une sorte de capture d’écran du code antérieur à 2021. Je ne sais pas s’il y a des plans pour connecter le Copilot à Internet, afin qu’il soit mis à jour plus fréquemment, mais je suis curieux de savoir si vous voyez une perte à ne pas avoir à écrire autant de code de base. Lorsque vous devez vous plonger dedans tout le temps, une personne sur 100 000 peut éventuellement dire : ‘Wow, voici une façon de faire ça beaucoup mieux.’ Et ensuite, cette solution se répand dans la communauté des développeurs. Si les gens demandent simplement au Copilot les meilleures solutions basées sur le code d’hier, comment voyez-vous l’innovation elle-même changer ?

Dohmke: Le premier point à considérer est que les modèles de langage n’ont pas une bibliothèque de morceaux de code stockés en eux. Ce sont des réseaux neuronaux qui ont des milliards de paramètres décrivant comment prédire la probabilité de quelque chose. En termes de modèles de langage, cette chose est le prochain mot. En termes de modèles de diffusion, c’est comme passer du bruit à une image.

Si vous considérez ces modèles de diffusion comme un exemple visuel, il est évident qu’ils peuvent créer de nouvelles choses qui n’existaient pas auparavant. Même s’ils ont été formés uniquement sur la base de l’art existant, ils peuvent générer une toute nouvelle catégorie d’art. Vous pouvez aller sur Stable Diffusion et dire : ‘Rendez l’horizon de New York comme s’il était peint par un impressionniste français.’ Et alors il rend vraiment l’horizon de New York d’aujourd’hui comme s’il était peint par Monet ou un autre impressionniste français.

Il n’y a pas d’image dans l’ensemble d’entraînement qui ressemble vraiment à cela. L’image est générée en fonction de votre demande et, en fin de compte, à partir du bruit.

Je crois que c’est la même chose pour les modèles de langage. Ils peuvent générer du texte complètement nouveau, du code complètement nouveau qui n’a jamais existé auparavant, et en tant que tels, ils peuvent, en collaboration avec le développeur, réellement créer de l’innovation et de nouveaux algorithmes ou du code. Mais, comme vous pouvez le déduire par le terme ‘Copilot’, nous croyons qu’il y a un pilote impliqué qui travaille de manière itérative avec le Copilot pour atteindre cette innovation. »