Voici donc un nouveau concept qui pourrait bien redéfinir ce que signifie “développer un logiciel”.
Selon Andrej Karpathy (https://www.youtube.com/watch?v=LCEmiRjPEtQ), cofondateur d’OpenAI et ex-directeur de l’IA chez Tesla, nous sommes à l’aube d’un nouveau paradigme de programmation, piloté par les modèles de langage comme ChatGPT.
Et ce nouveau paradigme porte un nom, ou en tout cas Andrej Karpathy lui en a donné un, il s'agit du Software 3.0.
Les LLM deviennent des systèmes d'exploitation
D'abord, les LLM, ces modèles de langage géants (https://www.zdnet.fr/pratique/quest-ce-quun-llm-tout-ce-que-vous-devez-savoir-sur-ce-qui-se-cache-derriere-lia-generative-476377.htm), ne sont plus juste des outils. À l’image de Windows ou Linux, ils deviennent une forme de système d’exploitation. Oui parce que ces IA sont capables d'orchestrer de la mémoire, de la puissance de calcul et même des interfaces. Pour par exemple créer ou modifier une photo, ou encore du code informatique. La différence avec un OS classique, c'est qu'au lieu d’une souris ou d’un clavier, on dialogue avec elles en langage naturel.
Et s'il n'y a pas encore de véritable interface graphique pour communiquer avec les IA, juste pour l'instant une espèce de ligne de commande très sophistiquée sous la forme de prompt, de nombreux chercheurs planchent déjà sur une meilleure manière de communiquer avec les IA.
Mais passé ce constat, il faut faire un léger retour en arrière dans l'histoire de l'informatique pour comprendre pourquoi Andrej Karpathy parle de Software 3.0.
Les trois temps du développement logiciel
Cette révolution s’inscrit pour lui en effet dans une évolution en trois temps. D’abord, il y a eu le Software 1.0, fait de code classique. Puis est venu le temps du Software 2.0, dominé par les réseaux neuronaux et l'internet des objets.
"À un moment donné, il y avait une tonne de code C++ dans le pilote automatique, et c'était du code de l'ère Software 1.0", explique l'ancien employé de Tesla. "Et il y avait quelques réseaux neuronaux qui faisaient de la reconnaissance d'images. Au fur et à mesure que nous améliorons le pilote automatique, le réseau neuronal s'est développé en capacité et en taille, tandis que tout le code C++ a été supprimé. Une grande partie des capacités et des fonctionnalités écrites à l'origine à l'ère du Software 1.0 ont été transférées dans du logiciel de l'ère Software 2.0".
Et maintenant, annonce l'ingénieur, voici donc l'ère du Software 3.0, où l’on “programme” en rédigeant des prompts, c'est-à-dire des instructions en langage naturel. Plus besoin de tout coder, il suffit de savoir formuler.
Comment le nouveau code va manger l'ancien code
Enfin, le troisième point, c'est que tout cela reste très centralisé. Comme dans les années 60 avec les premiers ordinateurs partagés, l'utilisation des LLM actuels est bien trop chère pour être personnalisée.
On y accède via le cloud, comme on se connecte à un gros cerveau distant.
Mais la vitesse de progression est folle, et Karpathy pense que ce nouveau paradigme va littéralement “manger” les anciens, comme les réseaux neuronaux ont supplanté des milliers de lignes de code dans la conduite autonome de Tesla.
Le ZD Tech est sur toutes les plateformes de podcast ! Abonnez-vous ! (https://smartlink.ausha.co/zd-tech-tout-comprendre)
Hébergé par Ausha. Visitez ausha.co/fr/politique-de-confidentialite pour plus d'informations.