Speaker #0Hello Hello ! Et bien me revoilà pour l'épisode numéro 2 de Calm News que je publie normalement ce vendredi 23 octobre. Aujourd'hui, un petit peu moins de news, la semaine a été un peu mouvementée sur le plan perso. Malgré tout, j'ai écouté vos différents retours, on va tâcher de s'aligner et c'est vrai que j'en parlais dans le... Le dernier calme sur Twitch, je pense que c'est pas une bonne idée d'avoir un des épisodes du podcast le même jour, le lundi, que le live, donc je pense que je vais effectivement décaler mardi et vendredi, et donc c'est pour ça que j'ai décalé à ce vendredi l'épisode numéro 2. Alors, sans plus attendre, qu'est-ce qu'on a aujourd'hui à vous proposer ? J'ai 4 petites news. La première, elle rassemble plusieurs sujets. C'est une news que j'ai récupérée directement sur TechCrunch cette fois-ci, au sujet de NVIDIA, qui publie plusieurs choses. Un nouveau modèle dans sa famille de modèles Némotron. Ils sortent le Super VL 3.5. Je ne sais pas ce que ça vaut. Je verrai si j'ai le temps de le tester, mais ce n'est pas mon objectif. C'est un modèle à 120 milliards de paramètres. Ce qui m'intéresse, c'est que Nvidia va peut-être participer à ce que je regarde beaucoup en ce moment. Je suis loin d'être le seul. Coucou Philippe, on reparle de toi dans 3 News. Il s'agit des modèles locaux, et en tout cas des modèles... plus petit, et il se trouve qu'en même temps qu'ils sortent ce supermodel qui est censé rivaliser avec les Opus 5, GPT 6.1 Sol, ce genre de choses, ils sortent deux, pas deux en fait, plus que ça, puisqu'il va y en avoir trois au final, aujourd'hui, donc toujours dans la famille Némotron, c'est le nom de leur famille de modèles, donc toujours sur du NemoTron 3.5 et c'est la sous-famille dorénavant qui s'appelle Bolt. Le premier, ça va vous faire sourire parce qu'ils appellent ça un petit modèle qui est avec 74 millions de paramètres. Mais je n'ai pas les détails, je pense que tout n'est pas activé parce qu'ils annoncent que ça rentre dans 24Go. Et je pense que c'est surtout à destination des différentes machines qui sont en train de sortir. puisque Nvidia a sorti plusieurs machines dans la famille d'abord des DGX qui sont quand même des grosses stations avec des... cellules et des corps GPU et beaucoup de RAM unifiés mais aussi toute la gamme je ne sais pas du tout ce que ça va avoir alors je vais Je suis assez curieux, je pense qu'ils vont aussi tenter, il y a AMD qui avait tenté un peu des choses, mais là ils vont proposer des machines dans toute la gamme RTX Spark. C'est un chip avec cette capacité un peu comme les chips d'Apple, la gamme silicone, les M1, M2, M3, M4, on a les M6 maintenant, qui intègrent les Core GPU et les Core CPU avec l'art RAM au plus près pour avoir les meilleures performances, donc la gamme RTX chez Nvidia, ça sera ça on va voir ce que ça donne puisqu'il y aura à la fois des machines de bureau et normalement des portables, on verra les premiers tests, donc le premier qui sort de modèle Bolt je pense que c'est plutôt pour les stations des GX qui restent coûteuses avec beaucoup de RAM, par contre ce qui m'intéresse beaucoup c'est qu'ils ont d'ores et déjà annoncé qu'ils allaient décliner en fait ces modèles en variation plus petite je suis en train de chercher je crois que le plus petit ça sera celui qu'ils appelleront le Bolt E4B donc là du E4B on va pouvoir commencer à utiliser ça sur des familles beaucoup plus petites de machines et je trouve que c'est un bon move pour ceux qui s'intéressent aux machines locales même si ça continue de faire grossir Nvidia à l'éve. Je suis en train de chercher, j'ai pas tant de news que ça sur ce sujet, mais l'impact négatif de l'IA, parce qu'il n'y a pas que du positif, je pense qu'il faut que je vous trouve un peu des successions de news sur ces sujets. J'ai continué, puisque vous m'aviez dit que vous trouviez ça intéressant d'avoir des news qui n'ont rien à voir avec l'informatique, et j'ai trouvé une news que je... Je vous partage au sujet d'une mission spatiale lancée par le Japon, dont l'objectif est d'aller récupérer des échantillons sur la lune de Mars, Phobos, et de revenir avec ces échantillons. Donc, visiblement, leur... Leur centre spatial est toujours actif. Donc le nom de leur lanceur, c'est H3, si je ne dis pas de bêtises. Ouais, c'est ça. H3 Rocket. Et donc ça part du centre de Tanegashima. Donc ils ont lancé cette mission. Je suis effectivement curieux de voir ce que ça va donner. L'objectif, c'est d'être la première machine spatiale. qui se posent et qui ramènent des échantillons de Phobos pour les étudier sur Terre. Affaire à suivre, je ne sais pas si la news indique le temps prévu pour la mission. Pourtant je l'ai lu ce matin, ça ne me parle pas. Ça ne me parle pas. En tout cas, de toute façon, ça sera sur plusieurs mois, bien sûr. Il n'y a pas de magie, il faut faire un aller-retour. Et il faut les faire, ces kilomètres. La news suivante, c'est un peu un mini-rebond à la news que je vous ai partagée l'autre jour, quand on indiquait qu'Anthropic travaillait sur un système pour remplacer Git pour aller plus vite. gérer ses projets à Gentic, il y a une réaction de la part de GitHub. Je ne sais pas ce que ça va donner, mais en tout cas, ils annoncent un plan où ils font... le nécessaire pour augmenter les capacités de mise à l'échelle de leur infrastructure. Donc, a priori, ils s'appuieraient sur une partie de l'infrastructure qu'ils avaient autour de tout ce qui était un peu cache et cohérence entre les événements de push qu'ils recevaient et la répartition sur leurs espaces de stockage. Alors je suis un peu dubitatif puisque leur première source d'optimisation... Ils appellent ça Minimize Coordination, c'est-à-dire qu'ils vont déclencher des vérifications sur seulement une partie de ce qui arrive dans chaque push, je ne sais pas trop ce que ça va donner. Et l'autre élément, en fait, ils sont en train de monter une architecture qui va tenter de découpler au maximum le stockage de la partie compute, Pour être, tu imagines, capable d'avoir ce spagy. j'imagine, s'il l'indique, plein de petits workers beaucoup plus rapides avec du cash pour... pour ne pas avoir trop de copies sur du stockage un peu plus long et forcément plus coûteux en termes de performance. Donc voilà, on sent qu'il va y avoir une évolution sur les outils tels qu'on a connus. Je ne doute pas que dans la foulée, il va falloir qu'il y ait des évolutions aussi côté tous les outils de CICD, puisque c'est bien beau d'avoir du code qu'on peut committer plus rapidement en plus grosse quantité, mais si on ne peut pas lancer les tests, vérifier tout ce qu'il y a à vérifier, la sécurité. sécurité, la qualité, et pousser un résultat, ça perd un petit peu de son intérêt. Affaire à suivre. Et puis, je ne pouvais pas passer cette semaine sans... Alors, j'ai pris un des articles, mais il y en a eu plusieurs cette semaine. Il s'agit d'un des nombreux Super Site Projects de Philippe Charrière qui... en ce moment, pousse beaucoup de choses autour d'un projet qu'il a appelé Minimi. Je vous ai mis une news pour illustrer ce que j'avais à vous dire, mais l'ensemble du site est à consulter, et puis après d'aller voir le projet en lui-même. Il s'agit d'écrire un agent de code, en tout cas c'est dans cette intention-là qu'il l'a écrite actuellement, en tout cas c'est un de ses objectifs. Et c'est vraiment conçu en ayant en tête d'utiliser des LLM, des petits modèles en local, d'avoir tout ce qu'il faut pour avoir cette boucle agentique, et puis d'essayer d'avoir un maximum de guardrails autour de cet usage. Donc, Donc là, le lien, c'est la dernière news actuellement. Au moment où je vous parle, il s'agit d'une feature qu'il a rajoutée sur Minimi. Donc vous verrez en creusant le projet, je vous conseillerais de prendre un peu de temps, il y a beaucoup de choses qui ont été publiées, donc prenez le temps de parcourir ces articles et puis la doc du projet lui-même. C'est pas trop compliqué à suivre. En tout cas, il propose, comme il y a pas mal de paramétrages, suivant les machines, c'est pas forcément toujours les mêmes modèles, il y a beaucoup de choses qui se règlent tout ça est paramétré dans un YAML en fait et il propose d'avoir un petit wizard donc il a rajouté la feature init vous tapez la commande mm c'est la CLI de Minimi Avec Init, on va vous proposer de créer tous les éléments qui vont être nécessaires. Ça passe par ce qu'il a appelé des kits, tout ça peut bien sûr être sandboxé à l'aide de SBX et ainsi de suite. C'est une assistance que je trouve plutôt bienvenue parce que ça permet de se guider un peu quand on découvre les capacités de Minimi, en sachant que bien sûr, Philippe ne s'arrête pas. s'arrête pas en cours de route et qu'il continue de publier à la vitesse qui est la sienne, donc ça en fait beaucoup. J'ai particulièrement aimé le fait qu'il propose une espèce de pré-optimisation, en tout cas des réglages en fonction d'un certain nombre de modèles qu'il a lui-même testés. Moi j'ai utilisé celui qu'il a dans la plupart de ses articles, qui est un modèle de chez JetBrains, qui est le Melom 2, qui est un modèle 12B, mais il a aussi pas mal de réglages avec des QN, avec différentes quantisations, enfin, je vous laisse découvrir tout ça, et puis il propose aussi, et ça j'ai pas encore eu le temps de creuser l'impact que ça a sur les réglages, mais il propose des... quelque part des intentions de ce que vous voulez faire avec Minimi dans ce paramétrage que vous êtes en train de faire avec le init. Et vous avez différents profils. Est-ce que c'est pour du développement ? C'est pour de la review ? Il a un profil de traduction ? Il a plein de profils. Ça permet d'explorer l'outil assez rapidement. A noter que du coup, comme tous les projets de FIB, quand on commence à s'y intéresser, c'est le rabbit hole. se met à essayer tout ce qui qu'il a dans ses articles, donc du coup je suis en train d'essayer l'éditeur Z que j'avais depuis un moment dans mon radar, mais que j'avais pas trop lancé, ça change un peu des habitudes que je peux avoir, et c'est pas inintéressant, c'est un peu comme j'avais l'habitude d'essayer plein de langages différents pour revenir au langage où j'étais plus à l'aise et on ramène toujours des idées, ben là je trouve que dans l'utilisation de cet éditeur, il y a un côté suffisamment sophistiqué mais qui pollue pas trop votre attention à ce qui vous permet de rester un peu plus focus sur votre projet. Le projet Minimine Philippe, je vous conseille, c'est bon, mangez-en. Voilà pour aujourd'hui. Je vois que même quand il n'y a pas énormément de news, ça devrait faire un épisode qui va dépasser les 12 minutes. J'espère que ça vous convient. N'hésitez pas, comme toujours, vous aurez les liens dans votre application de podcast ou sur le site can.show dans la section podcast. Vous avez tous les épisodes consultables et pas mal d'infos. Vous pouvez également venir me faire vos commentaires sur le Discord. Il y a un canal qui qui est dédié, ou n'hésitez pas à me pinguer sur les réseaux sociaux quand vous voyez passer des news de ma part. Quant à moi, il me reste à vous souhaiter, donc, alors vous allez écouter tout ceci, une excellente journée, au moins du vendredi, et puis plus tard, si vous écoutez le podcast plus tard. Et puis, on se retrouve, si tout va bien, mardi prochain, pour le prochain épisode. Bye bye !
