Transcription

• Manu

  Bonjour et bienvenue sur Le Dernier Clic, votre podcast tech, IA et No-Code. On se retrouve comme chaque semaine avec Lulu, qui va bien.

• Lulu

  A priori, oui.

• Manu

  A priori, oui. Parfait. Et on se retrouve pour notre épisode de thématique orienté sur l'IA et l'humain. On va dire ça comme ça. Notamment dans le cadre de l'événement qui arrive la semaine prochaine, le Forum PHP qui aura lieu les 8 et 9 octobre à Disneyland Paris. On a reçu déjà plusieurs invités qui se rendent. Si vous n'avez pas encore écouté les différents épisodes, on vous renvoie à celui avec Amélie où elle parle des événements tech, à celui avec Xavier qui nous parle de comment sa boîte a adopté l'IA en tant qu'agence de dev, à celui avec Gaël de la semaine dernière où... lui nous raconte comment son rôle de développeur a changé avec l'arrivée de l'IA et aujourd'hui je crois qu'on l'avait vaguement évoqué dans l'épisode dernier, on aurait dû aujourd'hui avoir Charlotte et vous la retrouverez normalement la semaine prochaine si tout va bien mais voilà on avait un épisode dédié à au rapport entre la technologie et la neurodiversité et notamment l'IA aujourd'hui et elle viendra nous en parler, on a enregistré l'épisode on a eu des gros soucis techniques avec notre outil d'enregistrement, ce qui ne nous permet pas de le diffuser. Mais on espère quand même très fort que Charlotte pourra revenir enregistrer avec nous pour qu'on puisse vous partager cette discussion puisqu'elle a des choses très intéressantes à vous dire. Et voilà, si tout va bien, vous l'aurez avant le Forum PHP la semaine prochaine.

• Lulu

  Du coup, ça fera deux épisodes pour la semaine pro.

• Manu

  Ça fera deux épisodes pour la semaine prochaine si tout va bien. Et sinon, dans tous les cas, vous en aurez un avec un évité qui ne sera pas au Forum PHP, mais qui aura aussi des choses à vous dire sur le sujet de l'IA. et de l'humain et des gens. Et pour l'épisode d'aujourd'hui, nous allons avoir une invitée un peu particulière puisque c'est Lulu, ma co-animatrice du Dernier Clic depuis le début, qui va aussi animer une conférence au Forum PHP et que je vais interviewer comme nos autres invités pour qu'elle nous parle un petit peu de ces différents sujets. Merci. vous nous écoutez depuis la saison 1 on avait abordé le sujet de IA frugale dans deux épisodes donc il y aura peut-être, enfin probablement normalement des choses qui vont revenir mais l'idée aussi justement de cet épisode et d'en rediscuter avec Lulu c'est que IA frugale on en avait parlé en mai ou juin quelque chose comme ça et voilà il y a des il y a pas mal bougé depuis donc ça va être aussi l'occasion de revenir sur le sujet en se disant qu'est-ce qui a bougé depuis est-ce qu'il y a des choses importantes à prendre en compte papa. par exemple, etc. Et si vous n'avez pas écouté les anciens épisodes et que vous ne savez pas du tout de quoi parle, de quoi il s'agit quand on parle IA frugale, écoutez, c'est le bon moment pour aborder le sujet. Voilà, j'ai fait une belle et longue intro, maintenant je vais te laisser la parole, Lulu, est-ce que tu veux bien te présenter ?

• Lulu

  C'est assez marrant. Déjà, comme tu l'as dit, je m'appelle, enfin, Lucille, voilà, on ne le dit pas souvent. Du coup, je suis aussi co-animatrice sur le dernier clic. C'est un peu chelou.

• Manu

  Peut-être te présenter un petit peu sur les choses qu'on a pas forcément abordées. Oui, justement,

• Lulu

  c'était pour rigoler. Parce que c'est vrai qu'on avait fait une présentation sur notre épisode zéro qui date d'il y a plus de six mois, mais on n'avait pas forcément trop développé non plus. Je veux dire qu'on n'était pas de la tech tous les deux. Moi, je suis plutôt...

• Manu

  Moi aussi, pour le coup, mais...

• Lulu

  Oui, oui, oui. Si, c'est vrai. Moi, c'est plus côté science. J'ai fait des études scientifiques. Tout ce qui était biologie, chimie, quand même fait quand j'étais en licence un petit peu de Python, de tout ce qui était un peu logique, algorithmique en option et TSA, parce que ça m'intéressait déjà et je voulais voir comment concilier mon intérêt pour... pour comprendre le vivant, les molécules, TSA, savoir comment des systèmes fonctionnent. Au final, je me rends compte qu'aujourd'hui, je trouve à peu près le sweet spot, donc c'est cool. Et après, j'ai fait un master en sciences analytiques, où j'ai fait aussi un petit peu d'analyse de données, avec des requêtes et des trucs comme ça. Mais à chaque fois, c'était énormément de... de data, qu'est-ce qu'on en fait, quelles conclusions on peut tirer. de croiser pas mal d'études. Et ce que j'avais beaucoup aimé, justement, c'est que ce parcours était très, très large. Il m'a permis de voir énormément de domaines, que ce soit avec les camarades de la promo qui travaillaient dans des industries très, très différentes. Moi, c'est là où j'avais travaillé, justement, dans un laboratoire d'analyse agroalimentaire. Et c'est vrai qu'on peut se dire, ouais, il n'y a pas trop de rapport aujourd'hui avec le No-Code et TSA. Mais je me rends compte que si, complètement. parce que je mettais au point une méthode de développement pour des analyses de vitamines B. Donc c'est les vitamines genre... C'était lesquelles ? B5, B8, B9, B12. Et le but, c'était de pouvoir les analyser en même temps parce que c'était que des méthodes séparées et qui coûtaient très cher. Et le but, c'était justement de mettre au point une nouvelle méthode, donc faire de la recherche et développement pour réussir à partir de matrices alimentaires. Donc par exemple, des aliments, ça va être... Je ne sais pas, de l'alimentation, des croquettes pour fien, ou après même des boissons végétales, parce qu'elles sont pas mal supplémentées en vitamines. Et de se dire, comment est-ce qu'on contrôle que c'est bien la bonne quantité de vitamines dedans ? Et donc il fallait purifier, donc on avait un peu notre matériau brut en entrée. Il fallait mettre plusieurs étapes à chaque fois pour récupérer les bonnes molécules, supprimer ce qui ne nous intéresse pas. et faire en sorte à la fin de récupérer quelque chose qui était assez pur pour être analysé. On le passait dans un système et c'est là que l'analyse sortait. Donc c'était vraiment... Au final, je me dis aujourd'hui, c'est un peu ce qu'on fait avec des données, l'information. On reçoit des informations qui peuvent être sous des formes différentes. Comment est-ce qu'on arrive à mettre en place un process qui va récupérer quand même ce qu'on veut, mais qui reste assez large pour ne pas faire du spécifique à chaque fois, qui coûterait trop cher à mettre en prod ? et à la fin arriver à quelque chose de robuste qui est validé aussi. C'était assez intéressant parce qu'il y avait ce côté... Il y a des méthodes qui pouvaient marcher, mais ça aurait été trop cher et ça aurait été impossible de le mettre en prod dans un laboratoire. Et en même temps, les choses de la prod qui font que ça tourne des fois pas bien, il faut réussir... C'est vrai que c'est des parallèles que je ne faisais pas forcément sur le moment. Et aujourd'hui, je le fais un peu plus et je pense que c'est... C'est ça que je rapporte aujourd'hui dans mon rapport aux données et comment construire des systèmes informatiques. Parce qu'en soi, ça reste des systèmes qui interagissent, on met des choses en entrée, il y a des choses qui doivent arriver en sortie, qu'est-ce qu'on fait au milieu ? Ça arrive comme on veut. Et sinon, après mes études, je bosse encore dans l'environnement, donc chargée d'affaires. Donc là, le but, c'est pareil, c'est d'aller... autour des grosses boîtes, des grosses industries et voir s'ils respectent les limites réglementaires. Et après, on est toujours dans la même logique, c'est qu'est-ce qu'on va mettre en place pour récupérer la bonne information ? Alors ici, c'est des molécules. Et après, qu'est-ce qu'on fait pour pouvoir les analyser, pouvoir les comparer ? Donc à chaque fois, c'est avec aussi des méthodes qui sont standardisées. Et à chaque fois, c'est les contraintes terrain, les contraintes métier et TSA.

• Manu

  Donc tu évolues dans les systèmes, les process métiers et le traitement de l'information de différentes manières depuis le début. Ce qui t'avait aussi amené à mettre les mains dans les outils No-Code à un moment.

• Lulu

  Ouais, après je suis tombée un peu par hasard. J'ai toujours été la personne tech de la famille à qui on demande quand l'ordi ne marche pas ou que la boxe ne marche pas. C'était moi.

• Manu

  La référence informatique. Et justement, ce que j'aimerais savoir, c'est si vous voulez en savoir plus un petit peu après sur les outils No-Code qu'on a utilisés, que Lulu a utilisés, et on en a parlé longuement dans les premiers épisodes, dans les premiers Côté outils de notre saison 1. On invite à aller les écouter. On parle de Notion et d'autres outils. Là, ce que j'aimerais bien, j'aimerais bien qu'on revienne sur un point d'ailleurs qu'on avait... même dans le podcast, je ne crois pas qu'on ait vraiment abordé, c'est à quel moment tu as commencé à mettre les mains dans l'IA et quels ont été justement tes premiers usages ?

• Lulu

  J'essaye. Alors, c'est arrivé, bon, déjà il y a eu toute la partie où même quand j'étais en master, donc c'était en alternance, et j'ai eu la chance d'avoir un maître d'apprentissage qui était à fond dans tout ce qui était script et TSA. Donc pareil, pour essayer d'automatiser, on avait pas mal de macro VBA aussi dans le labo. Ce n'était pas l'idéal, mais ça permettait d'automatiser des choses qui étaient quand même très très complexes. Et ça, c'est quelque chose qui m'intéressait de fou. Mais j'ai toujours eu l'impression qu'il fallait être développeur pour réussir à faire ça. Et j'ai essayé d'apprendre à coder. J'ai fait des petits scripts, de la visualisation, notamment de tout ce qui est nucléotide en biologie et tout. Donc ça, c'était cool. Mais après, je me suis toujours un peu intéressée à vous. Comment est-ce que je peux construire des choses ? Sauf que la marche me paraissait très élevée pour réussir à commencer à faire des choses qui allaient me servir au quotidien. Et après, comme tout le monde, à un moment, il y a Chad Jekete qui est arrivé. Et SaaS quand même pas mal de bruit. Et je pense qu'il y a eu un peu la gamine que j'étais qui a été émerveillée. Enfin, de se dire, ah, on en est là, peut-être. Quelque chose que j'imaginais impossible, enfin. Et il y a eu des petits tests. C'était quoi ? C'était en 2022, je crois, à peu près.

• Manu

  Oui, c'est ça, fin 2022, vers octobre, novembre, tout le genre.

• Lulu

  Oui, j'avais commencé à tester un petit peu et puis c'était bien. Ce n'était pas encore parfait. On voyait assez vite les limites. Mais assez vite, je me suis demandé comment ça pourrait me servir dans mon travail, par exemple. De me dire, enfin, mon travail ou sur des tâches répétitives, par exemple. Me dire, tiens, j'ai cette donnée en entrée. Qu'est-ce qu'il faudrait que je fasse pour arriver à ce résultat-là sans que moi j'ai à faire toutes les étapes à la main, par exemple ? Et c'était le cas avec pas mal de tableurs Excel où on faisait pas mal de choses à la main. Et je me souviens avoir essayé juste, je crois qu'on pouvait déjà joindre des fichiers dedans. Et j'avais dit, tiens ça c'est le fichier où il n'y a rien qui est process. Là je te mets l'autre. où j'ai fait tout le taf dedans. Vas-y, trouve le truc au milieu pour réussir à faire entre les deux. Ça n'a pas marché. Bon, on ne peut pas encore automatiser quelque chose qu'on ne sait pas faire nous-mêmes. Ça ne marche pas. Et encore aujourd'hui, ça me paraît encore assez complexe. On ne peut pas deviner toutes les étapes qui entrent. Et au final...

• Manu

  Il peut en trouver, mais justement, il va... Il va coller des morceaux standards et généralistes par rapport à ce que les déluctions que lui ont fait qui pourront être très éloignées de ta réalité à toi.

• Lulu

  C'est ça, de se dire, tiens, il y a telle information qui a changé entre les deux fichiers, je vais presque faire une règle en dur qui se passait comme ça et pas forcément en multi-étapes. Et du coup, je me suis demandé, comment est-ce que je peux automatiser ? Alors, je savais que je pouvais produire du code, enfin du VBA, quoi. pour automatiser dedans. Donc, je me souviens, j'avais commencé à dire « Alors, on ne va pas tout, on ne va pas rédiger tout le code d'un coup. Je vais, dans la discussion, décrire étape par étape, et puis on va rajouter à force les étapes. Et à chaque fois, moi, je teste entre les étapes pour voir si ça fonctionne ou pas. » Et j'avançais petit à petit comme ça. Et c'est là que je me suis dit « Ah ouais, donc en fait, si ça, je ne savais pas le faire à la main, ça aurait été impossible. » Et ça m'a tellement demandé de me questionner sur comment je le faisais et de le formaliser. J'avais trouvé le travail trop, trop cool. Et puis après, quand on appuie sur le bouton et que tous les trucs qu'on faisait à la main, ils sont tout seuls, c'était... Enfin, je me suis dit, ah ouais, ça y est, je crois que j'ai des super pouvoirs. Et après, t'arrives, ton script, il est trop lourd et machin. Et tu te dis, bon, maintenant, est-ce que tu pourrais essayer de l'optimiser un peu ? Parce que bon, ça dure quand même 10 minutes. C'est un peu... Ça me paraît long. Et ça s'était fait. C'est là où j'ai commencé à me dire, ah, il y a peut-être un truc. Et justement, c'est là que j'ai commencé à écouter beaucoup de podcasts sur parties automatisation et TSA. Et je suis tombée sur le No-Code. Donc, j'ai commencé par l'IA et après, je suis arrivée dans le No-Code, comme ça. Les interviews, contournements. Et puis, après, j'étais tombée dedans. J'étais en mode, oh, waouh, je peux faire de la programmation visuelle. genre j'ai ouais je vois comment faire un logiciel mais moi je voulais pas faire écrire du code pour afficher ça là je peux directement le faire et le voir et depuis t'as découvert aussi les jeux de la programmation assistée par IA et la programmation conversationnelle et même chose là du coup on vous renvoie à nos épisodes de juin,

• Manu

  juillet ou des trucs comme ça, où on parle des outils qu'on a fait nous pour réaliser le podcast et où on a eu de nous. On partage notamment les outils qui sont faits pour créer les visuels qu'on a sur le podcast. Que ce soit ce que vous avez sur les diffusions, quand vous allez nous écouter. sur YouTube, sur une plateforme d'écoute, quelle qu'elle soit. Et les visuels qu'on partage aussi sur les posts LinkedIn sont réalisés par Lulu avec l'outil qu'elle s'est fait elle-même, sur le graphique et tout. On ne va pas s'étaler trop longtemps sur ces usages-là maintenant parce que ça pourrait reprendre pas mal de temps.

• Lulu

  Mais c'est vrai que le fil rouge qui est un peu là-dedans, c'est quand même ce côté Ok, je vois les choses en système. Comment est-ce que je fais pour faire en sorte de trouver un bon compromis entre, ok, c'est qualitatif ce que ça me sort et en même temps, ça peut quand même être utilisé au quotidien, ça reste accessible parce qu'il y a des contraintes de coût. Et comment est-ce que je peux optimiser ça ? Moi, c'est vraiment quelque chose qui me... Ouais, je pense que c'est ça qui m'intéresse, en fait, que ce soit de comprendre comment une bactérie fonctionne, comment les... en système de matériaux, interagit, comment est-ce que un logiciel fonctionne et comment est-ce qu'on le découpe en plusieurs petites parties, comment est-ce que l'information va circuler entre, et surtout comment est-ce qu'on peut apporter un regard extérieur et se dire « ouais mais ça, est-ce qu'on ne peut pas le faire comme ça finalement ? » et puis d'innover en fait comme ça. Et aussi le côté... forcément ce côté optimisation, c'est aussi dans l'idée d'avoir le moins d'impact possible, parce qu'il y a quand même ce côté, cette conscience écologique, environnementale qui joue, parce que moi je voulais absolument bosser dans l'environnement en sortant de mes études, et ça va toucher à des choses qui sont tellement larges, et je suis tellement aussi dans ma dissonance cognitive entre être fascinée par ce que la tech permet de faire, et les impacts qu'elle a. Et je me dis, mais comment est-ce que je peux essayer de concilier un peu les deux et pas juste utiliser la tech telle qu'on nous la vend et qu'est-ce que je peux apporter moi avec ma sensibilité, mes connaissances pour essayer de l'utiliser de manière plus responsable et avec moins d'impact. Et on est encore dans l'optimisation de système et puis je trouve ça très stimulant intellectuellement aussi.

• Manu

  Et justement, c'est l'occasion de... Pardon. d'aborder maintenant le sujet de la conférence que tu as animée au Forum PHP, puisqu'elle va exactement dans la lignée de ce que tu viens d'expliquer. Tu vas y défendre IA frugale et même, je crois que le titre de ta conférence c'est la meilleure IA et celle qu'on n'utilise pas, quelque chose dans ce bout-là, pour que toutes celles et ceux qui nous écoutent comprennent bien de quoi on parle et en quoi ce que tu viens de dire fait complètement sens. Est-ce que tu peux nous expliquer je trouve que IA frugale et justement nous dire pourquoi tu as choisi d'aller là-dessus.

• Lulu

  En fait, IA frugale, c'est d'utiliser l'IA de manière responsable dans le sens où on va l'utiliser si elle apporte une réelle si elle est vraiment utile, si elle apporte une valeur et d'avoir un peu en tête ce rapport bénéfice-risque que ce soit en termes d'impact de... sociale, d'impact écologique. Ce que ça reste, on peut facilement dire, oui, mais c'est juste un outil de plus, c'est un outil comme un autre. J'ai tenu ce discours aussi, en disant, bah oui, mais de toute façon, c'est juste un outil comme un autre, donc on doit le comparer à ceux qu'on a déjà, sauf que cet outil a des impacts qui sont énormes sur nos sociétés, on en fait aussi les frais, et que c'est pas un outil qui est neutre. Et on doit intégrer les impacts qu'il y a autour de cet outil. Si on veut le mettre en place dans des process, si on veut le mettre en place dans son entreprise ou l'utiliser même à titre personnel et de savoir ce que ça implique derrière. Que ce n'est pas juste... Ça va bien au-delà des outils traditionnels qu'on a pu connaître et que là, on est quand même un tournant qui est sans précédent. En fait, IA frugale, ce n'est pas juste utiliser et consommer moins de tokens, c'est vraiment se poser la question déjà de revenir aux besoins, et plutôt que de se dire, tiens, j'ai envie de mettre de l'IA, comment est-ce que j'adapte mon besoin à l'IA ? Et plutôt de se demander, ok, c'est quoi mon besoin ? Comment est-ce que je peux l'atteindre de la meilleure manière possible, qu'il soit sobre ? Sûr qu'on parle souvent de sobriété énergétique et tout, et de se dire, ah bah oui, mais c'est une perte de confort. En général, on gagne de l'argent, enfin, ou en tout cas, financièrement, on s'y retrouve. On est souvent sur des systèmes qui sont plus simples parce qu'on a bien pris le temps de définir le besoin, ce qu'on en attendait. Et pour moi, l'IA, c'est un peu une réponse « facile » pour ne pas passer trop de temps à définir les besoins et de se dire « Ok, toutes les petites décisions que j'aurais dû prendre en amont pour bien le spécifier, c'est l'IA qui les fera et puis moi j'ai mon résultat et ça me convient. » Je ne dis pas qu'il ne faut pas l'utiliser, mais même au vu... de l'économie, de l'évolution ultra rapide, on ne devrait pas reposer uniquement sur ces systèmes, parce qu'en plus on serait dépendant souvent d'un seul fournisseur qui est américain. En fait, ça vient englober plein de choses.

• Manu

  Avant d'aller aussi loin, je veux bien que tu fasses un mini résumé, parce que tu disais justement que ce n'est pas un outil comme un autre, et que même en termes de coûts et d'impact derrière, c'est beaucoup plus conséquent. que l'informatique classique, en tout cas ce qu'on a l'habitude d'utiliser en termes de logiciels ou d'automatisation. Est-ce que tu peux nous résumer assez rapidement ce qui se joue derrière quand on utilise de l'IA d'un point de vue environnemental ?

• Lulu

  On peut assez rapidement penser que c'est un peu comme le cloud. Même l'image du cloud, c'est dans les nuages. Sauf que derrière une utilisation de l'IA, il y a des infrastructures qui sont bien réelles, Hiiiiim. qui sont très énergivores. Et pour l'instant, ce n'est pas avec de l'énergie verte qu'on fait tourner les data centers. Bien au contraire, on peut voir même ces colossus de Make où on crame juste de l'énergie fossile pour faire tourner les data centers. Il faut une grosse puissance de calcul derrière pour pouvoir utiliser l'IA. En gros, quand on écrit un message, derrière, ça va aller vers ces data centers, ça va être processé, on va calculer les tokens et la sortie pour que ça revienne. Et à chaque fois, les calculs sont refaits. Ce ne sont pas des réponses préenregistrées qui sont stockées dans un coin. C'est à chaque demande, même si c'est la même demande, les calculs vont être refaits. Et plus les modèles sont gros, et c'est ce vers quoi on va, plus ça consomme. Après, il ne faut pas non plus remettre toute la vôtre sur les individus. Il y a une grosse partie des consommations des data centers qui sont utilisées pour le ciblage publicitaire. En gros, c'est des puissances de calcul.

• Manu

  Je vais tenter un petit récap résumé. Parce qu'il y a tous les matériaux aussi pour construire ces data centers.

• Lulu

  Il y a tout l'entraînement des modèles. Quand je demandais le résumé,

• Manu

  c'était vraiment là. La petite version condensée des différentes choses qui se jouent, je vais tenter de la faire. Si vous avez déjà écouté nos anciens épisodes, vous êtes un peu dans la tech, normalement ça vous a parlé. Mais si vous nous découvrez avec ces épisodes, ou en tout cas depuis pas longtemps, c'est peut-être un peu obscur ce que vient d'évoquer Lulu.

• Lulu

  Surtout que dans ma présentation, j'aurais pu dire que je n'arrive pas à dire les choses de manière simple. Je me fais de l'orgueil.

• Manu

  En gros, quand vous allez utiliser l'IA, avec vous. poser une question ou justement vous répondez à votre chat GPT ou votre cloud ou votre assistant IA classique. Ce qui se passe, c'est qu'en fait, derrière votre information, elle va partir sous forme, comme l'a dit Lulu, de token. Ça veut dire que quand vous échangez avec l'IA, vous parlez en token, donc en jeton, vous parlez en syllabe, en fait, en extrait, enfin en extrait de mot. Et donc, ces fameux tokens, donc, partent vers un data center. Un data center, pour vous le représenter, c'est ni plus ni moins qu'un espèce de gros bâtiment industriel dans lequel on va stocker des serveurs, des ordinateurs qui sont là pour faire tourner les différents calculs et recevoir les échanges d'informations. Ce que vous envoyez est retourné à la réponse. Un data center, pour qu'il tourne, il va avoir besoin de composants. Dans l'IA, ce qui se joue énormément, c'est ce qu'on appelle les cartes graphiques. cargographiques qui en gros vont être un peu le moteur de calcul qui permet il y a deux facettes à lire, qui va permettre déjà l'entraînement en amont, l'apprentissage qui se fait sur plusieurs mois et après une fois que le modèle il est disponible et que vous l'utilisez qui va faire le calcul en temps réel donc chaque fois que vous allez poser une question en fait ces fameuses cargographiques elles vont tourner et ça monte en température donc derrière vous allez devoir les refroidir avec des systèmes de refroidissement à basto et ces cargographiques en elles-mêmes ont déjà des coûts parce qu'elles impliquent justement différentes choses qui sont des métaux rares, différentes pièces qui sont et fossiles et pas que. Et bon, il y a aussi des implications sur la pollution de l'eau, des implications sur la fabrication qui ne se fait aujourd'hui que dans certains états. du monde.

• Lulu

  La transition des sols aussi, la qualité de l'air, il y a beaucoup de choses.

• Manu

  Je sais, j'avais perdu.

• Lulu

  Ce n'est pas juste une augmentation des émissions carbone. Ce n'est pas juste ça contribue au réchauffement climatique. Il y a énormément d'autres limites planétaires qu'on continue de bien atteindre, enfin bien essayer d'atteindre vu comment on y va bien.

• Manu

  En gros, pour fabriquer les pièces qui font tourner l'IA, les pommes muscadographiques, il y a les enjeux qu'on vient de dire. Elles génèrent de la chaleur, donc ça va nécessiter de l'eau après pour aller refroidir justement les datacenters. Et à côté de ça, les datacenters, pour qu'ils puissent tourner, ils ont aussi besoin d'électricité. Et donc là, il n'y a pas de miracle. Soit il y a une centrale qui va de lente, soit il va falloir en construire une pour faire tourner. Et l'exemple que Lulu citait tout à l'heure de Colossus 1, qui est un datacenter qui a été monté, pour simplifier, mais qui a été monté un peu à l'arrache par Elon Musk en détournant à moitié les lois et en les violant à moitié. et qui l'alimentent. Je pense que c'est encore le cas, je n'ai pas été vérifié, mais pendant un moment, justement, il les alimentait avec des camions et des tchambines à gaz. L'idée étant de déjouer un petit peu les législations et aussi d'alimenter très rapidement, ce qui va permettre de faire tourner une certaine partie de l'infrastructure. Et après, de fait, en fonction de là où les data centers vont être implantés, vous allez avoir la partie énergétique. côté ELEC qui sera plus ou moins verte. Vous allez avoir la partie qui concerne l'eau qui sera plus ou moins bonne selon si la région est bien alimentée ou pas. Ce qui va avoir un impact direct sur la population locale puisque typiquement, c'est ce qui s'est passé aux Etats-Unis. Aux Etats-Unis, il y a énormément de gens qui se soulèvent depuis des mois contre ça et plusieurs Etats qui sont en train de mettre des vétos pour stopper la construction de data centers puisqu'en fait, ça tape dans l'eau, ça tape dans l'ELEC, les factures explosent. Et en plus, ça génère aussi d'autres pollutions sonores et d'autres problématiques. Voilà.

• Lulu

  Tout ce qui est particules fines. Et puis, le truc, c'est que c'est pas... On va juste produire plus d'électricité. On va aller chercher plus d'eau pour que ces systèmes puissent fonctionner. C'est que ça rentre en compétition avec des besoins qui existent déjà. Et on va potentiellement privilégier... Ce qui rapporte de l'argent au détriment de l'agriculture, au détriment d'accès à de l'eau potable, de l'électricité. C'est ce qui s'est passé à Taïwan, je crois, l'année dernière, où justement ils produisent une grande partie des composants nécessaires au fonctionnement. Enfin, pas que de l'IA, mais voilà. Où justement, il y avait des pénuries en eau. On a préféré continuer à faire tourner les usines de production. Et ce qui restait, c'était pour l'agriculture. Mais économiquement, il y a ça qui a été privilégié. Donc, il suffit juste de faire plus d'électricité. Il faut quand même se dire aussi qu'une grosse majorité des data centers sont aux États-Unis. Et eux, leur mix énergétique est surtout à partir d'énergies fossiles. On ne peut pas non plus juste se dire, dans ce cas-là, on en construit en France. Et on va... alimentés avec nos centrales nucléaires qui sont plutôt une énergie propre. Sauf qu'en fait, aujourd'hui, ce qu'on produit en électricité ne serait clairement pas suffisant pour répondre aux besoins de consommation d'IA de la population française. Si vraiment on essayait de ramener toute la consommation en France, on ne produit pas assez d'électricité. Donc c'est... Bye. Qu'est-ce qu'on coupe ? Qu'est-ce qu'on privilégie ? L'eau potable, est-ce qu'on en laisse plutôt ? Est-ce qu'on va essayer de vider les nappes phréatiques qui sont déjà bien mises à mal par les sécheresses ? Et ça, là on parle, c'est de l'impact direct. Mais après, il y a tous les impacts indirects liés à l'IA. On se dit, ah bah tiens, ça va nous permettre de faire des gains de productivité. Donc, on pourrait se dire que ça va... permettre de travailler moins et TSA, sauf qu'on se rend compte qu'on produit juste plus et ça augmente d'autant plus les systèmes qui sont déjà en place. Et par exemple, dans les dernières news, c'est le partenariat entre Total et Mistral, dont le but va être d'optimiser l'extraction de pétrole et de gaz. qui serviront peut-être à alimenter les data centers, donc comme ça, la boucle est bouclée, mais c'est là où, justement, en fait, il y a vraiment ce côté amplification.

• Manu

  de tout ce qui existe déjà. Donc, on va même extraire plus d'énergie fossile qu'on n'aurait pas forcément extrait de base parce que ça aurait coûté peut-être trop cher en termes de recherche, qui vont venir alimenter les systèmes autour et engendrer plus de problèmes sur l'environnement, sur toutes les sociétés aussi.

• Lulu

  Et j'en profite juste pour un autre effet de bord qui est lié. C'est que du coup, ça a généré une crise au niveau de l'infrastructure. parce qu'en fait, notamment la mémoire vive qui est utilisée dans les cartes graphiques dont on parlait avant, elle est utilisée dans... enfin, c'est pas exactement la même, mais en gros pour produire la mémoire vive qui est utilisée dans les cartes graphiques dédiées au datacenter IA, on a détourné des lignes de production de ce qui était utilisé pour le grand public et d'autres types d'industries. Et ce qui fait qu'aujourd'hui, en fait, on a vu déjà cette année disparaître énormément de produits de type téléphone d'entrée de gamme. ordinateurs entrée de gamme. Les autres composants avec de l'électronique en coûtent plus cher. Vous allez avoir ça dans d'autres matériels à côté. Vous pouvez avoir aussi des abonnements, des choses comme ça qui sont liées à des boîtes et des éditeurs qui font tourner leurs services sur des infrastructures et des serveurs qui, eux aussi, du coup, sont impactés et se retrouvent Zapier plus cher pour certaines pièces qui sont nécessaires à faire tourner les serveurs. Notamment la fameuse mémoire vive, mais aussi le stockage. Et après, la guerre en Iran a rajouté aussi d'autres pénuries.

• Manu

  Les augmentations des prix de l'énergie aussi. Donc ça, c'est aussi des impacts.

• Lulu

  Voilà. Mais en tout cas, la crise de l'infrastructure est née directement de la course à l'IA. Et la bouleverse a marché pour un moment. Ce n'est pas prêt de s'arranger. Et ça, ça nous impacte déjà.

• Manu

  Et c'est ça qu'on utilise ou pas l'IA. On est impacté aujourd'hui au quotidien. que ce soit aussi sur les changements structurels, les changements sur le marché de l'emploi, les changements, les impacts sur la démocratie, sur tout ce qui est en train de se passer. Donc c'est un peu sortir de juste l'outil et de se dire, ah bah oui, c'est un outil comme un autre. Non, non, en fait, il faut qu'on puisse s'y intéresser et que ça devienne un enjeu de société et c'est un sujet politique aussi, au même titre que d'autres enjeux. Parce qu'il y a encore quand même, même au sein des communautés de développeurs et développeuses, un peu cette scission entre j'y vais à fond, parce que sinon je vais me faire remplacer, et des personnes qui choisissent de ne pas l'utiliser ou de la boycotter. Et il y a encore quand même beaucoup de développeurs qui ne l'utilisent pas, même des boîtes qui ne l'ont pas mis en place. Et même si on choisit de ne pas l'utiliser, le métier de développeur et de développeuse va être impacté. Donc il faut s'y intéresser, même si on choisit de ne pas l'utiliser. Et même Monsieur Tout-le-Monde, Madame Tout-le-Monde est déjà impactée aussi, que ce soit sur le prix, même le crash économique peut-être qui ne va pas tarder à arriver. C'est se rendre compte de ça et que ce n'est pas un outil comme un autre. C'est surtout ça que j'ai envie d'aider à faire ressortir. Et que c'est sans précédent, parce que c'est quand même une technologie. qu'il y a une adoption quand même qui est sans précédent. C'est des choses qu'on n'a jamais vues depuis le début de la tech. Et justement, il y a aussi tout le côté effet rebond, ça on en parle aussi dans les autres épisodes, où plus une technologie devient accessible et coûte moins cher, on pourrait se dire c'est cool, ça va faire diminuer les émissions et les impacts, sauf qu'on se met juste à s'en servir plus.

• Lulu

  Et bon, du coup, on a bien compris en quoi c'était un outil qui était différent et qui... qui portait des charges qui sont beaucoup plus lourdes et conséquentes. Le concept de IA frugale, c'est d'aller penser plus intelligemment son utilisation de l'IA.

• Manu

  Ou sa non-utilisation.

• Lulu

  Ou sa non-utilisation. Mais voilà, en tout cas, le fait de se poser les questions, comme je disais, sur la partie process, de se dire, pour faire ce dont j'ai besoin de faire aujourd'hui dans ma boîte, je dois passer par tant d'étapes, avant d'aller essayer de déléguer le plus d'étapes possibles à l'arrache. justement à une IA générative. Ce que j'ai dit, du coup, c'est qu'il faut d'abord réfléchir à ce process-là. Déjà réfléchir à son besoin aussi,

• Manu

  de se dire... En fait, la différence entre frugalité et efficience, on en parlait vite fait, mais dans l'épisode, on en parle plus longuement, mais c'est en gros, efficience, on va garder la même qualité et on va chercher à optimiser les coûts à l'intérieur, alors que la frugalité, c'est de se demander c'est quoi mon résultat qui est suffisant ? Et c'est quoi mon besoin ? Et d'essayer de faire plus avec moins. On essaye de prendre le minimum de ressources et d'en tirer le maximum. tout en se disant, ok, qu'est-ce qui est suffisant ? Plutôt que d'aller chercher tout de suite le maximum, mais à un moment, il faut aussi décider de ce qui est suffisant. Et pas juste par défaut de se dire, qui peut le plus, peut le moins. On va tout de suite taper le plus haut et au détriment de la connaissance de ces process, de se demander qu'est-ce qui est vraiment utile, qu'est-ce qui est vraiment nécessaire.

• Lulu

  Et on va avoir deux questions. quels sont un peu les sans entrer forcément dans le détail mais en tout cas les grandes lignes de ce qu'on peut mettre en place comme approche quand on veut faire de IA frugale et l'autre question de père c'est de savoir un peu par rapport à l'épisode qu'on avait tourné du coup il y a quelques mois est-ce qu'il y a des choses qui ont bougé sur ces pratiques là aussi ou sur ces approches là dans les différentes pistes là que tu peux évoquer donc c'est un peu une marche à suivre de ce qu'on peut demander pour mettre Donc...

• Manu

  pour réfléchir avant de partir sur du tout LLM. Ben, ça, c'est... On en a pas mal parlé, même dans les Côté outils, c'est juste de revenir au papier-crayon et de définir son problème avant de tout de suite se lancer dans la mise en place de la solution ou de vraiment se concentrer sur le problème de son besoin,

• Lulu

  de voir si quelque chose... Je veux reformuler ma question. On part du principe que la boîte a déjà posé son process sur papier, qu'elle y a réfléchi, qu'elle...

• Manu

  Hum hum.

• Lulu

  Ok, elle sait ce qu'elle veut, elle sait quels sont ses besoins. Du coup, quelles sont les étapes avant d'arriver au LLM qui fait tout ?

• Manu

  Déjà, c'est de voir s'il y a une solution qui existe ou pas. Donc, plutôt que de reconstruire quelque chose et de voir si on peut l'adapter ou pas. Sinon, après, c'est... Est-ce que des solutions plus traditionnelles de... Juste de se demander comment est-ce qu'on faisait avant qu'il y ait l'IA. Ça peut passer par des scripts, ça peut passer par... Par exemple, du No-Code aussi, on peut mettre en place ce genre de solution. Après, c'est aussi comment est-ce qu'on veut présenter la donnée, parce qu'on peut être tenté de mettre du chatbot un peu à tout va, parce que c'est facile à mettre en place et on interroge nos données comme ça, mais on peut aussi se dire comment est-ce que je peux mettre en place un dashboard qui est pertinent et où je vais avoir directement la donnée que je veux et que je n'ai pas à la demander tous les matins. Après, il y a aussi, c'est vrai qu'on parle d'IA, mais il y a d'autres types d'IA. Ça, on en avait aussi parlé de tout ce qui était intelligence artificielle symbolique, qui consomme beaucoup moins et qui est beaucoup plus efficace pour aller trier, par exemple, des objets, des mails, et que les LLM n'étaient pas des plus pertinents pour ça. Parce qu'en plus, il faut se dire que... On peut vouloir mettre du LLM en se disant que ça va être plus efficace, mais souvent, ce n'est pas ce qui est le plus efficace et qui va produire les meilleurs résultats, toujours les mêmes aussi. Surtout qu'on va être dépendant d'un modèle. Qu'est-ce qui se passe si à un moment, le modèle n'est plus distribué ? Est-ce qu'il faudra refaire tous les tests avec un nouveau ? Et sinon aussi, avant d'arriver au LLM, donc le gros modèle, on peut faire des tentatives avec des plus petits modèles. Et encore une fois, c'est une fois qu'on a bien découpé nos process, et autant l'IA. le petit modèle, il va arriver que dans un bloc de notre petit process, parce qu'on n'aura pas réussi à faire autrement. Et justement, un peu la philosophie de la frugalité, enfin, IA frugale, c'est de se dire, je dois pouvoir prouver que je ne peux pas faire autrement qu'avec deux liens. Et plutôt que de le voir comme une contrainte, ça peut, en termes d'ingénierie, c'est peut-être là où on va faire sortir l'innovation aussi. De se dire, comment je peux réfléchir à ça ? Comment est-ce que... Je peux mettre en place telle ou telle solution plutôt que d'aller sur du simple. Et là, tout de suite, on arrive sur des systèmes qui sont plus résilients et qui vont plus tenir le coup face aux changements qui peuvent avoir lieu dans une entreprise. Et là, on commence à avoir pas mal de petits modèles qui tournent bien. Alors, local, ça, c'est une des choses peut-être qui a changé par rapport aux épisodes précédents où on disait, on va aller sur du local et TSA, mais on se rend compte que c'est peut-être... pas la bonne réponse à tout et que ça consomme quand même de l'électricité. Alors bon, peut-être que si on arrive à détourner et que finalement on consomme une électricité qui est renouvelable en France, mais c'est pas forcément moins cher et ça fatigue plus vite les composants. Et le problème, c'est que c'est aussi quelque chose qui a un gros impact parce qu'on a à peu près les mêmes composants dans nos ordinateurs et quelque chose qui... qui permet de rester sobre, c'est d'essayer de garder ces produits électroniques le plus longtemps possible. Et le problème, c'est que de faire tourner l'IA beaucoup, beaucoup, beaucoup, ça fatigue beaucoup plus vite les composants aussi.

• Lulu

  Et d'ailleurs, un petit complément sur la partie locale, c'est qu'il y a aussi tout simplement le... l'amortissement de l'investissement qu'on peut être amené à faire. Parce que soit on a déjà du matériel assez puissant pour faire tourner des petits modèles qui répondent à des besoins, et auquel cas, on en revient à ce qu'on utilisait avant, ça ne sert à rien de les faire tourner en permanence, juste les utiliser au moment où on en a besoin. Parce que sinon, c'est du matériel comme la partie graphique et tout, va tourner à plein régime en permanence, va consommer de l'énergie en permanence. et c'est un lieu de la chauffe, de l'usure et tout ce que tu as évoqué mais il y a aussi le fait de se dire ouais mais en fait c'est super si j'achète aujourd'hui un nouvel un nouveau Mac qui sorte et qui coûte un bras te dire ouais mais en fait je vais pouvoir en acheter un 3, 4 ou 10 000 balles et en fait je vais m'y retrouver parce que j'aurai pas Zapier d'abonnement il faut prendre en compte le fait que les cartes graphiques en fait de base et même à l'échelle de l'industrie ça pose d'ailleurs question aujourd'hui au niveau de la La bullia est de la manière dont ils appréhendent de l'infrastructure, mais au mieux, c'est fait pour tourner 5-6 ans. On ne peut pas penser investir dans un ordinateur en se disant que pendant 10 ans, on va être au top et qu'il va être capable de faire tourner très bien les prochaines technologies, les prochains modèles et qu'on va être énormément en date. Il y a un vrai coup sur la production, le fait d'acheter un nouveau matériel. est-ce que ça va vraiment être rentable par rapport au fait de payer justement des serveurs et des choses comme ça qui sont autour et avec tout ce qu'on a dit, enfin tout ce que tu as évoqué sur l'usure du matériel et la consommation électrique parce qu'en fait si on regarde un peu côté IA local effectivement, personnellement j'ai vu un paquet de retours sur le fait de dev, enfin de développeurs qui s'en servaient et qui ont fait le test pendant plus d'un mois et qui ont lâché l'affaire parce que Pour arriver à s'en servir davantage, il faudrait investir dans du matériel qui est hors de prix à cause de la crise d'infrastructure qu'on a soulevée avant. Mais d'un autre côté, ils ont déjà eu leur facture d'électrique qui a explosé, ils ont la chaleur et la consommation et d'autres trucs. Il y en a un, c'était marrant, il a vraiment tiqué quand son onduleur, qui est là pour protéger la partie électrique de sa machine, s'est mis à biber parce qu'il était en surtention en permanence. Et voilà, c'est... Aujourd'hui, l'IA locale a un vrai intérêt dans certains cas, par exemple en termes de confidentialité, parce que c'est ce qui reste mieux. Et elle aura aussi, si vous avez beaucoup de volume à une échelle d'entreprise, ça peut valoir le coup de faire un investissement. Mais pour encore beaucoup de boîtes et beaucoup de personnes, personnellement, je pense qu'il vaut mieux essayer d'aller sur des infrastructures, des serveurs européens et d'autres approches de l'IA pour ne pas forcément être... tributaire des outils propriétaires sans nécessairement investir dans du matériel qui coûte plusieurs milliers d'euros ou alors faites-le pour d'autres raisons complémentaires mais voilà, local et à reutiliser.

• Manu

  Et surtout de se dire, ça bouge tellement vite il y a tellement de recherches aussi qui est faite, qu'est-ce qui dit que ça sera encore les modèles tels qu'on les conçoit aujourd'hui qui seront utilisés dans 3-4 ans ? Parce que là oui, c'est sûr, on a été à fond dans la partie LLM mais on commence à voir d'autres sujets qui peuvent être assez prometteurs, mais en fait ça bouge tellement vite, on ne peut pas se dire je vais acheter du matériel que je vais essayer d'amortir sur une dizaine d'années. C'est aberrant là. Et surtout de se dire, encore une fois c'est de redécouper ces process, c'est de se dire finalement est-ce que là j'ai vraiment besoin d'IA ? Tu ne peux pas utiliser l'IA pour développer une solution sans IA, qui tournera sans IA. Ça, c'est aussi une des possibilités.

• Lulu

  Et j'y pense parce que tu disais avant sur les choses qui avaient bougé depuis notre dernier épisode, il y a aussi notamment Jeff qui est sorti dernièrement. Oui,

• Manu

  c'est ça.

• Lulu

  Il y a des alternatives. Je ne sais pas si tu veux en parler un peu.

• Manu

  Non, tu peux, mais par exemple, c'est sûr qu'on pouvait penser en SLM pour faire ce que Jeff fait, mais je pense que tu arriveras mieux à résumer que moi.

• Lulu

  beaucoup creuser, mais le principe d'un modèle comme JEP, ça va être effectivement de faire de l'IA générative, mais très minimaliste. Donc en gros, c'est l'équivalent de tout petit modèle qu'on peut déjà faire tourner en local, mais qui n'est pas là pour faire des raisonnements, des réponses complexes. Enfin, vous n'allez pas l'aborder comme un chat. Il est là pour qu'on lui donne des règles et il va répondre par oui et non, ou par trier, par exemple, sur trois options possibles. On lui envoie de l'information en quantité restreinte, parce qu'il accepte je ne sais plus combien de... de quantité de token et de mots. Et à partir de ça, en fait, il fait une analyse et si ça matche avec vos critères, il répond un oui ou un non. Et en fait, ça va permettre de faire de la classification, du tri, des choses comme ça. Donc c'est encore très récent, quelques semaines, je crois, quelque chose comme ça. Il y a des alternatives déjà qui sont arrivées OpenAI source, mais ça fait partie des...

• Manu

  Et OpenAI, il y a aussi sorti l'annonce de son équivalent. C'est qu'il y a sûrement un intérêt du Côté outils pour ne pas utiliser de LLM pour faire ce que Jeff ou équivalent fait.

• Lulu

  Aujourd'hui, je pense que dans plein de cas d'entreprise et d'automatisation notamment, on avait des systèmes où on ne pouvait pas mettre du déterminisme puisque le contenu étaient dynamiques et variables, on avait besoin d'analyser de l'information pour savoir si elle correspondait à telle ou telle règle et dans certains cas, en fonction de la donnée qui arrive, ça peut être des choses qu'on va mettre en place à travers des mots-clés, avec des scripts, avec des critères des choses comme ça, mais il y a plein de cas où on a besoin de faire vers ça, entre guillemets, quelque chose qui résonne, et pour lesquels on utilisait des modèles même très simples qui étaient en mesure de lire ça pour dire juste bah oui, ça va dans A ou B et en fait, cette Ausha permet d'aller encore moins cher là-dessus, mais à tous les niveaux. Quand je dis moins cher, c'est en termes de coûts, mais aussi en termes d'énergie, en termes de bande passante, etc. Donc voilà, ça fait partie des petites choses qui se sont rajoutées, qui se rapprochent un peu de l'IA symbolique. Ce n'est pas exactement le même principe, mais l'IA symbolique, il y avait aussi une histoire de se dire qu'on va mettre en place des règles métiers pour que ça soit capable d'analyser et de traiter justement l'information.

• Manu

  C'est là de se dire, je vais baser des investissements sur la techno telle qu'elle est aujourd'hui. Ça me paraît complètement fou. Après, peut-être pour la beauté du geste, ça peut être sympa. Mais là, je ne suis pas sûre que ce soit là le plus intéressant. Parce qu'encore une fois, je veux mettre de l'IA. Et après, j'essaye de faire coller mes besoins. Et maintenant, en plus qu'on a investi, il faut qu'on s'en serve. Et comment est-ce que je fais coller mes besoins ? Et comment est-ce que je trouve de nouveaux besoins pour pouvoir utiliser ce que j'ai investi ? Ou juste une entreprise qui va dire, je veux mettre de l'IA parce que c'est tout ce que le marketing me renvoie, c'est ce qu'on me dit autour de moi, parce que sinon, mon entreprise, elle va couler. Ça ne va pas marcher parce que l'IA vient amplifier le système sur lequel on le met. Eh bien... Un système où ce n'est pas bien défini, ça va juste rajouter du bruit et puis on se retrouve un peu sur les mêmes problématiques qu'on a eu quand on a commencé à pouvoir stocker beaucoup de données. On s'est juste dit, on stocke, mais qu'est-ce qu'on en fait derrière ? Là, en plus, on va rajouter de la donnée où il y a potentiellement de l'hallucination et qui n'est plus du tout fiable. Ça va être compliqué de nettoyer TSA. Enfin là, c'est un peu aussi... Il y a une des expressions que j'avais bien aimée pour parler de... de l'IA, c'était surtout sur la pollution au niveau du web, mais on peut l'appliquer aussi à des données entreprises. On a vu cette techno, on y va peut-être baisser sans réfléchir aux impacts, et c'est un peu le parallèle avec l'amiante, d'en parler, l'amiante numérique, c'est sûr que quand on a découvert l'amiante, c'est trop bien, c'est unifuge. On peut faire plein de trucs avec l'amiante, le matériau, écoute. pas cher, en termes de propriété, c'est un truc, c'est presque alien, quoi. Ouais, on en met partout. C'est... Ouais, c'est bien. Ça isole, ça peut pas cramer, trop cool. Après, on se rend compte que mince, ça provoque des cancers. Donc, ouais, pour tout nettoyer, après, c'est impossible. Et là, de distinguer là où il y a de l'IAD, où il y en a pas, et que... Dans le web, il y a tellement eu d'imbrications. Je pense que même une entreprise qui a mis en place de l'IA sans forcément faire gaffe et qui accumule juste de la donnée, le jour où elle va vouloir nettoyer, ça va être colossal comme chantier.

• Lulu

  Et puis, comme tu le dis, ce ne sera même pas forcément possible techniquement. On le voit déjà avec la polémique qu'il y a en ce moment sur l'outil Pangram qui permet d'analyser Siam. texte est rédigé ou pas par de l'IA. Et je ne sais plus le nom de l'écrivain qui s'est fait épingler sur son livre qui serait rédigé 100% par IA. Bref, ça a soulevé plein de débats et là, ce n'est pas l'objet de discuter. Mais c'est qu'en fait, même ces outils de détection-là ne sont pas en mesure de le faire. Et de toute façon, on est déjà dans un cas où la majorité des textes qui passent ne sont pas nécessairement entièrement rédigés par IA, mais au moins assistés. et à des degrés différents. Ça peut être juste corriger des fautes, ça peut être reformuler des passages, ça peut être reprendre l'intégralité, ça peut être aussi juste 100% IA parce que la personne n'a pas réfléchi avant et n'a pas eu envie de batailler. Et en fait, c'est la position... Ça peut être aussi nous,

• Manu

  notre langage qui évolue parce qu'on ne voit plus que des textes générés par IA, donc on commence à prendre ces tics de langage-là et... Moi, je le remarque quand je parle. C'est tellement exposé, ça s'uniformise tellement. On a tendance aussi à reproduire ces schémas-là. Est-ce que du coup, c'est de l'IA ? Mais voilà, c'est là où c'est tellement imbriqué. On ne peut même plus vraiment dire si c'en est, si c'en n'est pas. Ce n'est pas oui, non.

• Lulu

  Ce qui fait que le travail qui est fait aujourd'hui déjà dans les entreprises ou dès lors qu'on va générer du contenu tout partiel. pour l'intégrer à différents endroits de sa boîte, on ne pourra juste pas identifier ce qui est en corps. Enfin, sans relecture humaine attentive de chaque élément. Donc oui, potentiellement, on pourrait dépolluer comme ça. Mais arrivé à un certain niveau, ça ne devient plus possible parce que tu te retrouves avec des personnes dans la boîte, à part des gens qui sont seniors parce qu'elles ont le regard expert. Et ça, vraiment, sur chaque sujet, ce qu'il en est des différentes étapes. Mais il y a énormément de gens qui ne seront pas en mesure, et puis même en étant enseigneur, juste de rater des détails, de rater des passages, parce qu'il faut être attentif à tout. Et que...

• Manu

  Et puis la quantité de données produites, possible. À un moment, c'est juste impossible. Et si on voulait vraiment tout contrôler, ça coûterait trop cher, tout simplement. Donc on laisse passer. Et c'est de se demander, OK, peut-être qu'une solution IA, enfin surtout LLM, elle va pouvoir répondre aux besoins, Qu'est-ce qui dit que dans six mois, tiens, petite erreur accumulée, puis encore une autre, et puis encore une autre, jusqu'à ce que ça soit visible, parce que ça peut être des erreurs financières. Enfin voilà, comme on en a déjà parlé même dans le développement assisté par IA, comment est-ce qu'on fait pour nettoyer ça ? Et surtout si c'est quelque chose qui est en production et qui impacte et qui va faire perdre de l'argent, de la valeur auprès des utilisateurs ou de ses clients, je pense que le rapport bénéfice-risque... Il n'est pas très bon et ça reste dangereux de se baser là-dessus. Et surtout si on le met dans des process de sa boîte qui sont critiques et qui génèrent peut-être la majorité des revenus ou sur son principal produit, de se dire que peut-être dans six mois, il y a plein de choses qu'on aura laissé passer et qu'il va falloir, dans l'urgence, mettre en place autre chose, nettoyer, rattraper tout ce qui s'est passé. Par contre... l'IA peut être assez intéressante pour prototyper rapidement et aider à mieux définir le besoin avant de partir sur autre chose. Et là, on peut arriver sur quelque chose de plus robuste. Et après, dans tous les cas, il faut quand même se dire qu'on ne peut pas non plus dépendre, comme on voit le coût des abonnements. Là, ce n'est pas juste essayer de ne pas trop impacter l'environnement, c'est que ça vient aussi toucher au portefeuille. Et là, on voit en termes de... Pas forcément, comme tu me disais, le prix au token n'a pas forcément tendance à augmenter, mais vu qu'on amplifie nos usages, ça devient des coûts qu'on ne maîtrise pas aussi.

• Lulu

  Oui, ça c'est une des tendances qu'on voit et un retour qu'on a pas mal eu. Ils me disent que les tokens et l'utilisation de l'IA coûtent de moins en moins cher. À un moment, ça commence à dériver un peu, puisque c'était au printemps, les modèles que ce soit côté OpenAI ou côté anthropique. Cloud notamment, où il y a eu je ne sais plus quel modèle d'opus qui s'était mis à consommer 30% de plus par token pour la même tâche, et on avait eu Sonnet qui avait eu la même chose. Et là, ils ont retravaillé leur efficience, et c'est vrai que dernièrement, côté OpenAI, les modèles sont plus efficients qu'avant et coûtent moins cher, mais ils ont fait plusieurs abattements sur les tarifs. C'est aussi le cas côté Opus, enfin côté Opus et Sonnet, mais du coup côté Anthropique, où dernièrement les modèles sont plus rapides. consomment moins de token, attaché équivalent par rapport à avant, toujours pareil. Donc sont plus rapides, consomment moins de token et du coup il y a aussi des baisses de prix notamment chez Opus. Donc on est en train de se dire mais en fait il y a la concurrence, tant qu'il y a de la concurrence les prix vont continuer à baisser et la techno elle se fiabilise et du coup ils vont trouver de plus en plus de moyens de faire que ça consomme moins donc que ça coûte moins cher. Ce qui est en partie vrai mais qui Ce serait oublier deux facteurs. Aujourd'hui, les gros labos, et notamment ces deux-là, Péné et Anthropique, préparent leur entrée en bourse. Une fois que ce sera fait, il y a pas mal de choses qui vont bouger. Au bout d'un moment, les investisseurs qui balancent du cash depuis des années à tous les niveaux vont vouloir récupérer de l'argent, d'une part. D'autre part, l'écart entre la valorisation de ces TSA et les investissements qui sont faits dans ces TSA, ne fait que prendre des valeurs complètement démesurées qui y représenterait. Alors du coup, je vous mettrai en lien de l'épisode, de ce l'hier, notamment dans... dans une newsletter et un autre article de deux économistes et financiers qui faisaient une analyse pour expliquer qu'en fait, sur les dix prochaines années, des boîtes comme Google ou Amazon, pour rentrer dans leurs frais côté IA, juste rentrer dans leurs frais par rapport à tout ce qu'ils projettent et tout ce qu'ils font, il faut que ces TSA aient recréé l'équivalent d'un nouveau Google ou d'un nouveau Amazon spécialisé sur l'IA et rattaché à elle. Et en termes de revenus, en fait, il faut que... Il faudrait qu'elle fasse des revenus multipliés entre 13 ou 45 selon les scénarios qu'on prend qui sont plus ou moins bons pour juste amortir leurs frais. Et c'est des scénarios, peut-être que ça ne se passera pas comme ça, on reste dans une situation de bulle un peu particulière qui peut éclater ou se dégonfler ou qui est liée en plus à la crise de l'infrastructure, il y a d'autres choses qui se rajoutent avec les guerres, avec Trump qui fait n'importe quoi en permanence.

• Manu

  Seules les ressources naturelles nécessaires pour construire ces infrastructures qui sont finies, tout simplement.

• Lulu

  TSA pour dire que parier sur le fait que l'IA va faire que baisser me semble n'être qu'une vision à court terme. Et que tout indique en termes... Enfin, tout indique. En tout cas, il y a de très fortes chances, et c'est très probable, c'est pas sûr, mais c'est très probable, que de par... Ces différents éléments mis bout à bout et le fait que les boîtes veulent faire de l'argent à un moment pour arrêter d'investir à perte de manière complètement stratosphérique, les coûts vont soit se maintenir, soit augmenter. En tout cas, l'économie de l'IA va beaucoup bouger dans les prochaines années, ça c'est une certitude. Après, en quelle mesure est-ce qu'il y a une techno qui va venir remplacer et quand ? Ça, c'est aussi d'autres débats et d'autres sujets à voir, mais il n'empêche que la techno et l'IA générative qu'on développe aujourd'hui, elle a des problèmes structurels d'architecture qui fait que les hallucinations seront toujours là, qui fait que ce sera toujours un gouffre énergétique et qui fait que, aussi, de par la création des cartes graphiques et la limitation des semi-conducteurs sur la taille de miniaturisation, des composants qu'on atteint déjà au niveau des plafonds. En fait, il y a déjà des labos d'IA qui travaillent sur autre chose que des LLM, comme Yann Lequin en France qui défend une vision complètement différente. Il n'y a pas que lui, il y en a plusieurs dans le monde. Mais voilà. Il y a des boîtes, en Chine, ils font leur propre opus côté Huawei. Et il y a plusieurs fondeurs, et pas que en Chine, mais dans d'autres coins du globe, qui abordent la paralysation et la création justement d'infrastructures au côté semi-conducteur et matériel. de manière différente en disant qu'on a atteint les limites et du coup, il faut le penser différemment. Et on en voit faire... Il y a un truc que j'ai trouvé complètement aberrant. Ils font des cartes graphiques avec le modèle soudé. Ce qui permet d'aller beaucoup plus vite sur le temps d'inférence quand tu poses la question, ils te répondent directement. Mais la contrepartie de ça, c'est que ton modèle, il est gravé dedans. Donc, tu sais qu'il est... Dès qu'il va être...

• Manu

  Il y a une obsolescence programmée. C'est même gravé.

• Lulu

  C'est ça. Tu ne pourras pas changer de modèle. à la vitesse où la techno évolue, les modèles deviennent obsolètes, ou dépassés du moins, plus qu'obsolètes assez rapidement. Ça veut dire que tu fabriques un composant, tu sais qu'il est morné pas dans les 5-6 ans, c'est dans les 3 ans.

• Manu

  Et sachant qu'il faut quand même revenir aussi à des limites physiques où là, les composants sont tellement miniaturisés, on pourrait se dire, on a juste à recycler et réutiliser les composants et en refaire de nouveau. Sauf que là, aujourd'hui, c'est tellement miniaturisé qu'on ne peut pas recyclés, on ne peut pas récupérer les matériaux des processeurs actuels.

• Lulu

  En partie, ils le font d'une autre manière. Par exemple, quand ils te fabriquent, si tu veux, une carte graphique avec des puces qui sont défectueuses, en fait, ils te le vendent comme un autre modèle et ils le vendent avec des modèles castrés. Mais ils trouvent d'autres parades si tu veux, pour quand même limiter les pertes à la production.

• Manu

  Oui, mais après, c'était plus en mode physique. Aujourd'hui, par exemple, tu veux récupérer les composants d'un téléphone, tu ne peux pas les récupérer, tes métaux, un par un, parce que c'est trop petit et presque à l'échelle du nano. Et on n'a pas les capacités d'extraire et repurifier et repartir. Donc c'est pour ça qu'on continue d'en extraire, d'ailleurs. Mais à un moment, il n'y en aura plus. D'ailleurs, les métaux rares ne sont pas appelés rares parce qu'il n'y en a pas beaucoup, mais parce qu'ils demandent des procédés de purification qui sont très coûteux, très polluants, pour arriver à une pureté qui est utilisable. Voilà, c'était les petits points. Mais du coup, là, par rapport à tout ce que tu dis, c'est aujourd'hui, même en tant que personne, à l'échelle individuelle, à l'échelle d'une organisation, à l'échelle même d'une société, est-ce qu'on veut mettre de l'IA, des LLM dans des processus qui sont critiques et dont on dépend, en fait ? Même à l'échelle d'une organisation, est-ce que pour des gains de productivité sur le court terme ? Est-ce que j'ai envie d'y aller à fond ou ça va dépendre de choses qui sont totalement extérieures à mon entreprise et que je ne peux pas du tout maîtriser ? Et de se dire, je vais perdre, c'est des investissements qui ne seront pas faits ailleurs, ça sera de la perte de connaissances pour les employés. Est-ce que c'est des choses où, vu que c'est fait automatiquement, on ne va plus prendre le temps de se questionner sur comment c'est fait ? Les nouvelles personnes qui vont arriver ne seront pas forcément formées à ça. Qu'est-ce qui se passe le jour où on n'y a plus accès ou alors que ça devient beaucoup trop cher ? C'est peut-être que oui, sur le coup, ça ira vite, ça se mettra vite en place, ça sera satisfaisant. Même si là, on commence à avoir les premiers chiffres et on se rend compte que le gain de productivité promis, il n'est pas vraiment là. Et quand même, il y a quelques boîtes qui font machine arrière. Donc, est-ce que je veux vraiment que mon entreprise, mon équipe, mon produit, mon logiciel dépendent d'une techno ? qui est instable et qui a des scénarios où la situation, a priori, tout dit que ça ne va pas s'améliorer.

• Lulu

  Effectivement, on verra. Après, on vient d'être assez détracteur sur l'usage de l'IA générative.

• Manu

  Oui, mais après, c'est l'IA où, comme tout, c'est de se dire, en fait, je n'ai pas envie de dépendre non plus d'un seul fournisseur, je n'ai pas envie de dépendre d'un seul outil. j'ai pas envie de dépendre, j'ai pas envie que ça soit une seule personne dans mon entreprise qui a la connaissance et le jour où elle s'en va, il y a tout qui part avec. C'est ça aussi de construire des systèmes qui sont plus robustes. C'est de penser plutôt en écosystème avec des petits blocs qui interagissent entre eux, mais que le jour où il y en a un qui change, qui casse ou qui disparaît, ça ne remet pas en péril tout le reste. Alors oui, il y aura un petit moment d'ajustement. mais ça ne va pas venir tout bouleverser et tout casser. Et puis, on se retrouve juste à essayer de mettre des bouts de scotch et puis à être dans l'urgence, à essayer de faire en sorte que ça tienne.

• Lulu

  Lulu, pour et avant de terminer cet épisode, j'aimerais poursuivre avec deux questions, deux dernières petites questions. Justement, suite à tout ce qu'on vient de dire là, quels conseils tu pourrais donner à celles et ceux qui... qui veulent commencer à utiliser l'IA de manière plus IA frugale, c'est-à-dire efficiente, mais après tu verras. Par où ils peuvent commencer ? Sobre,

• Manu

  peut-être. Responsable, aussi. C'est en fait de se demander, OK, là, si j'en utilise ici, c'est quoi les enjeux et les risques ? En fait, c'est de se demander, OK, j'utilise ça là, qu'est-ce qui se passe si maintenant je le fais uniquement, par exemple, avec de l'IA ? Est-ce que je vais perdre en compétences ? Mais en fait, c'est juste de prendre un peu de hauteur, d'essayer de prendre, de presque aussi se challenger, d'essayer de trouver d'autres moyens de faire, parce que moi, je trouve ça très cool. C'est pas mal des choses qui sont faites du côté low-tech aussi. pourrait se dire, ça ne sert à rien, on vit aujourd'hui dans un monde d'abondance, pourquoi est-ce que je ne m'en servirais pas, pourquoi est-ce que je viendrais me priver, mais en même temps réussir à prendre très peu de composants, très peu de ressources et faire quelque chose avec qui aurait nécessité, je trouve qu'en termes d'innovation, ces contraintes, c'est peut-être là où justement, en tant qu'entreprise, ça va permettre de se démarquer dans le futur parce que ça sera plus robuste. Après, tout simplement, c'est déjà de voir si c'est pertinent ou pas. Ensuite, il y a des outils comme Comparia qui sont très, très cools pour tenter de se laisser un peu surprendre par les capacités des petits modèles par rapport aux gros modèles, de se questionner, de se renseigner aussi et de se dire que ce n'est pas juste utiliser l'IA ou la mettre dans sa boîte. C'est de savoir de se projeter un peu plus loin. et de savoir ce que ça peut impacter si le pire arrive. Parce qu'il y a des chances que ça arrive. Et il y a dans d'autres domaines où on ne choisirait pas de prendre des risques s'il y avait 1% de chance que ça arriverait. Et là, je pense qu'on est bien au-dessus d'un pourcent de chance en termes de... Enfin, ça arrive, il y a des... Dans des industries où même laisser passer un pourcent de problèmes ou de se dire, ah bah tiens, pourcent de chance que ça se passe mal, ben on laisse pas sortir ça. Là, c'est aussi de se poser ces questions-là, et puis de prendre du recul et de pas non plus écouter toutes les injonctions. Essayer de... Sortir de ça, même si c'est compliqué, et de se poser des questions. Pas prendre pour argent comptant ce qu'on dit, les influenceurs. Et de partir du principe que le monde tel qu'on le connaît aujourd'hui, que ça soit aussi lié à tel qu'on la connaît aujourd'hui, ne sera pas la même demain. On aura forcément aussi moins de ressources. Donc des boîtes, des individus qui auront pris le temps. sans se retrouver dans l'urgence de mettre en place les bonnes mesures pour consommer moins, pour être plus résilient, pour comprendre là où il y a des risques, là où c'est critique, ils s'en sortiront, ils s'en sortiront s'il y a des perturbations ou des modifications du système, du contexte.

• Lulu

  Super, merci beaucoup. Et tu as droit à ta question fétiche pour cette fin d'épisode. que tu n'avais pas préparé, mais est-ce que tu as une recommandation culturelle à nous faire ?

• Manu

  Au début de l'épisode, je disais, oui, mais il n'y a que clair-obscur. Mais non, il n'y a pas que clair-obscur dans la vie, même si j'écoute tout ce qui est au niveau de la BO et TSA, ça va être trop cool. C'est peut-être un bouquin que je n'ai pas fini, mais qui est très, très bien et qui est dense. qui vient justement parler des systèmes, et c'est pour une pensée systémique de Nella Meadows qui avait sorti le rapport Meadows, je crois, avant les années 2000. Et le bouquin, en fait, vient reprendre tout. Comment est-ce qu'on peut penser en système ? Qu'est-ce qui fait que certains systèmes perdurent plus que d'autres ? Qu'est-ce qui se passe si on vient ? modifier une unité du système. Et c'est vraiment très, très intéressant. C'est dense, mais je crois que c'est un des seuls livres qui vient traiter justement de la pensée systémique, dont on manque peut-être aussi un peu aujourd'hui. Et je pense que c'est une compétence qui est très importante à avoir plutôt que de voir chaque unité. d'un système comme n'interagissant pas et de se concentrer à chaque fois sur une unité et puis de se rendre compte que seulement après, ça a des impacts sur tout le reste. Et voilà. Je pense que c'est... Sinon, non. C'est très bien.

• Lulu

  On mettra le lien en source de l'épisode comme toujours.

• Manu

  Sinon, fiction après... Un livre, j'adore. c'est des fleurs pour Elgernon. Sinon, voilà, c'est un de mes bouquins préférés et que j'avais beaucoup aimé. Enfin, il est très particulier, mais pas particulier, mais justement, il vient questionner un peu tout ce qui est l'intelligence. Est-ce que... Enfin, l'ignorance aussi. Est-ce qu'on serait pas des fois plus heureux en étant ignorant ? Mais par contre, une fois qu'on a vu les choses, est-ce qu'on peut arrêter de les voir et faire comme si de rien n'était ? Et je pense que c'est... pas mal d'actualité aussi. C'est ça, essayer de voir les choses et pas forcément mettre de l'air même si c'est pas très joyeux, le contexte.

• Lulu

  Merci de terminer sur une super note positive. Ça me fait plaisir.

• Manu

  Mais après, je crois en l'intelligence collective et puis justement revenir à plus d'humains. Enfin voilà, c'est un peu de sortir de ça et d'aller échanger, trouver des solutions ensemble et se creuser la tête. Pas juste demander des solutions à lire.

• Lulu

  et ce sera l'occasion d'aller trouver des solutions et d'aller échanger au Forum PHP qui aura lieu la semaine prochaine du coup les jeudis et vendredis donc le 8 et 9 octobre et voilà je pense qu'on a fait un bon petit tour merci à Lulu d'avoir de tête replie au jeu de l'invité aussi c'est pas facile la pression d'être parti dans tous les sens et que c'est pas clair,

• Manu

  on verra

• Lulu

  On part toujours un petit peu dans tous les sens, mais c'est aussi l'idée qu'on s'accorde des digressions.

• Manu

  Côté système.

• Lulu

  Et voilà, en tout cas, les gens pourront te retrouver en conf, toi tu passes le vendredi, je crois. Merci de nous avoir écoutés la semaine prochaine donc si tout va bien vous aurez deux épisodes sinon un seul mais au moins un sur deux trop bien qui vous attend qu'on pensait pas tourner enfin honnêtement vous verrez j'espère beaucoup qu'on pourra réussir à réenregistrer notre épisode avec Charlotte pour vous partager justement ce qu'elle a à dire qui était très chouette malheureusement les déboires techniques sont ce qu'ils sont.

• Manu

  Et le dernier clic à 6 mois aussi, on peut le dire pour 30 épisodes on a tenu...

• Lulu

  Merci à toutes et à tous de nous avoir écoutés, on vous souhaite une bonne fin de journée ou une bonne journée selon quand vous nous écouterez, on se retrouve la semaine prochaine pour un ou deux nouveaux épisodes et à très vite !

• Manu

  Salut !