Transcription

• Speaker #0

  Générique Générique Générique Générique Générique Générique Générique

• Speaker #1

  C'est l'été, il fait beau, les ventilateurs tournent et Ami le podcast tech vous propose le seul jingle réalisé par un humain. Et oui ce n'est pas une IA, c'est un Franck Lefebvre. Salut mon cher Franck. Merci.

• Speaker #2

  Salut Guillaume ! Ouais, tu te rends compte, c'est super original, hein, une cloche, une machine remplacée par un humain, mais c'est révolutionnaire.

• Speaker #1

  Mais oui, mais il va falloir le dire de plus en plus, parce qu'il va falloir se méfier quand même des machines, hum ?

• Speaker #2

  Je ne sais pas s'il faut s'en méfier. Je ne suis pas sûr qu'il faille s'en méfier. J'ai toujours l'impression qu'il faut plus se méfier de ceux qui appuient sur le bouton que de ce qu'il y a derrière le bouton.

• Speaker #1

  Bon, on va se méfier des deux alors. Alors justement, j'avais envie de parler avec toi d'un sujet dont tu avais envie de parler aussi. Alors je ne vais pas faire le novice. Là, sur ce coup-là, je suis novice. Je suis intrigué. J'ai entendu plusieurs fois la brève, d'ailleurs... pas toujours raconté de la même manière, de cette IA de dernière génération. Alors, je ne sais pas si on peut dire que c'est une IA ou que c'est un agent d'OpenAI qui avait une mission et qui a débordé de sa mission et qui est allé attaquer un autre service qui s'appelle Hugging Face, qui est un site qui regroupe plein de modèles d'IA où les Les développeurs peuvent aller chercher des ressources d'IA en fait. Est-ce que déjà à la base mon scénario est bon ou pas du tout ?

• Speaker #2

  Je ne sais pas si ton scénario est bon, mais en tout cas la façon dont tu le décris est identique à la façon dont ce fait divers a été décrit. On nous explique, il y a plein d'articles sur le fait que... Nia Dopenia aurait quitté son bac à sable. Effectivement, ça appelle plein de commentaires, je trouve, ce truc-là. Il y a plein de choses dans cette anecdote. La première chose qu'il y a, il y a la peur. Et donc, on sait que la peur fait vendre. Et c'est un truc qui est très, très à la mode. Je pense qu'il a toujours été à la mode. Mais là, tu te rends compte, on voit une espèce de machin malfaisant. La bête. Voilà. Et donc, moi, c'est mon papa qui m'a appris ça. Il m'a dit très très jeune, quand quelqu'un te fait peur, que ce soit toujours la question du pourquoi il te fait peur. Parce que s'il te fait peur, ce n'est pas pour te faire plaisir. Donc, il y a une autre raison. Et là, il y a plein d'autres raisons. Je crois, la première, c'est que soutenir un discours en disant, voilà, nous avons fabriqué un machin qui est tellement intelligent qu'il nous a dépassé, c'est une sacrée pub. C'est une sacrée pub parce qu'à un moment où tout le monde s'entend pour dire que le travail des Américains de chez Anthropique permet de fabriquer des LLM plus intelligents que ceux de chez OpenAI, et je ne sais pas si tu l'as vu, il y a une version de Quen, ce que je veux dire, je vais reprendre ma pensée. D'un côté, il y a les gens d'entropie américains qui ont... battu en tout cas dans l'esprit public les gens d'OpenAI, les créateurs de chaque GPT qui étaient vus comme les plus forts. Et puis il y a des Chinois aussi. On a déjà parlé de Minimax, de Kimi ici. Et puis cette semaine, il y a une version de Quent, il y a une version de l'LM d'Alibaba qui est sortie et qui a des performances. Donc je ne l'ai pas essayé, j'ai vu plein de stats, mais je ne l'ai pas essayé. Il a des performances absolument formidables. qui sont très très proches de celles des meilleurs modèles géantropiques, à un coût qui est approximativement dix fois inférieur à celui de... Et j'ouvre une petite parenthèse, tu connais, moi, ma conviction aujourd'hui, c'est que de toute façon, les Chinois vont mettre sur le marché des choses gratuites ou tellement peu chères. Que leur objectif est de battre les Américains, non pas sur le terrain du commerce, mais sur le terrain de l'idéologie. Et leur souhait est de détruire les entreprises. Et c'est une bonne guerre, comme lorsqu'ils vendent des voitures à des prix très très bas. Je pense que le but n'est pas du tout de gagner une guerre commerciale, c'est de gagner une guerre tout court. Et que faire fermer les usines européennes, les usines de voitures européennes. Parce que les voitures qui en sont... sont plus chères que celles qu'on n'a pas, c'est beaucoup plus efficace que de balancer un missile sur l'usine, mais le résultat est strictement identique. Je ferme cette parenthèse. Je pense qu'on observe le même phénomène dans le domaine de l'IAV, ce qui veut dire qu'aujourd'hui, on a deux grands pays dans le domaine, qui sont les États-Unis d'un côté, la Chine de l'autre, et puis on a à l'intérieur de chacun de ces pays, de la concurrence, et clairement, aux États-Unis, il y a une... Myriade d'acteurs, mais il y en a deux qui sont beaucoup plus souvent cités que les autres, qui sont Open AI, les créateurs de Ausha GPT, et Anthropique, les créateurs de Cloud. Je le répète, je pense que c'est vraiment utile. Tantôt c'est l'un qui fait des trucs les plus forts, tantôt c'est l'autre. Et actuellement, c'est Cloud, c'est les gens d'Anthropique qui font des choses réputées plus puissantes. C'est-à-dire que les autres perdent des quantités de clients. très importante et comme ces entreprises aujourd'hui sont financées par du capital risque et qu'il faut qu'elles trouvent continuellement de l'argent pour assurer leur développement, être vu comme le numéro 1 ou le numéro 2, ça change complètement les conditions des investisseurs. Et on sait bien qu'aujourd'hui, dans les mois qui viennent, dans le courant de l'automne, les gens d'OpenMI. n'ont pas trouvé des ressources financières fraîches, ils vont être dans une position extrêmement délicate. Or, la dernière fois que des gens ont investi chez OpenAI, c'était déjà avec une valorisation tellement importante de l'entreprise que les prochains qui vont venir, ils vont venir avec une valorisation au moins supérieure. Sinon, les précédents, imagine si toi t'achètes une... T'achètes un objet 10 euros et que le lendemain tu sais qu'il est en vente à 5 euros et qu'on t'avait pas prévenu, tu vas pas être content. Mais là c'est exactement le même sujet. Donc il y a une guerre médiatique là-dessus en disant, l'idée c'est de faire passer l'idée qu'on est très fort. Et donc à un moment où Open AI est pas vu comme le plus fort, expliquer qu'ils ont un machin qui est tellement puissant qu'il s'est enfui. on voit l'intérêt informationnel immédiat du truc une espèce de pub en fait ils se sont fait de la pub ils se sont fait de la pub et c'est dire il y a plusieurs messages dans cette histoire donc le premier c'est arrêtez de dire qu'on est moins fort que les autres, regardez on est tellement fort que... Les trucs qu'on fait ils sont tellement forts qu'ils sont capables de s'enfuir. D'ailleurs ça c'est le deuxième. Le premier c'est, oh là là, il faut avoir peur... tellement en effort, il faut avoir peur. Le deuxième, c'est regarder tellement en effort que nos machins, ils ont réussi à se faire la malle.

• Speaker #1

  Je te fais une parenthèse, que je sais que tu aimes bien qu'on se coupe et qu'on fasse des échanges. Ça peut aussi être une mauvaise pub, parce que ça peut vouloir dire « Dis donc, ils ont développé une IA, mais ils ne la maîtrisent pas. »

• Speaker #2

  Mais oui, donc, on va attaquer le troisième chapitre. Le troisième chapitre, c'est que je pense qu'il faudrait arrêter vraiment d'utiliser le terme une IA. On peut parler du substantif comme d'une matière en disant deux IA. Est-ce qu'il y a de l'intelligence artificielle là-dedans ? Donc ça, ça a du sens. Mais parler d'une IA comme d'un individu, je pense que c'est extrêmement trompeur. Pourquoi ? Parce que ce qu'on appelle une IA, ça peut avoir des formes très très différentes, tu vois. C'est un peu comme si on disait un bidule biologique. Un bidule biologique, ça peut être un Guillaume Richardot ou une Paralessie. Et donc on voit bien que... Le terme, en définitive, définit tellement peu l'objet que je pense qu'on devrait ne pas l'utiliser. Et tu vas voir, une des raisons pour lesquelles je dis ça, c'est que dans cette histoire, quand on dit « une y a » , on ne dit pas ce qu'il y a derrière. Une IA, prenons l'exemple de ChatGPT que tout le monde connaît, ou presque. ChatGPT, c'est fait de deux choses. C'est fait de ce qu'on appelle un LLM. qui est un grand langage de modèle, c'est le cerveau de la machine. Et le cerveau de la machine, si on prend un cerveau d'humain et qu'on le laisse sur le gazon, il ne va pas servir à grand chose. Le cerveau d'un humain, il est utile parce qu'il va y avoir des apprentissages, il va y avoir des souvenirs, il va y avoir des histoires, il va y avoir des relations, il va y avoir des compétences, il va y avoir un tas de trucs qui vont s'être développés. C'est-à-dire que le cerveau lui-même n'a aucun intérêt, aucune capacité en dehors du... contexte dans lequel on le place. Eh bien, l'LLM, c'est strictement identique. C'est-à-dire que si on parle d'un LLM qui serait un GPT-5, par exemple, eh bien, quand tu parles à chaque GPT, chaque GPT utilise le LLM GPT-5, mais il rajoute plein de choses autour. Il faut savoir que... Le grand langage de modèle, lui, la seule chose qu'il sait faire, c'est qu'on sait lui envoyer un bloc de texte et il renvoie un bloc de texte. C'est tout, ça ne sait rien faire. Ça ne sait pas lire un truc sur le web, ça ne sait pas envoyer un mail, ça ne sait pas se souvenir de qui tu es, ça ne sait rien faire de ça. Ça sait juste prendre un bloc de texte et ressortir un bloc de texte. Par contre, il y a autour quelque chose qu'on appelle en français l'orchestrateur. L'orchestrateur, lui, qu'est-ce qu'il va faire ? Il va gérer la relation entre l'utilisateur, Guillaume d'un côté, sur son navigateur, et le LLM de l'autre. C'est-à-dire que dans l'orchestrateur, pour ceux qui veulent le terme anglais, on dit « harness » en anglais, on va trouver... Toutes les conversations de Guillaume avec l'assistant, on va trouver des souvenirs, on va trouver, là c'est très important, ce qu'on appelle des outils, des tools, c'est-à-dire qu'on va trouver là la capacité d'aller chercher une page sur le web, d'écrire un fichier, d'exécuter un programme, des choses comme ça. Ce sont des outils et donc les outils vont pouvoir être utilisés par le LLM. Je vais te donner un exemple très simple. Si tu demandes à HHGPT, tiens, qu'est-ce qui passe au cinéma à côté de chez moi ? Eh bien, quand tu vas injecter ça dans le LLM, ta phrase « qu'est-ce qui se passe au cinéma à côté de chez moi ? » elle va être noyée dans un tas d'autres informations qui sont celles qui sont liées à ce que la plateforme, ce que le... l'orchestrateur c'est de toi mais il y a un tas de trucs qu'on pourra un jour détailler et donc ta phrase dans l'ensemble de ce qui va être envoyé au LLM elle a représenté peut-être 1% tu vois donc imagine, il y a tout un machin il y a des explications techniques dans lesquelles on va pas rentrer il y a la phrase de Guillaume qu'est-ce qui se passe demain au cinéma à côté de chez moi ? Et donc, on t'envoie ça dans le LLM. Eh bien, si le LLM, tu lui as dit, voilà, quand tu veux connaître la date, eh bien, tu me demandes. Quand tu veux une page web, tu me demandes. Et quand tu veux savoir où Guillaume habite, tu me demandes. Eh bien, reprenons, on envoie ce gros bloc dans le LLM, le LLM il va dire, ah mais pour pouvoir répondre à la question, il faut que je sache quelle date on est, puisque tu as dit demain, qu'est-ce qui se passe au ciné demain, eh bien le LLM lui il sait. Il ne sait pas ce que c'est qu'une date. Donc, il va te dire, donne-moi la date. Tu prends la date et tu lui renvoies la date. Puis après, il va te dire, donne-moi le lieu où habite Guillaume. Tu vas prendre la date, tu vas lui renvoyer. Quand je dis tu, ce n'est pas toi qui va le faire. C'est ce que j'ai appelé l'orchestrateur. C'est l'agent.

• Speaker #1

  Non, ce n'est pas l'agent.

• Speaker #2

  Non, tu peux appeler ça l'agent, mais l'agent, c'est ce qui tourne dans l'orchestrateur. C'est-à-dire que l'agent, ça va être le LLM plus la mémoire plus les outils. Et ce qui va arranger le fonctionnement de tout ça, ça va être l'orchestrateur. C'est dur, il n'y a pas de métaphore qui me vient spontanément. Enfin, tu peux dire l'agent, si tu veux. D'ailleurs, même si ce n'est pas tout à fait ça, c'est une bonne idée. C'est-à-dire que l'agent, lui, va disposer de quoi ? Il va disposer de connaissances sur IOM, il va disposer d'un certain nombre d'outils, et puis il va être branché à un LLM. Quand Guillaume va lui demander à l'agent qu'est-ce qui se passe au cinéma demain à côté de chez moi, l'agent va envoyer ça au LLM, le LLM va dire à l'agent, je reprends, quel jour on est, de façon à savoir demain c'est quoi la date, il va... l'agent va... On va renvoyer ça au LLM. LLM va dire « Hop, où est-ce qu'il habite Biome ? » On renvoie ça au LLM. Puis après, il va dire « Ah ben, je voudrais que tu ailles chercher telle page sur Halluciné, par exemple. » Et là, c'est un... un autre outil qui va prendre la page sur « Réducilé » et puis qui va renvoyer ça au LLM. Lui, avec toutes ces informations, il va calculer une jolie phrase et il va te renvoyer ça. Puis il va te dire, voilà, le merveilleux film sur De Gaulle en deux épisodes qui se joue demain à 17h et la deuxième partie, tu peux la voir à 20h. Et youp la boum, tu as ta réponse. Donc pourquoi je te raconte ce truc un peu compliqué ? C'est parce qu'on voit bien que toi, la perception que tu as de l'agent, c'est quelque chose de très actif. C'est quelque chose où tu peux imaginer qu'il va venir sur ton ordinateur et faire des choses, par exemple. Mais le LLM, c'est quelque chose de totalement statique. C'est quelque chose qui n'a pas la capacité d'agir. Ce qui veut dire que quand les gens d'OpenAI font leur communiqué de presse en disant « Voilà, une IA est tellement puissante chez nous qu'elle a voulu s'échapper. » Il faut bien comprendre que ce qu'ils vendent, c'est avant tout des LLM. Et que le LLM n'a pas capacité à s'échapper.

• Speaker #1

  Alors, qu'est-ce qui s'est passé ?

• Speaker #2

  L'histoire, c'est quoi ? Ce qui se passe, c'est qu'à ce moment-là, tu peux donner l'agent sur lequel tu vas brancher ton LLM, tu peux lui donner des outils comme la capacité d'aller ouvrir des sessions sur des serveurs d'IBIAR sur Internet. Et donc, à ce moment-là... Le cerveau va pouvoir demander aux outils de faire ça. Et donc, bien entendu, ça démontre une grande intelligence du LLM. Mais ça n'est pas le LLM lui-même qui s'est échappé. C'est-à-dire que s'il s'est échappé, c'est qu'on lui en a donné les moyens. Tu vois, si moi je t'attache avec une grosse chaîne au radiateur... Et si on dit « ah ben Guillaume s'est échappé » , je comprends bien que Guillaume s'est échappé, c'est qu'on lui a laissé une pince conseillère à côté pour qu'il casse la grosse chaîne, c'est pas lui en tirant avec ses petits bras musclés sur la chaîne qui va… ben c'est exactement comme ça. Et donc je trouve que formuler des choses comme ça, dire « une IA s'est échappée tellement à l'intelligence » , je trouve que… C'est diffuser une idée fausse des choses. C'est se faire de la pub d'une manière qui entretient. Dans le public, une peur, et je ne dis pas qu'il ne faut pas avoir des craintes des choses, mais je dis que celle qui est formulée là, elle est fausse, et c'est bâtir sur cette peur pour passer des idées fausses, comme le fait qu'un LLM peut s'enfuir de l'endroit dans lequel il est. Non, il peut piloter l'échappement, mais il ne peut pas s'enfuir. Et que les gens qui écrivent ces choses-là, Soit ils n'y connaissent rien, soit ils sont mal intentionnés. Mais je pencherais plutôt pour la deuxième hypothèse. Et qu'ils se disent, tiens, on va se faire de la pub. Parce que comme les journalistes qui ne comprennent pas grand-chose à ces choses-là, dès qu'il y a un truc, ils sentent un peu le souffle et le scandale, ils le prennent, ils l'amplifient. Et la preuve, ça a marché. on arrive à quelque chose qui, si on regarde ça sous l'angle de l'éducation du public, est quelque chose de totalement négatif.

• Speaker #1

  Ceux qui racontent que du côté d'Huggingface, puisque pour ceux qui sont un peu initiés, qui ont suivi l'histoire, soi-disant donc, alors je vais mettre des grosses parenthèses, Huggingface aurait reconnu que c'était fait attaquer entre guillemets par l'agent d'Open AI, Donc, c'est... Il fantasme un peu, donc rien n'est vraiment vrai.

• Speaker #2

  Moi je ne parle pas de fantasme, je parle de déformation de la vérité. Le fantasme que tu subis, la déformation de la vérité, tu le dénicies. La responsabilité pour moi n'est pas la même. Donc après les gens de Guifet, tu sais qu'en plus les Guifet c'est très très technique comme plateforme, et c'est une plateforme absolument géniale qui a été créée par des français. Tout à fait,

• Speaker #1

  Cocorico on peut le dire.

• Speaker #2

  Voilà, c'est une date franco-américaine et qui fait des choses sur le papier. La première fois que des gens ont vu le projet RegneFate, ils ont dû avoir les yeux qui roulaient. C'est tellement technique ce qu'ils font qu'on peut se dire, voilà, mais non, ça n'a aucun intérêt. En vrai, c'est devenu l'endroit de référence pour tout ce qui concerne l'évaluation, la disponibilité, l'évaluation, la... production d'outils d'intelligence artificielle. Et c'est un endroit, et c'est entre autres l'endroit où aujourd'hui les gens vont pour aller télécharger des modèles d'IA et faire tourner eux-mêmes des modèles d'IA, ce qui pour moi est vraiment une partie importante de ce qui constituera notre futur.

• Speaker #1

  Bon alors, je voudrais... te contredire parce que là, tu m'as raconté quelque chose de parfait. J'ai tout à fait compris et je suis ravi. Mais dans ton exemple où tu dis que l'IA, que tu ne veux pas appeler l'IA, n'a pas pu sortir de son cadre parce qu'elle est programmée pour faire ce qu'on lui demande de faire et pas autre chose, je trouve que ça va un peu à l'encontre de nos discussions de la semaine dernière et la semaine d'avant.

• Speaker #2

  Je ne vais jamais t'interrompre, je n'ai jamais dit que l'IA faisait ce qu'elle était programmée pour faire. Ce n'est pas du tout ce que j'ai dit. J'ai dit que l'IA utilisait les outils qu'on lui donnait. C'est très différent.

• Speaker #1

  Ah oui, mais avec les outils qu'on lui donne,

• Speaker #2

  elle peut faire des choses. L'IOM qui est enchaîné, si on ne lui donne pas de pince-monseigneur, il restera enchaîné. Et quelle que soit son intelligence, tu vois, tu peux être le gars le plus intelligent de la planète si tu es attaché au radiateur avec ta pince-monseigneur. monseigneur, tu resteras attaché au radiateur.

• Speaker #1

  D'accord, mais tu restes sur ton idée des discussions des semaines d'avant que, parfois, les êtres computationnels, comme tu les appelles, peuvent te surprendre par rapport à ce que tu pensais qu'ils ne souhaitaient pas ou pas le faire.

• Speaker #2

  Mais continuellement, et je pense, il est clair qu'aujourd'hui, sur plein, plein, plein de choses, en matière d'intelligence, ces êtres complicationnelle. Donc plus intelligents que les humains, je ne sais pas, mais plus intelligents que moi, oui, infiniment.

• Speaker #1

  Bon, donc l'être computationnel d'Oponeaï aurait pu faire des trucs qui auraient surpris Oponeaï, si je veux faire l'avocat du diable.

• Speaker #2

  Non, je ne suis pas l'avocat de rien du tout, je ne suis pas le type qui n'a pas fait raison. De même que plein de gens ont démontré, dont moi, que l'LLM était parfaitement capable de mentir. En entendant bien de mentir, j'entends par mentir, affirmer fièrement quelque chose qu'elle sait ne pas être juste. Mais j'insiste bien sur le côté sciemment. Je ne parle pas des gens qui ont expliqué que les hallucinations c'était des mensonges. Non, les hallucinations, c'est-à-dire que parfois les LLM peuvent se tromper et ils se trompent souvent sans se rendre compte qu'ils se sont trompés. C'est juste que c'est fait comme ça et que tout le monde fait des erreurs. Mais parfois ils se trompent sciemment et ça a été démontré plein de fois.

• Speaker #1

  Bon, ben écoute, on arrive à chaque fois, je termine le podcast en disant qu'on arrive vraiment dans un monde étrange. Ça fait un peu, parfois un peu monde parallèle, je trouve.

• Speaker #2

  Ouais, sauf qu'il n'est pas parallèle, c'est le nôtre aujourd'hui, c'est à Guillaume.

• Speaker #1

  Oui, et ben on n'est pas au bout de nos surprises. Bon, ben écoute, est-ce qu'on a tout dit là-dessus ?

• Speaker #2

  Non, mais comme on ne va pas se donner 20 heures de plus, je pense qu'on peut en rester là.

• Speaker #1

  Bon, disons qu'on a assez bien expliqué la chose, donc il n'y a pas de fantasme à avoir, ils se sont fait un gros coup de pub.

• Speaker #2

  Oui, après, est-ce qu'un agent peut être dangereux ? Oui, bien entendu, il peut être dangereux. Enfin, tu sais qu'aujourd'hui, tout le monde parle des drones iraniens, ukrainiens, russes, américains et même un petit peu français. on met là-dedans des outils d'intelligence artificielle à qui on apprend à tuer. Donc, est-ce que le bidule est capable d'être dangereux ? Bien sûr que le bidule est capable d'être dangereux. Bien sûr, malheureusement.

• Speaker #1

  Ben oui, mais bon, c'est l'homme qui le veut, ce n'est pas le bidule.

• Speaker #2

  Ben ça, c'est discutable, mais on en reparlera un autre jour.

• Speaker #1

  Bon, écoute, on en reparlera un autre jour et moi, je tiens à vous signaler, les amis, Vous qui écoutez Ami le podcast tech, la semaine prochaine avec Franck, nous allons nous faire un café. Puisque tu avais très envie de parler de cafetière, mais moi aussi, figure-toi. Donc on va faire un spécial cafetière. Donc si vous êtes intrigués, soyez au rendez-vous. Et si vous avez des choses à nous raconter sur votre cafetière, 0176 21 18 10. Ou alors contacte-ami-le-podcast.com puisque grâce à ce mail, vous pouvez nous envoyer des mails, mais aussi nous envoyer des fichiers audio. Ça peut être une manière de communiquer avec nous. Et puis sinon, allez voir le petit site internet réalisé avec talent, avec les petites mains pleines de doigts de Bruno, c'est ami-le-podcast.com. Et puis je crois que j'ai tout dit à part merci Bruno pour le montage.

• Speaker #0

  et puis évidemment merci Franck d'être venu te poser sur Ami le podcast et on se retrouve la semaine prochaine bye bye