Transcription

• Gerard Peccoux

  Bonjour à toutes et à tous, je suis Gerard Peccoux, cofondateur de Callimedia, une entreprise pionnière dans le digital learning, qui fait désormais partie de Bealink, un acteur majeur de l'innovation en formation professionnelle. Je vous souhaite la bienvenue sur Never Stop Learning, le podcast qui vous emmène au cœur des révolutions de l'apprentissage. Chaque épisode explore les contributions des spécialistes en andragogie, psychologie cognitive, neurosciences et et technologies de pointe qui façonnent l'avenir de la formation. Never Stop Learning, c'est votre rendez-vous avec les leaders et les idées qui transforment l'apprentissage de demain. Bienvenue dans ce nouvel épisode de Never Stop Learning. Ces derniers mois, l'intelligence artificielle a envahi nos discussions professionnelles en suscitant autant d'enthousiasme que d'interrogations sur ces véritables possibilités. Alors qu'est-ce que l'IA fait vraiment ? Et qu'est-ce qu'elle prétend faire ? Pour y voir plus clair, nous recevons aujourd'hui Luc Julia, une figure incontournable du monde scientifique et industriel. Ingénieur franco-américain ayant co-conçu Siri chez Apple, Luc a également dirigé l'innovation chez Samsung et il est aujourd'hui le directeur scientifique du groupe Renault. Luc est aussi l'auteur de deux ouvrages clés, « L'intelligence artificielle n'existe pas » chez First Edition, publié en 2019. dans lequel il déconstruit l'anthropomorphisme de l'IA, et le second ouvrage, IA générative, pas créative, l'intelligence artificielle n'existe entre parenthèses toujours pas, aux éditions ChercheMidi, publiées cette année en 2025, où il distingue la simple génération de contenu de la véritable créativité humaine. Avec Luc, nous allons explorer la nature réelle des systèmes génératifs, leur usage dans la formation et le développement des compétences, les opportunités qu'ils offrent aux ingénieurs pédagogiques et apprenants, ainsi que les risques qu'ils représentent pour ces métiers. Un éclairage à la fois industriel, critique et profondément humain, indispensable pour les décideurs, formateurs et responsables des ressources humaines qui veulent accompagner la transformation numérique en gardant le sens du collectif et de l'humain. Bonjour Luc.

• Luc Julia

  Bonjour Gérard.

• Gerard Peccoux

  Alors, comme il est de coutume dans Never Stop Learning, est-ce que tu peux te présenter brièvement et présenter ton parcours pour ceux qui ne te connaissent pas ?

• Luc Julia

  Tu as évoqué déjà un peu l'essentiel. Je suis effectivement ingénieur français installé dans la Silicon Valley depuis un peu plus de 30 ans maintenant. Spécialiste, on va dire, d'intelligence artificielle, d'objets connectés et de ces technologies qui permettent, j'espère, d'améliorer la vie des gens. Donc, c'est ce que j'essaie de faire depuis. depuis une trentaine d'années, enfin une quarantaine d'années. Et effectivement, je viens de sortir ce bouquin-là dernièrement pour essayer d'encore plus démystifier ce qu'on raconte sur l'IA.

• Gerard Peccoux

  On va en parler, bien sûr, du second livre. Je vais juste revenir avec la première question sur le tout premier que tu as publié en 2019. Pourquoi tu affirmais déjà à l'époque que l'intelligence artificielle n'existait pas et quelle était l'origine finalement du malentendu que tu exposes dans ce livre ?

• Luc Julia

  Ce que je raconte, en fait, c'est que l'intelligence artificielle qui n'existe pas, c'est celle dont on nous rebat les oreilles depuis maintenant une quinzaine d'années. C'est celle que j'appelle l'intelligence artificielle de Hollywood. L'intelligence artificielle qu'on fantasme, qu'on imagine comme étant possible, comme celle qu'il y a, par exemple, dans des films comme Terminator, celle qui fait très très peur, qui va nous tuer, qui va nous remplacer. Ou alors l'intelligence artificielle qui est sympa. qui fait des trucs pour moi tout le temps, qui est avec moi, dont je tombe amoureux, comme her. Donc ces intelligences artificielles-là, cette intelligence artificielle qu'on pense un peu générique, générale, qui n'existe pas. Et donc j'aime bien remettre les choses à leur place en disant que quand on a créé le terme « intelligence artificielle » en 1956, je pense qu'on parlait plutôt que d'intelligence humaine. C'est en américain, c'est en anglais. le mot intelligence a deux... significations. La première, c'est effectivement l'intelligence smartness et l'autre, c'est l'intelligence information. Et je pense que on a voulu faire se rapprocher cette intelligence artificielle de notre intelligence à nous, mais je pense qu'il faudrait plus la comprendre comme intelligence information, données, c'est les statistiques. Et du coup, si vraiment aujourd'hui j'avais à donner la définition d'une intelligence artificielle, je dirais que c'est une boîte à outils. Une boîte à outils dans laquelle il y a plein d'outils différents, aussi différents que le marteau, la scie, le tournevis. Donc ces intelligences artificielles, je vais les mettre au pluriel maintenant, ces intelligences artificielles ne sont finalement que des outils très utiles, par définition même de l'outil, qui sont plus fortes que nous, qui sont meilleures que nous, pour les domaines pour lesquels on les a fabriquées. Donc ce sont des modèles, des modèles Fabriqués avec des datas, des données, ce big data qui est disponible aujourd'hui. Mais finalement, ce ne sont que des outils qui nous permettent de faire des choses mieux dans les domaines particuliers pour lesquels elles ont été fabriquées.

• Gerard Peccoux

  Tu dis dans ton premier livre, je crois, qu'il y a des promesses qui n'ont pas été tenues et que le thème intelligence artificielle, il a aussi été fait et il est encore beaucoup utilisé pour des questions budgétaires.

• Luc Julia

  Oui, c'est vrai qu'on parle souvent d'intelligence artificielle en faisant ces fameuses promesses. Ce qui est dangereux d'ailleurs, parce que dans les années 50, ces fameuses promesses ont amené à quelque chose qui s'appelle l'hiver de l'IA. C'est-à-dire qu'au bout d'un moment, on s'est aperçu quand même qu'on nous mentait, qu'on nous disait n'importe quoi. Et les investisseurs, en l'occurrence, ont arrêté d'investir et l'IA a disparu. Aujourd'hui, c'est vrai qu'on parle beaucoup d'IA et il y a beaucoup de gens. Et les gros de l'IA, en fait, les Musk. les altman, tous les gens qui prennent énormément d'argent et qui demandent énormément d'argent aux investisseurs, font ça effectivement pour, je dirais presque, sauver leur boîte. C'est malheureusement pas forcément la bonne direction dans laquelle il faut aller, je pense, mais certains utilisent ces termes pour faire fantasmer toujours des gens et des investisseurs et leur faire croire qu'ils vont développer des trucs incroyables. Et donc cette fameuse IA générale, ce qu'on appelle AGI en anglais, qui ferait tout et n'importe quoi. Et oui, je pense que ça, c'est un gros mensonge qui pourrait un jour mener au fait qu'on arrête de croire à toutes ces bêtises et à faire en sorte que ces IA aussi disparaissent.

• Gerard Peccoux

  Toi, tu es certain, contrairement à ce qu'effectivement disent Sam Altman ou Elon Musk, que les IA générales, elles sont impossibles à atteindre avec le niveau des IA génératifs que l'on a aujourd'hui. Comme les voitures autonomes, d'ailleurs.

• Luc Julia

  Oui, les voitures autonomes, complètement autonomes, de niveau 5. l'IA générique générale qui ferait tout, tout le temps, et tout le temps bien, évidemment. C'est-à-dire qu'il faut bien comprendre que ces IAs, ce ne sont que des mathématiques aujourd'hui. Donc, ce que je dis, c'est que tant qu'on utilise les mathématiques, tant qu'on utilise les statistiques, tant qu'on utilise ces modèles statistiques, eh bien, oui, c'est effectivement impossible, parce que dans la statistique, le parfait n'existe pas. Il y a toujours des doutes, il y a toujours des erreurs. Et donc, dire qu'on va pouvoir tout faire et n'importe quoi, c'est un mensonge. Pour moi, il n'y a aucun doute là-dessus. La réalité aussi, c'est que je ne sais même pas ce que ça veut dire, l'intelligence générale. Je ne sais pas ce que c'est. Est-ce que c'est quelque chose qui fait qu'on mettrait tous les humains bout à bout et ça les remplace tous et ça permet à cette AI générale d'être meilleure que tous les humains en même temps ? Je rappelle encore une fois que les intelligences artificielles qu'on a aujourd'hui, elles sont meilleures que nous dans les domaines pour lesquels on les a faites, par la définition même de l'outil. Donc, je ne sais pas exactement à quoi ça servirait d'avoir un truc qui serait général, générique. et qui me permettrait de l'utiliser comme étant finalement Dieu. C'est en gros ce qu'on est en train d'essayer de fabriquer.

• Gerard Peccoux

  Dans ton dernier livre, tu affirmes que les idées génératives ne sont pas du tout créatives, et tu viens un peu de l'expliquer. Est-ce que tu peux nous donner quelques exemples ? J'en retiens un, alors je ne sais plus s'il est dans le premier, dans le deuxième livre ou à l'une des conférences à laquelle j'ai assisté. Il y avait l'exemple des Ausha que j'ai bien aimé. Tu peux nous en dire un peu plus là-dessus ?

• Luc Julia

  Les Ausha, c'était un exemple des IA qu'on appelle le machine learning, qui était le retour, on va dire, des IA statistiques. Parce que les IA statistiques, on a commencé avec ça dans les années 50, mais comme j'ai dit, ça n'a pas bien marché. On a fait les IA logiques, donc les systèmes experts. Et puis dans les années 90, on est revenu sur les IA statistiques parce que beaucoup de données sont arrivées. Et comment elles sont arrivées ? C'est beaucoup de données. Elles sont arrivées à travers Internet. Et un des premiers reconnaisseurs qu'on ait fait, un des premiers systèmes qui était fait pour montrer qu'on était capable de faire des statistiques et de faire des systèmes qui allaient reconnaître des trucs, qui allaient faire des trucs qui avaient l'air intelligents, parce que c'est intelligent de reconnaître des Ausha, par exemple. C'était un reconnaisseur de Ausha, effectivement. Et il se trouve que les gens postaient énormément de Ausha sur Internet. Il y avait des images de Ausha, et en plus de ça, c'était des images de Ausha annotées, parce que les gens non seulement postaient des Ausha, mais ils commentaient aussi « c'est mon minou, c'est mon chaton, gna gna gna » . Et du coup, on savait que c'était des Ausha. Parce que dans les bases de données, le problème qu'on a des fois, c'est qu'on a des trucs, mais on ne sait pas vraiment ce que c'est, jusqu'à ce qu'on les annote. Là, ils étaient déjà annotés, donc on a fait avec 100 000 images de Ausha, on était capable de faire un reconnaisseur de Ausha qui reconnaissait des Ausha à 98%. Alors bon, c'était extraordinaire. On avait fait un machin qui permettait de reconnaître ces Ausha. Bon, alors c'était effectivement extraordinaire, c'était sympa. Ça montrait la capacité de ces réseaux de neurones, en quelque sorte, à reconnaître des trucs, donc c'était bien. Mais la question qui s'est vite posée, c'est est-ce que c'est vraiment comparable à un humain ? Et la question pour moi s'est posée d'autant plus qu'à ce moment-là, j'avais une fille de deux ans et je me suis demandé, mais combien il va lui falloir de Ausha à elle pour reconnaître les Ausha ? Et à 100%, enfin tout le temps. Et bon, les psychologues, les éducateurs m'ont dit qu'il ne fallait pas que je m'inquiète, elle n'avait pas besoin de 100 000 images de Ausha, c'était bien parce que ça aurait été long, qu'elle n'avait besoin qu'à peu près de deux Ausha pour pouvoir identifier les Ausha à l'avenir et à peu près à 100%. Donc, juste ça, ça montre que ces IA statistiques n'ont strictement rien à voir avec notre cerveau à nous, parce qu'entre deux images de Ausha et 100 000 images de Ausha, c'est quand même pas tout à fait pareil. Donc, c'est là où on peut respirer un tout. petit peu et on peut se dire ces outils qu'on fait sont des outils qui peuvent être intéressants, qui peuvent faire des trucs plus ou moins intelligents dans un domaine particulier mais ils n'ont vraiment strictement rien à voir avec notre intelligence. Donc arrêtons de fantasmer et de les comparer avec nous-mêmes.

• Gerard Peccoux

  Et ta fille en plus peut les reconnaître à 100% et même la nuit, ce que je crois que les intelligences artificielles ont beaucoup de mal à reconnaître les chalets.

• Luc Julia

  Oui, parce qu'évidemment il n'y a personne dans cette base de données dont on parle, qui était cette base de données à noter sur Internet. personne n'a posté de chat la nuit, d'accord ? Parce qu'on ne les voit pas bien et tout ça, donc ce n'est pas intéressant. Et donc du coup, le problème, ceci à statistique, encore une fois, c'est que du coup, les Ausha dans la pénombre, ils n'existent pas, et donc ils ne peuvent pas être reconnus par l'IA. Tandis que les Ausha dans la pénombre, un humain va pouvoir les reconnaître aussi s'il ne fait pas trop noir quand même. Voilà, donc encore une fois, c'est un truc qui montre que les statistiques, c'est sympa, mais si on ne met pas les choses dans la base de données, si on ne met pas les choses dans ce modèle, ça ne peut pas être reconnu, évidemment.

• Gerard Peccoux

  Je crois que c'est l'une des raisons pour lesquelles, d'ailleurs, tu expliques qu'on aura du mal à passer, par exemple, à ChatGPT 5.0, parce que je crois qu'avec le 5.5, mais je parle sous ton contrôle, on a déjà à peu près récupéré toutes les données du web.

• Luc Julia

  Oui, alors quand on parle de ChatGPT, les dernières versions, on parle de 1 200 milliards de paramètres. Alors 1 200 milliards de paramètres, c'est beaucoup, c'est énormément. Alors quand je parlais tout à l'heure des Ausha, je parlais de 100 000, l'image de chat, on est passé entre le machine learning, le deep learning et maintenant les IA génératives, c'est exponentiel le nombre de données qu'on prend et c'est exponentiel aussi les capacités de calcul dont on a besoin pour créer ces modèles et même pour trouver les solutions dans ces modèles donc effectivement il y a une explosion des données et aujourd'hui vraiment 1200 milliards de données ça veut dire qu'on a à peu près tout utilisé internet, c'est à dire qu'on a mis internet en boîte et ChatGPT est capable de répondre à n'importe quelle question d'internet Merci. vraie ou fausse d'ailleurs, parce qu'il va avoir pris aussi les mauvaises réponses d'Internet, évidemment, parce qu'on sait que sur Internet, tout n'est pas vrai. La réalité, c'est que tous les jours, on crée des nouvelles données. Tous les jours, il y a des nouvelles données qui sont créées dans son parole humain, mais aussi par les IA elles-mêmes. Donc, ce n'est pas tout à fait juste de dire qu'on a mis tout Internet dans ChatGPT, mais on a mis une grosse, grosse partie d'Internet et donc c'est difficile d'avoir quelque chose qui va être encore plus gros que ce qu'on a aujourd'hui.

• Gerard Peccoux

  J'espère qu'on n'y a pas mis les données du dark web en tous les cas.

• Luc Julia

  Oui, on n'en a pas trop mis, mais tu sais, au départ, tout à fait au début des IA génératives, elles étaient là pour répondre à toutes les questions. Elles répondaient vraiment à toutes les questions, même celles qui sont interdites en fait. Même les choses qui ne sont pas censées être accessibles sur le net. Donc, il y avait quand même des données qui venaient d'ailleurs que sur Internet. Parce que tu pouvais demander, tu ne peux plus aujourd'hui, c'est plus possible, mais tu pouvais demander à l'époque, en novembre 2022 à ChatGPT. « Montre-moi la recette d'une bombe. » Et ce genre de questions, tu ne peux pas les poser sur le net. Tu demandes sur Internet aujourd'hui « Montre-moi la recette du bombe » , il ne te la donnera pas. Sur le Darknet, oui, il te la donnera. Et donc, en novembre 2022, Chadjipiti te donnait la recette de la bombe. Depuis, les avocats se sont inquiétés un tout petit peu parce que là, je parle de la recette de la bombe, c'est quelque chose qui n'est pas bien, mais qui n'est légalement pas bien. Mais il y a d'autres choses, des contenus pédopornographiques, il y a plein de trucs qu'on pouvait générer qui étaient bien plus graves que... Une recette de bombe, en quelque sorte. Donc voilà, c'est du contenu qui était accessible, on pouvait accéder à tout et n'importe quoi. Et donc, il y avait certainement un peu des choses qui venaient aussi de bases de données qui n'étaient pas l'Internet ouvert qu'on connaît aujourd'hui.

• Gerard Peccoux

  Il y a d'énormes biais aussi quand on utilise les IA, enfin qu'on entraîne des IA génératives. Tu peux nous rappeler l'exemple de Microsoft, dont l'IA qui était un chat ? Chatbot est resté, je crois, en ligne 24 heures. Ils l'ont débranché parce qu'il était devenu raciste à cause, je crois, des bases de données qu'on avait utilisées pour l'entraîner.

• Luc Julia

  Exactement. Donc, il s'appelait Tai. En fait, il est resté 16 heures. Il est resté 16 heures. Parce qu'au bout de 16 heures, effectivement, le truc était devenu complètement raciste. Ça, c'est un problème. Ça montre le biais. De toute façon, c'est très compliqué de ne pas avoir des datas biaisées. Oui. même dans ma base de données de chat dont je parlais tout à l'heure où les gens disent c'est mon minou c'est mon chaton etc donc ils annotent ça il y en a qui ont pu faire des blagues tu vois et mettre une photo de chien et dire c'est mon chaton Donc, c'est compliqué d'aller vérifier toutes les données. Quand tu as 100 000 images de Ausha, à la limite, tu peux toutes les regarder et aller vérifier que c'est vraiment 100 000 images de Ausha. Mais quand tu as un milliard de données, c'est beaucoup plus compliqué. Et le problème, effectivement, de ces IA, c'est qu'en 2016, quand Microsoft aime bien les chatbots, ils ont racheté plus ou moins de chatGPT aujourd'hui, mais à l'époque, ils ont fait ce taille, avec l'idée d'avoir taille qui allait discuter avec les gens sur Twitter. et faire un peu la promotion des produits de Microsoft. Bon, l'idée n'était pas mauvaise, c'est du marketing. Mais le truc, effectivement, au bout de 16 heures, ils l'ont débranché parce qu'au lieu de faire du marketing et de promouvoir les produits de Microsoft, ils s'étaient mis à insulter surtout les Noirs. Et donc, ça n'avait aucun sens. Évidemment, ce n'est pas ce qu'ils voulaient. Évidemment, ce n'est pas le résultat qu'ils escomptaient de ce chatbot. Et on s'est demandé pourquoi. Et les gens se sont penchés un peu sur le cas. Il y a eu deux erreurs qui ont été mises à jour. La première, c'est une erreur, on dirait, un peu de logique, une erreur de programmation. Quand tu fais un système qui est un système interactif, tu fais en sorte de trouver la façon dont les gens parlent et tu as un facteur d'adaptabilité et tu essayes de t'intégrer de la même façon que les gens, ton public, va parler. Et donc, tu adaptes, globalement, ton discours à celui de ton public. Et là, ce facteur d'adaptabilité était un peu trop haut et le public, il se trouve que c'était le public sur Twitter. Et sur Twitter, on sait qu'au bout de 2-3 interactions, on s'insulte. Donc là, la machine, au bout de 2-3 interactions, insultait les gens. Ça, c'est relativement facile à fixer. Tu redescends le slider d'adaptabilité et puis tu adaptes ton discours à toi-même. C'est-à-dire que tu décides comment tu vas parler. Donc ça, ce n'était pas très grave. Mais par contre, la seconde erreur, c'était une erreur de données, effectivement. Et donc, des biais dans les données. Parce que quand ils ont fait le système, ils ont dit qu'il faut qu'on trouve ce que c'est qu'un dialogue. D'accord ? Et les dialogues, c'est beaucoup plus difficile à trouver sur Internet que des Ausha, pour créer le modèle de ce dialogue. Il se trouve qu'il y a une database qui existe, une base de données qui existe depuis très longtemps, depuis les années 50, qui s'appelle Switchboard, qui est une base de données super intéressante de conversation de gens qui appellent au téléphone les call centers, là, et qui vont se plaindre, « Ma machine à laver est cassée » , ou alors qui sont contents parce que « Merci pour ce que vous avez raconté à la radio, je ne sais quoi » . D'accord ? Donc ils appellent, ces appels sont enregistrés. ils sont retranscrits, c'est-à-dire qu'on retranscrit les mots pour voir exactement ce qui a été dit, et puis on commente, le gars il était sympa, il était énervé, etc. Et donc cette base de données, depuis les années 50, elle réunit des millions de conversations comme ça. Et donc tous les gens qui font des systèmes de dialogue, ils utilisent Switchboard parce que c'est une bonne base de données pour faire ça. Et là tu peux imaginer le gars qui est en charge de faire Thaï, quand on lui dit il faut que tu fasses maintenant un modèle de dialogue, il a dit je vais aller utiliser Switchboard comme tout le monde. Et il s'est dit, je ne vais pas utiliser toute la base donnée, il y a trop de trucs. D'accord ? Il y avait des millions de conversations. Donc le gars, sans faire exprès évidemment, il a pris un sous-ensemble. Et le sous-ensemble qu'il a pris, malheureusement pour lui, c'était le début de la database. Donc Alabama, années 50.

• Gerard Peccoux

  D'accord.

• Luc Julia

  Évidemment, quand tu prends Alabama à 50, il y a déjà un biais dans les conversations, parce que c'est un État qui était raciste, c'est un État qui... Et donc intrinsèquement, les conversations enregistrées étaient racistes, et donc intrinsèquement, le modèle était raciste et il a fallu quelques étincelles pour qu'au bout de quelques heures, effectivement, le modèle se mette à insulter les Noirs.

• Gerard Peccoux

  Merci pour ces précisions, Luc. Alors, dans le podcast Never Stop Learning, on adore déconstruire les neuromythes. Alors, on ne parle pas de neurosciences aujourd'hui dans cet épisode, mais je te propose d'évoquer les principaux mythes sur l'intelligence artificielle que tu souhaiterais déconstruire aujourd'hui auprès de nos auditrices et de nos auditeurs.

• Luc Julia

  En fait, les mythes, tu vois, c'est que cette intelligence artificielle générique générale va nous remplacer et va tout faire mieux que nous tout le temps. Il faut arrêter de penser comme ça, il faut penser plus outils. Et ces outils, j'ai en fait un scoop qui va dans le sens de ce qu'on pense qui est la science-fiction et qui dit en fait, ces IA, elles sont meilleures que nous. On me dit tout le temps, l'IA va être meilleure que vous et ça va nous remplacer. Je dis, non, les IA sont déjà meilleures que moi. Dans les domaines pour lesquels j'ai fabriqué ces outils, par définition même de l'outil, l'IA est meilleure que moi. Donc, ces IA sont meilleures que nous pour ce qu'elles ont été faites, mais il n'y a pas d'IA générale qui couvre tous les domaines. Ça, ça n'existe pas. Donc, c'est ça le truc qu'il faut comprendre. C'est que pour couvrir tous les domaines, c'est très compliqué. Et c'est pour ça que je ne sais pas ce que c'est que l'IA générique, de façon générale. Je ne sais même pas ce que ça veut dire. C'est trop compliqué. Il y a trop de choses. Et donc... Avoir une infinité de domaines dans lesquels on va avoir des IA qui vont être performantes, ça paraît beaucoup, parce que l'infini, c'est quand même beaucoup. Et donc, du coup, il faut un peu tempérer ces choses-là, parce que ce n'est juste pas possible. Après, il y a d'autres choses. Il y a des IA spécifiques dont on parle et on dit, ça y est, ça va arriver. On va avoir, par exemple, les voitures autonomes. Les voitures autonomes, on en parle depuis 2014. C'est surtout Elon Musk qui en parle depuis 2014. Et il dit, c'est demain. Alors bon, demain aujourd'hui ça fait 10 ans, ça fait un peu plus de 10 ans, et il n'y a toujours pas de voiture autonome. C'est ces rêves-là qu'il faut déconstruire. Et pour la voiture autonome, par exemple, c'est assez facile à déconstruire, en fait, parce qu'on voit bien qu'il y a des cas qui sont super compliqués. Il y a des cas qui n'existent pas dans ces fameuses données dont je parlais tout à l'heure et qui sont impossibles à décoder par ces intelligences artificielles parce qu'elles ne sont pas capables de créer, elles ne sont pas comme nous. Nous, quand on va avoir un cas qu'on n'a jamais vu, on n'a jamais vu le truc, c'est jamais arrivé, on va s'adapter. On va s'adapter parce qu'on a un cerveau et on va jauger la situation et on va faire quelque chose, pas toujours bien, mais on va faire quelque chose et finalement on va s'adapter à cette situation. Les IA, quand elles ont une situation dans laquelle elles n'ont vraiment aucune réponse, soit on leur fait faire des trucs au hasard, et ça ce n'est pas une bonne idée pour des voitures, soit elles s'arrêtent et elles ne font plus rien. C'est exactement ce qui peut se passer avec ces voitures autonomes, c'est qu'il y aura des cas. Et malheureusement, quand il y en a un, ça veut dire qu'il y en a une infinité. Il y aura des cas où on sera incapable de les avoir mis dans les bases de données avant qu'ils arrivent. Et le jour où ils arrivent, elles seront bloquées, ces IA, et elles ne sauront pas quoi faire.

• Gerard Peccoux

  Alors, on va passer plus sur la partie éducation et la formation professionnelle. Quelle place tu vois concrètement pour l'IA dans l'éducation et la formation ?

• Luc Julia

  Alors déjà, elle a une place. C'est-à-dire, surtout pas l'ignorer. Il ne faut surtout pas dire, on ne va pas l'utiliser, on ne va surtout pas l'utiliser, on met ça sur le côté, on ne veut pas utiliser ces IA. Ça, ce serait une stupidité absolument terrible, parce que, comme j'ai dit, ces IA, ce sont des outils, des outils qui vont être possibles à utiliser dans certains cas, dans certains métiers, dans certaines tâches. Donc, il ne faut pas les ignorer, il faut les expliquer. Il faut expliquer que plus elles sont génériques, plus elles sont sources d'erreurs. Donc, on fait ça en faisant des exercices simples, en disant, par exemple... génère une biographie de Victor Hugo. On va voir assez facilement, quand on est dans le monde éducatif, que quand ça génère la biographie de Victor Hugo, ça va faire une, deux, trois, quatre erreurs en fonction de la taille de la biographie qu'on a demandé. Et donc, là, on explique calmement que quand elles sont génériques, elles vont faire des erreurs. Si c'est une IA spécialisée dans Victor Hugo, on va montrer qu'elle ne fait pas d'erreurs, ou qu'elle fait beaucoup moins d'erreurs, qu'elle est fiable à 99%. Et donc là, qu'on peut utiliser... C'est là qu'on va comprendre que ces IA ont une géométrie variable et que plus elles sont spécialisées, plus on va pouvoir leur faire confiance. Il faut toujours relire, il faut toujours regarder ce qu'elles font quand même, parce qu'il y a toujours une petite part d'erreur qui est possible, parce que ce sont des statistiques. Donc le truc, c'est essayer, jouer avec, en parler, et surtout ne pas mettre le truc sous le tapis en disant « je l'ignore, je ne veux pas savoir » . Ceux qui vont ignorer ces IA, qui ne vont pas les utiliser dans leur métier, C'est un peu comme ceux, je prends le cas par exemple des designers. Les designers qui ont eu peur, mais qui commencent à ne plus avoir peur maintenant de l'IA parce qu'ils ont compris que ça allait être des aides et que ça n'allait pas du tout les remplacer parce que ce n'était pas du tout créatif justement. Et que c'était eux les créatifs et que ça allait exacerber leur créativité. En fait, c'est exactement comme si les designers, il y a 35 ans, avaient dit « On ne va pas utiliser Photoshop » . Il y en a qui ont dit qu'ils n'allaient pas utiliser Photoshop. Mais bon, ils ne sont pas restés designers longtemps. D'accord, parce que cet outil était un outil qui permettait non seulement un peu de productivité, mais pas tellement de la productivité, surtout de la qualité. D'accord, donc il y a 35 ans, ceux qui ne sont pas passés du papier au crayon jusqu'à Photoshop, ils ont été plus ou moins éliminés. C'est vrai parce qu'ils n'ont pas utilisé l'outil. Et ça sera la même chose avec les IA génératives. S'ils ne passent pas à l'outil IA générative qui va leur permettre d'être plus créatifs, eh bien oui, ils risquent d'être éliminés. Donc, c'est sûr qu'il ne faut pas ignorer l'outil. Il faut apprendre à l'utiliser, il faut apprendre ses limites. Il faut apprendre ses capacités et à ce moment-là, on va pouvoir les utiliser correctement. Et à la fin, il y a plusieurs cas. Il y a le cas de l'utilisation correcte de l'IA dans son métier. Ça, c'est super. Mais aussi, il faut comprendre que ces IA ont des problèmes d'impact. Donc, il faut aussi comprendre quel est l'impact. Il faut aussi comprendre qu'il y a potentiellement des régulations. Je compare souvent une IA avec un marteau. Un marteau, je peux l'utiliser à bon escient pour planter le clou. Un mauvais essiant pour planter une vis, ça ne sert à rien, c'est idiot d'utiliser un marteau pour planter une vis. Et je peux utiliser encore pire un très mauvais essiant pour te taper sur la tête. Donc quelque part, il y a des régulations qui vont naître et qui vont dire qu'il y a des cas où il ne faut pas utiliser ces IA. Donc il faut comprendre encore une fois, et ça devrait venir de nous, c'est-à-dire qu'une fois qu'on comprend comment ces IA marchent, on comprend aussi comment ne pas les utiliser et à quel moment ne pas les utiliser et pourquoi on ne peut pas les utiliser.

• Gerard Peccoux

  Tout ce que tu viens d'expliquer, c'est une des raisons pourquoi tu préfères le terme « intelligence augmentée » plutôt qu' « intelligence artificielle » ?

• Luc Julia

  Oui, exactement. Ces outils, finalement, qu'est-ce que ça fait ? pour des tâches particulières, ça augmente ma capacité. Donc ça augmente mon intelligence, parce que c'est des outils qui sont censés faire des tâches intelligentes. C'est l'intelligence augmentée, parce que ça augmente mon intelligence sur ce point particulier. Et là, je reviens sur ces IA qui officiellement existent depuis 1956, mais en fait, Gerard Peccoux ces IA existent depuis bien plus longtemps que ça. Et donc moi, je fais remonter une IA à 1642, c'était la Pascaline, la machine à calculer qu'avait inventée Pascal. Et la machine a calculé le Pascal, elle faisait des additions et des soustractions. Alors tu vas me dire, c'est pas très intelligent de faire des additions et des soustractions, mais si on commence à faire des additions et des soustractions à 4 chiffres, comme faisait la Pascaline, ça commence à être un peu plus intelligent, tu vois. Si je te demande combien fait 1341 plus 2067, tu vas mettre un petit peu de temps à la faire.

• Gerard Peccoux

  Un petit peu de temps.

• Luc Julia

  Alors que la machine, elle l'aurait fait en 4 secondes. Et c'est là où je dis que la machine vient d'augmenter mon intelligence. Parce que, évidemment, je sais faire l'addition. Évidemment, je peux le faire. mais elle m'a permis ici, en l'occurrence, d'avoir la capacité de le faire peut-être plus rapidement, mais surtout juste. Et donc, c'est là où je dis que ces IA vont venir augmenter mon intelligence, pas forcément en productivité, donc pas forcément beaucoup plus rapidement, mais surtout en qualité. C'est-à-dire qu'à la fin, ce que je fais d'habitude avec mon cerveau, ça va me permettre de le faire mieux et de le faire un peu différemment de temps en temps, comme je reprends l'idée des designers. Les designers qui vont maintenant utiliser ces IA génératives, Ils vont se rendre compte qu'ils peuvent exacerber leur créativité en demandant tout et n'importe quoi à l'IA, parce que l'IA, elle va faire tout et n'importe quoi. Et donc, ils vont pouvoir jouer avec ça, ils vont pouvoir faire plein de brouillons, beaucoup plus de brouillons que ce qu'ils n'auraient pu faire, même avec Photoshop. Et ça va, quelque part, attiser, exciter leur créativité.

• Gerard Peccoux

  Tout à fait. J'ai une question sur les formateurs et les ingénieurs pédagogiques. Comment ils peuvent utiliser les IA génératives en évitant les biais le plus possible ? Merci. On a parlé, il y a des hallucinations, il continue à y en avoir, même avec la dernière version de ChatGPT. Comment ils peuvent faire pour éviter ces biais ? Relire ?

• Luc Julia

  Relire, c'est le truc basique. C'est-à-dire que quand on va utiliser ces IA, après on relit. Et puis, si on est plus ou moins spécialiste du domaine dans lequel on l'a utilisé, on vérifie qu'il n'y a pas d'erreur. Donc, on est censé être le sachant. Ça, c'est important. La vraie solution, le relire, c'est tout le temps, de toute façon. Oui,

• Gerard Peccoux

  il ne faut pas faire confiance d'emblée à une IA.

• Luc Julia

  Voilà. Donc, de toute façon, tu n'as pas le choix. Mais la réalité, c'est qu'il faut utiliser des IA qui sont des IA spécialisées. À partir du moment où elles sont spécialisées, elles vont être beaucoup plus fiables, elles vont être beaucoup plus pertinentes. Donc, on utilise des IA spécialisées dans le domaine qu'on est en train d'apprendre, qu'on est en train de regarder, et c'est l'assurance que ça va être meilleur que ces IA génériques qui peuvent halluciner complètement. Les hallucinations dans les IA spécifiques, qui sont entraînées sur des domaines particuliers, elles sont beaucoup moins importantes. que les hallucinations dans les IA un peu génériques comme ChatGPT, Gemini, etc.

• Gerard Peccoux

  Alors, quelles transformations les professionnels du learning doivent anticiper avec l'arrivée massive justement des IA génératives ou d'ailleurs des agents IA ? Comment ils doivent se comporter et qu'est-ce qu'ils doivent apprendre ? Ils doivent apprendre à douter, déjà. Ils doivent se dire que, potentiellement, ces IA ont été utilisées pour générer le contenu qu'ils sont censés regarder, soit noter, ou je ne sais quoi. Donc, on doit toujours se dire, on va toujours avoir dans la tête qu'il est possible que ce contenu ait été généré par une IA. Avec ça, après, on va aller titiller ce contenu. Il y a plusieurs façons de titiller ce contenu. Il y a une course qui est en cours. Aujourd'hui, c'est la course avec des outils qui vont essayer de détecter ce qui a été généré par les IA. Mais évidemment, ces outils deviennent obsolètes quand les IA arrivent à détourner les patterns que peuvent récupérer ces outils. Donc en gros, on peut quand même utiliser des outils pour essayer de détecter ça, pour essayer de détecter le plagiat, pour essayer de détecter toutes ces choses qu'on ferait déjà dans le monde normal. Parce que, tu sais, copier des trucs sur Internet, les devoirs qu'on faisait dans les années 2000, On avait dit, c'est embêtant, il y a Internet, on ne sait pas, on ne va pas pouvoir vérifier tout ça. On s'est adapté, on a réussi. C'est pour ça qu'il ne faut pas trop s'affoler non plus. Les outils sont beaucoup plus faciles à utiliser aujourd'hui que ce qu'ils n'étaient hier, grâce au prompt et grâce au fait que le prompt me permet de faire tout et n'importe quoi. Mais la réalité, c'est qu'on va avoir des outils d'un côté, et puis on va avoir notre cerveau de l'autre, avec notre capacité d'aller nous-mêmes vérifier des choses. comparer, comprendre, et puis sentir. La réalité aussi, quand je dis que ces IA ne sont pas créatives, elles sont même carrément fades. Il faut être clair, c'est-à-dire que quand tu demandes à une IA de te faire un poème, quand même, c'est en général assez fade. C'est quand même dommage, parce qu'en fait, c'est ce que ferait un élève qui n'est pas créatif. Aussi, tous les élèves, tous les gens ne sont pas créatifs. On ne demande pas aux gens de créer en permanence. Beaucoup s'inspirent de choses. Avec les IA, elles vont s'inspirer aussi de choses, mais elles s'inspirent encore moins qu'un humain. Donc, elles sont beaucoup moins inspirées, en fait, qu'un humain.

• Luc Julia

  Merci, Luc. J'avais une double question avant de terminer, puisqu'on est presque au bout de ce podcast. Le temps passe très vite avec toi. Selon toi, il y a quand même des dangers réels quant à l'utilisation de l'IA. On a parlé des hallucinations. J'imagine que la désinformation généralisée, les fake news sont des problèmes. J'ai lu plus récemment une étude que j'ai quand même prise avec des pincettes, même si elle sort du MIT. qui mettrait en lumière les risques potentiels d'une utilisation exclusive et prolongée de chat GPT, en l'occurrence l'étude a été faite avec chat GPT, pour des tâches intellectuelles avec une moindre activité cérébrale, une mémoire et un sentiment d'appropriation affaiblis, des risques d'homogénéisation des écrits. Je ne sais pas si tu as vu cette étude, qu'est-ce que tu en penses toi ?

• Gerard Peccoux

  Je pense que c'est vrai en fait. C'est vrai parce que là, l'étude ce qu'elle montre, c'est qu'on ne se rappelle plus de ce qu'on a généré. de ce qu'on a fait générer par l'IA. Parce que comme on a fait le truc un peu en monde zombie, on n'a pas vraiment relu le machin et tout ça. Donc c'est vrai, on peut utiliser l'outil de façon à ce qu'on n'apprenne rien. Et c'est dommage parce que l'outil va générer effectivement de la platitude. C'est ce que ça veut dire ici. Quand tu dis que ce qui est généré ne va pas être très intéressant. Donc ça va générer des trucs plats et donc ça va générer des trucs qui ne vont rien nous apprendre. De toute façon, en général, ces gens-là, quand ils génèrent des trucs comme ça, ils ne vont pas les relire. Et c'est pour ça d'ailleurs qu'ils ne s'en rappellent plus après. On peut devenir idiot parce qu'on peut juste décider de générer, générer, générer les trucs sans jamais les regarder en quelque sorte, sans jamais douter. Et la réalité, c'est qu'il faut que l'esprit critique revienne et qu'on se dise que quand on crée des choses, nous, en tant que créatifs, et quand on veut les faire générer par ces IA, ça peut générer des trucs qui sont complètement faux. comme on a dit déjà plusieurs fois, ce qu'il faudrait, c'est qu'on ait l'esprit critique d'aller relire le machin et d'aller dire, tiens, peut-être que là, ce n'est pas tout à fait vrai, peut-être qu'il faut que j'aille comparer avec un Wikipédia, peut-être qu'il faut que j'aille comparer avec un dictionnaire, peut-être que... Et donc, en fait, cet esprit critique, encore une fois, cet esprit d'aller investiguer plus, moi, je pense que c'est ce qui va se passer à la fin, c'est-à-dire que ça va permettre aux gens, en fait, d'être plus intelligents. Mais il y a une possibilité qu'ils deviennent idiots. Ça, c'est tout à fait possible. C'est ce que montre l'étude. Et l'étude, elle a raison, fondamentalement. Si on ne fait pas marcher notre cerveau avec cet esprit critique dont je suis en train de parler, avec ce doute, c'est vrai qu'on peut devenir un peu idiot. C'est un peu ce qui se passe aujourd'hui avec le GPS, par exemple.

• Luc Julia

  Oui, c'est vrai.

• Gerard Peccoux

  On est idiot de la carte, aujourd'hui. Idiot de savoir où on est. On ne comprend plus rien. Donc, c'est possible. C'est possible. Mais il y en a qui aiment bien utiliser les cartes, étudier les cartes et savoir où ils sont. Et puis des fois ils doutent, ils disent est-ce que c'est vraiment le chemin le plus optimal, tu vois, etc. Donc je pense que petit à petit on se rend compte que les IA en particulier, alors le GPS c'est un peu moins infaillible, c'est beaucoup plus fiable que les IA je pense, mais des fois il faut douter aussi sur le GPS parce qu'il te fait passer par des endroits bizarres.

• Luc Julia

  C'est vrai. Deux dernières questions, si tu le permets. On a parlé des risques et des risques à éviter. Tu viens d'en citer un en expliquant très bien l'étude du MIT. Est-ce qu'il y en a d'autres qu'il faudrait éviter absolument dans l'utilisation des IA ? Alors, je pense plus pour le coup pour la formation.

• Gerard Peccoux

  Déjà, il faut comprendre que ce n'est pas gratuit. Je pense qu'il y a deux autres risques dont on ne parle jamais parce que ça a l'air d'être à disposition, parce qu'OpenAI ne nous fait pas payer le truc et OpenAI perd des milliards tous les ans en fait, parce qu'ils font du dumping sur ces machins-là. Mais c'est un problème en fait, parce que la réalité c'est qu'il faut comprendre que ça a un coût. Donc ça a un coût non seulement en argent, et donc un jour il faudra bien qu'ils fassent payer le truc, à moins qu'ils fassent faillite, ce qui est possible aussi, mais il y a un coût aussi écologique qu'il faut aussi comprendre. Quand on va apprendre à utiliser ces IA, quand on va apprendre à savoir où et comment les utiliser ou pas, il faut comprendre quels sont ces différents coûts. qui sont très importants, en fait, du côté de l'écologie, parce que ça utilise énormément d'électricité, ça on le sait bien, parce qu'on comprend qu'il y a beaucoup de données, les data centers qui vont utiliser beaucoup d'électricité, mais ça utilise aussi de l'eau pour refroidir les data centers, et ça gâche de l'eau. Ça, c'est le genre de truc qu'il faut aussi intégrer dans l'apprentissage de l'utilisation de ces IA, pour qu'on ne les utilise pas à tort et à travers, comme on a l'impression que c'est gratuit. C'est un peu comme quand on a commencé à utiliser Internet, on a l'impression que c'est gratuit. Puis on s'est aperçu que, quelque part, ce n'est pas gratuit. Et comme on dit souvent, le produit, finalement, c'est nous. Ce n'est pas gratuit.

• Luc Julia

  Tu viens d'anticiper ma dernière question, parce qu'elle portait sur la sobriété numérique. Et je crois que tu préconises le développement, bien sûr, de technologies moins énergivores. Et puis, tu parles également de SLM. Est-ce que tu peux nous expliquer ce que c'est, les SLM ?

• Gerard Peccoux

  Déjà, il faut expliquer ce que c'est que les LLM.

• Luc Julia

  Oui, les LLM.

• Gerard Peccoux

  Merci. Les Large Language Models, c'est ça qui est la base de ces IA génératives. Donc c'est des Large Language Models, ça veut bien dire ce que ça veut dire, c'est des gros modèles de langage. Et les gros modèles de langage, pourquoi ils sont gros et pourquoi c'est des modèles ? Ils sont gros parce qu'il y a beaucoup de données, et c'est des modèles parce que c'est des modèles statistiques, comme je disais tout à l'heure. Donc l'avenir, c'est effectivement plus les SLM, donc les Small Language Models. Et les SLM, pourquoi c'est l'avenir et pourquoi d'ailleurs c'est le présent, la réalité, c'est que les SLM, ça va être des trucs qui vont être beaucoup plus spécialisés, Oui, oui. plus petits, par définition même, parce que je vais utiliser moins de données, parce que ça va être des données seulement d'un domaine particulier. Et donc, ils vont devenir plus petits et par définition, ils vont aussi devenir plus frugaux. Donc, je pense que effectivement, on va voir de plus en plus des SLM arriver. Et on parle aujourd'hui d'un autre type d'IA qui est relié aux IA génératives, qu'on appelle l'IA agentique. Mais l'IA agentique, c'est pas autre chose en fait que des SLM. Donc, plein de petits agents qui vont être disséminés, qui vont être très spécialisés. et qui vont être orchestrés par un orchestrateur, comme ça m'indique, un chef d'orchestre, qui va pouvoir définir comment on va faire des tâches en mettant en musique, en quelque sorte, ces différents agents. Ça va donner la possibilité de faire des tâches plus complexes, des suites logiques, en quelque sorte, qui vont être des sous-tâches qui vont permettre de faire des tâches beaucoup plus importantes. Alors, on donne toujours comme exemple la réservation de voyage. Dans la réservation de voyage d'une IA agentique, Il va y avoir l'IA qui va aller chercher dans quel pays tu veux aller. Après, quand ça va trouver le pays, tu vas trouver si tu veux aller à la plage ou à la montagne, etc. Donc, ça va petit à petit faire des tâches, dérouler des choses qui vont être complètement autonomes. Alors, je mets des guillemets autonomes, en le sens où c'est quand même toi, quelque part, qui va tenir le manche du marteau, qui va tenir le manche de l'outil. Donc, c'est toi qui va, de temps en temps, devoir intervenir. On va, de temps en temps, poser des questions quand même pour savoir si c'est plutôt ça que tu aimes ou que tu n'aimes pas. Et puis à la fin, ça va peut-être même payer pour toi. Donc il y aura un agent qui va utiliser ta carte bleue avec ton autorisation ou pas. Donc voilà, ça va être des petites IA, des petits agents SLM qui vont être disséminés un peu partout et qui vont être appelés pour être dans cette orchestration pour faire des tâches particulières, mais qui vont avoir l'air beaucoup plus autonomes et beaucoup plus complexes que les tâches qui pourraient être faites toutes seules par l'agent lui-même.

• Luc Julia

  Merci Luc. pour toutes ces informations. On est arrivé à la fin de cet épisode. Luc, vraiment un immense merci pour cette plongée dans l'intelligence artificielle sans langue de bois. Merci à vous, nos auditrices et nos auditeurs, d'être fidèles à Never Stop Learning. Et pour aller plus loin avec Luc Julia, je vous rappelle les deux livres qu'il a écrits. L'intelligence artificielle n'existe pas, chez First Edition, publié en 2019. et plus récemment, le mois dernier je crois, « L'IA générative pas créative » aux éditions ChercheMidi, publiées cette année en 2025. Merci Luc, merci à tous, et on se retrouve très vite pour un nouveau numéro de Never Stop Learning.

• Gerard Peccoux

  Merci Gérard.

• Luc Julia

  Merci de nous avoir accompagnés pour cet épisode de Never Stop Learning. Si cet échange vous a apporté de la valeur, n'hésitez pas à le partager autour de vous et à laisser une note 5 étoiles accompagnée d'un commentaire. Vos retours sont essentiels pour continuer à vous offrir des contenus de qualité. Je suis Gerard Peccoux et si vous recherchez des solutions innovantes pour transformer vos projets de formation, rendez-vous sur Callimedia ou bilink.com. Nos équipes se feront un plaisir de vous accompagner dans vos projets. On se retrouve très bientôt pour un nouvel épisode de Never Stop Learning, votre rendez-vous pour explorer, innover et ne jamais cesser d'apprendre. A très vite !