Transcription

• Speaker #0

  Vous écoutez Learning Coach by Trendy, le podcast qui part à la rencontre de ceux qui ont maîtrisé l'art d'apprendre et de former. Dans cette saison, nous vous invitons à une réflexion sur l'intégration responsable et stratégique de l'intelligence artificielle dans vos pratiques pédagogiques. Au travers des témoignages de nos invités, nous explorerons les opportunités, mais aussi les défis que l'IA soulève.

• Speaker #1

  Bienvenue dans ce nouvel épisode de la saison 2 du podcast Learning Coach. un épisode au cours duquel je reçois une invitée que j'ai toujours plaisir à rencontrer, Lina Ahmed. Nous allons aujourd'hui consacrer cet épisode aux pratiques responsables des intelligences artificielles en formation. Et pour bien commencer, Lina, peux-tu s'il te plaît te présenter, nous présenter tes activités ?

• Speaker #2

  Oui, donc je suis Lina Ahmed, je suis une passionnée de la formation depuis bientôt plus de 20 ans. En tant que professionnelle de la formation, je pense que... Je peux faire quelque chose et j'ai décidé de mettre mes compétences en pédagogie au service de l'écologie. J'ai créé ma boîte qui héberge deux marques. La première, c'est Caramel Consulting, à travers laquelle je fais du conseil en formation, j'ai accompagné des entreprises à mettre en place des académies d'entreprise, puisque c'est quelque chose que j'avais déjà fait auparavant. Et j'ai créé ma propre structure aussi en organisme de formation qui s'appelle Super Egg. Et notre mission, c'est d'accompagner... au développement durable sous toutes ses formes. Donc, on amène des ateliers, des fresques, des conférences, des formations. On est devenu organisme de formation certifiée Calliope. Et donc, peut-être que vous allez me dire, pourquoi Super Egg ? Eh bien, Super Egg, c'est un œuf qui tient en équilibre. Parce que l'idée, c'est de dire, dans le développement durable, il ne s'agit pas de revenir en arrière, de reprendre toutes les méthodes du passé, ni de faire une accélération technologique. Mais l'idée, c'est de trouver des nouveaux... équilibres. Et avec la technologie du moment, avec les moyens du moment, et aussi en s'inspirant du passé. Et c'est comment, avec ces savoirs, ces compétences, ces technologies, on trouve ensemble de nouveaux équilibres qui sont durables pour nous, pour l'organisation, et pour la planète qui nous offre son toit.

• Speaker #1

  Learning Coach accueille ses invités en posant quelques questions identiques à chacune et chacun. Et en voici une dont la réponse m'intéresse. au regard de ce que je viens d'entendre. Dans cinq ans, comment imagines-tu l'évolution des pratiques pédagogiques grâce aux apports de l'intelligence artificielle ?

• Speaker #2

  Alors, dans cinq ans, on va imaginer qu'on a retenu les leçons des cinq dernières années. C'est-à-dire qu'on a appris à utiliser l'IA de manière responsable. On a aussi pu, entre guillemets, nettoyer les défauts que l'IA a rencontrés cinq ans auparavant. Et on a réussi à optimiser ses défauts. On a pris conscience des limites de l'IA. On sait ce qu'elle sait faire et on sait ce qu'elle ne sait pas faire. Et donc, on a une pratique raisonnable, consciente de l'IA.

• Speaker #1

  Très bien. Ça, c'est un point de vue général. Et si on prend celui de l'apprenant ?

• Speaker #2

  Les apprenants, eux, savent comment apprendre. Et donc, l'IA est un outil. C'est un compagnon d'apprentissage que l'apprenant maîtrise. Il sait bien l'utiliser parce qu'il a appris lui-même les techniques pour apprendre à apprendre. Je suis persuadée que c'est la clé pour pouvoir bien utiliser les IA dans cinq ans. C'est la capacité des participants, des apprenants à connaître les bonnes techniques pour bien apprendre par eux-mêmes et être responsables de leur montée en compétences et de leur apprentissage.

• Speaker #1

  Et forcément, après celui de l'apprenant, si on prend le point de vue du pédagogue ?

• Speaker #2

  Le pédagogue, il va venir dans le paramétrage de cette IA. Il a été inclus dans le paramétrage de cette IA et il sait l'utiliser dans les moments où il intervient auprès des participants. Donc, pendant les moments asynchrones, l'IA aura été bien conçue et paramétrée par des pédagogues pour pouvoir accompagner et personnaliser les apprentissages. Et au moment de la formation ? Si on est en présentiel, par exemple, l'IA peut être un outil supplémentaire qui peut être utilisé comme moyen pour travailler sur des cas pratiques, devenir un apprenant, prendre des rôles différents, par exemple, ou alors avoir un rôle de guidage, un rôle d'évaluation. Ça dépend du rôle de l'IA.

• Speaker #1

  On les a évoqués indirectement. Arrêtons-nous un instant sur les biais ou sur les risques. pédagogiques liées à l'usage de l'intelligence artificielle. Est-ce qu'il t'arrive d'en observer ? Et si tel est le cas, comment y remédies-tu ?

• Speaker #2

  Oui, alors quand on utilise l'IA, on est tenté de faire le scénario pédagogique par une IA. Donc on va prendre le sujet depuis le début. On dit par exemple, on peut formuler la demande de créer à partir des objectifs pédagogiques, une formulation de scénario pédagogique. Alors qu'est-ce qui va se passer dans ce cas-là ? On va avoir l'IA, ça dépend où est-ce qu'elle va chercher ces données. Donc en fonction de la base d'entraînement qu'elle a utilisée, le résultat qui va être amené au concepteur pédagogique va être le résultat des données sur lesquelles l'IA utilisée a été entraînée. Ce résultat-là peut amener des erreurs. Et donc pour pouvoir détecter ces erreurs, il faut pouvoir être capable de deux choses quand on est concepteur pédagogique. Déjà, être un bon concepteur pédagogique. pour savoir si le déroulé a du sens. Si le déroulé, par exemple, propose une belle histoire à l'apprenant, si on n'est pas dans un déroulé complètement théorique, classique, et c'est ce qu'on peut voir énormément dans les résultats des IA, c'est que ça dépend du prompt. Mais souvent, si on n'a pas bien fait le prompt, on peut avoir un déroulé qui est hyper théorique, classique, sans histoire, sans âme. Alors maintenant, effectivement, en fonction du prompt, on peut faire quelque chose de mieux. Mais le premier message, c'est d'abord bien savoir si le déroulé pédagogique a une progression pédagogique qui a du sens et qui inclut tous les paramètres nécessaires à la formation. Est-ce qu'il y a des exemples ? Est-ce que c'est bien structuré ? Est-ce que les activités sont pertinentes ? Est-ce que les questions sont pertinentes ? Parce que parfois, ce n'est pas le cas. Donc, c'est avoir un regard sur la pédagogie proposée. par l'IA. Et le deuxième point, quand on conçoit un scénario pédagogique, c'est l'importance de pouvoir être capable de dire si l'IA a fourni des informations qui sont vraies ou fausses. On peut voir dans les résultats, même si les sources sont communiquées, que parfois les sources sont mal interprétées. Je questionne systématiquement les sources, je vais aller les voir, et je vois malheureusement assez souvent des mauvaises interprétations. des incohérences par rapport à l'article qui a été utilisé. En fait, ce que je fais maintenant, c'est que je fais moi-même la structure et je fais moi-même mon déroulé et parfois je vais questionner l'IA pour pouvoir voir si elle me donne des informations complémentaires.

• Speaker #1

  Peux-tu, Lina, nous partager un outil ou une pratique simple qui implique l'intelligence artificielle, qui est maintenant intégrée régulièrement dans tes pratiques pédagogiques ?

• Speaker #2

  Alors, moi, mon travail, c'est vraiment d'étudier... les risques et les conséquences de l'utilisation de l'IA. Donc, moi, ce que je trouve qui est très intéressant dans les pratiques et dans l'implémentation de l'IA, c'est au moment où on choisit justement ces outils et qu'on implémente une solution d'IA pour un organisme, c'est d'inclure toutes les parties prenantes. Donc, c'est de, par exemple, de constituer un groupe qui va faire la gouvernance pour pouvoir choisir les outils et voir comment ces outils vont être implémentés. Dans cette gouvernance, c'est important d'inclure toutes les parties prenantes. L'équipe de gouvernance est constituée de la direction, même de l'assistante de direction, des enseignants, de responsables pédagogiques et d'innovation, d'enseignants-chercheurs et aussi du responsable technologique. Et c'est là qu'en mettant une équipe de gouvernance diverse, avec les différents acteurs qu'on va pouvoir prendre. en main et se poser les bonnes questions au moment de l'implémentation de l'IA et sur ses usages. Donc ça, c'est vraiment une bonne pratique à mettre en place quand on est en train de déployer l'IA. L'idée, c'est de pouvoir se poser les bonnes questions avant l'usage.

• Speaker #1

  Je te propose que l'on poursuive dans cette direction des critères d'usage responsable de l'intelligence artificielle en formation. C'est bien d'entreprendre une démarche responsable, mais dans les faits, ça veut dire quoi et comment on fait, comment on s'y prend.

• Speaker #2

  Quand il s'agit d'IA responsable, effectivement, il y a plein de choses à mettre en place. Ce que j'aimerais partager, c'est pourquoi la responsabilité ? C'est pourquoi c'est important ? Qu'est-ce que ça permet ? L'IA, c'est un outil très, très puissant. C'est un outil qui est partout aujourd'hui. Il y a des investissements énormes qui présagent le fait que ça va être partout, qu'on le veuille ou pas. c'est une technologie qui sera partout. Et la responsabilité va permettre d'en anticiper les risques et les conséquences. Donc ça permet la confiance, ça permet de pouvoir aussi... Augmenter la durabilité de nos solutions pédagogiques. Augmenter la durabilité, c'est augmenter la qualité. Donc c'est très très important de bien identifier tous ces éléments qui sont les risques et les impacts possibles pour pouvoir tirer le meilleur de cette technologie. Très bien.

• Speaker #1

  Et selon quels critères ?

• Speaker #2

  Alors une démarche responsable, ça vient, ça se met en place sur différents critères. On va avoir forcément des critères éthiques, comme on a vu sur l'usage des données. Ça permet de respecter le droit des utilisateurs. C'est une culture qui est aujourd'hui importante et c'est important de la préserver. S'il y a eu autant de lois pour préserver les droits d'auteur, les droits d'utilisateur, la RGPD, c'est qu'il y a une raison à ça. C'est une raison qui est sociétale et c'est important de pouvoir préserver ces droits-là. Ces démarches éthiques vont préserver aussi les organisations de potentielles futures surprises juridiques. Là, le 14 février dernier, il y a eu un jugement d'une entreprise qui a déployé l'IA et tout a été arrêté par le CSE, par une décision du tribunal. Et ils doivent arrêter l'expérimentation. c'était une expérimentation de l'usage de l'IA en interne parce qu'ils n'avaient pas consulté les parties prenantes, notamment le CSE au moment de l'implémentation de l'IA. Donc voilà, c'est ce que je disais tout à l'heure, c'est important d'inclure toutes les parties prenantes au moment de l'implémentation de l'IA. Après, on va voir sur les critères, on va voir la partie environnementale qui est, elle, due à une grande quantité de paramètres. Forcément, on connaît l'usage des data centers, on va en avoir besoin. Ces data centers ont besoin d'énergie. La majorité des data centers aujourd'hui fonctionnent à l'énergie fossile. C'est vrai que dans certains pays, notamment en France, on utilise l'énergie nucléaire. Mais si on utilise des IA qui s'appuient sur des énergies fossiles, on a une quantité qui explose en matière de CO2. Et ça va dépendre de l'IA. Par exemple... Je peux vous donner un chiffre là. ChatGPT, j'ai fait un test d'une requête, ChatGPT a consommé trois fois plus que Mistral. Et là, je vous donne un autre exemple qui est encore plus impressionnant. C'est la consommation de MetaLama, qui consomme 25 fois plus d'énergie que l'IA Coria, l'IA canadienne. Donc en fonction des IA qu'on va utiliser, on va avoir un impact environnemental plus ou moins important.

• Speaker #1

  On s'accorde aujourd'hui à dire qu'il faut piloter l'intelligence artificielle, qu'il faut vérifier les résultats. On s'accorde donc à dire que ce sont des solutions potentielles incroyables, mais pas tout à fait matures. Projetons-nous dans quelques années, et je vais me permettre de faire référence à ceux dont on parle beaucoup, les agents. On les présente parfois comme des collaborateurs virtuels qui peuvent même travailler en équipe. Une fois que l'agent existera et qu'il sera fiable, que deviendra le métier de pédagogue ? exercée par l'humain ?

• Speaker #2

  L'important, je pense, aujourd'hui, c'est que tout le monde se pose la question de ses propres compétences et de pouvoir apprendre à utiliser ces outils de manière consciente et raisonnée aussi, parce que l'idée, ce n'est pas de les utiliser pour un oui ou pour un non. Pour moi, c'est une technologie qui est quand même extrêmement... polluante, même si on n'a pas très envie d'en parler. Et c'est une technologie qui nécessite beaucoup de matières premières aussi. C'est une technologie à utiliser avec parcimonie, même si on la voit partout. Et c'est important de l'utiliser à bon escient et de ne pas la voir partout. Et c'est pour ça que je reparle des rôles des décideurs, c'est de se dire à quel moment j'utilise l'IA ou à quel moment je n'utilise pas. Donc, c'est important de l'utiliser avec conscience. raisonnement et avec sobriété. La question de dire est-ce que ça va remplacer tout le monde, je n'espère pas. Je n'espère pas que l'IA sera partout. J'espère qu'il y aura un coup de conscience en se disant qu'on utilise l'IA pour des usages utiles, pour la santé, pour la formation à des compétences utiles dont on a besoin aujourd'hui. On est face à une urgence climatique et aussi on a un... On est dans une position où on n'a pas envie que les gens perdent leur emploi. Donc gardons ces petits usages, gardons ces emplois qui sont... Voilà, gardons l'emploi pour un maximum de personnes. Et utilisons l'IA pour pouvoir accélérer sur des domaines où l'on a besoin d'accélérer, comme l'urgence écologique, par exemple.

• Speaker #1

  Comment on fait cohabiter l'urgence climatique avec l'intelligence artificielle, qui s'ajoute déjà à des usages Internet considérables ? Comment on fait pour faire cohabiter cela en termes stratégiques, pour ancrer cela dans des process de travail ?

• Speaker #2

  Absolument. Oui, comme tu l'as dit, c'est en termes stratégiques. L'idée, c'est d'avoir une vraie stratégie quant à l'usage de l'IA. Et c'est la première question à se poser, c'est de se dire où est-ce que l'IA a une réelle valeur ajoutée ? Ce n'est pas utilisé systématiquement. Ce n'est pas parce qu'un outil existe, parce que c'est la dernière innovation technologique, qu'il faut y aller à fond. On a l'impression de vivre aujourd'hui une injonction. Et ça, on l'a vu aussi avec l'arrivée du digital learning, les vidéos, l'effet « waouh » , il faut mettre de l'IA partout. Donc là, on voit ça, on voit cette accélération. Donc la question, c'est de se poser, est-ce qu'il faut mettre de l'IA ? Et une fois qu'on se dit, OK, l'IA a une réelle valeur ajoutée, c'est quel IA ? Et se poser la question de ce qu'il y a derrière l'IA qui a été sélectionné. Donc au moment où on choisit, c'est de mettre autour de la table toutes les parties prenantes pour pouvoir avoir une vraie vision stratégique, se poser la question, où est la vraie valeur ? ajouter de l'IA.

• Speaker #1

  Comment est-ce que l'on sensibilise les populations à un risque déjà présent et visible ? La standardisation de la production, c'est une forme d'automatisation qui nous voit courir le risque de produire du moyen, presque du médiocre, qui pourrait à ce titre se passer de l'humain.

• Speaker #2

  C'est quelque chose que j'ai déjà vu et que j'ai bien constaté, c'est que quand on fait faire des modules e-learning, on appuie sur un bouton, on met l'objectif pédagogique et hop ! Ça crée un module pédagogique et effectivement ça crée un module médiocre. Si on reste sur ce niveau-là, effectivement on va avoir une grande baisse de qualité et de médiocrité. Et en plus, si on n'a pas la revue d'experts de contenu derrière, on risque de la désinformation et ça c'est encore plus grave. Donc quand on est en train de réfléchir à l'IA, c'est important d'avoir en tête tous ces risques-là. C'est la baisse de qualité, c'est aussi quels sont les modèles mentaux qu'on veut faire passer à la société de demain. Est-ce qu'on veut que demain nos participants s'habituent tout le temps à voir une vidéo avec une IA qui leur parle ? C'est un peu triste comme futur.

• Speaker #1

  L'IA parle de plus en plus et désormais, grâce aux objectifs de mon smartphone, elle voit le monde réel. Elle entend. Elle voit, elle va bientôt se lever, se déplacer. Plus l'IA progresse, plus elle nous ressemble. L'anthropomorphisme est-il un risque ?

• Speaker #2

  D'après ce que je vois dans les études, c'est que tout est fait pour cloner l'être humain. D'ailleurs, les technologies de l'IA s'appuient sur des réseaux de neurones. Aujourd'hui, on a à la fois une très fine description de notre cerveau, de comment il fonctionne. notre capacité à lire les émotions, à ressentir des émotions, tout ça est de plus en plus décrit. Et donc effectivement, de plus en plus, on va voir, malheureusement, ce n'est pas quelque chose que j'aime voir personnellement, ça m'attriste, c'est de plus en plus de voir des machines qui ressemblent à des humains. Ce qu'il faut se dire, c'est que... ... c'est que ce n'est que des machines, ce ne sont que des machines. Et c'est important de se garder ça dans la tête, parce qu'elles vont vraiment nous ressembler. J'ai testé encore, quand j'ai testé Meta tout à l'heure pour voir son empreinte écologique, dans la réponse, tout de suite, a été « Merci, c'est une très bonne question ! » Et donc, Lya a, entre guillemets, jugé ma question. m'a donné un feedback, m'a donné un renforcement émotionnel, et ça singe en fait l'émotion que pourrait avoir un être humain. Et un être humain non averti va... ou alors, enfin voilà, même un être humain averti, on tombe dans le piège. Et donc, à un moment donné, il sera forcément impossible de savoir si on parle à un humain ou pas, peut-être. sans doute voilà moi la dernière fois que j'ai parlé à un chatbot en assistance je lui posais la question est-ce que vous êtes une humaine elle m'a répondu oui Heureusement, l'IA n'a pas cloné encore mon emploi et ce ne sera pas le cas. Mais la veille, j'avais fait encore une formation dans laquelle il est question que les personnes qui sont en assistance sur des logiciels soient remplacées par des chatbots.

• Speaker #1

  Nous approchons du terme de notre épisode. J'ai une dernière question. Aujourd'hui, nous avons deux stratégies d'utilisation des IA. Soit on a recours à des offres de marché disponibles. après abonnement, soit on déploie des modèles en interne. Est-ce des pratiques, surtout la dernière, que tu as observées sur le terrain ?

• Speaker #2

  En fait, c'est ce qui est recommandé aussi quand on veut avoir un moindre impact environnemental, c'est-à-dire faire tourner une IA en local. Et du coup, quand on fait tourner l'IA en local, on consomme moins d'énergie, on sait où se trouve le serveur et c'est une recommandation pour avoir une IA moins gourmande.

• Speaker #1

  Je vais respecter une tradition bien ancrée dans le podcast. Learning Coach, en te laissant le mot de la fin, Lina.

• Speaker #2

  C'est vraiment cette question d'équilibre. Pour la fin, l'idée, c'est de choisir les IA. Vous savez à quoi, vous savez quelles sont les utilisations de l'IA, des usages, mais informez-vous sur les conséquences, les limites, pour pouvoir équilibrer ces décisions-là au regard de tous les paramètres qui existent. pas uniquement en fonction des bénéfices de l'IA, mais vraiment étudier les risques et les impacts environnementaux aussi, parce que notre enjeu commun aujourd'hui, c'est de préserver notre toit commun.

• Speaker #1

  Eh bien voilà, c'est le terme de cet épisode. Merci Lina pour ta précieuse participation. Merci à vous aussi, chers auditeurs. Vous retrouverez cet épisode, comme tous ceux qui l'ont précédé, sur le site internet trendy.io, sur nos réseaux sociaux et sur l'ensemble des plateformes d'écoute. A tout. Très bientôt pour un prochain épisode.

• Speaker #0

  Vous souhaitez intégrer l'intelligence artificielle dans vos pratiques pédagogiques ? Visitez le site de Trendy, www.trendy.io, pour découvrir la fresque des IA pédagogiques et nos solutions d'accompagnement.