- Speaker #0
Pédagoscope, le podcast de l'enseignement supérieur, reçoit Arthur Grimond-Pont, auteur de l'ouvrage Algocratie et responsable du Bureau sur l'intelligence artificielle chez Reporters sans frontières. Mais alors, qu'est-ce que l'algocratie selon Arthur Grimond-Pont ? Eh bien, c'est un système où les décisions sont largement prises par des algorithmes plutôt que par des humains. Plongez avec nous dans cet épisode fascinant pour découvrir les enjeux et les perspectives de l'algocratie. Bienvenue dans cet épisode. Alors Arthur Grimond-Pont, et bien bienvenue chez Pédagoscope. Et puis tout de suite une première question. On parle d'algocratie, en fait il s'agit d'un néologisme, on ne comprend pas très bien ce que ça veut dire. De quoi s'agit-il au juste ? De quel concept parle-t-on quand on évoque le mot algocratie ?
- Speaker #1
Algocratie, c'est tout simplement former à partir de la racine de algo, d'algorithme, et cratie, kratos, le pouvoir, et donc c'est tout simplement le pouvoir des algorithmes. Je parle dans mon livre du rôle très important des algorithmes dans plusieurs dimensions sociales, culturelles et politiques de nos sociétés.
- Speaker #0
Alors Arthur Grimond-Pont, doit-on être inquiet ? Est-ce que cette prise de pouvoir, et si on prend le focus enseignement supérieur par rapport à la science, aux études, à l'enseignement, est-ce qu'il y a des points pour lesquels on doit vraiment être attentif et sur lesquels il faut réfléchir ?
- Speaker #1
Alors les algorithmes, c'est souvent perçu de l'extérieur comme un objet un peu obscur, de scientifique, lié aux statistiques. mais en fait les algorithmes on s'en sert toutes et tous quotidiennement dans de très nombreuses applications et de très nombreux usages donc ce qui importe de comprendre c'est principalement l'objectif des systèmes algorithmiques qu'on utilise notamment des systèmes d'intelligence artificielle qui sont une sous-partie de ces systèmes d'algorithmes et par exemple moi je m'intéresse beaucoup au rôle des algorithmes dans l'espace de l'information, c'est-à-dire que le rôle des algorithmes pour accéder à l'information qui nous entoure, que ce soit de l'information journalistique ou bien pour communiquer avec nos proches. Et il se trouve que les algorithmes, aujourd'hui, jouent un rôle prépondérant, massif, dans notre accès à l'information, puisque, par exemple, les réseaux sociaux qui sont utilisés à raison de, en moyenne, 2h30 par jour par 5 milliards de personnes sur Terre, les réseaux sociaux, tout leur fonctionnement est fondé sur un algorithme, un algorithme qui est une forme d'intelligence artificielle toute simple, qui apprend de votre comportement, de vos goûts, et qui vous fournit à regarder des contenus informationnels qui ont les meilleures chances de retenir votre attention. Donc le but d'un algorithme de recommandation, c'est de... devinez parmi les milliers de milliards de contenus disponibles qui nous entourent, celui qui, à un instant donné, a le plus de chances de retenir votre attention. Et ces algorithmes le font avec une efficacité absolument redoutable, à tel point que les plateformes sociales sont devenues le premier usage du web, à la fois en temps passé et en nombre d'utilisateurs. Et ça donne lieu à des profits gigantesques, aux formes de revenus publicitaires, pour ces principales plateformes qui possèdent ces algorithmes.
- Speaker #0
Donc on peut parler de manipulation de l'information à ce moment-là ?
- Speaker #1
Alors quand on parle de manipulation, il y a une dimension toujours volontaire et malveillante. Mon point de vue, c'est qu'il n'existe pas toujours, en tout cas pas systématiquement, de volonté malveillante de manipuler l'information. C'est simplement que ces algorithmes, de fait, ils jouent un rôle très important dans les informations qui sont sélectionnées, qui sont promues, qui sont mises en avant, qui sont amplifiées sur les réseaux sociaux, et dans les informations qui, au contraire, sont invisibilisées. Mais majoritairement, ce ne sont pas des individus qui choisissent quelle information va être rendue visible ou laquelle va être invisibilisée. ce sont donc ces algorithmes. Et ces algorithmes, ils le font en vertu de leur obéissance à une loi unique qui est augmenter, optimiser l'engagement des utilisateurs, c'est-à-dire le temps qu'ils vont passer à regarder des vidéos, à les commenter, à les partager. Et la simple recherche par ces algorithmes de l'optimisation du temps passé sur les plateformes, ça conduit en effet à de très nombreuses conséquences dans notre capacité à nous informer et à comprendre le monde qui nous entoure.
- Speaker #0
Alors j'ai une question par rapport à l'accès à la science. Aujourd'hui, nous autres enseignants du supérieur, et c'est le principal public de Pédagoscope, on sait qu'on a quand même encore une sorte de crédit, on est quand même encore une porte d'entrée pour nos étudiants pour accéder à une sélection de l'information, à un choix finalement de données scientifiques. Est-ce que... les algorithmes pourront combler, si on veut bien cette étape, et, entre guillemets, alors là je vous provoque un peu, mais remplacer les enseignants du supérieur ?
- Speaker #1
Aujourd'hui, ils en sont assez loin. Quand vous posez cette question, vous vous intéressez principalement au système d'IA génératif, avec lequel on peut interagir, comme un agent conversationnel, par exemple. ce qui est assez différent du type d'algorithme que je viens de décrire, les algos de recommandation, qui se contentent de fournir un accès personnalisé à de l'information déjà produite par un humain ou par une équipe éditoriale. Est-ce que l'un ou l'autre de ces deux types d'IA pourront remplacer le corps enseignant pour la pédagogie, pour l'éducation ? C'est une question à laquelle il est très difficile de répondre, pour être honnête, étant donné la vitesse de progrès absolument fulgurante de ces systèmes. Ce qui est certain, c'est qu'aujourd'hui, ils sont très éloignés des qualités requises pour fournir cet enseignement. néanmoins il n'est pas exclu que ces systèmes développent par exemple une capacité de conviction absolument hors norme et aussi une capacité de pédagogie puisque leur principale caractéristique pour ce qui concerne l'IA génératif c'est leur caractère extrêmement adaptable et donc par exemple ils pourront comprendre quelles sont les émotions humaines quel est notre niveau précis de connaissance et d'appétence pour un sujet donné et adapter leur discours précisément à ce que nous avons envie d'entendre mais cette force fait aussi une faiblesse puisque de mon point de vue, quelque chose qui est très important dans l'espace de l'information, c'est qu'on puisse accéder à une forme de réalité du monde commune, ou alors une forme de récit, de théorie globale du monde sur laquelle on puisse s'entendre et débattre. Et ces algorithmes, on l'a vu par exemple avec les réseaux sociaux, ont tendance à nous enfermer dans des microcosmes numériques parallèles depuis lesquels on n'accède plus aux faits et aux contenus auxquels d'autres accèdent. et on pourrait imaginer que l'IA générative nous emmène encore plus loin dans cette direction, au sens où aujourd'hui, vous et moi n'accédons pas aux mêmes news feeds, aux mêmes, par exemple, fils d'actualité sur un réseau social, ou aux mêmes fils de recommandations de vidéos sur YouTube, mais les systèmes d'IA générative permettront d'individualiser et de personnaliser les contenus eux-mêmes, c'est-à-dire qu'on pourra probablement, à l'avenir, ou en tout cas, peut-être pas probablement, mais il est possible qu'on ne puisse même plus accéder au même contenu informationnel. C'est-à-dire que si je veux discuter avec vous d'un article de presse, peut-être pas d'un article scientifique dans un premier temps, mais au moins d'un article de presse, peut-être que le contenu de l'information sera adapté entièrement à qui nous sommes. Pour ce qui est de la recherche scientifique, il y a une expérience qui a été conduite très récemment et qui est assez marquante, qui est de faire une recherche sur un moteur de recherche d'articles scientifiques comme Google Scholar. Vous mettrez entre guillemets une phrase que ressort très souvent Chez GPT, comme en tant que modèle de langage, je ne peux pas… Et cette simple recherche permet de faire sortir des centaines d'articles de recherche qui ont été publiés dans des revues à comité de relecture en… en utilisant manifestement un modèle diagénératif pour rédiger ou relire au moins toute ou partie de l'article, et sans que ça ait donné lieu à une révision pour remettre à jour, pour empêcher la publication de cet article. Donc ces systèmes vont de façon certaine être mobilisés dans la production d'informations, y compris scientifiques, avec probablement des biais et des erreurs factuelles nombreuses.
- Speaker #0
Alors une autre question m'a bien à l'esprit, on est encore dans une époque où on demande aux étudiants d'acquérir certains ouvrages, Des ouvrages de référence, parfois au format numérique certes, mais quand même on leur demande d'acquérir ces ouvrages. Est-ce que d'après vous, et ça peut être rébarbatif de lire un ouvrage de 200-300 pages sur une thématique, alors que finalement en tapant la question, en discutant avec un agent conversationnel comme Chadji Pitti, on peut avoir une synthèse de l'ouvrage rapidement. Est-ce que vous avez l'impression que nos étudiants vont se détourner de plus en plus des livres ? de la connaissance telle qu'elle a été produite jusqu'à présent pour recourir à ce type d'outils pour apprendre ?
- Speaker #1
Ça me paraît probable, mais je ne pense pas que ce soit souhaitable. En tout cas, il faudra vérifier que ça l'est parce que... Le problème, c'est qu'on a le sentiment que tout ce qui demande de l'effort est mauvais et entrave l'accès à la connaissance. Or, ma compréhension des choses est que c'est précisément l'inverse. C'est que tout ce qui demande de l'effort requiert des capacités de mémorisation, d'appropriation des notions. C'est-à-dire que si les notions nous sont données sous forme d'un discours qui est déjà parfaitement individualisé, clair, concis, on n'aura aucune capacité à le mémoriser. Ce qui nous permet d'apprendre un cours ou un concept, c'est de le retravailler nous-mêmes, d'essayer de nous l'approprier, d'essayer de le faire nôtre, d'essayer de le mémoriser, de le résumer. Et ça, une machine ne sera pas capable de le faire à notre place. C'est-à-dire que la machine n'est pas dans notre cerveau. Elle fournit juste une interface très confortable avec notre cerveau, mais parfois, le confort n'est pas synonyme d'apprentissage. Je regardais par exemple quelqu'un qui disait, c'est fabuleux, les systèmes d'IA permettent une transcription automatique qui font que les étudiants n'auront plus à apprendre de notes en cours. Mais quelle est l'utilité de prendre des notes en cours si ce n'est la mémorisation, l'appropriation des concepts, tout ça ? Évidemment que l'IA est déjà capable de faire cette prise de notes, mais ça n'a aucune espèce d'utilité de faire une transcription littérale du cours, puisqu'à ce moment-là, ce cours existe déjà, le prof peut nous l'envoyer en PDF, il existe sur notre ordinateur, mais il n'est pas présent dans notre cerveau. Donc il faut voir dans quelle mesure des systèmes qui en effet permettent un accès individualisé, personnalisé à l'information, permettent également de comprendre... d'apprendre. Et ça, c'est encore un champ à développer entièrement.
- Speaker #0
En effet, on ne peut que rejoindre Arthur Grimond-Pont sur l'importance cruciale de cette étape de conceptualisation pour après savoir où aller récupérer en mémoire, pour mobiliser des savoirs et développer des compétences. Et j'ai demandé à Arthur Grimond-Pont ce qu'il pensait qu'on pouvait donner comme conseil finalement aux enseignants du supérieur face à ces problématiques nouvelles.
- Speaker #1
Parfois dans le corps enseignant, on a l'impression qu'il est urgent de faire de l'éducation numérique, qu'il faut favoriser la profondeur de l'enseignement. la création de ces technologies pour les élèves, puisque sans ça, ils se retrouveront perdus sur le marché du travail ou de l'emploi. Mais c'est possible qu'on fasse fausse route, puisque déjà, d'une manière générale, les plus jeunes se servent déjà davantage des outils que les plus âgés sur ces questions. Et d'autre part, ces outils sont tellement omniprésents en dehors des études, dans la vie privée. que peut-être que le rôle de l'éducation aujourd'hui, c'est de fournir un espace au contraire moins numérisé, moins numérique. Pour le cas des écrans, c'est assez flagrant. Si je prends le cas du pays que je connais, la France, il y a eu des programmes de numérisation, de cours numériques, de pédagogie numérique, qui en fait consistent à faire regarder davantage d'écrans à des enfants qui passent déjà... la majorité de leur temps de vie éveillé sur des écrans. Est-ce que c'est une urgence qu'à l'école, on leur fasse regarder encore plus de tablettes, qu'il y ait des programmes qui donnent chacun enfant d'une tablette ? A priori, ça ne me semble vraiment pas une urgence, voire c'est peut-être complètement contre-productif.
- Speaker #0
Merci. Alors on sait que, et c'est dans la littérature, on sait que l'équation de l'étudiant stratégique qui est finalement l'étudiant le plus communément représenté dans les universités, c'est de savoir comment réussir du mieux possible en en faisant le moins possible. Donc forcément la tentation de recourir à ces systèmes va être très très forte. Mais est-ce qu'on pourrait donner un conseil à ces étudiants qui nous écoutent ? Parce qu'il y a aussi quelques pourcentages d'étudiants qui écoutent Pédagoscope.
- Speaker #1
Je pense que... Ce que vous décrivez du comportement des étudiants, en fait, se retrouve chez à peu près n'importe qui. Tout le monde a une certaine paresse et une certaine envie de réussir dans son domaine. et il est bien normal qu'on serve des moyens qui nous permettent d'atteindre nos objectifs quand ces moyens sont efficaces donc je pense que c'est le système d'évaluation qui doit évoluer en fonction de l'existence de ces outils. Effectivement demander à des étudiants de faire une dissertation à la maison quand il n'y a aucun moyen de discerner l'origine synthétique ou authentique du contenu qui est écrit, ça a plus grande utilité. Par contre demander de faire cette dissertation en cours ça restera pendant très longtemps a priori un moyen de l'instituer discriminer au sens pas négatif du terme, d'évaluer les étudiants en fonction de leurs compétences réellement acquises. Donc, évaluer, changer les systèmes d'évaluation, ça semble important. Et puis, quand je disais est-ce qu'il faut faire l'éducation aux médias numériques et aux systèmes numériques aux étudiants, mon propos n'est pas de dire qu'il ne faut pas en faire. Je dis simplement que le but n'est pas de favoriser l'usage de ces technologies, mais plutôt de leur faire adopter une vision critique sur ces technologies, puisque c'est peut-être cette vision critique qui est la plus difficile d'acquérir en étant simplement utilisateur régulier. de ces outils. Par exemple, ce n'est pas en utilisant des heures et des heures TikTok qu'on se rend compte de l'objectif de TikTok, de ce qu'il fait subir la société. Ça, c'est un recul que peuvent apporter les enseignants et qui doivent, à mon avis, le faire.
- Speaker #0
Merci beaucoup. Le temps passe très vite en votre compagnie, Arthur Grémond-Pont. Alors, le mot de la fin ?
- Speaker #1
Le mot de la fin... J'aime bien un vers du poète romantique allemand Holderlin qui dit Là où croit le péril, croit aussi ceux qui sauvent Ma traduction est peut-être mauvaise, mais c'est pour dire que dans ces systèmes résident aussi des sources et des capacités d'éducation absolument formidables, simplement. Rien ne dit que le marché économique va... utiliser ce système pour le bien commun, pour l'intérêt collectif de long terme. Donc il faut faire en sorte que ces systèmes servent effectivement nos objectifs.
- Speaker #0
Voilà, c'est terminé pour aujourd'hui. Un grand merci d'avoir écouté cet épisode. J'espère que le format vous a plu. Si oui, dites-le-moi avec 5 étoiles ou même un petit cœur sur iTunes. Et si vous n'êtes pas fan d'Apple, ce n'est pas grave. Il y a d'autres manières d'aider et de soutenir Pédagoscope, comme partager ce podcast avec vos collègues et amis. Cela m'aidera énormément à poursuivre cette initiative, et qui sait, cela les aidera peut-être aussi. Vous retrouvez cet épisode et plein d'autres ressources sur pedagoscope.ch N'hésitez pas à me faire part de vos commentaires ou même à postuler pour participer à un épisode, si vous le souhaitez. Merci et à très vite !
