Transcription

• Speaker #0

  Ils vont vraiment s'y mettre nos présidentiables ou ils sont largués ?

• Speaker #1

  Avant d'être formés à être de bons salariés, il faut d'abord les former à être de bons humains.

• Speaker #2

  Si c'est bien ou pas, moi c'est ce qui m'inquiète, qui décide ? Qu'est-ce qu'ils font pour nos avantages de 2037 ? Ils font des petites choses pour demain, pour après-demain,

• Speaker #3

  ils font des petits pansements. Heureusement les états ne peuvent pas tout faire et tout réguler et le privé est là, et le privé peut-être nous sauver.

• Speaker #0

  Votre métier, l'école de vos enfants, vos démarches administratives, quelle place voulons-nous donner à l'intelligence artificielle dans tout ça ? Et qu'est-ce que préparent les candidats à la présidentielle en matière d'intégration, de la transformation à l'intelligence artificielle dans leur programme politique ? Ce qu'on a décidé de faire avec la rédac, c'est de se dire qu'on va examiner leur programme à partir d'une analyse croisée. On a filé pas mal de matière à Tchad GPT, à Claude, on leur a demandé d'aller chercher, de nous ramener des trucs, de nous ramener les choses un peu anonymisées aussi, pour éviter de tomber, vous savez, dans le biais des partisans ou des détracteurs. Non, ça, on verra ça tout à l'heure. Mais le sujet, c'était plutôt de regarder avec pas mal de recul les propositions de ces candidats, ils sont vachement nombreux. Bien sûr, les deux IA, comme toute IA, peuvent se planter, peuvent se tromper. Nous, on va un peu challenger leur conclusion avec la bande ConnectedMate qui est avec moi au micro aujourd'hui en direct sur TikTok. Je vous présente la team ConnectedMate. Alice Desjardins, elle est consultante, elle est prof de com. Elle fait parler des datas et elle en parle aussi beaucoup. Coucou Alice, comment ça va ?

• Speaker #1

  Bonsoir PPC, bonsoir tout le monde. J'espère que vous allez bien pour parler de ce sujet piquant.

• Speaker #0

  Hubert Kratyrov, professeur d'économie numérique, va nous aider à prendre de la hauteur et peut-être éviter les débats de surface. Bonsoir à toi Hubert.

• Speaker #2

  Salut Jémy, je ne sais pas si vous le voyez, un très hit combat, j'ai envie d'en débattre ce soir.

• Speaker #0

  Nous a rejoint aussi Jean-Emmanuel Serré, un designer qui essaye de remettre beaucoup d'humains dans les systèmes qui deviennent de plus en plus invisibles. Bonsoir Jean-Emmanuel.

• Speaker #3

  Salut tout le monde, comment allez-vous ?

• Speaker #0

  Last but not least, Christian Bellala, notre chief. Data Protection Officer, parce qu'il en faut un. Et celui qui nous rappelle tout le temps que le mot gratuit n'existe pas tout à fait. Salut Christian.

• Speaker #4

  Salut, bonjour à tous et à toutes. Et oui, gratuit n'existe pas.

• Speaker #0

  Je vous propose qu'on démarre avec un premier volet. Alors on est allé regarder un peu tout ce qui se passait sur ces programmes. Vous verrez, il y a des trous, il y a des endroits où ils n'en ont pas parlé. Alors on a sélectionné finalement les grandes thématiques, celles où il y avait le plus d'expressions. ou peut-être de promesses d'ailleurs, diront certains, de la part de ces candidats politiques. Alors on va parler d'IA et d'éducation, on va parler d'IA et d'emploi, d'IA et de souveraineté, puis de l'IA et les services publics, de l'IA et la sécurité, et puis à la fin, on va faire une sorte de wrap-up, c'est-à-dire qu'histoire de ramasser un peu tout ça, de savoir qu'est-ce qu'on en pense, et puis ça nous amène vers quoi ? Toutes leurs histoires. Alors le premier, si on parle d'IA et d'éducation, il y en a un qui sort pas mal, c'est former les enseignants. à l'intelligence artificielle. C'est peut-être le premier chantier que nous ont sorti les IA et ce chantier consisterait à former les enseignants avant de demander aux élèves d'utiliser l'intelligence artificielle. Installer un outil dans une classe, ça ne suffira pas, mais ce qu'il faut souvent savoir, c'est quand l'utiliser, quand l'interdire et comment expliquer ces erreurs. Alors, Alice a tout de suite repéré un angle mort. Elle va nous en parler.

• Speaker #1

  C'est vrai que pour reprendre ce que tu viens de dire, Effectivement ! Il faut former le plus possible les enseignants. Sur ce point, il n'y a pas de débat. Par contre, sur ce que j'ai pu lire ou voir, suite sur les déclarations vraiment des candidats, j'ai trouvé que c'était surtout de la déclaration d'intention, que c'était souvent sans détail, sans proposition factuelle vraiment derrière. C'était quand même beaucoup du solutionnisme performatif, comme on dit, c'est magique, on forme tout le monde. Mais alors, après... C'est quoi comme durée de formation ? Est-ce que c'est adapté à chaque personne en fonction de ses besoins et de ses connaissances qu'il a d'ores et déjà ? Qui sait qui forme ? Où est-ce qu'on prend les sous ? J'ai trouvé en plus de la forme qui était souvent assez descendante, donc déjà la posture, et souvent qui ignorait les dispositifs existants ou du moins qui ne les mentionnait pas. Donc, bien sûr, former le corps enseignant dans le... L'absolu, tout le monde sait bien, mais vraiment, il y avait des gros angles morts et beaucoup de... il n'y a qu'à faut qu'en j'ai trouvé de ce que j'ai vu.

• Speaker #0

  Et puis, ça ne sera pas le seul. Je pense qu'il y a pas mal de choses où on voit, c'est beaucoup promesse, Alors, si on continue sur cet aspect IA éducation, il y a un deuxième chantier qui est ressorti par les analyses des deux intelligences artificielles qu'on a fait travailler. C'est un chantier qui concerne la capacité des élèves à évaluer ce qu'une IA leur répond. Là, ça devient un petit peu plus trapu. C'est-à-dire que c'est apprendre aux élèves à juger une réponse. Pas si simple. Alors un élève pourrait demander une explication sur la révolution française, admettons, une aide pour résoudre une équation ou même une première version d'un texte. Mais la réponse ne deviendrait pas automatiquement une vérité. Il faudrait apprendre à vérifier les sources, repérer une erreur, comprendre un biais ou demander à l'outil de justifier son raisonnement. Pas si mal, ça amène peut-être à réfléchir. Alors les propositions, elles associent cette sorte de culture de l'IA à l'esprit critique, aux mathématiques, à la programmation, à l'éthique des données, et parfois aussi, on a pu le voir, à la philosophie. Pas mal de la philosophie, j'aime bien. Alors l'objectif qui est décrit globalement, si on fait finalement une moyenne de tout ce que disent les candidats qui se sont exprimés, ils ne se sont d'ailleurs pas tous exprimés sur le sujet, l'objectif décrit par ces candidats, ce n'est pas seulement de savoir utiliser une IA, il s'agit de comprendre ce qu'elle produit, ce qu'elle ignore, et peut-être que ce qu'elle... peut déformer. Réaction là-dessus, Jean-Emmanuel.

• Speaker #3

  L'idée, c'est de construire en raisonnement et construire en raisonnement avec l'IA parce que l'IA, c'est quelque chose qu'on apprend. Il faut raisonner, il faut la faire raisonner en accord avec nous, avec nos demandes. Donc, moi, je pense que c'est véritablement une troisième voie qu'on pourrait ouvrir.

• Speaker #0

  Merci pour ce retour-là. Allez, autre chantier qui ressort de ces analyses, c'est finalement c'est Préparer les métiers qui arrivent, donc se préparer aussi aux métiers qui n'existent pas encore, ça c'est aussi une façon d'élargir peut-être la réflexion au monde du travail avec des propositions qui évoquent une certification en IA, une formation continue, de la reconversion, des campus aussi qui associent informatique, droit, sciences humaines et peut-être aussi une augmentation du nombre des ingénieurs formés. Alors dans un lycée ça pourrait prendre la forme d'un apprentissage général des outils mais aussi d'une... compréhension des métiers qu'ils transforment. Et ça, la transfo, c'est peut-être un vrai sujet aussi. Admettons, un futur juriste devrait savoir interroger une intelligence artificielle, savoir contrôler ses réponses. Un ingénieur devrait comprendre les conséquences sociales d'un système qu'il conçoit lui-même. Et oui, c'est intéressant de regarder les effets rebonds. Un salarié pourrait apprendre à utiliser ces outils sans devoir reprendre entièrement ses études. Pourquoi pas ? Quelle bonne idée ! L'idée commune consiste à préparer les élèves à travailler avec des systèmes capables de produire du texte, du code, des images ou des analyses. Et la question qui reste ouverte est sur la place à donner aux compétences techniques, aux savoirs fondamentaux et aux capacités humaines que les outils ne remplacent pas. Alice, nouvel ongle mort.

• Speaker #1

  C'est exactement sur ce que tu viens de dire, sur ces savoirs fondamentaux, ces capacités humaines justement. Le fait de relier l'école à la formation, oui, dans l'absolu, surtout dans le cadre de la formation professionnelle, mais c'est quelque chose qu'on a... Un point qu'on a déjà abordé, notamment quand on a fait les lives IA éducation en école, de rappeler quand même qu'il y a un temps pour l'école, pour le scolé, pour l'otium, à l'inverse du négocium, vraiment de la formation professionnelle. Avant d'être formé à être de bons salariés, il faut d'abord les former à être de bons humains. Le lycée, typiquement, c'est la philo, c'est le moment où on approfondit des réflexions plus profondes sur des nouvelles matières ou au contraire d'autres. qui pratiquent de longue date. Donc oui, bien sûr, intégrer l'IA le plus tôt possible, surtout sur ses tenants et ses aboutissants et la pratique également. Mais non, il ne faut pas former directement des bons petits salariés. Il faut d'abord former des humains, à savoir servir de ces outils. Grosse formation, média, digital, IA.

• Speaker #0

  Pas mal. Je rebondis d'ailleurs sur le commentaire d'Isabelle qui est avec nous en direct sur TikTok. Elle pense que l'idée n'est pas de former à l'intelligence artificielle. Elle recommande de former plutôt les gens à la transformation et à l'amélioration continue et peut-être qu'il faut éviter aussi cette logique d'uniformisation qu'on peut voir de droite et de gauche. On prendra d'autres commentaires bien évidemment. Un autre chantier, il est de garantir un soutien accessible à tous. Alors ça, ça repose sur l'idée que finalement, le soutien scolaire, il faut le donner disponible à tous les élèves avec un dispositif qui pourrait associer un assistant IA. personnalisé, ça permet d'aider finalement l'humain. L'élève, il travaillerait avec un outil. Cet outil est capable de reprendre une notion, de proposer un exercice supplémentaire ou d'adapter son explication. Intéressant d'avoir un outil qui s'adapte, ça c'est nouveau. Un étudiant... Un ancien prof ou un enseignant pourrait ensuite intervenir lorsqu'il y a une difficulté qui dépasserait ce que l'outil peut traiter. Un élève qui bloque sur les fractions, ça m'est arrivé, pourrait ainsi recevoir une autre explication, puis être orienté vers un accompagnement humain. L'IA fournirait une disponibilité immédiate, et puis le tutorat apporterait le regard, l'encouragement et aussi le suivi. Ce modèle... pose peut-être une question d'organisation. Qui contrôle les réponses de l'assistant ? Quelles données sont conservées ? Et comment éviter qu'un outil gratuit crée une nouvelle différence entre les élèves qui savent bien s'en servir et les autres ? Jean-Emmanuel, tu as vu un point de force.

• Speaker #3

  Oui, l'organisation nationale doit véritablement prendre son rôle à bras-le-corps parce qu'elle a tout le corpus pour donner des réponses. Elle a des programmes, elle fait les programmes, elle pense les programmes, elle fait écrire les livres. dans le donker. On a toute une masse de données qu'elle pourrait mettre à disposition de l'IA pour justement les élèves. C'est-à-dire que l'IA deviendrait un RAG ou une sorte de notebook LM géant qui pourrait donner des réponses. Donc là, on rentrerait véritablement dans un outil spécifique à l'éducation nationale.

• Speaker #0

  Très bien, merci pour ce point positif. Christian Bellala, toi, de ton côté, tu as vu un angle sacrément mort. Tu nous en parles ?

• Speaker #4

  Peut-être un peu moins positif que Jean-Emmanuel. Moi, je crains deux vitesses, en fait, dans ces usages et les applications. Je vais m'expliquer un petit peu mieux, parce que je distingue deux choses différentes, un petit peu, dans l'éducation, entre... obtenir une réponse et comprendre la réponse. C'est le sujet où j'imagine bien deux vitesses qui sont déjà en train de s'installer. Pour être plus clair, peut-être je vais prendre un exemple pour illustrer, j'ai bien illustré, vous me connaissez. On va prendre deux élèves avec le même exercice, dans la même classe, ils ont la même IA, il n'y a aucun souci. Donc le premier élève va demander par exemple à l'IA, suite à l'exercice, ne me donne pas la solution, mais explique-moi la première étape. Tandis que le deuxième élève... Vous connaissez sûrement beaucoup de personnes qui sont comme ça, c'est donne-moi la réponse. Et donc le deuxième va recopier bêtement alors que le premier élève va continuer à interagir avec l'intelligence. Donc là je pense qu'on aura deux vitesses, un qui aura exercé en fait sur la compréhension, donc il aura compris en fait le sujet, et l'autre aura juste recopié et là il y aura des pertes. Donc c'est pour ça je pense, je fais une petite alerte sur ces deux vitesses en même temps au niveau de l'éducation avec l'IA.

• Speaker #0

  Je prends quelques commentaires aussi qui sont sur TikTok. LSL Maker dit aujourd'hui les outils IA sont en train de se brider pour des raisons financières. Et puis peut-être que dans ces programmes, il nous signale que beaucoup de choses ne seront plus possibles d'être faites parce qu'il y a des sujets de droit d'auteur, de bridage et peut-être d'autres sujets. Autre point dans ce chantier, c'est maîtriser les outils et les données. Alors ça, tu restes avec moi, Christian, parce que c'est quelque chose qui va te plaire. Ce chantier concernerait les infrastructures utilisées par l'école, avec des propositions qui évoquent des outils français ou européens, des plateformes ouvertes ou des solutions qui limitent la dépendance à des fournisseurs étrangers. Ça, ça préfigure un peu. On a un volet qui s'appelle IA et souveraineté. Je pense qu'on le traitera aussi là-dedans. Et ces plateformes, en fait, finalement, on courrait comme objectif affiché, et cette Ausha, maîtriser les outils et les données, de savoir où sont stockées les données. qui peut y accéder, selon quelles règles, quelle gouvernance finalement, et puis comment on positionne ces différents modèles quand ils produisent des réponses. Alors dans une classe, ça concernerait les copies, les résultats, les difficultés rencontrées, ou même les échanges avec un assistant pédagogique. L'école et une école pourraient utiliser une IA sans transmettre l'ensemble de ces informations à une entreprise dont elles ne maîtrisent ni les conditions d'utilisation, ni l'évolution des services. Alors c'est une question qui touche aussi la continuité du service public. Ça tombe bien parce qu'on a aussi un volet IA et service public. Et donc si un outil, et ça on voit bien, on traitera dans la souveraineté, change ses tarifs, ses règles, son fonctionnement, l'éducation nationale doit pouvoir aussi continuer à faire travailler ses élèves. Christian, l'angle mort là-dessus, c'est quoi ?

• Speaker #4

  Alors là, du coup, on est sur un angle mort entre le coût et la complexité par rapport à la souveraineté, tu l'as très bien dit. Parce que c'est vrai qu'on parle d'IA souveraine, donc on peut peut-être commencer, en fait. C'est vrai, on en parlera tout à l'heure peut-être plus précisément. Mais c'est vrai qu'en dépendant entièrement d'une entreprise étrangère, du coup, ce n'est pas très bon. On sait pourquoi, mais on reviendra dessus pour nos écoles. Mais la question, en fait, qu'il faudrait peut-être se poser aussi, surtout, c'est quels sont les outils ? Qu'est-ce que les outils apportent vraiment, en fait, aux élèves ? Vaut-il mieux une IA souveraine ? on va dire carrément française, locale, qui apprend mal, par exemple l'algèbre, ou une IA, du coup, hors Union Européenne, qui apprend mieux, qui accompagne vraiment les élèves. Donc, très clair, c'est des questions qui sont vraiment à se poser. Il faut vraiment séparer les choses et garder la maîtrise du service qui est fourni pour nos élèves et être très vigilant sur ce côté-là. Et forcément, le coût sera complètement différent. On connaît déjà, en fait, les coûts... très très loin de l'Europe, qui sont beaucoup moindres que du coup, rien qu'en Europe, on n'a déjà pas les mêmes moyens techniques, du coup les coûts sont supérieurs, et après on a une grosse puissance aux Etats-Unis, on peut les citer, du coup on leur tarifie, après ils la maîtrisent, ils peuvent les augmenter à tout moment, donc on est dépendant, et puis du coup tout ce qui est Asie, du coup c'est moindre, mais du coup est-ce qu'on maîtrise vraiment toute la chaîne ? Je pense que c'est là qu'il faut être vigilant, c'est vraiment maîtriser le service et la qualité de l'éducation qui va avec.

• Speaker #0

  Autre chantier sur cet aspect IA éducation, c'est finalement un peu le dernier chantier qui ressort vraiment, c'est protéger nos enfants, et ça, ça porte sur l'âge, les écrans, les usages autorisés, avec certaines propositions de ces politiques, de ces présidentiables, ou de ceux qui sont candidats à cette présidence. Ils prévoient de limiter l'exposition des plus jeunes. Ça part d'un bon sentiment, d'autres envisagent un accès encadré à l'IA à partir du collège ou du lycée, d'autres encore excluent complètement l'IA de l'école. La protection concerne aussi les compagnons conversationnels. Un enfant pourrait utiliser une intelligence artificielle pour parler, pour demander conseil, chercher voire du réconfort. Et dans les propositions recensées, finalement, elles interrogent aussi le risque de dépendance, les réponses inadaptées et la possibilité d'orienter rapidement un mineur vers un adulte ou un professionnel. Dans une salle de classe, ça pourrait conduire à interdire certains usages, à réserver d'autres outils aux enseignants et à imposer une présence humaine. pour des situations sensibles. Alors, le choix porte finalement sur le moment où l'enfant rencontre l'intelligence artificielle, la manière dont il apprend à s'en servir et le degré de confiance accordé à la machine. Nouvel angle mort, Jean-Emmanuel Serré.

• Speaker #3

  Il y a même un double angle mort, c'est-à-dire qu'il y a l'angle mort du fait que les étudiants et les professeurs apprennent en même temps, quelque part, parce que ça évolue tellement vite que chacun, finalement, est à la même page. Donc il y a ça et il y a aussi le fait de pouvoir, pour les élèves, de trouver quelqu'un qui soit capable de leur donner des choses. Donc est-ce que la réponse c'est du top-down ? Moi je ne sais pas, je ne pense pas. Je pense que ça mériterait de réfléchir sur une pédagogie inversée ou une pédagogie ouverte où chacun peut bien des choses et c'est comme ça qu'on apprend.

• Speaker #0

  Ben voilà, tu vois, d'un angle mort, tu nous fais une forte proposition. Merci à toi. Je vais se présenter. Voilà, il va se présenter. C'est peut-être encore un candidat qui s'ignore, on ne sait pas. On verra, on suivra ça. On vient de parler d'IA éducation. Je propose qu'on ouvre un nouveau chapitre. Ça me donnera l'occasion de lancer le jingle. On va parler d'IA et d'emploi. C'est parti. Alors. Le chantier IA et emploi, on reste toujours sur une logique de socle commun, travailler avec des intelligences artificielles qui sont allées chercher dans les programmes de tous les candidats, est-ce qu'ils en parlent, est-ce qu'ils n'en parlent pas, et si on agglomère tout ça, finalement, est-ce qu'on arrive à savoir quelles sont les grandes lignes qui ressortent de tous ces programmes ? Alors, le socle commun, il consisterait, j'irais sur produire et créer des emplois. Et donc utiliser l'IA pour augmenter la productivité, réindustrialiser la France, renforcer les entreprises. Et dans cette logique, si on prend tous les programmes, l'État financerait les entreprises qui adoptent l'intelligence artificielle. L'État soutiendrait les startups françaises, utiliserait la commande publique et développerait même les secteurs liés aux semi-conducteurs, aux data centers, à la robotique, au nucléaire et aux infrastructures numériques. Angle mort, Alice.

• Speaker #1

  Alors oui, comme tu le dis dans l'absolu, il y avait quand même des fléchages qui étaient indiqués, notamment vers les secteurs qui touchent aux technologies nécessaires pour faire fonctionner cette IA. Mais je dirais que sur cette partie des programmes des candidats sur IA et emploi, même reproche globale que sur IA et éducation, à savoir manque de détails, manque de contexte, quels sont vraiment les secteurs réellement prioritaires. en dehors de la tech, quelles entreprises vraiment en bénéficieraient, quel montant, quel KPI de réussite. Donc vraiment, même les montants qui sont annoncés, ils ne précisent pas leur financement, ils ne précisent pas le calendrier. Est-ce que c'est des capitaux étrangers, des capitaux français ? On a cherché quand même, on s'est fait aider, tu parlais de l'OEGPT, mais perjuvez-vous de sites d'autres et tout, et franchement, on n'a pas trouvé beaucoup de détails. Et si on regarde par exemple l'IA et emploi, et que je regarde par exemple à l'échelle de mon exemple, que je connais mieux, la valeur de mon travail dans le conseil, ça va venir du diagnostic, de l'expérience, des choix, peut-être des responsabilités que je vais faire prendre suite à mes conseils. Et si on regarde l'IA qui va me faire gagner beaucoup de temps, est-ce que si moi je raccourcis l'exécution ? Vu que les tâches indispensables pour produire cette valeur sont plus courtes grâce à l'IA, est-ce que je réduis l'exécution et donc peut-être le budget au bout ? Est-ce que je prends le triple de temps pour réfléchir, pour vraiment apporter de la valeur humaine ? Il y avait plein de déclarations d'attention, mais quand on applique ça vraiment, notamment au PME, TPE, micro-entrepreneurs et tout ça, un peu creux.

• Speaker #0

  Oui, ça ne vole pas. En fait, ça ne vole pas. Ce que tu es en train de dire, c'est que ça ne marche pas. ou c'est pas encore au niveau on en reparlera tout à l'heure en fin d'émission on fera un peu le point aussi sur ces différents sur ce que vous avez retenu la rédac aller un deuxième chantier sur cet aspect IA et emploi consisterait à finalement protéger les emplois et organiser ce qu'on pourrait appeler les reconversions alors voilà c'est un peu les apportent sur les conséquences de l'automatisation Et là, là-dedans, on retrouve le droit à la reconversion, alors Edouard Philippe en parle, les plans de formation, Attal et Rotailleau en parlent, le revenu de transition, Dominique Villepin, il en parle aussi. La négociation avec les partenaires sociaux, alors ça c'est défendu par Jean-Luc Mélenchon, Marine Tandelier et Cazeneuve. Et dans sa version la plus sociale, l'IA réduirait le temps de travail, les heures supprimées, deviendrait du temps libre, bon, pourquoi pas. Mais dans sa version la plus productive, ça servira à produire davantage, à augmenter les salaires ou à financer la protection sociale. Et là, il y a Hubert qui s'est levé et qui a dit « Mais le revenu, le revenu universel, il en est où ? » Hubert, tu nous en parles ?

• Speaker #2

  Mais oui, mais oui, les candidats manquent de pragmatisme, ils manquent de courage, parce qu'aujourd'hui, on le voit dans les étudiants qui sont dans la rue, ils sont inquiets et il faut un revenu universel qui serait ponctionné par... une fameuse taxe sur les tokens. À la base, tout part de l'éducation, c'est pour ça qu'on a commencé par ce sujet-là tout à l'heure, tout part de l'école, et on dit, ouvrez une école, vous fermerez 10 prisons, ça, c'est mille fois vrai, il faut commencer à former dès le plus jeune âge, et tous les programmes des candidats devraient commencer par parler d'éducation, mais comme le vote n'est qu'à 18 ans, je serais... favorable à ce que les candidats disent « on met le vote à 16 ans » , ce qui permettrait d'avoir plus de mesures pour nos étudiants, pour les jeunes, parce que c'est à l'école que tout ça commence. Et pour les enfants, la critique est clé, ils ne se privent pas de critiquer aujourd'hui, quand on les écoute sur les plateaux, ils critiquent les hommes politiques, ils critiquent les programmes, mais ils ne les critiquent pas sur les bons côtés. Et la bonne critique pour un étudiant aujourd'hui, c'est de dire Merci. Je suis inquiet parce que l'IA risque de nous faire telle et telle conséquence et donc je dois m'adapter à tout ça. C'est là où aujourd'hui les étudiants ne sont peut-être pas sur le bon combat et les hommes politiques ne sont pas sur le bon thème de l'éducation et l'IA et emploi, bien juste après l'éducation.

• Speaker #0

  Juste après. Donc on passe à un autre chantier, transformer l'État. Et là, dans ce chantier, l'IA serait utilisée pour automatiser les tâches administratives, simplifier les démarches, lutter contre la fraude, redéployer les agents publics vers les soins. On le parlera dans « IA et services publics » qui arrive, c'est une séquence qui arrive dans quelques instants. C'est aussi le chantier où les écarts entre les candidats sont les plus visibles. Certains envisagent des réductions d'effectifs grâce aux grains de productivité et d'autres proposent une intelligence artificielle qui va assister les agents sans les remplacer. Christian, tu t'es dit qu'il y a un angle mort et tu veux nous en parler.

• Speaker #4

  Je trouve en fait que les programmes, ils parlent peu des erreurs. Alors qu'on a tous entendu parler des fameuses hallucinations, qu'on entend parler des IA depuis le début. Mais ce n'est pas que ça en fait les erreurs, ça va bien au-delà de ce que peuvent nous donner les IA, les machines, mais c'est aussi de ce que nous en tant qu'humains, les entreprises, on perd du coup sur l'emploi. Parce que je pense qu'il faut regarder un petit peu comment ça se passe, en fait, tout ce relationnel. Pour être plus clair, pour être moins un petit peu généraliste, je vais reprendre un petit exemple. Donc un service, en entreprise, quel qu'il soit, qu'il soit public ou privé, il reçoit...

• Speaker #0

  on va faire un peu de maths, 100 demandes par jour. On met un outil d'IA qui va traiter automatiquement, donc une partie ne pourra jamais traiter, au premier abord, toutes les demandes, il va traiter une partie, quel que soit le nombre, on va dire 60. Là, on pourra se dire, du coup, il y a moins de demandes à faire. Sur les 100, du coup, il n'en reste que 40, donc c'est cool. Donc, du coup, on peut fonctionner avec moins d'employés. Parce qu'en fait, les dossiers, en plus, de ce côté-là, c'est une double erreur, donc du coup, de se séparer des salariés, c'est que les personnes qui vont rester pour traiter les dossiers restants, les dossiers qui vont rester, tout simplement l'IA a été programmée pour faire les tâches, naturellement, vous le savez, les plus rapides, les plus simples. En fait, les tâches qui vont rester, les tâches restantes dans l'entreprise, dans les services, ne sont pas les tâches les plus simples, mais les plus compliquées. Donc là, c'est mieux, c'est très bien pour nous en tant qu'humains, mais par contre, il y aura plus de temps. Et c'est vrai que là, ça va être un peu plus compliqué, puisque moins de dossiers, tout simplement, ce que je veux dire, c'est que moins de dossiers ne signifie pas automatiquement qu'on travaille dans les mêmes proportions. du départ en fait. Donc ça, je pense qu'il faut à la fois faire attention aux promesses, sur des promesses d'économie, et aussi faire un petit peu plus attention au niveau du programme sur la présence humaine. Donc le taux d'erreur, sur les erreurs, je trouve qu'elles ne sont pas mises assez en avant, autant pour la machine, on n'en parle assez, mais aussi par rapport aux erreurs stratégiques sur l'emploi.

• Speaker #1

  Tiens d'ailleurs, je prends le commentaire de Ludovic, qui nous dit, il pose une question d'ailleurs, il dit est-ce que les emplois sont vraiment menacés ? Parce qu'il dit, finalement, la majorité des entreprises n'ont pas de retour sur investissement sur l'IA. Donc, est-ce qu'on n'est pas en train aussi, c'est une bonne question, de se mettre un petit peu martel en tête, alors qu'il n'y a pas de changement ? Moi, je pense qu'il y a quand même une grosse transformation qui est en train de se passer. On en discutera probablement à la fin, dans le wrap-up, la dernière séquence de notre émission. Un dernier chantier peut-être qui émerge aussi, c'est celui de... Alors il concerne le pouvoir dans l'entreprise. C'est comment on encadre l'IA dans l'entreprise ? Et ça pourrait inclure, finalement, un avis un peu conforme des représentants du personnel avant le déploiement d'une intelligence artificielle. Ça existe dans certaines entreprises. Une transparence sur les algorithmes, un droit à la non-surveillance des utilisateurs, des collaborateurs, une formation obligatoire des salariés, et puis une association des syndicats aux décisions. Certains proposent un cadre très détaillé sur le sujet, d'autres plutôt une réflexion collective, et puis encore d'autres évoquent un revenu de transition financé par l'adoption d'intelligence artificielle. Alors là, ça rejoint peut-être un petit peu ce que nous disait Hubert. Christian, tu restais avec moi, tu as vu des points positifs dans cet axe-là ?

• Speaker #0

  Oui, c'est intéressant, parce que du coup, ça rejoint ce qu'on disait juste avant. Il y a une question qui reste à se poser, qu'il la pose de temps en temps, mais qu'il faut quand même se poser, pas forcément au moment des élections, mais tout le temps, c'est à qui profite le temps qui est gagné ? Parce que là, c'est clair, la promesse, c'est de faire gagner du temps, dans tous les cas. Donc là, c'est vrai que c'est une question qu'il faut se poser. Et au niveau des salariés, est-ce qu'ils ont vraiment leur mot à dire ? Tu parlais justement du dialogue social des représentants. Du coup, est-ce qu'ils ont leur mot à dire, réglementairement ? Oui, évidemment. C'est vrai que l'entreprise le fait tout le temps pour tous les projets, ce qui reste peut-être pas trop évasif souvent, pour essayer de noyer un peu le poisson, parce qu'il faut aller vite. Après, ça se comprend aussi des deux côtés. Et puis, toujours cette question à qui bénéficie le temps, moi, c'est ce qui m'intéresse, du coup, c'est qui va profiter de toute cette technologie, cette rapidité. Voilà, donc c'est vrai qu'il y a, il est là pour aider les salariés, c'est le principe qu'on connaît, il est là pour tous nous aider. Il faut aussi regarder nos droits. Les droits de tout le monde, salariés, employeurs, et les moyens qui vont rendre cette promesse réelle qui va dépasser les promesses électorales.

• Speaker #1

  Je vous propose qu'on passe à une autre séquence, IA et souveraineté, jingle. Si on prend IA et souveraineté, déjà, le premier chantier, ça serait une recherche française et européenne renforcée. Voilà, donc avec des laboratoires publics, il serait mieux financé, des partenariats entre les universités, les centres de recherche, les entreprises, ça, il faudrait le développer. Ça serait développé aussi par des chaires, par des laboratoires communs, par des conventions de recherche, tenez-vous bien, avec peut-être un campus international qui réunirait des codeurs, des juristes, des scientifiques, des spécialistes de l'éthique et aussi des industriels. L'IA ne serait donc plus traité uniquement comme une discipline informatique, ça deviendrait... un objet industriel, juridique, éducatif, militaire et même culturel. Alors, Jean-Emmanuel, tu as vu aussi qu'il y avait un deuxième chantier sur la souveraineté. C'est un sujet avec des modèles puissants, mais des modèles frugaux, c'est ça ?

• Speaker #2

  Il y a des moyens d'utiliser l'IA, par exemple, pour rechercher, savoir quel est l'appel dans un territoire, pour pouvoir... par rapport à des projets. Ça c'est un projet qui date de 2023, et il y a aussi des data centers qui ont une philosophie inversée, c'est-à-dire qui sont là pour apporter de la chaleur aux gens qui en cherchent. On peut voir les choses d'une manière où ça fait de la chaleur, mais on peut aussi voir plutôt le vert en fait Enfin, le verre plein ou le verre vide, en se disant, on le voit différemment et on va chercher là où ça peut être intéressant pour aider les gens.

• Speaker #1

  On a aussi ce sujet de puissance, de puissance européenne, de l'intelligence artificielle, où ils nous disent que la France pourrait lancer un programme d'investissement de long terme, environ peut-être 200 milliards d'euros sur 10 ans, partagé entre du financement public et privé. Ça combinerait la France 2030, la BPI, un fonds souverain, l'épargne longue, la commande publique, une contribution accrue des grandes plateformes numériques. Et puis l'objectif serait de financer la recherche, les startups, les infrastructures de calcul, les data centers, les semi-conducteurs, les modèles d'intelligence artificielle. Et puis une partie de l'épargne retraite pourrait même être orientée vers les entreprises technologiques stratégiques. L'État pourrait aussi devenir actionnaire ou cofondateur de certains projets sans exercer une... Tutelle complète. Alors, après, il y a cette souveraineté qu'il faut organiser à l'échelle européenne. Ça fait partie aussi des promesses. Une maîtrise de toute la chaîne industrielle avec un programme composite qui couvrirait l'ensemble de la chaîne avec l'extraction, la sécurisation des matières premières. On commence par là. La production d'électricité, les data centers, la capacité de calcul, les semi-conducteurs, le cloud souverain, les modèles d'IA, les logiciels, la cybersécurité, le déploiement dans les entreprises et les administrations. Wow, tenez-vous bien, la France soutiendrait des entreprises comme, tiens, Mistral et AI, Cperl et d'autres acteurs européens. Elle pourrait aussi bloquer certains rachats étrangers dans l'IA, les semi-conducteurs, l'optique et le quantique. Bref, on rase gratuite. Et pour les achats publics sensibles, le principe serait celui d'un « buy European first » , en particulier pour les fonctions régaliennes et les infrastructures techniques. Et puis, bien sûr, en termes de souveraineté, ce serait un État qui utilise lui-même l'intelligence artificielle. Ça deviendrait peut-être le premier client de cette industrie qui utiliserait l'IA pour simplifier les démarches, lutter contre la fraude, accélérer le traitement administratif, améliorer les services publics. Les administrations, tenez-vous bien, devraient progressivement remplacer certains logiciels étrangers par des solutions françaises ou européennes. Certains ont déjà commencé d'ailleurs. Une partie des tâches répétitives pourrait être automatisée. Les agences seraient alors redéployées vers l'accueil, le soin, l'enquête, le contrôle et l'accompagnement des citoyens. Avec un programme qui comporterait aussi une règle de prudence, avec aucune décision publique importante qui ne serait entièrement automatisée, sans un responsable humain identifié, une formation adaptée, une possibilité de recours.

• Speaker #3

  Il y a Léo dans le chat qui nous dit que les data centers sont en train de coloniser et de piller nos ressources. Alors je voudrais rassurer Léo, on est excédentaire en énergie et on est capable de bâtir en France... plusieurs data centers, plusieurs dizaines même, et de continuer à vendre à nos partenaires, plutôt que de leur vendre de l'électricité à 2 centimes le kilowattheure, on pourrait leur vendre des tokens à 200 euros le million de tokens. Et on s'en porterait beaucoup, beaucoup mieux. Donc ça, c'est pour rassurer Léo. Et deuxièmement, l'Europe, si c'est pour mutualiser des moyens, mettre en commun et lutter armégal contre la Chine et les États-Unis, c'est génial. Si c'est pour légiférer, refaire un IA Act bis, refaire une interdiction des réseaux sociaux au moins de 15 ans alors qu'ils apprennent tout sur YouTube et que YouTube fait partie des réseaux sociaux, c'est complètement ridicule de faire des lois stupides. Et je voudrais citer quelques phrases, c'est un tout petit peu long, je suis désolé, mais c'est parfaitement adapté au discours d'aujourd'hui. Le bouquin de Laurent Alexandre et Olivier Babaud qui parle de justement L'IA et les présidentielles. Donc je vous cite là, je cite Laurent Alexandre ou Olivier, je ne sais pas lequel a écrit ça, je vous le cite textuellement. La France a laissé passer la révolution d'Internet. Elle a ensuite laissé passer les plateformes, les réseaux sociaux, le smartphone, le commerce en ligne. Elle a laissé passer le cloud, qui est la base de l'économie numérique. Elle a laissé passer les semi-conducteurs et les grands modèles d'IA. A chaque vague, l'Europe a réagi de la même façon, d'abord par le déni et ensuite par une réglementation. Mais jamais, comme l'ont fait les Chinois, ça c'est moi qui l'ajoute, par la construction d'une puissance industrielle. Il y a un moment, il va falloir se décider à construire, et il n'y a aucun homme politique qui le propose, il va falloir construire de manière un petit peu autoritaire peut-être, un peu à la chinoise, ce complexe industriel européen, pas français mais européen, on a SML, on a Mistral, on a STMitro électronique, boîte que personne ne connaît, Soitec qui fait des wafers. et qui permet de faire des puces dessus, qui vend des wafer au monde entier. On a tout pour faire des data centers, pour faire des semi-conducteurs. Il faut un plan à 10-30 ans. Les avantages qu'on a aujourd'hui sont le fruit d'un plan nucléaire qui ont été bâtis il y a 50 ans. Et la question que l'on pose et qu'on ne trouve pas dans les programmes des présidentiables aujourd'hui, c'est qu'est-ce qu'ils font pour dans 10 ans ? 15 ans, qu'est-ce qu'ils font pour nos avantages de 2037 ? Ils font des petites choses pour demain, pour après-demain, ils font des petits pansements. Il n'y a rien d'envergure industrielle disant on va se réindustrialiser puisque notre sujet est l'IA ici, et en mettant l'IA au centre.

• Speaker #1

  J'entends un manque de vision finalement dans ce que tu soulèves aussi. Je vous propose qu'on passe maintenant à la séquence IA et services publics. C'est parti. Connected Mate. Qu'est-ce que donnerait un programme qui additionnerait toutes les idées des candidats qui se sont exprimés sur le sujet IA et services publics ? Le programme Composite créerait un État plus numérique, mais aussi plus réorganisé, avec une administration qui conserverait des services publics renforcés dans la santé, l'éducation, la petite enfance et aussi la protection de l'enfance, bien sûr. En parallèle, ça supprimerait où ? regrouperait plusieurs agences, ça transférerait certaines compétences aux collectivités, ça réduirait une partie des effectifs administratifs. On aurait des démarches qui seraient davantage automatisées. Des citoyens qui pourraient utiliser des assistants publics pour accéder à leurs droits, suivre un dossier, préparer une demande ou obtenir une réponse administrative. Et puis dans les domaines sensibles, comme la justice, la santé ou les prestations sociales, il y aurait une validation humaine qui devrait rester... prévue. Alors cette garantie, elle n'est pas formulée avec le même niveau de précision d'ailleurs chez tous les candidats. L'État financerait une capacité française et européenne de calcul avec plusieurs modèles possibles en parallèle. Commandes publiques orientées vers les entreprises, technologiques, infrastructures publiques, modèles ouverts, pôles européens de recherche et centres de données soumis à des contraintes environnementales. L'école intégrerait l'IA dans les apprentissages, la formation des enseignants et l'orientation, les élèves Merci. pourrait disposer d'assistants personnalisés, complétés par des enseignants, des étudiants ou même d'anciens professeurs. On aurait une certification nationale des compétences IA qui pourrait également être créée. Et puis les agents publics seraient formés à ces outils. Certains programmes prévoient une reconversion, une revalorisation des métiers. D'autres comptent sur l'automatisation, les départs volontaires ou le non-remplacement des départs à la retraite pour réduire les effectifs. La France... On développerait aussi une politique industrielle de l'intelligence artificielle avec des investissements massifs, une commande publique orientée vers les acteurs européens ou français, on en parlait, davantage d'ingénieurs, une recherche renforcée et des équipements de calcul souverain. Enfin, parce qu'on arrive à la fin, l'usage de l'intelligence artificielle serait soumis à plusieurs familles de garanties, protection des données, droit d'auteur, audit des modèles, transparence des décisions, recours pour les citoyens, Protection des mineurs, responsabilisation des fournisseurs et... Enfin, contraintes environnementales, ça y est, on y pense. Christian, angle mort là-dedans, qu'est-ce que tu as vu ?

• Speaker #0

  Oh là là ! On est sur un point sensible quand même, comment dire, par rapport à ce sujet avec les services publics. Comment expliquer ça ? Je vais reprendre un exemple simple, ce sera peut-être plus rapide. Une IA peut aider... à remplir un formulaire, tout simplement. Donc, c'est le principe de base. C'est le cas de Chatbot. Mais elle peut aussi intervenir dans une attribution d'un service. Donc là, on va prendre le service public. Par exemple, l'aide sociale. Je pense que c'est assez sensible. Tout le monde est sensibilisé sur ce point-là. Eh bien, en fait, ce n'est pas la même responsabilité vis-à-vis du fournisseur, du fournisseur technique, mais aussi du fournisseur du service public. Quand l'IA va aider à remplir un formulaire pour l'aide sociale, ça va être... complètement différente que s'il y avait à juger derrière pour l'attribution. Et là-dessus, c'est vrai que ça permet des démarches plus rapides, mais si le service se trompe, et là je trouve que c'est un grand danger, donc oui, on revient dessus, le contrôle humain sur les décisions sensibles, et des fois qui n'ont pas une interprétation sensible de premier abord, il faut toujours avoir un regard humain derrière, parce que là c'est super important, surtout dès qu'on touche le social et donc le service public.

• Speaker #1

  Tiens, Ali, je crois que tu avais vu aussi un... un autre angle mort pour rebondir sur les propos de Christian.

• Speaker #4

  En fait, il en a parlé effectivement et également quand on parlait de IA et entreprises, cette promesse de gain de temps. Le gain de temps, il est pour qui ? C'est valable aussi pour le service public et comme l'a dit Christian, ça peut être dans des cas vraiment très graves. Je ne sais pas parmi vous, qui a déjà obtenu une réponse satisfaisante du chatbot d'Amélie ? Bon, alors voilà. C'est qu'un exemple, mais ce que je veux dire, c'est que des fois, comme le disait Christian, on va être bloqué pour un tout petit détail. Et quand ils mesurent l'efficacité de l'automatisation, ils ne prennent pas en compte le travail demandé aux usagers. Alors, c'est vrai que nous, maintenant, on est devenu corbéable, on est habitué, on ne se met pas à la caisse, on fait nos virements tout seul, bancaire, etc. Mais quand il y a un petit problème, un truc qui fait qu'une réponse n'est pas compréhensible, qu'un dossier est bloqué et qu'on n'arrive pas à atteindre un humain, Ces communautés routinales, ça retombe sur la personne, ça retombe sur les proches, sur des fois des associations locales, sur des forums où on se débrouille pour s'aider entre nous. Donc une économie de temps côté administration, ça peut devenir un vrai travail supplémentaire de l'autre côté.

• Speaker #1

  Allez, on passe à la vingt-dernière partie. IA et sécurité, c'est le jingle. IA et sécurité, le programme Composite, financerait des systèmes d'intelligence artificielle pour le renseignement, la planification militaire, la cybersécurité, les drones, la robotique, la navigation autonome et l'aide à la décision. Exemple, un système qui analyse des images satellitaires repère une évolution logistique, propose plusieurs scénarios à l'état-major. La décision, bien sûr, resterait humaine, mais le même programme devrait fixer aussi le statut des armes autonomes. Une partie des propositions, de ce qu'on a pu voir, les IA nous ont dit, une partie des propositions interdit l'usage létal. D'autres défendent le développement des drones et des systèmes autonomes sans détailler le niveau de contrôle humain. La REDAC a pas décidé de réagir là-dessus. On va attaquer par un autre chantier qui s'appellerait la cybersécurité. Alors ça regrouperait la protection des administrations, des hôpitaux, des entreprises stratégiques, des réseaux électriques et des infrastructures militaires. Concrètement, l'intelligence artificielle pourrait surveiller les comportements anormaux sur un réseau, détecter une intrusion et proposer une réponse. Alors elle déciderait pas seulement de couper un hôpital, elle le ferait pas seule si elle devait couper un hôpital, un réseau national ou une infrastructure critique. Christian, là je crois que c'est le sujet où t'es obligé d'intervenir.

• Speaker #0

  Ce sujet cybersécurité, il est important, on le sait tous, tout le monde l'a pris conscience, ce n'est pas nouveau, mais surtout ces derniers temps, on s'en est tous aperçus. Il y a beaucoup d'attaques, c'est vrai que l'IA est pour beaucoup, autant dans les attaques que dans la défense. Alors c'est vrai qu'au niveau des promesses, ça parle des hôpitaux entre autres, c'est vrai que c'est pas mal. Je vais essayer d'illustrer aussi un petit peu, parce que dans leurs promesses... La façon dont on présentait, en tout cas, c'est comme ça que je l'ai ressenti, en tout cas. Il présente un petit peu l'IA pour la cybersécurité, un peu comme une alarme, surtout. Ce que tu viens de dire, en fait, c'est vraiment qu'il se passe quelque chose d'anormal. Donc, c'est vrai que le mot anormal, il faut déjà le qualifier. Qu'est-ce que c'est qu'anormal ? Donc, c'est vrai que l'IA, ça peut être une aide très, très, très précieuse. Je tiens à le dire, je ne veux pas être négatif. Mais par contre, oui, demander à une politique de sécurité de la gérer, Un peu comme une alarme, c'est comme ça que je l'ai ressenti dans les programmes. C'est un peu dangereux. Et d'attendre que le moment où elle sonne pour réagir, je trouve ça dommage. Parce que c'est avant qu'elle sonne qu'il faut réagir.

• Speaker #1

  Bien vu. Allez, autre point sur l'IA et sécurité. Alors, celui-là m'a fait un peu sourire, en fait. C'est la guerre informationnelle. Alors, le programme, si on prend un peu tout ce qu'ils disent, nos candidats, le programme inclurait la détection des campagnes de manipulation. comme s'il n'y en avait pas en ce moment, la détection aussi des contenus générés artificiellement, donc ça s'est fait, les faux comptes et les opérations étrangères. Il y aurait Viginum, la veille électorale, la protection des médias et l'authentification des contenus qui pourraient être renforcés, et le point à définir serait la limite entre la lutte contre une opération étrangère et le contrôle de l'expression politique nationale. Tenez-vous bien derrière les petites lignes, je pense que vous avez compris pas mal de trucs. Bref. intéressant parce que peut-être que certains essayent de nous manipuler en ce moment en utilisant parfaitement les réseaux sociaux et ce qu'on peut faire aussi avec l'IA. Alors, autre volet de l'IA et la sécurité, la police, le narcotrafic et le renseignement. Et là, il y a deux logiques qui apparaissent. La première consiste à utiliser l'intelligence artificielle pour rapprocher des données, analyser des flux financiers, traiter des images ou repérer des réseaux criminels. La seconde. La seconde logique ajoute des outils biométriques et certains proposent une reconnaissance faciale ciblée, limitée certes dans le temps, c'est ce qu'ils nous disent toujours, et dans l'espace aussi, et dans le cadre d'un régime d'exception contre le narcotrafic. Le programme composite devrait donc préciser les conditions d'usage, la finalité, la durée, la zone, l'autorité compétente, la conservation des données, Le contrôle aussi. et puis peut-être le recours pour les personnes qui sont identifiées. Alice, toi, tu as vu des choix aujourd'hui aussi et pour demain ?

• Speaker #4

  Là, on parle de programmes politiques à appliquer dans le futur, mais d'ores et déjà et au quotidien, les gouvernements prennent des décisions relatives à l'IA. En tout cas, si on regarde vraiment les propositions qu'il y avait sur cette partie-là de programme, je n'en ai pas vu, qui mentionnait de concertation publique, alors que quand même, c'est des points hyper importants. Et ce que je veux dire par là, c'est que les lois qui vont être décidées autour de ça, là, elles sont décidées maintenant et dans le futur dans les cadres des politiques actuelles, mais il faut imaginer aussi qu'elles puissent être dans le futur, entre d'autres mains, qui pourraient en faire d'autres choses. Donc, c'est bien de vouloir assouplir les règles, mais il faut se dire… Les assouplir dans le contexte actuel serait peut-être passable, mais peut-être pas dans d'autres contextes que l'on soit, sans parler de politique. Donc, toujours sécurité, liberté, vraiment une grosse prise de risque, je pense, parce que là aussi, les détails, ils ne présentaient pas, ils ne détaillaient pas les propositifs, les biais, la surveillance. Ça rappelle de mauvais souvenirs.

• Speaker #1

  Autre point sur l'IA et la sécurité. Avant de l'attaquer, je vais prendre aussi un petit commentaire. C'est juste Poc qui nous dit « L'IA nécessiterait tellement de mécanismes de théologie dans certains domaines. » Intéressant ça, de le garder. Merci. Et on tombe dans une très grande dépendance. Léo,

• Speaker #3

  qui est très actif dans le chat, nous dit que l'IA, dans la décision militaire, est très dangereuse. Une bombe sur la tête, car on est dans un fichier, effectivement, c'est très dangereux. Il a mille fois raison, il est actif. Merci à Léo de réagir. Heureusement, on a des éthiques d'IA qui permettent de dire pas de létalité automatique, il y a toujours un homme au bout de la décision, etc. Mais ça n'empêche qu'il faut être très vigilant. Il a raison, Léo. Merci Léo.

• Speaker #4

  C'est pas parce que c'est un homme qui est aux commandes que c'est rassurant toujours.

• Speaker #1

  Voilà, mais bon, ça peut être une femme aussi. Non, non, homme, femme. Je sais.

• Speaker #4

  Tout à l'heure,

• Speaker #1

  quand on parlait de vidéosurveillance,

• Speaker #4

  je voulais faire une petite mention au bertillonnage, un grand savoir-faire français.

• Speaker #1

  Ah, voilà, il y a des références, c'est magnifique. Allez, autre pan sur IAI Sécurité. La sécurité des systèmes d'intelligence artificielle. Bah oui, parce qu'après tout, finalement. Et donc là, l'idée, c'est qu'avant tout déploiement dans la défense, la police ou les services publics, les modèles pourraient être testés sur leur... biais, sur leur robustesse, sur leur résistance aux attaques. Intéressant, parce qu'on voit bien tout ce qui est en train de se passer en ce moment, et aussi sur leur capacité à produire des erreurs. Le modèle proposé par certains consiste à évaluer les systèmes avant leur mise en service, puis à assurer un suivi continu, et cette logique pourrait s'appliquer à, donnez-vous bien, un logiciel de renseignement comme un outil utilisé par une administration. Christian, là-dessus, tu as vu un énorme, un énorme angle mort.

• Speaker #0

  C'est très vague en fait sur ce qu'ils proposent. Donc de tester en fait, moi j'ai un soutien avec les programmes parce que c'est pas très clair. Ils proposent donc de tester, donc c'est très bien, de toute façon il faut tester. Je vois rien en fait de concret, c'est qu'est-ce qui se passe, que fait-on et que font-ils, que proposent-ils en cas de choses graves qui ne vont pas, qu'il faut contrôler, sur qui teste, parce que moi ce qui me gêne c'est qui teste. Le cas de Léo qui disait qu'on se promène avec une bombe sur la tête, c'est un très bon cas. Pour revenir avec ce que disait Alice, la caméra Alia a repéré cette personne avec une bombe sur la tête qui se promène pendant qu'on enregistre notre podcast. C'est très bien. Au niveau des tests, ça a été tagué, c'est une bombe. Ce n'est pas bien. Mais c'est vrai que selon les politiques, selon les pays, je pense que vous êtes tous d'accord, Ça peut être très bien parce que du coup... c'est pas bien pour l'un, mais du coup, c'est pas dans la bonne géographie, mais c'est chez le voisin que j'aime pas, ben là, du coup, c'est bien, donc je vais laisser faire. Donc, là, c'est toujours cette notion du bien, du pas bien, donc je rejoins ce que le petit cheval a de petite croix, le petit chemin de Hubert, on en parle souvent des aspects réglementaires, qui, donc, pour certains, c'est des contraintes, des freins, donc moi, j'aime bien dire que ça protège, mais c'est vrai que... Quelles que soient les réglementations qui sont mises en place, donc RGPD, l'IA, DSA, DMA, LIS2, etc., et puis Omnibus qui vient mélanger tout ça et refaire réécrire sous prétexte de concurrence, c'est toujours de la politique derrière. Quoi qu'il arrive, on peut dire que ce n'est pas bien le RGPD parce que ça protège trop nos données, y compris quand il y a de l'IA qui traite des données perso, ça en fait partie. Mais ça reste politique. Si jamais on change de politique, il dit « Ah ben non, finalement, le poil, etc., le genre, le syndicalisme ou pas, les tendances sexuelles et tout, du coup, pour moi, c'est une donnée normale, donc du coup, on peut la traiter. » Ben, ça reste de la politique. Et donc, ça sera OK, tout simplement. Et donc, selon ce qui se passe dans d'autres pays, on le voit très bien, ça reste de la politique, quelle que soit la réglementation. Et c'est vrai que là, quand je vois que c'est proposé dans les programmes, ben, on va tester. Mais moi, du coup, on va tester, puis du coup, on va décider, en gros, si c'est bien ou pas. Moi, c'est ce qui m'inquiète. Qui décide ? Ce ne sera pas moi, en tout cas, ni nous autour de la table. Peut-être dans les commentaires, vous avez un avis là-dessus. Moi, je trouve qu'il faut peut-être se poser des questions, en fait, parce que si on révèle un problème, c'est quoi le problème ? C'est quoi la nature du problème ? Est-ce vraiment un problème ? Et qui a qualifié ce problème ? Et qu'est-ce qu'on fait ?

• Speaker #1

  Qui décide ? Et puis, qui paiera le prix de cette décision ? C'est aussi le sujet. On a balayé les grands principes. Je vous propose de faire maintenant la dernière partie. C'est un peu le wrap-up. On va rassembler un peu tout ça, ce qu'on en a tiré et ce qu'on en pense. Je lance le jingle et on attaque. Alors pour lancer le truc, moi j'ai l'impression quand même à ce stade, alors on est encore à quelques mois avant les élections, mais qu'on a quand même beaucoup de déclarations, beaucoup de yaka faucon, beaucoup de choses hyper court terme. Très peu, et Hubert le signalait tout à l'heure, finalement pas beaucoup de vision à un horizon au-delà de « je fais en sorte d'être élu tout de suite » . Voilà, je ne sais pas ce que vous en pensez. Peut-être qu'on peut démarrer le tour de table avec les uns et les autres. Christian, tu es sur la lancée. Qu'est-ce que tu retiens un peu de tout ça ? Ça t'inspire quoi ? Et comment tu vois les choses arriver ? Ils vont vraiment s'y mettre, nos présidentiables ? où ils sont largués ?

• Speaker #0

  Moi, tout ce que j'ai pu voir, je vais peut-être être très critique, mais je trouve qu'ils ont traité l'IA comme tous les autres sujets, en fait. Que ce soit, du coup, les salaires, les crises, les violences, etc., et donc la sécurité. Donc, ils ont fait pareil. C'est un petit peu comme du marketing, ce qui est compréhensible, c'est des élections, etc., c'est une période électorale. C'est un petit peu ça. Ils ont un petit peu mis tout, Et selon les tendances, ça va tenir ça qui est à la mode, donc du coup on va tester, parce que les gens disent qu'il faut qu'on teste, donc du coup je vais prendre ça dans mon programme, ils disent que c'est pas bien, donc du coup je vais prendre ça, il faut être souverain, parce qu'il faut être souverain, alors que du coup le mot souverain ça veut tout et rien dire, pour reprendre une question qu'il y avait tout à l'heure, une remarque de Léo, je crois, de mémoire, pardonnez-moi si je me trompe, mais du coup il parlait des data centers, du coup qui étaient aux Etats-Unis, mais c'est vrai que le mot souverain ne veut pas dire... n'est pas forcément data center, n'est pas souverain parce qu'il est sur un sol déjà d'office. On peut avoir des data centers sur notre sol, chez nous, au rez-de-chaussée, qui appartiennent à notre boîte, qui est américaine, chinoise, russe, etc. qui du coup là on n'est plus du tout souverain, même si on est sur le territoire. Donc c'est vrai qu'on colle un petit peu le mot souverain, donc là je l'ai vu coller plusieurs fois. Et pour le mot IA, dans tous les programmes, j'ai vu un petit peu ça. C'est vraiment une petite vitrine, en gros c'est du marketing pour la politique. Donc c'est vrai que c'est un peu inquiétant mais... Il faut quand même se poser des questions dans tous les cas.

• Speaker #1

  Mesdames et messieurs les politiques, la transformation avec l'intelligence artificielle n'est pas un pins. C'est peut-être de la travailler un peu plus profondément. Hubert, comment tu veux réagir là-dessus ? Et après, je passerai au micro à Alice.

• Speaker #3

  Je crains que les hommes politiques ne répondent qu'à ceux qui ont un pouvoir de nuisance. Aujourd'hui, ce sont les étudiants qui ont un pouvoir de nuisance avec les manifestations. Demain, ce sera peut-être les agriculteurs qui vont bloquer quelque chose. Après, ce sera peut-être les routiers. Et je pense que les hommes politiques qui sont là, les hommes et femmes politiques qui sont dans la présidentielle, ne veulent qu'une chose, c'est être élus en avril, mai. Et ce qui va se passer au-delà, ils verront, ils géreront le quotidien. Donc il n'y a pas de vraie vision, il n'y a pas de vraie envie, il n'y a pas de vrai programme. Il y a... Il n'y a pas de philosophie qui sous-tend une envie de faire adhérer un peuple à une idée qui serait plus grande que nous, et qui pourrait nécessiter et qui pourrait justifier quelques années de sacrifice, quelques années que ce soit sur les retraites, que ce soit sur les études supérieures, que ce soit sur quoi que ce soit. S'il y a une idée supérieure, s'il y a une vision philosophique intéressante, s'il y a quelque chose derrière, on peut faire accepter beaucoup de choses. Mais aujourd'hui, on est vraiment... court-termiste et je ne vois aucun homme politique entre aujourd'hui et mars prendre des décisions qui soient autre chose que court-termiste. Donc malheureusement, je suis un peu pessimiste.

• Speaker #1

  Alice, optimiste, pessimiste ?

• Speaker #4

  Pas très optimiste. Je partage vraiment tout ce qui vient d'être dit à l'instant et qu'effectivement, c'est quand même très marketing. Le but, c'est de plaire à la cible. Le cœur de cible, c'est les retraités. Je sens rentrer dans les clichés, mais voilà, disons que c'est un peu comme l'écologie. C'est un sujet qui est capital, avec des enjeux capitaux dont ils parlent ou très peu ou très mal. D'ailleurs, si on n'a pas fait une plus grosse rubrique sur IA et écologie, c'est parce que quand on mutualisait tous les programmes, il n'y avait pas de quoi faire une partie IA et écologie. Donc, ce n'est pas comme si c'était les deux. deux des sujets les plus importants. Tout va bien. Après, comment dire, comme on se l'est dit, je ne dis pas du tout que dans chaque parti, il n'y a pas de grands spécialistes qui se roulent en boule en entendant le représentant de parti parler d'IA. Mais là, ce qu'on en a vu, tout ce qu'on a pu collecter par pas mal d'IA, c'est pas super rassurant. Je pense que la formation IA devrait commencer par ses représentants politiques. Ils se font une petite presse du numérique le matin, une presse de climat l'après-midi, une petite formation 3h via. Ils n'ont pas perdu la journée, je pense.

• Speaker #1

  Je reconnais bien là ton talent de formatrice et de communicante. Finalement, tu viens de leur filer un package. Voilà, donc on donnera l'adresse d'Alice si vous cherchez à sortir de la NAS. Moi, je rebondis juste sur les propos d'Hubert et je me posais la question de me dire finalement, est-ce qu'on n'est pas en train aujourd'hui de payer ? Le fait qu'à chaque fois, ils pensent tous hyper court terme sur le fait de... Le sujet, c'est de passer et d'être élu, donc de faire du marketing très court terme. Et aucun n'a finalement une vision à plusieurs années, bien au-delà d'eux. C'est-à-dire que rendre finalement la France anti-fragile, entre guillemets, c'est-à-dire qu'on n'a pas besoin d'eux, ça devrait marcher. Moi, j'ai un peu cette réaction-là. Je ne sais pas, Jean-Emmanuel, qu'est-ce que tu en penses ?

• Speaker #2

  À la lecture de tout ce qu'on a vu, on pourrait se dire que l'IA finalement nous ressort toutes les bonnes promesses qui ont été faites au cours de ces dernières années pour nous rassurer. Moi, ce que je vois comme positif, c'est que véritablement, heureusement, les États ne peuvent pas tout faire et tout réguler et le privé est là et le privé pourra peut-être nous sauver. alors C'est un contre-pied total, mais je pense qu'il faut quand même remettre un petit peu l'église au milieu du village, parce que souvent les entreprises qui font de l'IA sont des entreprises privées, qui ont certes des envies ou des visions européennes ou mondiales. Je trouve qu'il faut quand même leur laisser un petit peu faire les choses et avancer. Alors après, on verra, mais il faut quand même bien se dire que si on veut tout réguler, on ne fera rien.

• Speaker #1

  Le mot peut-être de la fin, j'aimerais le laisser à Ludovic dans le TikTok. Il nous a dit un truc, et merci Ludovic pour ça, il dit « avoir une vision, voir une idéologie, c'est clivant et c'est pas bon quand on veut la voix du plus grand nombre » . Alice, je vois au piné du chef ce que vous n'entendez pas dans le podcast. Hubert fait des pouces dans tous les sens, Christian a une banane d'enfer.

• Speaker #4

  De toute façon, c'est du marketing, du ciblage, positionnement, objectif, on est complètement là-dedans. Et après, comment dire, on pourrait se dire, c'était aussi la difficulté de l'exercice aujourd'hui d'anonymiser des propositions, où quand on voit la proposition, on a une petite idée d'où elle vient. Mais oui, c'est quand même, il y a une histoire de positionnement et aussi de ne pas se fermer bêtement des voies sur des sujets qui ne sont pas prioritaires pour beaucoup, malgré qu'il y a utilisé par beaucoup.

• Speaker #1

  Alors, moi, j'ai deux questions que je me pose, en fait. Bon, c'est si on refait cette émission dans trois mois, est-ce qu'il y a des choses qui ont changé ? J'aimerais beaucoup. Je pense que tout n'est pas foutu, loin de là, mais il va falloir qu'on le fasse un peu autrement.

• Speaker #3

  On n'a pas fait que de l'IA, on est allé voir sur tous les sites, de tous les partis, de tous les candidats, il y en a 34, je crois. Il y en a qui vont paraître début novembre. Ceux-là, on ne les a pas, mais les seuls plans qu'ils ont, c'est pour l'automobile et l'agriculture. Peut-être que d'ici le 6 novembre, ils vont trouver autre chose. Mais les deux seuls plans qu'ils aient, c'est automobile, thermique et agriculture. je ne dirais pas comment, ce serait trop ciblé. Donc, on ne s'est pas fait enfler par l'IA, mais en tout cas, je souhaite de tout cœur que dans trois mois, la même émission, on soit enthousiaste en disant oui, Intel a raison, oui, des bonnes idées, c'est génial, il faut y aller. Je rêverais de ça.

• Speaker #1

  Rêvons, rêvons, rêvons, ça sera le mot de la fin. Mille merci, mes amis. Mille merci à vous d'avoir écouté cet épisode du podcast. On se retrouve très, très vite pour un prochain épisode. À très bientôt.

• Speaker #2

  Ciao ciao ciao