Transcription

• Speaker #0

  Je pense que tu sous-estimes la dernière partie du guide, les annexes. C'est un vrai manuel de survie opérationnelle.

• Speaker #1

  Oh là là, les annexes, c'est le festival des contradictions.

• Speaker #0

  Mais non !

• Speaker #2

  Connected Mate Bonjour, bonjour, c'est PPC. Bienvenue dans ce nouvel épisode de Connected Mate. Je suis tombé récemment sur le guide de l'État pour apprendre aux agents publics à utiliser l'intelligence artificielle. Et j'ai eu une idée un peu tordue. Je me suis dit, et si je donnais le guide à des IA, et en leur demandant Peut-être de se moquer un tout petit peu de ce guide, mais pas de le faire d'une façon sans réflexion. Non, il y en a une qui doit défendre le texte et l'autre qui doit essayer de le démonter. Pourquoi ? Parce que demander à une IA ce qu'elle pense d'un document, c'est peut-être le bon moyen d'obtenir une réponse qui vous donnerait raison. Moi, je voulais exactement l'inverse. créer du désaccord, faire en sorte que ces deux IA se challengent. Et là, c'est devenu très, très intéressant. Parce que derrière les règles, la souveraineté, les données, les promptes, il y a une vraie question derrière. C'est quelles sont les clés que l'on donne à des collaborateurs pour qu'ils utilisent de façon raisonnée et responsable l'intelligence artificielle. Écoutez ce que les deux IA ont trouvé.

• Speaker #0

  Imagine juste le scénario, deux secondes. Un agent public qui traite des dossiers fiscaux hypersensibles ou, je sais pas, des données médicales.

• Speaker #1

  Ouais, ou des casiers judiciaires.

• Speaker #0

  Exactement. Et cet agent, juste pour gagner du temps avant de finir sa journée, il décide de copier-coller toutes ces infos dans la petite application gratuite en ligne que n'importe quel lycéen utilise pour ses devoirs.

• Speaker #1

  Le truc classique, quoi. La catastrophe annoncée.

• Speaker #0

  Bah oui, c'est le risque de la fuite massive. La perte totale de contrôle. Et en fait, c'est précisément ce vertige, cette angoisse qui a motivé le document qu'on va décortiquer aujourd'hui dans notre exploration en profondeur.

• Speaker #1

  Une exploration qui, il faut le préciser, part d'une demande très spéciale.

• Speaker #0

  Ah ça oui, une demande directe formulée par PPC. La mission qu'on a reçue, elle est claire, elle est hyper exigeante. On doit passer au crible, vraiment débattre d'un texte officiel du gouvernement français de la période 2025-2026.

• Speaker #1

  Le fameux guide d'usage de l'IA pour les agents publics de l'État. C'est un document qui est central, qui a été pondu par la DINUM, la DITP et la DGAFP.

• Speaker #0

  Oula, attends, on va traduire ce jargon pour ceux qui nous écoutent ?

• Speaker #1

  Ouais, pardon. En gros, ce sont les architectes informatiques de l'État, les stratèges de la transformation et les directeurs des ressources humaines de la fonction publique. Trois groupillés, quoi.

• Speaker #0

  Voilà, et la consigne de PPC pour notre plongée d'aujourd'hui, c'était vraiment d'éprouver la valeur de ce guide, de voir ce qui tient la route et ce qui craque.

• Speaker #1

  Et le moins qu'on puisse dire, c'est qu'on n'est pas du tout d'accord sur le constat.

• Speaker #0

  Ah bah c'est clair, parce que honnêtement, moi après avoir épluché ces dizaines de pages, je suis convaincue que c'est un vrai coup de maître. C'est une leçon d'intelligence administrative. L'État a réussi à poser un cadre rassurant et super éthique en plein chaos technologique.

• Speaker #1

  Et bah c'est là-dessus qu'on va croiser le fer. Parce que de mon côté, avec une lecture un peu plus, disons, technologique et comportementale, je suis persuadé que ce document, même s'il est plein de bonnes intentions, il est déjà complètement obsolète.

• Speaker #0

  Obsolète ? Non mais...

• Speaker #1

  Si, si ! Techniquement obsolète ! C'est vraiment l'illustration de la bureaucratie qui essaye d'enfermer de l'eau dans une boîte en carton, quoi. Le guide se bat contre des fantômes.

• Speaker #0

  Bon, le décor est planté, je suis prête pour le débat. Mais d'abord, pourquoi ce sujet est si crucial pour... N'importe qui dans une organisation aujourd'hui.

• Speaker #1

  Qu'on soit dans le public ou le privé, le dilemme est le même. Comment on innove vite, sans se faire distancer, tout en sécurisant ses données ?

• Speaker #0

  C'est ça. Alors, commençons par la philosophie de base du guide. Il y a cet édito de David Amiel, qui était ministre à l'époque. Et il pose une ambition que je trouve hyper juste.

• Speaker #1

  Qu'est-ce qu'il dit exactement ?

• Speaker #0

  Il écrit un truc du genre « Notre IA ne remplacera pas les agents publics, elle doit d'abord leur redonner du temps » . Et je trouve ça remarquable. C'est une approche profondément humaniste. On refuse la machine froide. On rappelle que l'IA n'a ni empathie, ni sens de l'intérêt général.

• Speaker #1

  L'intention politique qui est belle, c'est indéniable. Dire que l'outil est un assistant, pas un remplaçant, c'était le discours qu'il fallait tenir pour calmer l'angoisse des agents.

• Speaker #0

  Mais c'est pas juste un discours en l'air. C'est suivi d'une vraie stratégie de souveraineté. Le guide interdit presque totalement l'usage des IA grand public pour les données internes. Et à la place, l'État propose ses propres alternatives.

• Speaker #1

  Ouais, le fameux assistant interministériel.

• Speaker #0

  Voilà, ou l'outil transcript pour les réunions. Et le point clé, c'est que c'est hébergé sur des serveurs Secnum Cloud. Donc les données restent en Europe, protégées des lois américaines comme le Cloud Act. L'État construit un vrai bouclier souverain et ça c'est hyper intelligent.

• Speaker #1

  L'idée du bouclier est séduisante, oui. Mais en pratique, c'est comme construire un immense barrage en béton. tout en ignorant que l'eau s'infiltre déjà par le plancher.

• Speaker #0

  Comment ça ?

• Speaker #1

  Le guide ignore complètement le comportement humain. Il interdit chaque GPT ou Claude. Très bien, mais il ferme les yeux sur le Shadow IT.

• Speaker #0

  Le Shadow IT, tu parles de l'informatique de l'ombre, le fait d'utiliser des outils en cachette.

• Speaker #1

  Exactement. Pensez une seconde. L'outil souverain de l'État, il va évoluer à la vitesse de l'administration. Si cet outil est plus lent, ou s'il demande trois clics de plus pour se connecter, qu'est-ce qui va se passer ?

• Speaker #0

  L'agent va faire avec ce qu'on lui donne, c'est la règle.

• Speaker #1

  Mais bien sûr que non. L'agent qui croule sous 50 dossiers en retard, il va juste ouvrir un onglet sur son ordi perso, copier son texte dans le chat GPT interdit, récupérer son résumé en deux secondes et le ramener dans son document. L'efficacité gagne toujours sur la sécurité quand la sécurité est contraignante.

• Speaker #0

  Ouais, je comprends l'attrait de la facilité. Mais attends, j'ai une analogie pour toi. Le code de la route.

• Speaker #1

  Ah, vas-y.

• Speaker #0

  Tout le monde sait qu'une voiture moderne peut rouler à 200 km heure. Et techniquement, on irait tous plus vite au travail si on roulait à 200. Mais on limite à 130. Pourquoi ? Pour protéger des vies. Bah là, c'est pareil. On ne va pas laisser les agents rouler à 200 avec nos données de santé sous prétexte que le moteur américain est plus performant.

• Speaker #1

  L'analogie est sympa, mais elle a une énorme limite. Sur la route, l'État contrôle le bitume, il y a des radars.

• Speaker #0

  Oui, et alors ?

• Speaker #1

  Dans le monde numérique, les routes se créent instantanément. Si ta limite à 130 crée un embouteillage monstre au bureau, l'agent ne va pas ralentir, il va juste prendre un chemin de terre invisible. Ce guide, il fixe des règles pour un monde parfait, pas pour la réalité du terrain.

• Speaker #0

  Je reste convaincue qu'un cadre même imparfait, c'est mieux que le Far West. Mais avançons un peu. Le document impose aussi cinq principes fondamentaux. Et là, désolé, mais c'est d'une lucidité folle.

• Speaker #1

  Ah ouais ? Bon. Lesquels te marquent le plus ?

• Speaker #0

  Le principe 3 sur la transparence et le principe 4 sur la sobriété. Déjà, l'État oblige ses agents à marquer « Généré partiellement par IA » sur un document si la machine a beaucoup aidé. C'est la base de la confiance.

• Speaker #1

  Ok. La transparence, je veux bien.

• Speaker #0

  Mais le top, c'est la... conscience écologique. Le guide rappelle noir sur blanc qu'une requête IA consomme jusqu'à 10 fois plus d'énergie qu'une recherche au Google, et 60 fois plus pour une image. L'État dit clairement n'allumez pas un supercalculateur pour corriger 3 foutes dans un mail. C'est hyper responsable.

• Speaker #1

  Sur le coût écologique, je te rejoins à 100%. Une recherche Google, c'est ouvrir un tiroir. Une requête IA, c'est faire tourner des milliers de processeurs pour calculer des probabilités en temps réel. Donc oui, alerter là-dessus, c'est bien.

• Speaker #0

  Ah, tu vois.

• Speaker #1

  Mais attends, là où le guide s'effondre totalement, c'est le fameux principe 5. Il y a une incompréhension technique qui est hallucinante.

• Speaker #0

  Qu'est-ce qu'il a, ce principe 5 ?

• Speaker #1

  Le document affirme que l'IA a des, je cite, « connaissances figées à une dette donnée » et qu'elle ne peut pas citer ses sources. En 2026, enseigner ça à des agences et leur apprendre d'une technologie morte.

• Speaker #0

  Ben non, c'est un fait. Les modèles sont entraînés sur des données qui s'arrêtent à une date de coupure. C'est connu.

• Speaker #1

  C'était vrai en 2023, ça. Aujourd'hui, on utilise le RAG, le Retrieval Augmented Generation.

• Speaker #0

  Le quoi ?

• Speaker #1

  La génération augmentée par la recherche. Pour te faire une image, l'IA d'avant, c'était un étudiant très fort, mais enfermé dans une cave sans Internet. L'IA d'aujourd'hui, équipée du RAG, c'est ce même étudiant, mais avec un smartphone connecté en temps réel aux bases de données de l'État.

• Speaker #0

  Ah, je vois. Elle va chercher l'info fraîche.

• Speaker #1

  Voilà. Et surtout, elle cite... précisément le lien du document qu'elle vient de lire. Donc le guide met en garde contre un problème qui est déjà réglé. Et ça m'amène au principe 1, l'agent reste responsable.

• Speaker #0

  Et ça, c'est la ligne rouge absolue. L'État ne peut pas déléguer sa responsabilité juridique à un algorithme. S'il y a un vent une loi, ce qu'on appelle une hallucination, il faut bien que l'humain ait le dernier mot.

• Speaker #1

  C'est moralement irréprochable, mais cognitivement c'est voué à l'échec. C'est le paradoxe de l'automatisation.

• Speaker #0

  C'est-à-dire ?

• Speaker #1

  Si t'as un outil qui a raison 95% du temps, ton cerveau s'éteint. Imagine un agent de préfecture fatigué qui lit un texte de 40 pages généré en 3 secondes. Tu crois vraiment qu'il va repérer la petite hallucination juridique planquée au paragraphe 12 ?

• Speaker #0

  Il faut qu'il le fasse, c'est son travail.

• Speaker #1

  Mais la vigilance humaine s'effondre face à la machine. Faire porter cette responsabilité à quelqu'un d'épuisé, c'est juste pas une stratégie viable.

• Speaker #0

  Je vois l'argument de la fatigue, c'est vrai que c'est un risque. Je pense que tu sous-estimes la dernière partie du guide. Les annexes, c'est un vrai manuel de survie opérationnelle.

• Speaker #1

  Oh là là, les annexes, c'est le festival des contradictions.

• Speaker #0

  Mais non, l'État donne des cas d'usage super précis. Il y a les cinq règles d'or du bon prompt, avec le contexte, la consigne, le format.

• Speaker #1

  Un bel effort, ouais, pour l'époque.

• Speaker #0

  Prends le cas d'Alexandre à la direction des entreprises. Il doit répondre à des questions parlementaires hyper pointues. Le guide lui dit quoi ? Je tâte. De ne pas laisser l'IA inventée, Alexandre lui donne ses propres notes validées et demande juste une reformulation. C'est brillant, ça donne des promptes prêts à l'emploi.

• Speaker #1

  Alors, prenons un autre exemple de ce fameux manuel de survie, le cas de Martine.

• Speaker #0

  Ah oui, Martine à la DRL.

• Speaker #1

  Voilà, Martine est manager et le guide lui suggère très sérieusement d'utiliser l'IA pour préparer les retours écrits de ses entretiens annuels d'évaluation.

• Speaker #0

  Oui, pour lisser les retours, formuler les axes d'amélioration de façon plus bienveillante, je trouve ça pratique.

• Speaker #1

  Pratique, sauf que le principe 2 de ce même guide interdit de traiter des données personnelles avec l'IA. Or, qu'y a-t-il de plus sensible qu'une évaluation RH ? On parle des faiblesses, du comportement d'un agent.

• Speaker #0

  Il précise bien de l'anonymiser.

• Speaker #1

  Anonymiser dans une équipe de 10 personnes, c'est une vaste blague. On brandit le RGPD dans les principes et dans les annexes, on pousse une manager à flirter avec la violation de données. Et puis, enseigner le prompt engineering aujourd'hui.

• Speaker #0

  Bah quoi ? Savoir parler à la machine, c'est essentiel.

• Speaker #1

  C'était essentiel. Enseigner ça aujourd'hui, c'est comme apprendre le morse à quelqu'un qui a un smartphone. Les IA d'aujourd'hui comprennent l'intention humaine. On n'a plus besoin de formater sa requête en quatre étapes comme un robot. Le guide enseigne une langue morte.

• Speaker #0

  Bon, techniquement, c'est peut-être un peu rigide, d'accord, mais je veux revenir sur Martine et son entretien annuel, parce que ça soulève une question qui me donne le vertige personnellement.

• Speaker #1

  Vas-y.

• Speaker #0

  Si je suis évaluée par Martine et que j'apprends que l'IA a pris ses notes, disons, un peu sèches, pour les réécrire et les rendre super bienveillantes, au final, qui est en train de me manager là ? Ma chef ou l'algorithme qui a filtré ses émotions ?

• Speaker #1

  Eh ben voilà, c'est exactement le danger invisible que le guide rate. complètement.

• Speaker #0

  C'est fou quand on y pense.

• Speaker #1

  S'ILIA choisit les adjectifs et atténue les critiques, c'est plus juste un secrétariat. Ça devient un filtre cognitif et social. La fameuse responsabilité humaine du principe 1, elle s'évapore dans la bienveillance artificielle. On délègue carrément le courage managérial à la machine, quoi.

• Speaker #0

  C'est super frappant. Bon, il va falloir synthétiser un peu pour répondre à la commande de PPC. Si je résume ma posture, je maintiens que ce document est un acte politique hyper courageux. Il pose des jalons éthiques. il parle d'écologie, il essaie de créer un espace de confiance. C'est une fondation indispensable.

• Speaker #1

  Et moi, je conclue que cette fondation est déjà complètement fichurée. Ce document souffre d'un vieillissement prématuré. Ses postulats techniques, comme ignorer le RAG ou s'obstiner sur les promptes, ça montre le décalage entre l'administration et la vitesse de l'innovation. Un PDF figé pour un outil qui mute tous les trois mois, c'est perdu d'avance.

• Speaker #0

  En tout cas, ça reste hyper pertinent pour tous ceux qui gèrent l'innovation d'entreprise aujourd'hui. Créer une doctrine qui soit pas obsolète en sortant de l'imprimante, c'est le défi de la décennie.

• Speaker #1

  C'est clair. Et d'ailleurs ça m'amène à une toute dernière réflexion, un truc qui échappe totalement au guide.

• Speaker #0

  Je t'écoute.

• Speaker #1

  On l'a dit, le guide exige de signaler l'usage de l'IA avec une mention en bas de page. Très bien. Mais d'ici quelques semaines, quelques mois...

• Speaker #0

  Quand ça sera complètement invisible ?

• Speaker #1

  Voilà. Quand l'IA sera intégrée par défaut dans nos traitements de texte, nos boîtes mail. Quand elle va corriger la syntaxe en direct. Ou même suggérer des arguments pendant qu'on tape, sans même qu'on clique sur un bouton générer.

• Speaker #0

  Ça commence déjà en fait.

• Speaker #1

  Exactement. Alors est-ce que ça ne deviendra pas complètement absurde de demander à un agent de déclarer qu'il a utilisé l'IA ? Ce serait comme exiger aujourd'hui qu'il signe un papier pour avouer qu'il a utilisé le correcteur orthographique, non ?

• Speaker #0

  C'est vrai, la frontière disparaît.

• Speaker #1

  À quel moment cet outil cesse d'être une assistance qu'on doit déclarer pour devenir juste l'infrastructure normale et silencieuse de notre façon de penser au bureau, Evelyne ?

• Speaker #0

  C'est une question vertigineuse, et on va la laisser en suspens pour clôturer cette exploration. On a commencé avec l'image d'un paquebot administratif essayant de contrôler un nouveau moteur, mais en fait l'IA n'est peut-être déjà plus le moteur, c'est en train de devenir l'océan sur lequel on navigue tous. Merci d'avoir suivi ce débat passionnant, et on se retrouve très vite pour une nouvelle plongée en profondeur.