Transcription

• Speaker #0

  Bienvenue dans ce nouvel épisode des Signes du Changement. L'intelligence artificielle n'est pas votre collègue. Elle n'a ni prénom, ni conscience professionnelle, ni peur de se tromper. Pourtant, les agents autonomes reçoivent aujourd'hui des missions, des accès, parfois même un manager. Alors la question de cet épisode, faut-il rédiger une fiche de poste pour un agent d'intelligence artificielle ? Au programme, un fiasco retentissant, un précédent judiciaire ? Et une expérience qui a piégé plus de 1000 managers. Bonne écoute !

• Speaker #1

  Généralement, quand une entreprise tech annonce une nouvelle fonctionnalité pour moderniser les ressources humaines, on s'attend à un truc assez classique.

• Speaker #2

  Ouais, un communiqué de presse un peu ennouyeux avec des mots très corporate quoi.

• Speaker #1

  C'est ça. Quelques applaudissements polis du secteur et puis on passe à autre chose. Mais l'histoire qui ouvre notre exploration d'aujourd'hui s'écarte complètement de ce scénario.

• Speaker #2

  Ça pour le coup, on peut dire que c'était tout sauf ennouyeux.

• Speaker #1

  C'est clair. Alors, plantons un peu le décor pour notre auditoire. Nous sommes en juillet 2024. Lattice, qui est un gros éditeur de logiciels RH super bien valorisé dans la Silicon Valley, fait une annonce vraiment retentissante.

• Speaker #2

  Oui, la fameuse histoire des travailleurs numériques.

• Speaker #1

  Exactement. Il déclare avec une fierté immense être la toute première boîte au monde à créer de véritables dossiers d'employés complets pour des agents logiciels. Et là, on ne parle pas juste d'une petite ligne de code cachée dans un serveur.

• Speaker #2

  Non, non, du tout. On parle d'un vrai processus RH.

• Speaker #1

  Ouais, un processus d'intégration, des objectifs trimestriels, des métriques de performance, et même, Ausha, l'assignation officielle d'un manager humain pour superviser ses entités.

• Speaker #2

  En fait, sur le papier, si on se place dans une logique purement architecturale, ça pouvait sembler être la suite logique.

• Speaker #1

  Tu trouves ?

• Speaker #2

  Disons que c'est une étape d'organisation presque inévitable, pour gérer des systèmes informatiques qui deviennent de plus en plus tentaculaires.

• Speaker #1

  Ouais, je vois. C'est sûrement ce que les dirigeants de Lattice ont dû se dire, sauf que le crash a été monumental.

• Speaker #2

  Ah oui, la réaction a été immédiate.

• Speaker #1

  Un rejet public massif. Une levée de boucliers instantanée sur les réseaux sociaux, dans la presse spécialisée. Bref, le tollé a été tellement violent que trois jours seulement après l'annonce, Lattice a dû faire marche arrière.

• Speaker #2

  Trois jours, c'est vraiment court pour un lancement de cette envergure.

• Speaker #1

  C'est un record. Ils ont dû présenter des excuses. presque embarrassé et retiré complètement la fonctionnalité. Et c'est précisément ce fiasco qui pose les bases de notre analyse d'aujourd'hui.

• Speaker #2

  Une analyse qui soulève une question fondamentale.

• Speaker #1

  Voilà. La question c'est, faut-il, oui ou non, rédiger une fiche de poste pour un agent d'intelligence artificielle ?

• Speaker #2

  Et pour trancher ça, on a rassemblé une documentation vraiment solide.

• Speaker #1

  Tout à fait. On va décortiquer des études expérimentales récentes de la Harvard Business Review On va analyser les enquêtes du MIT Sloan et on va même regarder un précédent juridique assez surprenant.

• Speaker #2

  C'est une excellente base parce que ça nous permet de dépasser la simple anecdote de l'ATIS. L'idée de départ était-elle fondamentalement toxique ou juste extrêmement mal présentée ?

• Speaker #1

  C'est vraiment la ligne de crête de notre discussion. On a un besoin technique vital de spécifier le rôle d'une machine, mais sans jamais tomber dans le piège de la personnification.

• Speaker #2

  Exactement, et pour bien comprendre... pourquoi cet équilibre est si précaire, il faut d'abord accepter que l'intelligence artificielle en entreprise a complètement muté.

• Speaker #1

  Ouais, arrêtons-nous là-dessus deux secondes, parce que le vocabulaire est souvent super flou. Pendant longtemps, l'IA dans les bureaux, c'était le chatbot.

• Speaker #2

  Voilà, une petite fenêtre de texte où tu tapes une question et il te fait un résumé ou une traduction.

• Speaker #1

  Un truc hyper passif, quoi.

• Speaker #2

  Genre, techniquement, ça n'a plus rien à voir.

• Speaker #1

  Ah ouais, hein ? Tu peux détailler un peu ?

• Speaker #2

  Un assistant conversationnel ? donc le chatbot classique, il est conçu pour répondre. Tu lui donnes un texte, il analyse et il génère des mots. Son champ d'action s'arrête strictement à l'écran.

• Speaker #1

  Donc, son seul risque finalement, c'est de dire une bêtise.

• Speaker #2

  C'est exactement ça. Il a un risque de contenu. Il peut halluciner une info, inventer un chiffre, mais il ne passe pas à l'acte.

• Speaker #1

  D'accord.

• Speaker #2

  Par contre, un agent autonome, lui, n'est pas juste fait pour parler. Il est conçu pour agir en toute indépendance. directement dans les systèmes d'information de l'entreprise.

• Speaker #1

  Donc la dynamique s'inverse complètement. On ne lui pose plus de questions, on lui donne des missions.

• Speaker #2

  Voilà, tu lui dis par exemple « résous ce litige client » . Et à partir de là, l'agent va tout seul concevoir ses étapes.

• Speaker #1

  Waouh !

• Speaker #2

  Il va ouvrir des bases de données, lire des historiques, rédiger des mails, interagir avec d'autres logiciels et même potentiellement déclencher des paiements.

• Speaker #1

  Ah oui, donc le risque change totalement de nature.

• Speaker #2

  Totalement. L'agent porte ce qu'on appelle un risque d'exécution. Il ne dit plus seulement quelque chose de faux, il peut faire quelque chose de faux. Les conséquences matérielles ou financières sont d'une toute autre échelle.

• Speaker #1

  Pour bien imager ça, pour ceux qui nous écoutent, c'est un peu comme la différence entre engager un consultant externe un peu douteux et prendre un stagiaire non formé.

• Speaker #2

  C'est une super métaphore.

• Speaker #1

  Tu vois, le consultant, il peut te donner un conseil désastreux à la machine à café, mais au final, c'est toi qui décides de l'appliquer ou pas. Ça, c'est le chatbot. On part en week-end ?

• Speaker #2

  Aïe. Vu comme ça, le potentiel de destruction fait un peu peur.

• Speaker #1

  Mais c'est exactement ça. D'ailleurs, la Harvard Business Review donne un exemple qui fait un peu froid dans le dos par rapport à ça.

• Speaker #2

  Vas-y, je t'écoute.

• Speaker #1

  Prends un conseiller humain dans un service client classique. Son profil informatique, il a des barrières très strictes. S'il veut faire un geste commercial de sa propre initiative, le système le bloque à 500 dollars.

• Speaker #2

  Un garde-fou classique, ouais.

• Speaker #1

  Voilà. Pour aller au-delà, le bouton se grise, une fenêtre s'ouvre et il faut qu'un chef valide avec un autre mot de passe. C'est normal.

• Speaker #2

  Bien sûr.

• Speaker #1

  Sauf que, souvent... Pour que ces nouveaux agents IA soient hyper fluides, les équipes informatiques les branchent sur des comptes partagés, avec des accès super administrateurs. Ils oublient de reconfigurer toutes ces petites limites métiers.

• Speaker #2

  Ah, je vois le désastre arriver !

• Speaker #1

  C'est ça. Face à un client très en colère suite à une hallucination du logiciel par exemple, l'agent pourrait très bien valider un remboursement de 5000 dollars ou même 50 000 en une fraction de seconde.

• Speaker #2

  Sans aucune validation humaine ?

• Speaker #1

  Aucune. L'entreprise est potentiellement en faillite avant la pause de 10 heures.

• Speaker #2

  C'est l'illustration parfaite du problème de fond. La notion de frontière et d'autorité. Puisque ces agents ont aujourd'hui en gros les clés de la maison, il devient urgent de délimiter leur terrain de jeu.

• Speaker #1

  Et c'est là que notre fameuse fiche de poste entre en scène.

• Speaker #2

  Exactement. Mais pas comme un contrat social pour faire plaisir au RH. Plutôt comme un document de spécification formelle. Une vraie barrière de sécurité.

• Speaker #1

  Mais t'attends, je me fais deux secondes l'avocat du diable. On entend... partout que ces IA résonnent de mieux en mieux, qu'elles comprennent les contextes, qu'elles passent des diplômes d'avocat.

• Speaker #2

  C'est vrai, on entend beaucoup ça.

• Speaker #1

  Tu es en train de m'expliquer qu'elles n'ont toujours pas le bon sens de s'arrêter avant de vider le compte en banque de la boîte ?

• Speaker #2

  C'est un mirage cognitif très, très tenace. Sous le capot, un grand modèle de langage ne résonne pas au sens humain. Il fait des calculs probabilistes.

• Speaker #1

  D'accord.

• Speaker #2

  Ce qui lui manque de manière absolue, c'est l'implicite.

• Speaker #1

  Comment ça, l'implicite ? Tu peux préciser.

• Speaker #2

  Chez un humain, une grande partie du boulot ne figure dans aucun manuel. Ça repose sur l'instinct de survie, la conscience des conséquences.

• Speaker #1

  Ah, je vois !

• Speaker #2

  Un employé, il ressent une panique physique à l'idée de faire un découvert énorme sur les comptes de la boîte. Il sait instinctivement quand une situation est tellement bizarre qu'il faut appeler son chef.

• Speaker #1

  Même si la procédure ne dit pas de le faire.

• Speaker #2

  Exact. La machine, elle, ne ressent rien. Tout ce qui n'est pas codifié mathématiquement sera soit... inventée, soit déduite au hasard. Elle exécutera un virement absurde avec exactement la même efficacité qu'un virement logique.

• Speaker #1

  Donc si on ne trace pas une ligne rouge au sol, elle avance jusqu'à tomber de la falaise.

• Speaker #2

  C'est pour ça que la spécification doit être exhaustive.

• Speaker #1

  Du coup, d'après nos sources, cette fameuse fiche technique déguisée en fiche de poste, elle doit contenir des trucs très précis. D'abord, la mission exacte et le périmètre.

• Speaker #2

  Oui, l'autorité de l'agent. Jusqu'où il peut aller tout seul.

• Speaker #1

  Mais il y a un point qui m'a vraiment frappé. C'est la définition des sources de vérité autorisées.

• Speaker #2

  Ah, c'est crucial ça.

• Speaker #1

  Il faut formellement empêcher qu'un agent RH, en voulant trop bien faire, aille fouiller un vieux serveur oublié pour déterrer une politique de télétravail de 2022 et l'appliquer aujourd'hui.

• Speaker #2

  Il faut lui dire, voici les trois dossiers que tu peux lire, le reste n'existe pas.

• Speaker #1

  C'est ça. Et il faut aussi définir les conditions d'arrêt, c'est-à-dire quand l'agent doit lever les bras en l'air et transférer le problème à un humain.

• Speaker #2

  Et sans oublier la trace, l'historique. des décisions. C'est capital pour la responsabilité légale.

• Speaker #1

  Pourquoi la légalité intervient ici ?

• Speaker #2

  Parce que ces IA génératives ne sont pas déterministes. Ce ne sont pas des logiciels classiques du type si A, alors B. Si une erreur grave se produit, un juge voudra comprendre le cheminement de l'outil.

• Speaker #1

  C'est qui nous rappelle brutalement que l'entreprise répond toujours de ses machines. C'est la fin du mythe de la machine coupable, quoi.

• Speaker #2

  Exactement. Tu ne peux pas arriver au tribunal et dire « Désolé, monsieur le juge, c'est l'algorithme qui a eu un moment d'égarement. »

• Speaker #1

  Ça me rappelle d'ailleurs qu'il y a un précédent fascinant là-dessus dans nos documents. Ça remonte à 2022 avec Air Canada.

• Speaker #2

  Oui, bien avant la mode actuelle des agents autonomes. C'était un simple chatbot sur leur site web pour renseigner les voyageurs.

• Speaker #1

  Et qu'est-ce qu'il a fait ce chatbot ?

• Speaker #2

  Il a donné des informations totalement fausses à un client sur les tarifs préférentiels en cas de deuil. Le client a acheté son billet en se fiant à ça.

• Speaker #1

  Et après, Air Canada a refusé le remboursement, je suppose.

• Speaker #2

  Voilà. L'affaire est allée en justice. Et tu sais ce que la compagnie a plaidé ?

• Speaker #1

  Vas-y.

• Speaker #2

  Ils ont tenté un argument incroyable. Ils ont dit que le chatbot était une entité séparée, responsable de ses propres erreurs d'information.

• Speaker #1

  Non mais attends, sérieusement. Ils ont plaidé que le logiciel était responsable de lui-même. C'est complètement lunaire !

• Speaker #2

  C'est ce qu'ils ont fait. Le juge canadien a d'ailleurs qualifié l'argument de « remarquable » .

• Speaker #1

  Remarquable dans le mauvais sens du terme, j'imagine.

• Speaker #2

  Complètement ironique. Il a balayé ça d'un revers de main. Le verdict est clair, une entreprise ne peut pas déployer un outil automatisé et sans laver les mains.

• Speaker #1

  Le chatbot est une extension de l'entreprise.

• Speaker #2

  C'est ça. Donc, cadrer l'outil avec une fiche de poste ultra stricte, c'est pas juste une lubine manager, c'est un bouclier juridique indispensable.

• Speaker #0

  Retenons l'essentiel de cette première partie. Un agent autonome n'a pas de bon sens, il n'a que des règles. Tout ce qui n'est pas écrit n'existe pas pour lui. Et quand il déborde, c'est l'entreprise qui répond. Jamais la machine. Reste à écrire ses règles sans tomber dans un piège. C'est la deuxième partie.

• Speaker #1

  Bon, la logique est implacable, la machine n'a pas d'implicite, elle peut faire des dégâts, et la boîte est responsable. Il faut la cadrer. Mais attends, quoi ? Si on lui écrit une fiche de poste hyper détaillée... avec un manager humain et tout, est-ce qu'on n'est pas en train de refaire exactement l'erreur de la tisse ? Je veux dire, ne tombons-t-on pas en plein dans le piège de la personnification qu'on veut justement éviter ?

• Speaker #2

  C'est toute la contradiction du sujet. Mais la recherche comportementale nous donne la clé pour sortir de ce paradoxe.

• Speaker #1

  Comment ça ?

• Speaker #2

  Une étude expérimentale de mai 2026 de la Harvard Business Review répond pile à cette angoisse. Ils ont voulu mesurer l'impact de l'habillage social d'une IA sur notre vigilance.

• Speaker #1

  Ils ont fait ça comment ?

• Speaker #2

  Ils ont pris un gros panel de 1261 managers en RH et finance.

• Speaker #1

  Ah, donc des gens habitués à lire des chiffres avec attention, a priori ?

• Speaker #2

  A priori, oui. On leur a fait relire un document budgétaire, mais ce document était truffé de pièges, de grossières erreurs de logique et de calculs faux.

• Speaker #1

  D'accord. Et la subtilité de l'expérience, c'était quoi ?

• Speaker #2

  Ils ont divisé le panel en deux. Pour la première moitié... Le document était présenté de manière neutre, signé par un simple outil IA.

• Speaker #1

  Et pour l'autre moitié ?

• Speaker #2

  Le document était identique, avec les mêmes énormités, mais il était signé par un employé IA avec un faux titre de poste et un prénom humain, genre Scoot ou Kevin.

• Speaker #1

  Kevin, l'IA comptable, j'adore. Et ça a changé quelque chose ?

• Speaker #2

  Les résultats sont hallucinants. Face au document produit par ce supposé employé Kevin, la capacité de détection des managers s'est effondrée.

• Speaker #1

  Vraiment ? À quel point ?

• Speaker #2

  Ils ont laissé passer près d'un quingtième d'erreurs en plus. Moins 18% d'erreurs repérées par rapport au groupe outil IA.

• Speaker #1

  C'est effrayant. Près de 20% d'erreurs non détectées juste parce que le logiciel portait un prénom.

• Speaker #2

  Ouais, c'est ce qu'on appelle le biais de la délégation sociale.

• Speaker #1

  C'est-à-dire ?

• Speaker #2

  Quand tu présentes une IA comme un collègue, tu pirates le cerveau humain. Inconsciemment, le manager présume que ce fameux collègue a fait un minimum d'efforts. qu'il s'est relu.

• Speaker #1

  Du coup, le vérificateur humain lit en diagonale.

• Speaker #2

  Exactement. Et le pire, c'est que le sentiment de responsabilité s'évapore. Lors des entretiens après l'expérience, ceux qui avaient raté les erreurs disaient « Bah, c'est la faute de Kevin » .

• Speaker #1

  Ils rejetaient la faute sur un algorithme ?

• Speaker #2

  Alors que les autres assumaient le raté de leur propre supervision. Le réflexe de se couvrir en accusant un tiers imaginaire grimpe en flèche avec la personnification.

• Speaker #1

  En gros, vouloir rendre l'IA sympathique, ça crée une dangereuse illusion de compétence sociale qui endort totalement notre vigilance.

• Speaker #2

  C'est tout à fait ça. On s'attend à de la conscience professionnelle de la part de l'Ine de Code. C'est pour ça qu'il faut spécifier sans jamais déguiser.

• Speaker #1

  La fiche de poste technique, ça doit être le plan d'une tuyauterie industrielle en fait. Pas un statut social avec un avatar souriant.

• Speaker #2

  Le cadre technique protège, le déguisement social met en péril. Si on confond les deux, on s'expose au syndrome Lattice.

• Speaker #0

  La réponse tient en quatre mots. Spécifiés, sans jamais déguisés. Une fiche de poste pour la machine, oui. Un prénom et un statut de collègue, non. Mais il reste une dernière question. Et elle ne concerne plus la machine. Elle concerne les humains assis à côté. C'est la fin de l'épisode.

• Speaker #1

  Ce qui m'amène à notre dernier grand point, et c'est peut-être le plus gros retournement de la situation.

• Speaker #2

  Je t'écoute.

• Speaker #1

  Si on réussit ce tour de force, paramétrer l'agent sans lui donner de prénom, ni le traiter en collègue, l'arrivée de ce système va quand même redéfinir de fond en comble le travail de l'humain assis à côté, non ?

• Speaker #2

  C'est déjà une réalité mesurable. L'enquête mondiale du MIT Sloan, menée auprès des décideurs tech, est implacable là-dessus.

• Speaker #1

  Que disent les chiffres ?

• Speaker #2

  76% des dirigeants perçoivent déjà ces agents autonomes, davantage comme des collègues que comme des outils.

• Speaker #1

  3 sur 4 ?

• Speaker #2

  Ouais. Qu'on suive nos recommandations ou pas, ce glissement psychologique est déjà en train de se faire.

• Speaker #1

  Juste pour être sûr, dans cette enquête, l'IA agentique, on parle bien des systèmes autonomes, pas des générateurs de textes basiques.

• Speaker #2

  Absolument. On parle des systèmes qui exécutent des tâches complexes.

• Speaker #1

  Et bien, c'est là que le sujet bascule. On a commencé par se demander s'il fallait écrire la fiche de poste de la machine. Mais en fait, la fiche de poste qui doit être réécrite d'urgence...

• Speaker #2

  C'est celle des humains.

• Speaker #1

  Exactement.

• Speaker #2

  Le vrai défi managériel de la décennie, ça ne sera pas juste de programmer les machines, ça sera de redéfinir comment on juge la performance humaine.

• Speaker #1

  Parce que depuis la révolution industrielle, on évalue un travailleur sur la quantité et la vitesse de ce qu'il produit, en gros.

• Speaker #2

  Voilà. Or, Si la machine produit ce volume à la vitesse de l'éclair, sur quels critères tu évalues le collaborateur humain ?

• Speaker #1

  C'est un peu comme si tu demandais à un virtuose du violon pour devenir soudainement le chef d'orchestre.

• Speaker #2

  J'aime beaucoup cette image.

• Speaker #1

  On ne le juge plus sur sa vitesse à jouer les notes, on le juge sur sa capacité à repérer la fausse note dans la symphonie et à bien diriger l'ensemble.

• Speaker #2

  L'humain passe du stade... d'exécutant au stade de superviseur, d'orchestrateur. Il faut inscrire noir sur blanc dans les contrats ce que l'employé vérifie, de quoi il répond, comment il gère les exceptions complexes.

• Speaker #1

  L'humain devient le dernier rempart de l'implicite et du bon sens face à l'alboritme.

• Speaker #2

  C'est un changement de posture professionnel complet.

• Speaker #1

  Si on doit synthétiser un peu tout ça, l'enseignement principal, c'est qu'il faut aborder l'IA autonome sans naïfité. Rédiger une spécification stricte pour ses agents, c'est une question de survie.

• Speaker #2

  Oui, parce qu'ils n'ont aucun sens du danger. Laissés sans frontières, ils dépasseront leurs prérogatives et exposeront l'entreprise à des responsabilités juridiques lourdes, comme pour Air Canada.

• Speaker #1

  Mais, et c'est le corollaire indispensable, ce cadrage technique ne doit jamais devenir un contrat socialisant. L'expérience avec Kevin, l'employé IA, nous prouve que le vernis humain endort notre esprit critique.

• Speaker #2

  Spécifié pour maîtriser. mais refuser le déguisement pour rester vigilant.

• Speaker #1

  Et ça nous amène à notre réflexion finale, une pensée qu'on laisse ouverte pour notre auditoire.

• Speaker #2

  Une grande question philosophique, presque.

• Speaker #1

  C'est ça. On a établi que les machines ont besoin de limites claires pour l'exécution. Mais projetons-nous un instant. Si demain, l'essentiel de l'exécution est réalisé par des agents logiciels parfaits, comment redéfinir la valeur même du travail humain ?

• Speaker #2

  Si l'action pure échappe à l'homme pour aller dans le code, place dans l'organisation ?

• Speaker #1

  Une question qui, pour l'instant, reste vertigineusement sans réponse.

• Speaker #0

  Les signaux du changement est un podcast de Spentia. La question reste ouverte et elle mérite de l'être. Si des machines exécutent, que reste-t-il à écrire sur la fiche de poste des humains ? Peut-être l'essentiel, la supervision, le jugement, la responsabilité, tout ce qui ne se code pas. Si cette analyse vous a été utile, elle se partage bien avec un dirigeant qui rêve de recruter un employé numérique. A bientôt pour un prochain signal.