Transcription

• Margaux Vignal

  Bienvenue sur Vitamine B, le podcast de Bartle qui explore des thématiques liées à la transformation des organisations et à leur adaptation aux enjeux du monde moderne. Dans notre série Hémisphère croisé, nous explorons au travers d'un dialogue alliant science et business la manière dont l'intelligence artificielle transforme notre cerveau et nos comportements. Je suis Margot, directrice chez Bartle et au quotidien, je travaille avec des entreprises qui essayent de comprendre les impacts de ces technologies sur leur métier, leurs équipes et sur eux-mêmes. Pour ces premiers épisodes, je partage le micro avec Jean-Pierre. Il est neurophysiologiste et a passé sa carrière à étudier la manière dont notre cerveau fonctionne, ce qui nous pousse à agir et à décider. Nous sommes père et fille, deux regards, deux générations, deux approches. Ensemble, nous vous proposons de croiser nos points de vue sur des questions qui seront déterminantes pour demain. Netflix choisit nos séries, Spotify nos playlists, Waze notre chemin. Chaque jour, nos décisions sont orientées par des algorithmes. Pratiques, rapides, efficaces, oui. Mais à force de leur faire confiance, décidons-nous encore vraiment ? Dans cet épisode, la question principale sera, quand la technologie anticipe chacun de nos gestes, que reste-t-il de notre libre arbitre ?

• Jean-Pierre

  Donc, prendre une décision... Ça implique un certain nombre de processus cognitifs dont on peut penser qu'elle implique très fortement une région du cerveau. C'est une région préfrontale. On sait qu'elle est très sensible. Prendre une décision, ça implique deux choses. D'abord, inhiber. Il va falloir inhiber. Certains psychologues ont beaucoup insisté sur l'inhibition d'un certain nombre de choses qui vont arriver et qui vont nous paraître le plus facile comme un l'or de soi, comme évident. il faut savoir l'inhiber pour passer à un stade ultérieur savoir inhiber tout ce qui pourrait être trop évident trop simple après ça demande une capacité de synthèse c'est à dire qu'on efface on dispose d'une sorte de données il va falloir le synthétiser de telle manière qu'on en a une vision on a une vision claire et c'est à partir de cette synthèse qu'on va prendre une décision en sachant bien évidemment que toutes les décisions on souffre de biais, les principaux biais on les connaît on a toujours tendance à se surestimer, on surestime sa pensée, on surestime donc la décision qu'on va prendre et sa qualité, donc il faut connaître ces biais humains et rester quand même humble face à ça Par rapport à la machine, maintenant, la machine a aussi de nombreux biais et donc pose difficulté. Ce n'est pas parce que ça nous paraît qu'une sorte de boîte noire mathématique que ça nous met à l'abri des biais et que ça va faire pour nous tout le processus que j'ai indiqué avant. Notamment, la machine n'a pas d'émotion. Elle ne va pas inhiber. C'est simplement un traitement statistique des données. La machine est très dépendante des données. Elle va les synthétiser d'une certaine façon qui n'est jamais neutre. Et elle va les ressortir. En sachant que dans tous les exemples que tu as donnés de Netflix et de tous les autres trucs, il y a toujours des recommandations, des choix. Il va nous guider vers ce que la machine pense qui va nous plaire le plus. C'est-à-dire quelque chose qui... qui correspond à déjà ce qu'on a regardé, ce que les gens comme nous ont regardé. Donc, va renforcer cet esprit de communauté vers un produit fini qu'on va construire spécialement pour nous. Parce que l'objectif, c'est de vendre des marchandises, c'est de vendre des services.

• Margaux Vignal

  C'est toujours l'argent.

• Jean-Pierre

  Donc, l'objectif, c'est quand même qu'elle soit vue par toi et par tous les gens qui sont comme toi. Donc, elle va t'orienter, cette recommandation construite à partir d'un IA. Donc on voit très bien les biais, et j'allais dire, oui, les biais, les biais, elles sont à l'entrée, elles sont dans le traitement, dans la façon dont on va traiter les informations, et donc ça risque d'aboutir encore plus à une sorte de société au niveau culturel qui va être basée sur des séries dont la plupart sont quand même médiocres. et dont la valeur symbolique est quand même très faible et très reproductible d'une série à l'autre. Aujourd'hui,

• Margaux Vignal

  Netflix construit déjà une partie de ses séries grâce à des algorithmes.

• Jean-Pierre

  Il n'y a pas que Netflix. Toutes les séries ont tendance... à avoir la même structure, à raconter la même chose avec des variations. On change un peu la couleur.

• Margaux Vignal

  J'ai subi Colombo pendant des années. Colombo, tu ne vas pas me dire que ce n'était pas terrible.

• Jean-Pierre

  Il est quand même plus intelligent que beaucoup des séries qui ont de sort battant. Donc, on va assister à une baisse de compétences intellectuelles et surtout une baisse de la qualité symbolique du monde autour de nous. Alors, quand je dis ça, je me fais peut-être des illusions. Je veux dire, je ne suis pas sûr que c'était mieux autrefois, c'était différent. Mais l'objectif de ma génération, c'était quand même d'élever le niveau culturel de la population pour arriver à des choix plus rationnels. Quelques exemples récents montrent qu'on s'est complètement fourvoyé.

• Margaux Vignal

  Par exemple ? Sans rentrer dans la politique ?

• Jean-Pierre

  Trump ! C'est l'exemple de ma génération. Ce n'est pas une génération de post-68, c'est complètement faux. Vous voyez, on s'est complètement trompés. Mai 68, je suis rentré au lycée, dans les petites classes. C'était l'autonomie, l'autogestion. On arrête toutes les leçons de morale, etc. Chacun est assez grand pour savoir à quoi penser, etc. On a assisté, au cours de ces 20 dernières années, à une infantilisation des enfants, une infantilisation des lycéens et des collégiens. infantilisation qui se poursuit, infantilisation de toute la population, où on les bombarde de messages, de réclames, parce qu'à mon époque, on appelait ça la réclame. Maintenant, c'est de la publicité. On appelle ça de la publicité. Donc, on assiste à une société de constituer l'individu de moins en moins autonome, de plus en plus infantilisé. Est-ce que les réseaux sociaux, pour moi, les réseaux sociaux ont renforcé cet aspect-là ? Est-ce que l'IA qui va... dégagé d'un certain nombre de gens de la nécessité de penser, notre région préfrontale va s'atrophier et ça va donner des gens qui vont être facilement manipulés par justement tous les créateurs de l'IA. Dans la pensée de certaines, on en discute tout à l'heure, il est quand même très loin de la science et parfois reste quand même très problématique dans ce qu'il... Non pas ce qu'il pense, mais ce qu'il croit. Parce qu'on est plus dans l'ordre de la croyance.

• Margaux Vignal

  Oui, donc là, tu fais référence notamment à Sam Atman, qui veut maintenir des cerveaux en vie après la mort.

• Jean-Pierre

  Il veut surtout pomper la mémoire qu'il y a dans ces cerveaux morts, pour les injecter dans le cloud, pour créer une sorte d'immortalité des gens. Une immortalité, je ne sais pas ce qu'elle serait, mais manifestement, Sam Atman croit que les cerveaux ont une âme, et que cette âme persiste après la mort. Je veux bien, mais on se situe dans un autre domaine, on se situe dans les croyances religieuses. Très bien, d'accord. Mais on n'est plus dans la science et on n'est plus...

• Margaux Vignal

  C'est vrai que si on fait un petit peu le fil des derniers épisodes, ce qu'on s'est dit, c'est qu'aujourd'hui, chat GPT, ce que ça change, comme il y a, c'est qu'on peut déléguer notre raisonnement, on peut déléguer notre mémoire, puisqu'aujourd'hui, on a Internet, on a des supports digitaux. Donc finalement, la prise de décision, peut-être que contrairement à ce qu'on croit, ça va être plus dur. puisqu'on va de moins en moins réfléchir et se laisser porter par ce qu'on a externalisé sur la machine.

• Jean-Pierre

  Je ne suis pas sûr parce que je reviens toujours. C'est-à-dire que ce sont des régions qui sortent, je reviens à ces processus d'inhibition, de synthèse, de classification pour arriver à la décision. Si c'est une machine qui l'est fait, nous on sera de moins en moins capables de le faire cette décision. Si on confie ce processus à une machine, nous, on n'arrivera plus à le faire.

• Margaux Vignal

  C'est ça.

• Jean-Pierre

  Donc, on ne sera incapable de prendre une décision. Comme on voit très bien autour de nous, il y a des personnalités qui sont incapables de prendre des décisions, qui sont incapables de synthétiser, qui tournent en boucle sur eux-mêmes, qui ruminent, et qui n'arrivent jamais à une décision. Et puis, l'esprit humain, mais là, je ne parle pas en tant que psychologiste. Je le vois dans mes consultations de tous les malades, de se réfugier derrière une machine en disant « c'est pas moi, c'est la machine » . On en sait ça tous les jours, c'est pas moi, c'est lui, c'est pas moi, c'est…

• Margaux Vignal

  Peut-être qu'il y a certains cas où ça va nous arranger de déléguer la décision.

• Jean-Pierre

  Ça va être une facilité, ça va être une facilité. Simplement, il ne faut pas que les gens oublient, c'est que la justice, pour l'instant, ce n'est pas une machine qui est responsable, c'est bien un individu. En médecine, c'est une chose qu'on a vite compris. dans les systèmes de soins dans les pays occidentaux. Tous les administratifs, c'est la faute de l'hôpital, c'est la faute du système. La fin des fins, s'il y a une faute médicale, c'est la faute du médecin, bien désigné et bien individualisé.

• Margaux Vignal

  Comme sur la voiture autonome, c'est la faute des ingénieurs.

• Jean-Pierre

  Ça, je les juriste, je ne sais pas la faute de qui ça sera. Mais en médecine, il n'y a pas d'ambiguïté pour la responsabilité.

• Margaux Vignal

  Aujourd'hui.

• Jean-Pierre

  Mais je pense que demain, ce sera pareil.

• Margaux Vignal

  Parce que demain, peut-être que, par exemple en France, on a une pénurie de médecins, peut-être qu'il y a des diagnostics qui seront uniquement réalisés par des IA.

• Jean-Pierre

  Oui, mais il faudra qu'un médecin soit là pour l'annoncer, parce que l'un des problèmes, ce n'est pas seulement de faire un diagnostic. Ça, très bien, mais c'est une vision réductrice de la fonction de médecin. Un médecin a pour objet de faire le diagnostic, mais après d'annoncer.

• Margaux Vignal

  Oui, mais ça, il y a des études qui montrent que l'IA est plus empathique qu'une majorité de médecins. Oui, mais justement,

• Jean-Pierre

  on revient sur Karl Rogers et sur l'émotion d'empathie sur les sociaux. Non, je ne crois pas du tout. Cette position américaine est critiquée par un certain nombre de personnes. Il ne faut pas croire que c'est consensuel. Moi, qui ai suivi beaucoup de gens pendant longtemps, je suis empathique. J'ai beaucoup aimé le malade que j'ai suivi pendant des années. Je suis très empathique. Mais il m'est arrivé d'en engueuler certains et de leur dire, vous êtes stupides. Il y a un moment, il faut remettre les choses dans le bon chemin. Ça m'est arrivé plus d'une fois d'engueuler des patients. Ils sont revenus, donc je pense qu'ils ne m'en ont pas voulu. Je veux dire, cette empathie, ce n'est pas forcément ce que les patients attendent. Ça renforce, comme je te dis, leur narcissisme et cette surestimation de soi. Mais est-ce que c'est leur rang de service ?

• Margaux Vignal

  C'est sûr, c'est sûr. Donc, finalement, ce qu'on se dit, c'est qu'aujourd'hui, le libre-arbitre, notion philosophique vaste, mais il est potentiellement menacé par tous ces systèmes.

• Jean-Pierre

  Alors, je ne crois pas que le libre-arbitre soit menacé, parce que là, il faut se lancer dans une grande discussion sur le libre-arbitre. Je vous invite, pour tout ce qui est à ce problème, à lire Sartre, à relire la leçon sur la leçon de Pierre Bourdieu. Le libre-arbitre n'existe pas en lui-même. L'homme est un individu dans une société, je vous rappelle la notion d'homéostasie. Tout de nos cellules, de nos neurones, de notre cerveau, nous en tant qu'individus, s'adapte à l'environnement. Donc, notre libre arbitre, c'est le choix le plus adapté pour notre survie dans l'environnement qui est le nôtre. C'est ça le libre arbitre, c'est parmi les choix qui sont dans l'environnement. On n'a pas de libre arbitre absolu, ça n'existe pas.

• Margaux Vignal

  Mais si je ressens, en tout cas sur la prise de décision, elle est déjà considérablement impactée par tous ces algorithmes, elle est déjà dans notre quotidien, voilà, donc on peut penser que ça va être de...

• Jean-Pierre

  Je ne sais pas, après ça dépend, je pense, des individus. On voit ici, je me suis rendu compte que ça vous impactait beaucoup tous. Au niveau des médecins, je note qu'ils sont beaucoup plus en recul vis-à-vis de l'IA. C'est quelque chose qui n'a pas encore envahi la médecine.

• Margaux Vignal

  Alors là, je pense que tu te trompes. Moi, je sais que mon généraliste, il va vérifier des trucs sur l'équivalent de la GPT.

• Jean-Pierre

  Les généralistes, les jeunes. Les jeunes. Et pour certains comme moi, ça n'a aucune influence. Pour la raison que je ne m'en sers jamais. Et je pense qu'il y aura un certain nombre d'individus comme moi qui ne s'en serviront jamais. Pour la bonne raison que je te rappelle que je m'en suis servi plusieurs fois, l'une avec ton aide, et que j'ai été désespéré du résultat. Désespéré du résultat. Oui, mais là,

• Margaux Vignal

  il faudrait retester.

• Jean-Pierre

  Non, non, mais désespéré du résultat parce que ça indique tout à fait ce que j'indiquais des biais de l'IA. Donc, c'était faire un résumé d'un article scientifique. Je précise bien scientifique. Donc, c'était quelque chose de normé. Donc, le résumé était parfait. Parfaitement bien construit. Rien à dire. mieux que moi Et j'ai regardé le truc. À la fin, il a fini par dire des choses que je n'avais pas dites. J'ai bien vu qu'il y avait un biais californien. J'ai bien vu que, comme c'était un article sur les stimulations électriques du cerveau, que ça me tirait vers la vision californienne.

• Margaux Vignal

  Parce qu'il a fait des recherches sur lui-même, précisons. Non,

• Jean-Pierre

  parce que ça me tirait vers un fort biais californien au mot augmenté. comme ça parlait d'électricité, de stimulation électrique, que je n'avais pas du tout dit. Il a halluciné. Et donc, j'ai bien vu où il a été le chercher. Donc, méfiance, sur toujours, j'en reviens, c'est un outil extrêmement puissant et performant, mais c'est un outil, il faut en savoir des limites et savoir le critiquer.

• Margaux Vignal

  Et aujourd'hui, on peut penser que les IA peuvent être pertinentes. sur toute l'analyse de data. Elles vont être plus précises. Si je reprends l'exemple un peu classique d'analyse des radios pour trouver une tumeur, aujourd'hui, ça va aider la prise de décision, par exemple, du médecin, comme l'analyse de data, par exemple, financière de l'entreprise peut aider un DG à prendre une décision. Ça peut être un appui à la décision quand même assez pertinent.

• Jean-Pierre

  Oui, en médecine, il est clair qu'il y a, pour le diagnostic et pour le traitement, des instruments extrêmement puissants. Parce que ça repose sur des données. Il faut espérer qu'il n'arrive pas à faire une analyse des influenceuses américaines, parce que là, c'est une catastrophe. Mais s'il s'en tient, il faut vérifier aux articles scientifiques publiés, donc validés, bien évidemment. Ça sera une puissante aide au diagnostic médical. Et des exemples montrent que ça a des résultats supérieurs à ceux des médecins. Mais je vous dis toujours, il faudra surveiller quelles données il va y avoir. S'il va y avoir les données de n'importe qui, ça va mal se terminer pour le patient.

• Margaux Vignal

  Et peut-être une dernière question un peu d'ouverture, qui sort peut-être un petit peu du champ de la neurologie. mais on sait que l'intuition... et les émotions ont un rôle assez important sur la prise de décision. Quelle place il faudrait essayer de laisser à ça dans nos décisions ?

• Jean-Pierre

  De toute façon, dans les décisions, les émotions ont toujours joué un grand rôle. L'émotion, c'est quelque chose qui est profondément lié au processus intellectuel. L'intuition aussi, parce que c'est quelque chose qui... L'intuition, c'est pas... Ça repose sur une certaine connaissance qui est marginale, qui est pas marginale, mais une sorte de connaissance un peu masquée que l'on a en nous qui va nous guider, sans qu'on en ait vraiment conscience. Du coup, je dirais que l'intuition, c'est une connaissance inconsciente.

• Margaux Vignal

  Ce que n'a pas la machine. La machine n'a pas d'intuition. Donc aujourd'hui, parfois, il va falloir peut-être demain... Il y aura une notion du risque peut-être plus assumée quand on ne va pas suivre les recommandations de l'IA, quand on va un petit peu s'appuyer sur nos intuitions ou sur l'émotion. Ce qui va être plus difficile pour les dirigeants, pour les médecins, pour ceux qui prennent des décisions au quotidien, ça va être d'assumer cette part de risque qui n'est pas objectivée par de la donnée.

• Jean-Pierre

  Oui, mais pour la médecine, il faut penser que le diagnostic et le traitement... Comme maintenant, ces traitements sont plus discutés en communauté, il est probable que l'IA va jouer un très grand rôle. Parce que les médecins ont compris que ça a une puissance qui ne pourra jamais surpasser. Après, les médecins vont être là peut-être pour, tu vois, par rapport à un traitement relativisé, par rapport à des données qui ne seront pas forcément, que l'on sent quand on est face à un patient, il y a des choses qu'on ne peut pas... qu'on va sentir en nous-mêmes, je parlais de l'empathie, mais c'est sentir la personne qu'on a en nous-mêmes pour savoir jusqu'où il est prêt à subir un certain nombre de choses, jusqu'où on peut aller, que l'IA, elle, ne sentira pas. Puisque l'image, l'IA n'a pas d'émotion, ne sent rien et... Capter l'implicité. Voilà, n'a pas de sens. Donc ça permettra d'ajuster plus finement les choses. que de la brutalité que risque d'avoir l'IA.

• Margaux Vignal

  Je pense qu'on a fait un bon tour de la question. Merci beaucoup.

• Jean-Pierre

  Merci à toi.

• Margaux Vignal

  Nous l'avons vu, garder son libre-arbitre est un travail du quotidien, à la fois individuel mais aussi collectif. C'est un effort d'attention, de conscience, de vigilance, mais aussi un effort d'éducation et de culture numérique. Merci d'avoir écouté cet épisode d'Hémisphère croisé. Dans les prochains, nous aurons la chance... d'échanger avec Gaëtan Delavillon, docteur en sciences cognitives et CEO de Cogix.