Transcription

• Margaux Vignal

  Bienvenue sur Vitamine B, le podcast de Bartle qui explore des thématiques liées à la transformation des organisations et à leur adaptation aux enjeux du monde moderne. Dans notre série Hémisphère croisé, nous explorons au travers d'un dialogue alliant science et business la manière dont l'intelligence artificielle transforme notre cerveau et nos comportements. Je suis Margot, directrice chez Bartle et au quotidien, je travaille avec des entreprises qui essayent de comprendre les impacts de ces technologies sur leur métier, leurs équipes et sur eux-mêmes. Pour ces premiers épisodes, je partage le micro avec Jean-Pierre. Il est neurophysiologiste et a passé sa carrière à étudier la manière dont notre cerveau fonctionne, ce qui nous pousse à agir et à décider. Nous sommes père et fille, deux regards, deux générations, deux approches. Ensemble, nous vous proposons de croiser nos points de vue sur des questions qui seront déterminantes pour demain. L'IA est déjà en train de devenir un outil du quotidien pour beaucoup d'entre nous. Elle s'invite dans nos recherches, nos décisions, nos créations. Dans cet épisode, nous aborderons la question suivante. Son utilisation quotidienne nous impacte-t-elle vraiment ?

• Jean-Pierre

  Est-ce que l'IA peut induire une modification du fonctionnement cérébral ? La réponse est bien évidemment oui. On a un exemple ancien. Lorsqu'est apparu... l'écriture alphabétique au 7e ou au 8e siècle avant Jésus-Christ, notre cerveau n'était pas fait pour qu'on sache écrire et qu'on sache lire. Le cerveau s'est progressivement constitué chez tous les individus et se forme encore aujourd'hui chez les enfants en cours d'évolution. Et on sait qu'il y a un réseau de la lecture dans notre cerveau qui... passent par certaines zones, certaines localisations du cerveau, certains hubs, si vous voulez, qui sont redits entre eux par un certain nombre de réseaux, qui va faire un réseau qui est très étendu dans le cerveau, qui nous permet d'écrire, de lire et de comprendre, bien évidemment, ce qu'on écrit et ce qu'on lit. L'exemple, par exemple, vous avez dans le cerveau un petit hub localisé. On sait que si cette petite région est détruite, chez un adulte, ou si on le stimule. avec de l'électricité, le sujet va avoir une alexie, c'est-à-dire qu'il sera incapable de lire, du fait de la destruction de cette zone. Donc, l'écriture qui n'existait pas lorsque l'homme a commencé à se former lors de l'évolution sur Terre, est apparue secondairement et a modifié notre cerveau. Et l'environnement, en permanence, c'est la base du darwinisme, l'environnement, de manière permanente, modifie... le fonctionnement de notre cerveau chaque jour. Donc l'IA, bien évidemment, tout va dépendre de l'utilisation qu'on va en faire. Est-ce que ça va être une utilisation anecdotique ? Est-ce que ça va être une utilisation intensive ? Qui va, en fonction de ça, plus ou moins modifier l'organisation de nos fonctions cérébrales.

• Margaux Vignal

  Par exemple, aujourd'hui, l'IA permet à la fois de rechercher les informations rapidement Elle permet de structurer un raisonnement. Elle permet un certain nombre de choses. Comment, pour toi, quels vont être les principaux impacts de l'utilisation, par exemple, d'un outil comme ChatGPT ?

• Jean-Pierre

  Alors, il faut revenir à ce que je vous ai dit auparavant, mais si jamais l'IA est utilisée comme une machine à penser, penser à notre place, on sait par les études... des psychologues, des physiologistes, on sait qu'une des régions importantes qui sert à notre raisonnement, qui sert à classer, qui sert à prendre des décisions, c'est une région du cerveau qui est tout antérieure au niveau du cerveau, ce qu'on appelle le cortex préfrontal. Le risque, si on n'utilise plus ce cortex préfrontal, pour justement tous ces processus, eh bien celui-ci... s'atrophient progressivement. On sait très bien que ce cortex préfrontal, son volume est lié au développement des chimpanzés. Il atteint son maximum de développement chez l'homme. C'est probablement aussi chez l'homme qu'il a pris une importance et un développement considérable au cours de l'évolution. Mais il pourrait très bien prendre le chemin inverse et s'atrophier. Comme on sait, je cède toujours cet exemple, On peut hypertrophier une partie de notre cerveau de par ses fonctions, mais on peut aussi l'atrophier. Si on a pu utiliser ce contexte préfrontal, il doit s'atrophier. Et on va devenir...

• Margaux Vignal

  Sur cette histoire d'atrophie ou justement de développement, j'avais noté cette expérience intéressante sur les chauffeurs de taxi à Londres pour voir la puissance de ce qu'on appelle la neuroplasticité. Est-ce que tu peux m'en dire plus ?

• Jean-Pierre

  Ce n'est pas une expérience, c'est simplement une constatation. Il y a une vingtaine d'années, il y a un neurologue de Londres À l'époque, c'était avant, bien sûr, qu'on ait les systèmes de navigation autonomes. C'était à l'époque où ça reposait essentiellement sur la mémoire du chauffeur de taxi. Les chauffeurs de taxi londonais devaient apprendre le plomb de Londres, devaient connaître parfaitement le plomb de Londres. Il y a une petite structure dans le cerveau qui s'appelle l'hippocampe. C'est toute une structure dont on sait que c'est le centre de la mémoire visio-spatiale. Et enfin... Faisant passer des IRM à ces chauffeurs de taxi, il s'est rendu compte que ces chauffeurs de taxi, par rapport à la moyenne, avaient une hypertrophie de cette petite structure. C'est-à-dire qu'elle était plus grosse que la moyenne. Donc vous voyez, ça peut avoir un effet macroscopique qui peut se voir. Donc pareil, si quelque chose pense à notre place, le phénomène inverse, l'atrophie, peut également... Cette région peut, ne servant plus, s'atrophier. Et puis le risque, c'est que de revenir en arrière peut être difficile chez les individus et chez la société, la collectivité.

• Margaux Vignal

  Ce qui est intéressant, c'est que si on refaisait sûrement ces constatations sur les taxis aujourd'hui, probablement qu'ils auraient un hippocampe peut-être plus proche de la moyenne qu'en 2013, puisqu'entre-temps on a eu Waze et d'autres outils. nous permettant de nous repérer dans les rues. Est-ce qu'il y a déjà des études qui montrent la modification de la structure cérébrale chez des utilisateurs intensifs de technologies ? Alors peut-être pas l'IA parce que c'est assez récent, mais par exemple d'utilisation des réseaux sociaux ou de la télé ?

• Jean-Pierre

  Alors c'est plutôt des études psychologiques que des études... qui montrent effectivement chez les enfants et les adolescents des problèmes d'attention, des problèmes d'apprentissage, sans qu'on ait mesuré encore un impact macroscopique. Alors peut-être au niveau des réseaux aussi, il y a des études préliminaires qui montrent que ceux qui utilisent l'IA ont certains réseaux qui sont manifestement, qui deviennent paratrophiés. qui cessent de fonctionner. Lorsqu'on fait une IAM fonctionnelle pour mesurer une fonction, on note que ces fonctions-là ne s'allument plus. Elles s'éteintent. Donc avec le risque, je vous le disais, d'une atrophie secondaire.

• Margaux Vignal

  Tu parles de l'étude du MIT sur l'accumulation de la dette cognitive.

• Jean-Pierre

  Alors que ceux qui ne l'utilisent pas gardent allumés ces réseaux. Ces réseaux sont toujours en fonction. Alors j'en reviens toujours. Si on n'utilise plus ces réseaux, ces réseaux vont dépérir au profit d'autres. d'autres réseaux, portant d'autres fonctions, etc. Mais quelles fonctions ? Qu'est-ce que l'IA va faire fonctionner chez nous ? Qu'est-ce que l'IA va, chez la majorité des gens, va induire dans notre cerveau qui n'existait pas avant ? Je suis bien embêté pour répondre.

• Margaux Vignal

  Il y a un risque de perte, finalement, de notre capacité à réfléchir, à penser. En utilisant ce type d'outil ?

• Jean-Pierre

  Et le risque, c'est sûr. Ah non, mais ce n'est pas un risque, c'est une certitude.

• Margaux Vignal

  Et est-ce que finalement, si on compare à d'autres technologies, alors la télé, ce n'est pas tout à fait le même type de technologie, mais en tout cas, c'est une technologie passive, dont on a beaucoup dit qu'elle allait nous rendre bêtes. Donc peut-être. qu'elle nous rend plus bêtes. Mais aujourd'hui, ce qu'on voit, c'est que finalement, il y a une partie de la population qui va regarder la télé régulièrement et des émissions pas forcément qui vous élèvent. Et il y a une autre partie de la population qui va bien, qui va regarder la télé de temps en temps et qui va regarder plutôt des choses de qualité et finalement qui ne perd pas cette capacité à penser et qui reste actif dans... Je ne sais pas ce que tu penses de cette comparaison.

• Jean-Pierre

  C'est difficile parce que la télévision est un vieil instrument. D'autre part, la télévision s'est beaucoup manifestée. Voir des programmes de qualité à la télévision de nos jours, c'est quand même difficile. Je crois même que je dirais que c'est... C'est un challenge. Et puis la télévision, manifestement, dans le temps que leur consacrent les adolescents, d'après ce que j'ai pu voir, a beaucoup diminué. Oui, après,

• Margaux Vignal

  c'est sur du temps d'écran. Ils ont déplacé le...

• Jean-Pierre

  Ils ne s'informent pas avec l'IA, ils s'informent sur les réseaux sociaux. Les réseaux sociaux sont quelque chose qui me paraît prémonitoire de ce qui risque de se passer avec l'IA.

• Margaux Vignal

  C'est-à-dire ?

• Jean-Pierre

  Les réseaux sociaux, on voit bien, quand on utilise leur utilisation, ... C'est d'abord, ce que je te disais, les gens s'en servent comme coaching. Oui. Je t'ai expliqué que ça, c'était une catastrophe. Deuxièmement, après, ils s'en servent comme un moteur de recherche. Ça, c'est plus problématique parce que ça consomme beaucoup d'énergie qu'un moteur de recherche. Donc, voilà. Le problème, c'est plus l'utilisation qu'on va en faire, comme tout. C'est ça. Et en sachant que l'homme, comme le cerveau de l'homme est paresseux, Il utilise plutôt des... des systèmes courts, parce que c'est plus rapide, le cerveau est paresseux, l'homme étant paresseux, il est à craindre qu'il se laisse porter vers des solutions, comme on le voit à la télé ou sur les réseaux sociaux, à des programmes de faibles valeurs symboliques, de très faibles valeurs symboliques. Donc, ça ne va pas augmenter l'intelligence humaine. C'est peut-être pour ça, alors peut-être que je serais plus pessimiste du fait que tout ça risque de rabaisser l'intelligence humaine, d'ailleurs peut-être de le dire plus intelligente que l'homme.

• Margaux Vignal

  Oui. Après, finalement, je prenais l'exemple de la télé parce qu'on a beaucoup dit ça de la télé, on dit ça du smartphone, on dit ça des réseaux sociaux. Et finalement, aujourd'hui, on n'a pas vraiment d'études qui montrent ça non plus.

• Jean-Pierre

  Il y a des études qui ont été faites, notamment, je crois que c'est sur les réseaux sociaux, qui ont étudié l'impact sur les apprentissages, sur les réseaux sociaux, sur les enfants et les adolescents. Ce qu'ils ont remarqué, c'est un phénomène d'exclusion. C'est-à-dire que pendant que tu es sur des heures sur les réseaux sociaux, tu ne fais pas autre chose. Donc, les gens... Je pense que ça a plutôt une tendance, comme toujours, de rendre plus médiocre une génération. C'est-à-dire qu'on s'est rendu compte que les gens qui, s'ils n'avaient pas les réseaux sociaux, auraient fait des choses lues, fait des choses qui auraient développé leur intelligence, ne le font plus. Donc, ils deviennent plus faibles. d'un point de vue d'instruction. Inversement, ceux des classes défavorisées, les réseaux sociaux ont plutôt tendance à augmenter leur instruction parce que sinon, ils n'auraient rien fait, ils n'auraient pas fait de choses.

• Margaux Vignal

  Finalement, tu penses que ça va peut-être augmenter la fracture entre les gens ? Il va peut-être y avoir un différentiel plus fort ?

• Jean-Pierre

  Il paraît certain que ça va augmenter la fracture. Ça va en tous les cas augmenter la fracture. entre ceux qui créent l'IA et ceux qui l'utilisent comme une machine à penser, qui va penser à leur place. Ça, c'est sûr que ça va créer une fracture entre des gens, je reprends les modèles qui ont été critiqués de Bourdieu, qui vont dominer et les choses qui vont se laisser manipuler. On sait qu'on voit bien avec les réseaux sociaux qu'on crée facilement des phénomènes de foule, avec tout ce que ça veut dire.

• Margaux Vignal

  Qui va être accentué par les fake news. qui vont être de plus en plus réelles grâce à l'IA ?

• Jean-Pierre

  Oui, on se rend compte que l'IA peut propager à partir de choses qui te paraissent séduisantes. On en revient aux sociétés sophistes sans séduisants parce qu'ils parlent d'une manière élégante, apparemment argumentée, qui plaît aux gens à qui ça reste. Et les gens disent, ces gens-là, sans réfléchir forcément à ce qu'ils sont en train de raconter. ou le sens de finalement Et la vérité de ce qu'il raconte passe au second plan.

• Margaux Vignal

  Oui, pour les auditeurs, on a eu un petit débat hors antenne sur Socrate, à travers Platon, qui disait que l'écriture allait permettre aux sophistes d'accéder à une connaissance qu'ils n'auraient pas eux-mêmes digérée et donc à redire des choses bêtement grâce à l'écriture en les répétant. sans avoir par eux-mêmes formé leur pensée sur un discours. Socrate expliquait ça dans un dialogue imaginaire, qu'on pouvait avoir des opposants à tout ce qui était écriture, pour remettre par rapport aux sophistes qui pourraient profiter de la situation.

• Jean-Pierre

  Le gros problème de DIA, c'est que c'est un système qui fait une moyenne, c'est quelque chose qui n'était pas curieux. qui n'a pas de doute, qui ne crée pas. Par exemple, on explique la création de textes. Donc, Thierry A peut créer des textes, fait des créations de textes. Il est probable que ça pourra écrire de nombreux romans prodigés, très efficaces, de très nombreux romans actuels tels qu'on nous écrit. Je ne veux pas citer d'auteurs, je ne veux pas me fâcher avec personne. Mais quand on réfléchit à la littérature, est-ce qu'elle pourra écrire Madame Bovary ou l'éducation sociétal ? Est-ce qu'elle pourra provoquer la rupture qu'a été Flaubert ? est-ce qu'elle pourrait provoquer la rupture qu'a été la recherche du temps perdu ? Et je peux continuer. C'est-à-dire, ces écrivains, leur singularité, je pense qu'ils n'auraient pas été vus dans l'Idias parce qu'ils auraient été noyés dans la médiocrité. On ne les aurait pas aperçus. Et pourtant, c'est parce qu'ils ont eu un aspect on dit disruptif. C'est-à-dire qu'à un moment, ils sont arrivés, on le voit bien avec Flaubert, il est arrivé à un moment, comment... C'est ce qui étonne beaucoup Sartre dans l'Idiot de la famille. Comment ce bourgeois idiot d'Idiot de la famille est arrivé à se décentrer et à créer ces romans qui ont complètement changé la littérature mondiale. C'est très bien expliqué, notamment, je reviens à Bourdieu, dans les règles de l'art. Comment il a réussi à se décentrer, ça, l'IA ne pourra pas le faire. Parce qu'elle ne le fera qu'à partir que... Maintenant, elle peut le faire, puisqu'en rentrant en Flaubert, elle peut faire du Flaubert. En rentrant en Proust, elle peut faire du Proust. Mais avant Proust, elle ne peut pas.

• Margaux Vignal

  Toi, comment tu penses qu'on peut naviguer avec ces outils, sachant que je pense qu'il ne faut pas passer à côté de la technologie, il faut les utiliser avec parcimonie. Comment on garde notre libre arbitre parmi tout ça ? Comment on évite de reprogrammer ? ou d'influencer notre cerveau ?

• Jean-Pierre

  Notre libre arbitre, il faut revenir au petit texte de Jacques Bourges que je vous ai lu, il faut garder l'esprit critique, l'esprit curieux, il faut savoir ce qu'on va demander à l'IA pour être capable de critiquer la sortie, de ne pas se laisser emporter. parce que ça va rentrer sous prétexte que c'est des maths, que ça va être la vérité. Non, ça ne donne pas la vérité. Donc, c'est un outil dont il faut bien comprendre le fonctionnement et il faut l'utiliser dans les limites de sa conception et des biais de sa conception.

• Margaux Vignal

  D'accord. Et comment on fait ça ?

• Jean-Pierre

  Je te dis que si tu t'interroges, il faut regarder d'abord les données, sur quoi il a fait cette machine à travailler et s'être entraîné, sur quelles données. C'est important. c'est pour ça qu'il vaut mieux en venant à la médecine de venir sur des données validées, véridiques etc. c'est plus sûr pour obtenir une réponse qui ait un peu de sens les algorithmes malheureusement on n'est pas mathématicien donc ça on ne pourra pas juger de leur réalité on ne pourra pas en juger et qu'une fois qu'on a la réponse revenir à ce que disait Chomsky reprendre, demander sur quoi s'être appuyé pour toutes ces conclusions.

• Margaux Vignal

  Très bien. Dans cet épisode, on a vu que notre cerveau n'est pas passif face à l'IA. Il s'adapte, se reconfigure, crée de nouvelles stratégies cognitives. La question n'est donc pas « allons-nous être dépassés ? » mais plutôt « comment guider cette plasticité pour qu'elle nous renforce plutôt qu'elle nous fragilise ? » Et surtout, si notre cerveau s'adapte à l'IA, Qu'en est-il de ce que nous choisissons de lui confier ? C'est le sujet de l'épisode suivant, la mémoire.