Transcription

• Margaux Vignal

  Bienvenue sur Vitamine B, le podcast de Bartle, qui explore des thématiques liées à la transformation des organisations et à leur adaptation aux enjeux du monde moderne. Dans notre série Hémisphère croisé, nous explorons au travers d'un dialogue alliant science et business la manière dont l'intelligence artificielle transforme notre cerveau et nos comportements. Je suis Margaux, directrice chez Bartle, et au quotidien, je travaille avec des entreprises qui essayent de comprendre les impacts de ces technologies sur leur métier, leurs équipes et sur eux-mêmes. Pour ces premiers épisodes, je partage le micro avec Jean-Pierre. Il est neurophysiologiste et a passé sa carrière à étudier la manière dont notre cerveau fonctionne, ce qui nous pousse à agir et à décider. Nous sommes père et fille, deux regards, deux générations, deux approches. Ensemble, nous vous proposons de croiser nos points de vue sur des questions qui seront déterminantes pour demain. Pour ce premier épisode, nous nous interrogerons sur la relation entre l'intelligence humaine et l'intelligence artificielle. Alliée ou rivale, l'intelligence artificielle rendra-t-elle notre intelligence obsolète ?

• Jean-Pierre

  Bien, donc la question est tout de suite assez convenue. C'est qu'il y a une confusion. L'intelligence artificielle n'est pas de l'intelligence. Si on entend par intelligence l'intelligence humaine, c'est-à-dire le fonctionnement du cerveau... qui est à l'origine de notre pensée. Comment on peut définir l'intelligence humaine ? La difficulté, c'est qu'il n'y a pas de définition d'intelligence humaine. Il y a autant de définitions qu'il y a de philosophes, de psychologues, etc. Et pourtant, tout le monde a l'impression de savoir ce que c'est que l'intelligence. Alors, on va essayer quand même de le définir. Alors, la première chose, ce que n'est pas l'intelligence, je vais commencer par le plus convenu, c'est le quotient intellectuel. On voit ça toute la journée, tout le monde parle du quotient intellectuel.

• Margaux Vignal

  En tout cas, c'est une mesure pratique qui permet de comparer ou en tout cas de se situer par rapport à un échantillon.

• Jean-Pierre

  Donc, je vais le dire, on utilise habituellement ce qu'on appelle le VISC. Il y a eu plusieurs psychométries. La plus récente, c'est le VISC-5 qui va donner un QI général et qui va donner des chiffres, qui va mesurer des aptitudes, cinq aptitudes du fonctionnement cérébral. Ce que mesure le QI, c'est essentiellement, j'allais dire, nos capacités logico-mathématiques. Donc c'est qu'une partie, qu'une toute petite capacité de l'intelligence humaine. Mais tout le monde peut bien voir qu'il y a autour de nous des gens qui ont des QI très élevés, qui passent pour des sourdoués, puisque c'est maintenant comme ça qu'on les appelle, ça ne les empêche pas d'être des idiots, des S.O.T. Et je pourrais y revenir sur certains des grands défenteurs, créateurs de l'IA. Alors, pour Gide, par exemple, l'intelligence humaine, c'est la capacité à s'adapter, qui est des prix Nobel de littérature, mais qui est repris par d'autres philosophes, c'est la capacité de s'adapter. La capacité de s'adapter, ça existe à tous les niveaux de notre organisme. C'est-à-dire que cette capacité d'adapter existe au niveau des cellules, des neurones. au niveau de l'individu lui-même dans la société et de la société. C'est ce qu'on appelle l'homostasie, c'est-à-dire de se réguler le plus finement possible pour être adapté à l'environnement. Donc l'intelligence est difficile à définir et je vais vous lire un petit texte, ce qui est pour moi la représentation de l'intelligence. Je vais vous demander de bien retenir ce texte parce que je vais m'en servir comme point de référence quand je vais analyser l'intelligence artificielle à plusieurs reprises. Alors ce petit texte, je le tire. d'un livre de Jacques Bouvresse. Jacques Bouvresse, pour beaucoup d'entre vous, vous ne savez pas qui c'est. C'est un philosophe qui a été professeur à la Sorbonne. C'est un spécialiste de l'école philosophique viennoise, notamment d'un philosophe viennois qui s'appelle Wilgerstein, qui réfléchit sur les sciences, le langage, etc. Il a écrit un petit livre sous son ami Pierre Bourdieu qu'il a appelé... Bourdieu, savants et politiques. Et début de ce texte, je vais vous le lire, parce que ça définit bien pour moi ce qu'est l'intelligence humaine. L'intelligence humaine, ce n'est pas un état, c'est un processus. On n'est pas toujours intelligent. Dans tout ce que je vais vous dire, il n'y aura pas que de l'intelligence, il y aura probablement des stupidités. Donc c'est un processus plus qu'un état. Alors, Jacques Bourret s'écrit. Chomsky dit avoir entendu souvent une objection qui consiste à lui faire remarquer Merci. qu'il est impossible de croire à tout ce qu'il affirme. Cela va en effet, la plupart du temps, à l'encontre de ce que l'on a appris, et toujours cru, il y a très peu de gens qui aient le temps et les moyens de déterminer si c'est vrai. La réponse... donne à l'objectaire qui demande comment savoir ce que vous dites est vrai, et bien ainsi qu'il espérait le voir réagir. C'est la réaction raisonnable. Je réponds que c'est la bonne. Vous ne devez pas croire que ce que je dis est vrai. Les notes sont là et vous permettent de vérifier si tel est votre désir, mais si vous ne voulez pas vous en donner la peine. Rien n'est possible, personne ne versera la vérité dans votre cerveau.

• Margaux Vignal

  En clair, qu'est-ce qu'on doit retenir de ce passage en une idée ?

• Jean-Pierre

  En une idée, c'est qu'il faut refaire le raisonnement, vérifier les sources. Je vais en venir parce que je vais parler de l'IA et ça va être le fond du problème.

• Margaux Vignal

  Aujourd'hui, ta définition de l'intelligence humaine, en tout cas si on doit en retenir une, c'est que c'est un processus et c'est notre capacité à nous adapter à notre environnement.

• Jean-Pierre

  Voilà.

• Margaux Vignal

  Et donc, par rapport à l'intelligence artificielle ?

• Jean-Pierre

  Alors, revenons sur l'IA. Alors, l'IA, d'après ce que j'ai compris, je ne suis pas un grand spécialiste, je ne suis pas un mathématicien, je suis neurophysiologiste. Mais d'après ce que j'ai compris de l'IA, il y a deux grands modèles d'IA. Il y a des IA qui essayent de simuler la fonction du cerveau, les réseaux neuronaux, et il y a l'IA générative. C'est les deux grands modèles.

• Margaux Vignal

  L'IA générative est aboutie grâce au réseau de neurones. C'est une des IA qui est possible grâce au réseau de neurones.

• Jean-Pierre

  Très bien. Donc je reviens sur l'IA. D'abord, l'IA, ce n'est pas de l'intelligence. A mon avis, c'est un terme qui est apparu dans les années 50. C'est d'abord du marketing. C'est d'abord du marketing. Et je vais y revenir. Je vais me servir pour moi de l'adonnement surtout de l'IA générative qui est la plus communément utilisée et ce dont on pense quand on parle de l'IA actuellement. Alors l'IA générative, d'après ce que j'ai compris, c'est finalement des textes, des images qui vont être créées à partir d'occurrences statistiques à partir du langage. C'est-à-dire qu'elles sont entraînées sur des masses de données. Donc le premier problème qui se pose à l'IA, c'est ces données. C'est quoi ces données ? Elles viennent d'où ? Ces données sont forcément des données créées par l'homme.

• Margaux Vignal

  C'était une des problématiques d'OpenIA, c'est-à-dire qu'ils ont entraîné avec Internet et puis finalement, ils se sont rendus compte que les sources de données étaient faibles et répétitives. Et donc c'est pour ça qu'aujourd'hui, ils achètent en masse du contenu, par exemple OpenIA a un partenariat avec Le Monde pour avoir des articles. pour nourrir l'intelligence artificielle ?

• Jean-Pierre

  Je reviens au texte que vous avez lu. Il faut toujours critiquer les sources. Toujours revoir les données pour vérifier leur vérité. Sinon, l'IA, d'après ce que je vois, est complètement polluée par des données fausses. Et comme si ces données fausses l'emportent sur les données vraies, sur la vérité, comme finalement on obtient une moyenne statistique, elles vont écraser la vérité. C'est un peu ce que je crains. parce que... Pour un neurophysiologiste, c'est quoi un homme ? C'est quoi un être humain ? Un être humain, il va percevoir pour agir. Peut-être qu'on y reviendra quand on parlera des fonctions de cerveau. On perçoit pour l'action. Donc la perception est importante. L'IA ne perçoit pas. Elles traitent des données qui ont déjà été traitées ?

• Margaux Vignal

  Aujourd'hui, elles ne perçoivent pas. Mais des acteurs comme Elon Musk réfléchissent aujourd'hui pour que des IA et des capteurs puissent capter l'information en temps réel et s'adapter au temps réel à son environnement. C'est le cas, par exemple, pour les voitures autonomes.

• Jean-Pierre

  Effectivement, mais il faut qu'elles perçoivent l'environnement. Mais cet environnement est perçu uniquement dans un but utilitaire pour une action. Nous, on perçoit notre environnement, pas seulement... Pour agir, bien évidemment, mais notre action est multitâche. On est obligé d'agir dans de multiples domaines. Et elle ne se fait pas par rapport à une moyenne.

• Margaux Vignal

  Si on prend ton collègue Stanislas Dehaene, dont je conseille le livre qui s'appelle Apprendre, il dit que finalement, Apprendre s'est raisonné en étant un bon statisticien. Finalement, on fait des statistiques. Aujourd'hui, sans s'en rendre compte, pour prendre des décisions et justement, quand on perçoit, pour agir. Finalement, sauf que notre cerveau, on le fait sans qu'on s'en rende compte. Et l'IA, finalement, c'est un peu pareil parce que l'IA aujourd'hui, c'est un peu ce qu'on reproche, c'est une boîte noire. Les paramètres qu'elle choisit pour te répondre, finalement, on ne sait pas exactement ce qu'il y a derrière. Mais finalement, si on fait le parallèle avec l'homme, nous, c'est un peu pareil. Parfois on va agir et on ne sait pas exactement pourquoi on a agi de cette manière.

• Jean-Pierre

  Alors, je vais revenir là-dessus, je vais revenir sur l'action chez l'homme, sur la physiologie de l'action, sur comment ça s'organise. Donc, il y a, non, c'est pas une boîte noire, il y a des informaticiens, et Musk, d'après ce que j'ai compris, est un informaticien à la base, qui vont coder, qui vont utiliser des algorithmes. Et c'est vrai que le raisonnement humain utilise des algorithmes, les algorithmes, c'est pas nouveau, c'est pas de l'IA, mais il va coder. Et ce codage n'est pas innocent. Il se fait sur des données qui ne sont pas...

• Margaux Vignal

  Ce qui n'est pas innocent, c'est évidemment les sources que tu lui donnes. Et puis après, évidemment, tu as un champ d'action pour entraîner la machine pour qu'il donne telle ou telle direction à une question.

• Jean-Pierre

  Justement, le premier élément, je reviens à mon petit texte, c'est la validité de ces données. Est-ce que ces données sont vraies ou est-ce qu'elles sont fausses ? Qu'est-ce que c'est que ces données ? Il n'y a déjà pas de raisonnement. Moi, j'ai compris qu'il prend tout. Et j'ai vu qu'après, l'homme réintervient parce qu'il va trier, il paye des gens pour trier les réponses entre celles qui sont absurdes. Donc, l'homme intervient à l'entrée, il intervient à la sortie où il retrit. Et puis, il y a des algorithmes faits par des informaticiens. Il n'y a pas plus créé par l'homme que l'IA. L'IA est une simple... création du cerveau humain. On revient dans ce vieux débat entre Piaget et Roussel. Je ne sais pas si les gens qui s'adressent à ça iront revoir ce débat. Ce débat, Roussel, je ne sais pas si j'explique ou si je vais en retirer ça. Roussel, c'est un philosophe britannique. Il a eu une grande importance. Il travaillait sur l'épistémologie. Il pensait qu'il y avait une logique objective en dehors du cerveau qui était au-dessus du fonctionnement cérébral. Et Piaget a soutenu que la logique n'était simplement que le miroir de notre pensée. Donc on voyait que l'IA, à tous les niveaux, est créée, nécessite l'intervention de l'homme. Pour l'instant, il n'y a pas d'IA autonome.

• Margaux Vignal

  Pour l'instant, mais une fois que l'IA est programmée, elle est capable aujourd'hui de réaliser un certain nombre d'actions, mais à partir de données et d'actions de l'homme.

• Jean-Pierre

  Je suis d'accord, mais à partir de quoi ? Il y aura toujours, quelque part, la trace d'un homme. Ce que je crains, c'est que ces hommes-là, justement, vont atteindre, vont avoir une position, risquent d'avoir une position, parce qu'ils vont apprendre, on va revenir là-dessus, ils vont apprendre à l'homme, l'homme ne va plus penser, il y aura une machine qui va penser pour lui, il va simplement avoir rentré le prendre, c'est-à-dire faire des questions. qui sont déjà plus ou moins un biais lié à sa personnalité, il va faire des questions, quelque chose, une boîte noire pour lui, il va recueillir le résultat, et quel résultat ? Il faut qu'on revienne là-dessus. C'est très important pour tous les gens qui vont apprendre des décisions et qui vont se servir de l'IA, parce que l'IA, c'est un outil. Mais c'est un outil comme la machine à tisser, et j'y reviendrai après parce que c'est important dans le fonctionnement, comme par exemple la lecture. L'écriture, je veux dire, l'écriture pensée, l'écriture c'est quoi ? L'écriture alphabétique, quand elle est apparue au 8e siècle avant Jésus-Christ, au 8e ou 9e siècle avant Jésus-Christ, ça a profondément marqué le cerveau humain, ça l'a transformé. Mais d'autre part, c'est déjà une mémoire artificielle, c'est une mémoire en dehors de notre mémoire. Tu vois ce que je veux dire ? L'homme avait déjà créé une mémoire artificielle qui a eu des conséquences.

• Margaux Vignal

  Ça, on consacrera un épisode à la mémoire et à la prise de décision. Si on revient un peu sur notre définition de l'IA versus l'intelligence humaine, finalement, aujourd'hui, l'IA, on peut dire qu'elle dépasse déjà un certain nombre de nos capacités cognitives, notamment en termes de vitesse d'analyse. de capacité de traitement, puisqu'elle est capable de traiter un très gros volume de données en très peu de temps, ce que n'est aujourd'hui pas capable de faire l'intelligence humaine. Est-ce que tu penses que finalement, l'IA, ça va nous aider aussi à mieux comprendre nos limites cognitives ? Et est-ce que tu penses qu'on va se faire dépasser ou pas ?

• Jean-Pierre

  Alors, je vais redire sur un point de ce que tu dis, la vitesse. C'est intéressant parce que la notion de vitesse est importante dans la physiologie du fonctionnement du cerveau. C'est important que les gens comprennent ça. Ça évite... Non, non, mais c'est important. Parce que dans le cerveau... Il va y avoir deux systèmes d'action. Il va y avoir un système dit rapide, c'est-à-dire immédiat, on voit bien au niveau de la motricité, on va tout de suite agir à partir de croyances, de biais. C'est une réponse très rapide qui ne demande pas de réflexion et qui peut être vraie, qui peut être faute, qui peut être bonne, qui peut être mauvaise, peu importe. D'accord ? Et puis, il y a un système qui est beaucoup plus long qui entraînent la... la mise en jeu de plus de structures, notamment de la région préfrontale, où on va faire une analyse, on va comparer, on va déstructurer l'information, on va faire tout un travail d'analyse pour donner une réponse. Et la réponse va être plus lente, bien évidemment, mais elle a plus de chances, et c'est là que se fait le fameux QI de réponse logico-mathématique, elle a plus de chances d'être de l'ordre de la vérité que la réponse rapide. Donc une réponse rapide ne dit pas forcément que ça va donner quelque chose d'intéressant et surtout de vrai.

• Margaux Vignal

  Mais tu vois, par exemple, si on transpose à l'univers médical sur les diagnostics, sur l'analyse des radios, on sait que l'IA est particulièrement bonne, elle va être meilleure qu'un radiologue. Et donc, elle permet finalement aux radiologues d'aller plus vite et de mieux détecter, d'être plus précise dans la détection des tumeurs, par exemple.

• Jean-Pierre

  Je suis entièrement d'accord avec toi. C'est un outil dont il faut bien cerner l'utilité. C'est-à-dire, en médecine, d'abord, la base de données, ça va être des textes scientifiques, des données scientifiques validées. il ne va pas faire sa réponse à partir. de ce qu'il va trouver sur les réseaux sociaux, notamment aux Etats-Unis, sur les influenceuses qui critiquent les vaccins. Donc déjà, l'IA est un excellent instrument à partir du moment où on a défini les données qu'on veut interroger et qu'on est sûr de la validité, d'une certaine validité de ces données. Dès qu'on s'écarte de ça, c'est pour ça qu'avant même qu'on parle de l'IA, j'ai vu des systèmes qui utilisent la théologie artificielle. extrêmement performant pour les diagnostics, plus performant d'ailleurs que l'OPE, mais ça implique les données, ça implique que la construction des algorithmes aussi répond à certains critères, et donc on va obtenir une réponse. Mais si on ne remplit pas ces conditions, ça peut être n'importe quoi.

• Margaux Vignal

  Mais du coup, tu es quand même d'accord ? que sur les diagnostics liés à l'analyse des radios, l'intelligence artificielle fait mieux que la majorité des radiologues.

• Jean-Pierre

  Ah oui, mais il n'y a pas que les radios. Elle fait mieux pour tous les diagnostics médicaux. Il y a eu des études qui ont été faites. C'est nettement supérieur à l'homme parce qu'elle peut screener un grand nombre de revues scientifiques et de faits qu'il est beaucoup plus difficile pour un être humain de faire. Tu vois ce que je veux dire ? Son principe même la rend supérieure.

• Margaux Vignal

  Finalement, elle nous dépasse déjà sur certaines capacités.

• Jean-Pierre

  Oui. Je ne sais pas si c'est une capacité humaine d'être un médecin. Ça reste à définir. Mais ce n'est pas un signe d'intelligence. Bien sûr, tout dépend de tes bases de données. Et si tu peux screener une plus grande base de données qu'un être humain validée... tu vas obtenir des réponses parfaitement pertinentes c'est pour ça que je te reviens à ce que je dis c'est un outil dont il faut bien comprendre les limites et ce qu'on peut en attendre comme réponse qui peut nous aider dans la vie quotidienne mais ça peut certainement pas être un instrument pour faire une psychothérapie comme ces réseaux, ces chatbots conversationnels comme réplica ou là on aboutit dans quelque chose de dangereux. On va y revenir éventuellement. On a une perversion de l'IA.

• Margaux Vignal

  Pourquoi tu penses que c'est une perversion de l'IA ?

• Jean-Pierre

  Alors, c'est basé d'abord, c'est pas basé sur n'importe quoi, ça vient de la psychologie de Carl Rogers, qui veut empathique. C'est-à-dire que c'est une psychologie positive. C'est-à-dire que tu dois entendre le sujet sans porter de jugement, avec un esprit empathique.

• Margaux Vignal

  C'est déjà d'ailleurs comme ça que répond Tchad GPT, il est programmé. Mais oui,

• Jean-Pierre

  mais le problème, c'est que ces réseaux, comme tu vas les programmer avec ton image, avec ta pensée, etc., elles vont utiliser ce que tu as écrit, ce que tu penses, etc., tu vas discuter avec toi-même finalement. Elles vont te renvoyer une image de toi-même, celle que tu veux. donc c'est quelque part quelque chose de narcissique et le sujet on risque de désociabiliser les sujets parce que la société c'est quoi c'est une vie de relation je veux dire il y a toute une tasse de philosophie tout un tas de concepts qui composent l'individu à la société c'est pas vrai l'individu n'est qu'en société il n'y a pas d'individu hors de la société pareil la société évidemment n'a pas dit ça déconstituer l'individu Mais l'individu n'existe pas en dehors de société. Nous sommes, tu vois ce que je veux dire. Et si on met le sujet à son propre image, qui renvoie permanence, c'est une sorte de narcissisme qui va se renforcer, et qui va se renforcer au fur et à mesure, parce que ça fonctionne toujours, on va aboutir à des phénomènes dramatiques, hallucinatoires et délirants des sujets.

• Margaux Vignal

  Pourquoi ? Pourquoi hallucinatoire et délirant ?

• Jean-Pierre

  Ils vont s'entendre parler et ça va devenir une hallucination. Ça n'a plus de rapport avec la réalité.

• Margaux Vignal

  Parce qu'ils parlent avec eux-mêmes.

• Jean-Pierre

  D'autres réalités, c'est de confronter. Quand je discute avec toi, on n'est pas forcément d'accord. C'est quand même de s'engueuler. La vie sociale, c'est de ne pas être d'accord avec son individu. La vie sociale, c'est de vivre en société. C'est de ne pas être d'accord, de s'engueuler, d'avoir des colères, etc. D'avoir des émotions. Une des éléments importantes de l'intelligence humaine, c'est l'émotion. Je ne vais pas parler de l'émotion dans les apprentissages. Les émotions dans l'apprentissage, la motivation, la curiosité, le doute, le regret, c'est extrêmement important.

• Margaux Vignal

  Ça ne sera jamais artificiel.

• Jean-Pierre

  L'IA n'a pas d'émotion. L'IA traite des choses qui n'ont pas de sens. Elle ne comprend pas le sens de ce qu'elle fait. Elle ne comprend pas le sens de ce qu'elle vous répond. La signification lui échappe complètement. Il n'y a pas d'émotion, bien sûr.

• Margaux Vignal

  Elle pourra imiter les émotions et nous faire croire qu'elle comprend nos émotions. C'est ce qu'elle fait.

• Jean-Pierre

  Dans ses réseaux elle limite nos émotions. C'est très embêtant parce que c'est profondément narcissique et il est à craindre que les résultats soient un peu compliqués pour notre société. À gérer. Ça va renforcer l'isolement des sujets.

• Margaux Vignal

  Une dernière question pour finir cet épisode. Comment gérer justement l'IA versus l'intelligence humaine ? Comment on peut organiser cette complémentarité pour que ça reste sain pour notre société ? C'est une question vaste.

• Jean-Pierre

  La première chose, il ne faudrait pas que l'homme arrête de penser et perde la capacité de penser. Je reviens à mon petit texte. Je vous invite à le relire parce qu'il est très important. si l'homme perd la capacité de penser par lui-même et qui est de l'exile machine. Le problème, c'est qu'on risque d'aboutir à une société fracturée entre quelques individus comme moi qui garderont cette capacité à analyser ou qui créent ces IA qui vont manipuler et dominer une masse de gens.

• Margaux Vignal

  Après, est-ce que ce n'est pas déjà le cas ? Avant, il y avait d'autres moyens de domination. Il y a eu Internet, il y a les réseaux sociaux actuellement. Et maintenant, c'est l'IA. C'est pour ça qu'il y a des milliards mis sur la table.

• Jean-Pierre

  L'IA n'est pas indépendante de l'apparition du smartphone et des réseaux sociaux. Tout ça, c'est lié.

• Margaux Vignal

  Bien sûr.

• Jean-Pierre

  Tout ça, c'est lié. Et tout ça, c'est les mêmes sociétés, c'est les mêmes esprits, c'est les mêmes individus qui sont derrière. Donc, il faut bien comprendre que... les réseaux sociaux sont l'exemple même de la perversion d'un moyen qu'on pensait que ce serait un moyen de diffusion de la connaissance et de discussion entre les individus et on voit ce que c'est devenu c'est peut-être pas aussi tranché on va dire que pour une majorité de gens peut-être que voilà mais ça a quand même permis la diffusion de savoir dans le monde oui mais le livre aussi permet la diffusion de savoir c'est juste un autre média de dire non Deuxièmement, regardons l'effet de certains réseaux sociaux sur les enfants et les adolescents. Il ne faudrait pas que l'IA ait le même processus chez la classe intellectuelle moyenne et inférieure dans ce pays.

• Margaux Vignal

  Sûrement que ça va être la suite, finalement.

• Jean-Pierre

  Il faut lutter contre ça et espérer que non. Espérer que ces gens-là comprennent bien les limites de l'IA et l'utilisation de l'IA comme un outil. et pas comme un ami.

• Margaux Vignal

  Très bien. Je pense qu'on va conclure ce podcast sur ça. Merci beaucoup.

• Jean-Pierre

  Merci.