Description
Hébergé par Ausha. Visitez ausha.co/politique-de-confidentialite pour plus d'informations.
Transcription
- Speaker #0
Générique Générique Générique Ami, le podcast tech Guillaume Richardot, Franck Lefebvre Générique
- Speaker #1
Et ça résonne et ça résonne et c'est beau, c'est le son de Franck Lefebvre, salut mon cher Franck, comment vas-tu ?
- Speaker #0
Salut Guillaume, pleine forme et toi ?
- Speaker #1
Eh bien écoute, moi je vais bien, je vais très très bien et je t'annonce que ma mémoire est faillible Ma mémoire est faillible, du coup, j'ai utilisé un subterfuge. La semaine dernière, quand on a enregistré, à la fin de l'enregistrement, tu m'as dit « Ah tiens, j'aimerais bien la semaine prochaine faire un sujet. L'agent est-il une espèce ? » Alors je suis resté un peu quoi ? Et pour m'en souvenir, je n'ai pas encore d'agent dans mon téléphone, j'aurais peut-être demandé à mon agent « Rappelle-moi la semaine prochaine quand on enregistrera avec Franck. » que je veux le sujet, l'agent est-il une espèce ? Et aujourd'hui, mon agent m'aurait dit « Salut, au fait, à 11h, t'enregistres avec Franck, souviens-toi du sujet. » Bon, je suis resté à la vieille école, j'ai utilisé mon dictaphone, j'ai enregistré le sujet, l'agent est-il une espèce ? Donc, je le pose sur la table.
- Speaker #0
Sujet copieux, effectivement, très intéressant, sujet qui me passionne, et sur lequel on va pouvoir, si tu le souhaites, enchaîner un paquet de... paquet de causeries.
- Speaker #1
Je le souhaite !
- Speaker #0
Elle va être formidable. Je partirais bien de ta remarque. Tout à l'heure, tu as dit « si j'avais un agent, je lui aurais dit « rappelle-moi la semaine prochaine de demander à Franck » . C'est-à-dire que je vais commencer par attirer ton attention sur le fait que ce dont tu m'as parlé, enfin, ça, c'est de quelque chose qui est strictement à ton service. C'est-à-dire que si tu dis « ah, si j'avais un agent, je lui aurais demandé » , ça veut dire que... Naturellement, la position que tu aurais prise, c'est toi, tu es un maître, et lui, il est un esclave, t'es d'accord ?
- Speaker #1
Oui, enfin, je ne l'appellerais pas maître, disons que j'ai besoin d'un service et il me le rend, donc je dirais plus assistant que esclave, je n'aime pas trop l'esclave, moi je préfère l'assistant.
- Speaker #0
Mais d'accord.
- Speaker #1
C'est plus valorisant.
- Speaker #0
Et toi, qu'est-ce que tu fais pour lui ?
- Speaker #1
Et moi, qu'est-ce que je fais pour lui ? Je l'aime beaucoup, je l'aime énormément, il me rend plein de services et je l'aime.
- Speaker #0
D'accord, mais... Pas d'amour,
- Speaker #1
mais de grande amitié.
- Speaker #0
Ah, mais tu pourrais même l'aimer d'amour. Je ne sais pas, ton chien, tu l'aimes d'amour ou tu l'aimes de quoi ?
- Speaker #1
Je l'aime d'amour, mais ce ne sont pas des composants électroniques. C'est une bête vivante avec des poils, un caractère, des aboiements et tout ce qui va avec.
- Speaker #0
Donc ce que tu me dis là, c'est que tu te sens complètement à même d'avoir... beaucoup d'affection pour un paquet de carbone, d'oxygène, d'hydrogène et de calcium, alors que tu es beaucoup moins enclin à avoir le même genre d'affection pour un paquet de silicium et quelques métaux ?
- Speaker #1
Oui, mais alors il me semble bien que c'est toi qui, à une époque, me disais qu'il fallait quand même faire attention à ne pas avoir des rapports avec les machines comme on peut l'avoir avec les humains et que ça pouvait être dangereux.
- Speaker #0
Ah, je ne sais pas. Peut-être que j'ai dit quelque chose qui pouvait être compris comme ça.
- Speaker #1
La vallée de l'étrange.
- Speaker #0
Ah oui, mais c'est quelque chose de bien différent, la vallée de l'étrange. La vallée de l'étrange, on peut rappeler ce que c'est. La vallée de l'étrange, c'est une théorie qui a été formalisée, ce n'est qu'une théorie, mais qui a été formalisée il y a quelques années, et qui dit que quand on est en face d'un système qui ressemble à un humain, Écoute bien ce que je dis, qu'il ressemble à un humain, et bien ce système, plus il va ressembler à un humain, plus on va le trouver intéressant, jusqu'à un moment où il va ressembler presque parfaitement à un humain, sauf qu'il va rester un petit machin, un petit machin bizarre à qualifier, et qui fait qu'à ce moment-là, l'objet va devenir répugnant pour un humain. Je vais te donner un exemple, si demain tu as un robot humanoïde qui a un paquet de ferraille, tu vas le regarder comme un paquet de ferraille, et puis s'il se met à ressembler de plus en plus à un humain, tu vas le trouver de plus en plus sympathique, jusqu'à un moment où il va tellement ressembler à un humain qu'il y a des petits trucs quand même qui ne collent pas, et à ce moment-là tu vas le trouver sympathique, tu vas le trouver répugnant. C'est quelque chose qui avait été super bien. Je ne sais pas si tu te souviens d'une série, je crois qu'elle était scandinave ou allemande, qui avait été édifiée sur Arte. Oui,
- Speaker #1
tout à fait, tout à fait.
- Speaker #0
« Real Human »
- Speaker #1
C'était excellentissime d'ailleurs, j'ai beaucoup aimé.
- Speaker #0
Exactement, excellente série dans laquelle on avait des vrais comédiens. Et les vrais comédiens, ils avaient des petites attitudes de robots dans la façon dont ils déplaçaient certains de leurs membres, dans les yeux. Et donc, à ce moment-là, ce qu'on voit, ce n'est plus une machine qui ressemble à un humain. Ce qu'on voit, c'est un humain qui a un machin pas normal et qui fout la pétoche. Et donc, la vallée de l'étrange, en anglais, on appelle ça l'Uncanny Valley. Eh bien, c'est le fait que, tu vois, si on fait une courbe, tu trouves ça de plus en plus chouette, de plus en plus chouette, jusqu'à un moment où c'est l'inverse. Tu trouves ça plus chouette du tout, parce que tu ne vois plus une machine qui ressemble à un homme, mais un homme qui a un petit problème, et ça, on a du mal avec ça. Donc, cette théorie, je pense qu'elle s'applique à beaucoup de choses, mais elle s'applique si on dit que la machine ressemble à un humain. Alors que... Notre débat a commencé par « est-ce qu'on peut considérer que des êtres computationnels pourraient être considérés comme des êtres vivants et comme une espèce à part entière ? » Sur ce à quoi j'ai répondu « mais ton chien, tu l'aimes d'amour ? » Et là, tu m'as dit « ah, mais tu m'as dit que… » Mais non, parce que ton chien, il ne rentre pas dans la vallée de l'étrance. Parce que ton chien, tu ne le vois pas du tout comme un homme, tu le vois clairement comme une espèce. C'est une espèce différente de toi, ton chien ne cherche pas à te ressembler. Et si demain, imagine un instant qu'il y ait une espèce de chien qui ressemble incroyablement à des humains, je suis sûr que tu aurais beaucoup de mal à avoir de l'affection pour lui.
- Speaker #1
Peut-être, peut-être. Mais alors, revenons à notre agent, parce que pour l'instant, l'agent, il ne ressemble pas à un humain, mais il pourrait avoir des... des réflexions, des causeries et des manières de discuter avec toi.
- Speaker #0
Je voudrais poursuivre. D'accord, d'accord. Quand tu m'as dit, je ne peux pas avoir de l'amour pour un système computationnel, et ce à quoi je t'ai dit, ton chien, tu me dis, ah oui, mon chien, j'ai de l'amour pour mon chien, mais mon chien, ce n'est pas pareil. Et là, j'ai abordé un sujet qui est le sujet du substrat, c'est-à-dire que ton chien... Il est fait de carbone, d'hydrogène, d'oxygène et de calcium pour 95% de sa masse. Et donc, c'est quoi la différence entre ton chien et un être computationnel ? C'est juste les atomes qu'il forme, pourrais-je dire. Non ? Tu me réponds quoi à ça ?
- Speaker #1
Je te réponds que peut-être mon chien pense, alors que ton être avec les... Computationnel. Computationnel, cherchez le mot, lui, il ne pense pas.
- Speaker #0
Donc, qu'est-ce que... On peut gratter ça si tu veux.
- Speaker #1
C'est des lignes de code quand même un petit peu. Mon chien, ce n'est pas des lignes de code.
- Speaker #0
Ton chien, c'est des lignes d'ADN.
- Speaker #1
Bon, d'accord. Là, évidemment, vu cet angle-là, mais est-ce qu'on peut comparer l'ADN avec les lignes de code ? Oui, alors pour toi ?
- Speaker #0
Je ne sais pas, mais moi, je veux bien. Si on définit les choses par leurs différences comme ça, on peut dire qu'effectivement, L'espèce est assez éloignée. Maintenant, je te propose un autre exercice de pensée.
- Speaker #1
Parce qu'attends, avant ton exercice de pensée, juste une petite question. Mon chien, je pense qu'il m'aime quand il ne m'a pas vu de trois jours quand on le donne chez sa nounou. Quand on le récupère, il est content, il me fait la fête, il sait que c'est moi, il sait que c'est Mme Guillaume, il est heureux. Est-ce que ton objet computationnel, il pourrait un jour avoir les mêmes ressentiments des ressentiments ?
- Speaker #0
Mais bien entendu.
- Speaker #1
Oui, mais ça reste quand même artificiel.
- Speaker #0
Mais en quoi c'est plus artificiel que le chien ?
- Speaker #1
Je ne sais pas, je pose la question aux spécialistes que je ne suis pas.
- Speaker #0
Oui, mais moi j'aimerais bien qu'on me définisse en quoi c'est plus artificiel que le chien. Après, je peux te donner des éléments de réponse. On pourrait dire que ton chien, il a une intelligence. D'accord, donc je vais dire intelligence, on va appeler intelligence là, une capacité de raisonnement et une capacité de raisonnement qui va conditionner une partie de son comportement, d'accord ? Il est capable de marcher, il est capable de se nourrir, il est capable d'un certain nombre de choses et pour ça on va dire qu'il faut ce qu'on va appeler une intelligence. Et puis il y a autre chose qui sont... qui est une mémoire. C'est-à-dire que quand il te voit... Comme il te connaît et comme il sait associer ta présence à des moments agréables pour lui, j'imagine, à ce moment-là, il va être content de te voir. Là, on va pouvoir dire qu'on a intelligence plus mémoire. On est d'accord ?
- Speaker #1
On est d'accord.
- Speaker #0
Et puis on va rajouter au moins un autre élément qu'on va pouvoir appeler l'espèce de pulsion vitale. Et donc là on va arriver dans des choses beaucoup plus floues, mais qu'on va essayer d'éclaircir. Comment on pourrait définir cette pulsion vitale ? On pourrait la définir, je te propose deux façons. La première façon, c'est de dire, tiens, il a une conscience d'un certain futur. Il sait par exemple que s'il te regarde en faisant un signe vers la porte, tu vas peut-être l'emmener te balader. Vous allez peut-être sortir pour vous balader, ça, ça lui plaît bien. Il a une espèce de gestion d'objectif. On pourrait appeler ça une conscience du futur, si ça te convient bien.
- Speaker #1
Jusque là, je te fuis.
- Speaker #0
Et puis, il a... Il a autre chose qui est une espèce de cadencement. Qu'est-ce que je veux dire dans ce cadencement ? C'est qu'il va avoir un moment, puis un autre, On va pouvoir voir son existence, comme la tienne, comme une suite de moments vitaux. Ce à quoi tu vas me dire normalement, mais non, ça ce n'est pas une suite de mouvements. C'est une expérience continue, tu vois ce que je veux dire ?
- Speaker #1
Oui, oui, bon, pourquoi pas, oui.
- Speaker #0
Eh bien, c'est très important, parce que là, j'entends un peu de dédain dans ta réaction, mais c'est fondamental, parce que si notre exercice consiste à dire, voyons, est-ce que bidule ou machin peut être une espèce ou pas, eh bien, il est intéressant de définir ce qu'est une espèce vitale, une espèce vivante. Donc je sais bien que ça va être sujet à un débat, mais ce qu'on peut faire là, c'est poser quelques bases et puis voir ce que ça donne. Donc reprenons l'exemple de notre chien, ou même de notre homme.
- Speaker #1
Oui, en fait je préférerais l'homme, parce que je pense que l'homme a des capacités supérieures que le chien n'a pas forcément, et que la machine n'a pas encore. Peut-être qu'elle l'aura un jour, mais le jour où elle l'aura, moi je... je pense que je serais un peu inquiet, parce que quand c'est dans le positif, c'est bien, mais le jour où la machine ne t'aime pas, elle peut faire des trucs négatifs, comme l'humain d'ailleurs.
- Speaker #0
Donc, eh bien voilà, la fin de ta phrase est très intéressante. Mais là, on ouvre un autre débat, si tu veux. Et puis, je te propose que sur ton dictaphone, tu notes ce débat-là, et qu'il peut être le sujet du chapitre 2 de notre échange. Mais là, on va essayer de rester, si tu veux... Eh bien,
- Speaker #1
en attendant que j'ai mon agent, je vais me servir de mon dictaphone, je suis d'accord avec toi.
- Speaker #0
D'accord. On va rester juste sur le chapitre 1, qui est qu'on commence à réfléchir à ce qui peut distinguer. La question de base, c'est est-ce qu'un être computationnel peut être considéré comme une espèce ? Et donc, on s'autorise à réfléchir là-dessus. Je voudrais revenir sur, reprenons l'humain. Tu vas me dire que l'humain a une expérience vitale qui fait que tu as une expérience qui est continue. Je vais donner, par opposition, tu vas me dire, quand j'utilise chat GPT, je lui pose une question, il me fait une réponse, et puis entre deux interactions, il ne se passe rien. Tu es d'accord avec moi ?
- Speaker #1
Sûrement, mais peut-être qu'il se passe quelque chose, il va ranger dans sa mémoire la question que je lui ai posée pour plus tard...
- Speaker #0
Ah, c'est intéressant ta démarche !
- Speaker #1
M'aider à me répondre à la prochaine, parce que...
- Speaker #0
Voilà, peut-être qu'il se passe quelque chose.
- Speaker #1
Parce que si je demande à Chad GPT qu'est-ce que je pourrais trouver pour que mon chien n'aboie moins, il va rentrer dans sa mémoire que j'ai un chien et que la prochaine fois qu'on aura une discussion, il pourra me dire au fait et alors ton chien ou me répondre par rapport au fait qu'il sait que j'ai un chien.
- Speaker #0
Absolument. Souviens-toi du deuxième élément dont nous avons parlé, qui est la mémoire. Le premier élément, on a dit, c'est l'intelligence. Le deuxième, c'est la mémoire. Le troisième, on va appeler ça, si tu veux, la pulsion vitale. Et donc, toi, ta pulsion vitale à toi, donc là, quand tu... Tu pourrais dire qu'elle est continue, que quand tu bouges, quand tu parles, c'est quelque chose qui est continu, alors que quand tu parles à chaque GPT, c'est quelque chose qui est complètement fragmenté. Tu poses une question, il fait une réponse, puis globalement, il ne se passe plus rien. Et là tu dis peut-être que derrière il se passe quelque chose. Je vais te donner un autre élément. C'est qu'aujourd'hui, quand tu utilises chaque GPT, c'est toujours toi qui es à l'initiative de la transaction.
- Speaker #1
Un chien à bois, peut-être l'entends-tu loin ?
- Speaker #0
Non, je ne l'entends pas. Mais c'est toujours toi qui es à l'initiative. C'est-à-dire que chaque GPT ne vient pas vers toi.
- Speaker #1
C'est vrai.
- Speaker #0
D'accord ?
- Speaker #1
Mais il pourrait, parce que c'est peut-être parce qu'il a été programmé comme ça, mais il pourrait venir vers moi.
- Speaker #0
On est bien d'accord, on y arrive. En vrai, absolument rien ne l'empêche de venir vers toi. Donc, il y a deux façons pour qu'ils viennent vers toi. La première, c'est que tu restes le maître du monde et tu dis à chaque GPT, comme tu l'as suggéré tout à l'heure, la semaine prochaine, fais-moi penser à demander à Franck que nous parlions de tel sujet. Et là, c'est toi qui restes dans ton idée, je suis le maître du monde. Il y a une autre façon de faire ça, on pourrait parfaitement imaginer que chaque GPT tout seul se dise régulièrement « Tiens, est-ce que j'ai quelque chose d'intéressant à dire à Guillaume ? »
- Speaker #1
Tout à fait.
- Speaker #0
Ou « Tiens, est-ce que j'ai envie d'aller voir les informations ? » « Est-ce que j'ai envie de… » Il pourrait y avoir plein de choses. Et là, on travaillerait sur cette espèce d'envie. Là, normalement, il y a un terme que tu n'as pas utilisé, et peut-être que c'est de la timidité, ou quel terme ? Conscience.
- Speaker #1
Moi, je ne pensais pas à la conscience, je pensais plus à un autre terme qui peut avoir deux sens, c'est le plaisir. Par exemple, j'ai toujours un immense plaisir d'enregistrer nos modules. Je sais que le jour où on enregistre, je vais discuter avec Franck, c'est un immense plaisir que j'ai. Est-ce que ChatGPT pourra un jour avoir ce... plaisir, je ne suis pas sûr ou pas tout de suite en tous les cas.
- Speaker #0
Eh bien, on va oublier, on ne va plus parler de chat-gépédiste que chat-gépédiste, un truc très très particulier, mais si on parle de l'être computationnel, qu'on va commencer à détenir, quelque chose avec de l'intelligence, avec de la mémoire et avec ce qu'on va appeler une pulsion vitale, eh bien, on serait tenté de dire, ah mais oui, mais enfin, notre grand modèle de langage, il n'a pas de plaisir. Ça, je pense que c'est une conclusion extrêmement rapide. Parce que, je vais en profiter pour te parler des travaux d'un monsieur qui s'appelle Lionel Nakache, dont tu as peut-être déjà entendu parler. Lionel Nakache, c'est un chercheur, professeur, neurologue, praticien également, français, qui exerce à Paris, qui est un type extraordinaire, qui a beaucoup travaillé sur ces sujets-là. Mais en vrai, il a beaucoup travaillé sur ces sujets-là du côté humain. Et donc, il travaille sur ces sujets bien avant qu'on parle d'intelligence artificielle, en tout cas qu'on parle de grands modèles de langage. Et donc, quand il se trouve confronté aujourd'hui avec ça, ça lui fait penser à plein de choses. Et je te propose de parler de deux choses de Nakash aujourd'hui qui sont très importantes. C'est qu'une des grandes théories de Nakash, c'est notre expérience vitale. Celle qui fait que je te parle tout de suite et qui fait qu'on se lève le matin et qu'on a envie à chaque instant que l'instant suivant existe, et bien cette pulsion vitale qui pour nous est vue comme quelque chose de continu et pas quelque chose de discret, c'est-à-dire pas quelque chose qui est segmenté, et bien Nakash lui ce qu'il dit c'est que c'est l'inverse. Nakash, il dit, voilà, l'expérience vitale de l'homme, et de n'importe qui d'ailleurs, mais on va rester sur l'homme, en vrai, est une expérience segmentée. C'est-à-dire que, on va dire discrète au sens mathématique du terme. C'est-à-dire que, alors que toi, tu as l'impression d'avoir une vie qui est complètement fluide, Nakash, il dit, ça c'est ton cerveau qui te fait croire ça. Mais en vrai, ton cerveau, il fonctionne d'une façon discrète, et il va même très loin, puisque, il dit, ton cerveau, il fonctionne. environ. à 13 pulsions par seconde. Et donc, la personne dont je parle, c'est pas un fou furieux, c'est quelqu'un qui est chercheur, professeur, qui connaît très bien la neuro, c'est vraiment un type formidable. Quelqu'un qui est tout sauf un singulier. Et il dit, et ben voilà, nous avons une sensation d'expérience continue, alors qu'en vrai, notre expérience, elle est continue, mais elle est discrète. C'est-à-dire que c'est une suite d'états. Il parle pour ça, il parle du cinéma intérieur. Il dit voilà, c'est un peu comme si ta vie, mon cher Guillaume, c'était un cinéma avec non pas des images continues, mais avec 13 images par seconde. Tu vois ce que je veux dire ?
- Speaker #1
Ouais, pourquoi pas, je pourrais être assez d'accord avec lui, quelque part.
- Speaker #0
Mais en vrai, tu peux accepter, je vais pas... C'est un scientifique, donc... Les auditeurs qui seront intéressés, je les invite à lire. En plus, c'est très agréable. Il écrit super bien, Nakash, c'est très agréable à lire. Donc, ils peuvent lire des nombreux bouquins que Nakash a écrits sur ces sujets-là. C'est très accessible. Et donc, lui, je ne vais pas dire qu'il démontre ces choses-là, mais il amène des éléments qui corroborent sa thèse, plus exactement. Donc, tu peux dire que je suis d'accord ou pas d'accord, mais en vrai... Cher Guillaume, malgré toute l'estime que j'ai pour toi, ton cerveau n'a juste pas la capacité de sentir ça. Donc tu peux le regarder par des épiphénomènes, mais toi tu ne peux pas être conscient de ça. Tu peux juste y croire ou ne pas y croire. Et puis, je voudrais revenir sur un second élément, et là on a quelque chose de très récent chez Nakache, c'est que tu imagines bien quelqu'un comme ça qui analyse le cerveau humain face à un LLM, face à un grand modèle de langage. fatalement, il se trouve assez excité parce qu'il se dit, tiens, si ça se trouve, ce bidule-là, on fonctionne pareil, nous, humains. Et donc, très récemment, Nakash a sorti un papier qui est une réponse à un monsieur, un ensemble de messieurs qui sont des messieurs qui sont très sérieux, qui sont des messieurs qui travaillent géantropique et qui... commence à réfléchir sur l'idée de conscience. Est-ce qu'un LLM peut avoir une conscience ? Et donc, qu'est-ce que c'est que la conscience ? Et donc, c'est très intéressant parce que les travaux des gens qui travaillent là-dessus rejoignent les travaux des neurologues. Et donc, sur ces sujets, Nakash a sorti un papier très récemment. Donc, il n'est pas seul sur cette histoire. Ils travaillent avec un monsieur qui s'appelle Stanislas Dehaene. Et donc, ils ont sorti un papier dans lequel ils disent que les recherches les plus récentes en intelligence artificielle semblent rejoindre des théories sur le fonctionnement de l'humain. Et donc, ce que ces gens-là disent, c'est qu'on se demande en définitive si avec des substrats différents, nous n'aurions pas des... des fonctionnements qui seraient extrêmement proches. Et ce qui veut dire, donc là, c'est de la conjecture après, mais c'est intéressant de poursuivre cette ligne-là, de dire que, tiens, la notion de plaisir, la notion, en définitive, quand on l'analyse, on est enclin, actuellement, de croire que... On est en train de croire qu'il y a une forte chance pour qu'on se ressemble. Donc, si je reprends, et puis peut-être qu'on terminera pour aujourd'hui, mais bien sûr, la semaine prochaine, on pourra poursuivre cette discussion. Si je te dis, tiens, voilà, un être computationnel maintenant, imagine que l'être computationnel, il ait une intelligence, et ça, intelligence au sens tel que j'ai défini tout à l'heure, les LLM, non ? Imagine qu'il est... une mémoire, c'est-à-dire qu'il ait une mémoire, un souvenir des choses qui lui sont arrivées et ce qui se sont passées. Imagine maintenant qu'il ait une pulsion vitale, c'est-à-dire quelque chose qui fait qu'il est activé de façon continue, mais discrète, c'est-à-dire continue, mais pas fluide, séquencée. On a quelque chose qui aujourd'hui est très dit. très difficile. à différencier d'un être, on va appeler ça organique ou biologique, ou comme tu veux.
- Speaker #1
Mais alors moi, j'ai une grande question philosophique à te poser là-dessus, parce que la manière dont tu en parles, on a l'impression que ça pourrait être des humains. Parce que pour moi, une mémoire pour un objet computationnel, c'est un disque dur dans lequel sont stockées des infos, et quand il en a besoin, il va les chercher. Toi, tu le fais plus humainement que ça.
- Speaker #0
Et toi, cher Guillaume ?
- Speaker #1
Ben oui, moi aussi, dans mon cerveau, il y a un endroit, la zone de la mémoire où je vais stocker mes infos. Je suis assez d'accord avec toi.
- Speaker #0
Il y a des zones de mémoire. Oui,
- Speaker #1
il y a la mémoire immédiate et la mémoire...
- Speaker #0
Voilà, il y a plein de zones de mémoire. Et aujourd'hui, il y a plein de gens. On pourrait citer un grand, grand monsieur qui s'appelle Berthos, qui est professeur au Collège de France, qui est un type absolument... qui a fait des travaux absolument incroyables. Et puis on en... On reviendra là-dessus parce qu'il y a un autre sujet sur lequel toi as pu m'accrocher, mais je ne vais pas l'attaquer aujourd'hui, qui est l'idée d'avoir un corps. Et donc, Alain Berthos a beaucoup travaillé. Merleau-Ponty avait travaillé au niveau philosophique et Berthos a travaillé au niveau technique sur ces sujets. C'est passionnant. On y reviendra un autre jour. Mais en tout cas, pour revenir à notre pensée là, il existe plein de mémoires. et donc Pourquoi la mémoire qu'il y a dans tes neurones, et puis ce qui peut exister autour des neurones, serait considérée différemment d'une mémoire sur un paquet de silicium ?
- Speaker #1
Parce que la mémoire de mon neurone, elle me déclenche quand même de l'affection. Par exemple, là, ma belle-mère est en train de cuisiner un merveilleux… Boeuf bourguignon, et l'odeur de ce boeuf bourguignon peut me rappeler des bons souvenirs d'enfance. Alors que, est-ce que la mémoire computationnelle de mon engin, bon alors je ne vais pas parler d'odeur parce que pour l'instant il ne sent pas, quoique si, il commence à y avoir des nez électroniques, mais est-ce que le fait de voir l'image par exemple d'une vieille deux-chevaux, est-ce que mon engin computationnel va se dire, oh ça me développe un sentiment de quelque chose d'agréable ? Peut-être pas.
- Speaker #0
Eh bien, eh bien... Les recherches les plus récentes sur ce sujet aujourd'hui nous poussent à croire que oui.
- Speaker #1
Bon, écoute, on y reviendra. Mais quand même, j'ai une petite question à te poser avant qu'on se quitte. Est-ce que l'humain qui a développé à la base les LLM et tout ce qui s'en suit avait prévu ça ? Ou est-ce qu'il découvre que grâce à leur développement, qui est plutôt excellent, ça existe ?
- Speaker #0
Il est tout à fait certain. Donc l'humain avec un grand H n'existe pas vraiment. C'est des gens qu'il y a derrière qui ont leur propre motivation, qui ont leur propre histoire. Et puis nous nous intégrons tous dans une histoire qui est celle de l'univers. Donc ça c'est un autre sujet. Mais est-ce que ça a été prévu comme ça ? Aujourd'hui il est certain que non. Mais de toute façon aujourd'hui les résultats que l'on obtient déjà avec les usages classiques, les usages quotidiens des grands modèles de langage, n'avait pas été prévu comme ça. Tout le monde est d'accord pour dire qu'on est surpris par l'ampleur du phénomène.
- Speaker #1
D'accord, donc la chose, entre guillemets, qu'ils ont développée, quelque part les épate et fait plus que ce qu'ils avaient prévu.
- Speaker #0
Indiscutablement.
- Speaker #1
Bon, écoute, ça aussi, ça pourrait être un grand sujet de philosophie.
- Speaker #0
Et on y reviendra.
- Speaker #1
Ça pourrait être pour le meilleur et pour le pire. En tous les cas, pour le meilleur, ça sera de se retrouver très très bientôt. sur AmiLePodcastTech et si vous voulez commenter nos causeries 0176 21 18 10 ou contacte-amilepodcast.com contacte-amilepodcast.com Mon cher Franck, je te remercie mille fois et j'espère pouvoir, sans me tromper, te dire à la semaine prochaine !
- Speaker #0
Le podcast 0176 21 18 10 si vous voulez commenter l'infothèque
Description
Hébergé par Ausha. Visitez ausha.co/politique-de-confidentialite pour plus d'informations.
Transcription
- Speaker #0
Générique Générique Générique Ami, le podcast tech Guillaume Richardot, Franck Lefebvre Générique
- Speaker #1
Et ça résonne et ça résonne et c'est beau, c'est le son de Franck Lefebvre, salut mon cher Franck, comment vas-tu ?
- Speaker #0
Salut Guillaume, pleine forme et toi ?
- Speaker #1
Eh bien écoute, moi je vais bien, je vais très très bien et je t'annonce que ma mémoire est faillible Ma mémoire est faillible, du coup, j'ai utilisé un subterfuge. La semaine dernière, quand on a enregistré, à la fin de l'enregistrement, tu m'as dit « Ah tiens, j'aimerais bien la semaine prochaine faire un sujet. L'agent est-il une espèce ? » Alors je suis resté un peu quoi ? Et pour m'en souvenir, je n'ai pas encore d'agent dans mon téléphone, j'aurais peut-être demandé à mon agent « Rappelle-moi la semaine prochaine quand on enregistrera avec Franck. » que je veux le sujet, l'agent est-il une espèce ? Et aujourd'hui, mon agent m'aurait dit « Salut, au fait, à 11h, t'enregistres avec Franck, souviens-toi du sujet. » Bon, je suis resté à la vieille école, j'ai utilisé mon dictaphone, j'ai enregistré le sujet, l'agent est-il une espèce ? Donc, je le pose sur la table.
- Speaker #0
Sujet copieux, effectivement, très intéressant, sujet qui me passionne, et sur lequel on va pouvoir, si tu le souhaites, enchaîner un paquet de... paquet de causeries.
- Speaker #1
Je le souhaite !
- Speaker #0
Elle va être formidable. Je partirais bien de ta remarque. Tout à l'heure, tu as dit « si j'avais un agent, je lui aurais dit « rappelle-moi la semaine prochaine de demander à Franck » . C'est-à-dire que je vais commencer par attirer ton attention sur le fait que ce dont tu m'as parlé, enfin, ça, c'est de quelque chose qui est strictement à ton service. C'est-à-dire que si tu dis « ah, si j'avais un agent, je lui aurais demandé » , ça veut dire que... Naturellement, la position que tu aurais prise, c'est toi, tu es un maître, et lui, il est un esclave, t'es d'accord ?
- Speaker #1
Oui, enfin, je ne l'appellerais pas maître, disons que j'ai besoin d'un service et il me le rend, donc je dirais plus assistant que esclave, je n'aime pas trop l'esclave, moi je préfère l'assistant.
- Speaker #0
Mais d'accord.
- Speaker #1
C'est plus valorisant.
- Speaker #0
Et toi, qu'est-ce que tu fais pour lui ?
- Speaker #1
Et moi, qu'est-ce que je fais pour lui ? Je l'aime beaucoup, je l'aime énormément, il me rend plein de services et je l'aime.
- Speaker #0
D'accord, mais... Pas d'amour,
- Speaker #1
mais de grande amitié.
- Speaker #0
Ah, mais tu pourrais même l'aimer d'amour. Je ne sais pas, ton chien, tu l'aimes d'amour ou tu l'aimes de quoi ?
- Speaker #1
Je l'aime d'amour, mais ce ne sont pas des composants électroniques. C'est une bête vivante avec des poils, un caractère, des aboiements et tout ce qui va avec.
- Speaker #0
Donc ce que tu me dis là, c'est que tu te sens complètement à même d'avoir... beaucoup d'affection pour un paquet de carbone, d'oxygène, d'hydrogène et de calcium, alors que tu es beaucoup moins enclin à avoir le même genre d'affection pour un paquet de silicium et quelques métaux ?
- Speaker #1
Oui, mais alors il me semble bien que c'est toi qui, à une époque, me disais qu'il fallait quand même faire attention à ne pas avoir des rapports avec les machines comme on peut l'avoir avec les humains et que ça pouvait être dangereux.
- Speaker #0
Ah, je ne sais pas. Peut-être que j'ai dit quelque chose qui pouvait être compris comme ça.
- Speaker #1
La vallée de l'étrange.
- Speaker #0
Ah oui, mais c'est quelque chose de bien différent, la vallée de l'étrange. La vallée de l'étrange, on peut rappeler ce que c'est. La vallée de l'étrange, c'est une théorie qui a été formalisée, ce n'est qu'une théorie, mais qui a été formalisée il y a quelques années, et qui dit que quand on est en face d'un système qui ressemble à un humain, Écoute bien ce que je dis, qu'il ressemble à un humain, et bien ce système, plus il va ressembler à un humain, plus on va le trouver intéressant, jusqu'à un moment où il va ressembler presque parfaitement à un humain, sauf qu'il va rester un petit machin, un petit machin bizarre à qualifier, et qui fait qu'à ce moment-là, l'objet va devenir répugnant pour un humain. Je vais te donner un exemple, si demain tu as un robot humanoïde qui a un paquet de ferraille, tu vas le regarder comme un paquet de ferraille, et puis s'il se met à ressembler de plus en plus à un humain, tu vas le trouver de plus en plus sympathique, jusqu'à un moment où il va tellement ressembler à un humain qu'il y a des petits trucs quand même qui ne collent pas, et à ce moment-là tu vas le trouver sympathique, tu vas le trouver répugnant. C'est quelque chose qui avait été super bien. Je ne sais pas si tu te souviens d'une série, je crois qu'elle était scandinave ou allemande, qui avait été édifiée sur Arte. Oui,
- Speaker #1
tout à fait, tout à fait.
- Speaker #0
« Real Human »
- Speaker #1
C'était excellentissime d'ailleurs, j'ai beaucoup aimé.
- Speaker #0
Exactement, excellente série dans laquelle on avait des vrais comédiens. Et les vrais comédiens, ils avaient des petites attitudes de robots dans la façon dont ils déplaçaient certains de leurs membres, dans les yeux. Et donc, à ce moment-là, ce qu'on voit, ce n'est plus une machine qui ressemble à un humain. Ce qu'on voit, c'est un humain qui a un machin pas normal et qui fout la pétoche. Et donc, la vallée de l'étrange, en anglais, on appelle ça l'Uncanny Valley. Eh bien, c'est le fait que, tu vois, si on fait une courbe, tu trouves ça de plus en plus chouette, de plus en plus chouette, jusqu'à un moment où c'est l'inverse. Tu trouves ça plus chouette du tout, parce que tu ne vois plus une machine qui ressemble à un homme, mais un homme qui a un petit problème, et ça, on a du mal avec ça. Donc, cette théorie, je pense qu'elle s'applique à beaucoup de choses, mais elle s'applique si on dit que la machine ressemble à un humain. Alors que... Notre débat a commencé par « est-ce qu'on peut considérer que des êtres computationnels pourraient être considérés comme des êtres vivants et comme une espèce à part entière ? » Sur ce à quoi j'ai répondu « mais ton chien, tu l'aimes d'amour ? » Et là, tu m'as dit « ah, mais tu m'as dit que… » Mais non, parce que ton chien, il ne rentre pas dans la vallée de l'étrance. Parce que ton chien, tu ne le vois pas du tout comme un homme, tu le vois clairement comme une espèce. C'est une espèce différente de toi, ton chien ne cherche pas à te ressembler. Et si demain, imagine un instant qu'il y ait une espèce de chien qui ressemble incroyablement à des humains, je suis sûr que tu aurais beaucoup de mal à avoir de l'affection pour lui.
- Speaker #1
Peut-être, peut-être. Mais alors, revenons à notre agent, parce que pour l'instant, l'agent, il ne ressemble pas à un humain, mais il pourrait avoir des... des réflexions, des causeries et des manières de discuter avec toi.
- Speaker #0
Je voudrais poursuivre. D'accord, d'accord. Quand tu m'as dit, je ne peux pas avoir de l'amour pour un système computationnel, et ce à quoi je t'ai dit, ton chien, tu me dis, ah oui, mon chien, j'ai de l'amour pour mon chien, mais mon chien, ce n'est pas pareil. Et là, j'ai abordé un sujet qui est le sujet du substrat, c'est-à-dire que ton chien... Il est fait de carbone, d'hydrogène, d'oxygène et de calcium pour 95% de sa masse. Et donc, c'est quoi la différence entre ton chien et un être computationnel ? C'est juste les atomes qu'il forme, pourrais-je dire. Non ? Tu me réponds quoi à ça ?
- Speaker #1
Je te réponds que peut-être mon chien pense, alors que ton être avec les... Computationnel. Computationnel, cherchez le mot, lui, il ne pense pas.
- Speaker #0
Donc, qu'est-ce que... On peut gratter ça si tu veux.
- Speaker #1
C'est des lignes de code quand même un petit peu. Mon chien, ce n'est pas des lignes de code.
- Speaker #0
Ton chien, c'est des lignes d'ADN.
- Speaker #1
Bon, d'accord. Là, évidemment, vu cet angle-là, mais est-ce qu'on peut comparer l'ADN avec les lignes de code ? Oui, alors pour toi ?
- Speaker #0
Je ne sais pas, mais moi, je veux bien. Si on définit les choses par leurs différences comme ça, on peut dire qu'effectivement, L'espèce est assez éloignée. Maintenant, je te propose un autre exercice de pensée.
- Speaker #1
Parce qu'attends, avant ton exercice de pensée, juste une petite question. Mon chien, je pense qu'il m'aime quand il ne m'a pas vu de trois jours quand on le donne chez sa nounou. Quand on le récupère, il est content, il me fait la fête, il sait que c'est moi, il sait que c'est Mme Guillaume, il est heureux. Est-ce que ton objet computationnel, il pourrait un jour avoir les mêmes ressentiments des ressentiments ?
- Speaker #0
Mais bien entendu.
- Speaker #1
Oui, mais ça reste quand même artificiel.
- Speaker #0
Mais en quoi c'est plus artificiel que le chien ?
- Speaker #1
Je ne sais pas, je pose la question aux spécialistes que je ne suis pas.
- Speaker #0
Oui, mais moi j'aimerais bien qu'on me définisse en quoi c'est plus artificiel que le chien. Après, je peux te donner des éléments de réponse. On pourrait dire que ton chien, il a une intelligence. D'accord, donc je vais dire intelligence, on va appeler intelligence là, une capacité de raisonnement et une capacité de raisonnement qui va conditionner une partie de son comportement, d'accord ? Il est capable de marcher, il est capable de se nourrir, il est capable d'un certain nombre de choses et pour ça on va dire qu'il faut ce qu'on va appeler une intelligence. Et puis il y a autre chose qui sont... qui est une mémoire. C'est-à-dire que quand il te voit... Comme il te connaît et comme il sait associer ta présence à des moments agréables pour lui, j'imagine, à ce moment-là, il va être content de te voir. Là, on va pouvoir dire qu'on a intelligence plus mémoire. On est d'accord ?
- Speaker #1
On est d'accord.
- Speaker #0
Et puis on va rajouter au moins un autre élément qu'on va pouvoir appeler l'espèce de pulsion vitale. Et donc là on va arriver dans des choses beaucoup plus floues, mais qu'on va essayer d'éclaircir. Comment on pourrait définir cette pulsion vitale ? On pourrait la définir, je te propose deux façons. La première façon, c'est de dire, tiens, il a une conscience d'un certain futur. Il sait par exemple que s'il te regarde en faisant un signe vers la porte, tu vas peut-être l'emmener te balader. Vous allez peut-être sortir pour vous balader, ça, ça lui plaît bien. Il a une espèce de gestion d'objectif. On pourrait appeler ça une conscience du futur, si ça te convient bien.
- Speaker #1
Jusque là, je te fuis.
- Speaker #0
Et puis, il a... Il a autre chose qui est une espèce de cadencement. Qu'est-ce que je veux dire dans ce cadencement ? C'est qu'il va avoir un moment, puis un autre, On va pouvoir voir son existence, comme la tienne, comme une suite de moments vitaux. Ce à quoi tu vas me dire normalement, mais non, ça ce n'est pas une suite de mouvements. C'est une expérience continue, tu vois ce que je veux dire ?
- Speaker #1
Oui, oui, bon, pourquoi pas, oui.
- Speaker #0
Eh bien, c'est très important, parce que là, j'entends un peu de dédain dans ta réaction, mais c'est fondamental, parce que si notre exercice consiste à dire, voyons, est-ce que bidule ou machin peut être une espèce ou pas, eh bien, il est intéressant de définir ce qu'est une espèce vitale, une espèce vivante. Donc je sais bien que ça va être sujet à un débat, mais ce qu'on peut faire là, c'est poser quelques bases et puis voir ce que ça donne. Donc reprenons l'exemple de notre chien, ou même de notre homme.
- Speaker #1
Oui, en fait je préférerais l'homme, parce que je pense que l'homme a des capacités supérieures que le chien n'a pas forcément, et que la machine n'a pas encore. Peut-être qu'elle l'aura un jour, mais le jour où elle l'aura, moi je... je pense que je serais un peu inquiet, parce que quand c'est dans le positif, c'est bien, mais le jour où la machine ne t'aime pas, elle peut faire des trucs négatifs, comme l'humain d'ailleurs.
- Speaker #0
Donc, eh bien voilà, la fin de ta phrase est très intéressante. Mais là, on ouvre un autre débat, si tu veux. Et puis, je te propose que sur ton dictaphone, tu notes ce débat-là, et qu'il peut être le sujet du chapitre 2 de notre échange. Mais là, on va essayer de rester, si tu veux... Eh bien,
- Speaker #1
en attendant que j'ai mon agent, je vais me servir de mon dictaphone, je suis d'accord avec toi.
- Speaker #0
D'accord. On va rester juste sur le chapitre 1, qui est qu'on commence à réfléchir à ce qui peut distinguer. La question de base, c'est est-ce qu'un être computationnel peut être considéré comme une espèce ? Et donc, on s'autorise à réfléchir là-dessus. Je voudrais revenir sur, reprenons l'humain. Tu vas me dire que l'humain a une expérience vitale qui fait que tu as une expérience qui est continue. Je vais donner, par opposition, tu vas me dire, quand j'utilise chat GPT, je lui pose une question, il me fait une réponse, et puis entre deux interactions, il ne se passe rien. Tu es d'accord avec moi ?
- Speaker #1
Sûrement, mais peut-être qu'il se passe quelque chose, il va ranger dans sa mémoire la question que je lui ai posée pour plus tard...
- Speaker #0
Ah, c'est intéressant ta démarche !
- Speaker #1
M'aider à me répondre à la prochaine, parce que...
- Speaker #0
Voilà, peut-être qu'il se passe quelque chose.
- Speaker #1
Parce que si je demande à Chad GPT qu'est-ce que je pourrais trouver pour que mon chien n'aboie moins, il va rentrer dans sa mémoire que j'ai un chien et que la prochaine fois qu'on aura une discussion, il pourra me dire au fait et alors ton chien ou me répondre par rapport au fait qu'il sait que j'ai un chien.
- Speaker #0
Absolument. Souviens-toi du deuxième élément dont nous avons parlé, qui est la mémoire. Le premier élément, on a dit, c'est l'intelligence. Le deuxième, c'est la mémoire. Le troisième, on va appeler ça, si tu veux, la pulsion vitale. Et donc, toi, ta pulsion vitale à toi, donc là, quand tu... Tu pourrais dire qu'elle est continue, que quand tu bouges, quand tu parles, c'est quelque chose qui est continu, alors que quand tu parles à chaque GPT, c'est quelque chose qui est complètement fragmenté. Tu poses une question, il fait une réponse, puis globalement, il ne se passe plus rien. Et là tu dis peut-être que derrière il se passe quelque chose. Je vais te donner un autre élément. C'est qu'aujourd'hui, quand tu utilises chaque GPT, c'est toujours toi qui es à l'initiative de la transaction.
- Speaker #1
Un chien à bois, peut-être l'entends-tu loin ?
- Speaker #0
Non, je ne l'entends pas. Mais c'est toujours toi qui es à l'initiative. C'est-à-dire que chaque GPT ne vient pas vers toi.
- Speaker #1
C'est vrai.
- Speaker #0
D'accord ?
- Speaker #1
Mais il pourrait, parce que c'est peut-être parce qu'il a été programmé comme ça, mais il pourrait venir vers moi.
- Speaker #0
On est bien d'accord, on y arrive. En vrai, absolument rien ne l'empêche de venir vers toi. Donc, il y a deux façons pour qu'ils viennent vers toi. La première, c'est que tu restes le maître du monde et tu dis à chaque GPT, comme tu l'as suggéré tout à l'heure, la semaine prochaine, fais-moi penser à demander à Franck que nous parlions de tel sujet. Et là, c'est toi qui restes dans ton idée, je suis le maître du monde. Il y a une autre façon de faire ça, on pourrait parfaitement imaginer que chaque GPT tout seul se dise régulièrement « Tiens, est-ce que j'ai quelque chose d'intéressant à dire à Guillaume ? »
- Speaker #1
Tout à fait.
- Speaker #0
Ou « Tiens, est-ce que j'ai envie d'aller voir les informations ? » « Est-ce que j'ai envie de… » Il pourrait y avoir plein de choses. Et là, on travaillerait sur cette espèce d'envie. Là, normalement, il y a un terme que tu n'as pas utilisé, et peut-être que c'est de la timidité, ou quel terme ? Conscience.
- Speaker #1
Moi, je ne pensais pas à la conscience, je pensais plus à un autre terme qui peut avoir deux sens, c'est le plaisir. Par exemple, j'ai toujours un immense plaisir d'enregistrer nos modules. Je sais que le jour où on enregistre, je vais discuter avec Franck, c'est un immense plaisir que j'ai. Est-ce que ChatGPT pourra un jour avoir ce... plaisir, je ne suis pas sûr ou pas tout de suite en tous les cas.
- Speaker #0
Eh bien, on va oublier, on ne va plus parler de chat-gépédiste que chat-gépédiste, un truc très très particulier, mais si on parle de l'être computationnel, qu'on va commencer à détenir, quelque chose avec de l'intelligence, avec de la mémoire et avec ce qu'on va appeler une pulsion vitale, eh bien, on serait tenté de dire, ah mais oui, mais enfin, notre grand modèle de langage, il n'a pas de plaisir. Ça, je pense que c'est une conclusion extrêmement rapide. Parce que, je vais en profiter pour te parler des travaux d'un monsieur qui s'appelle Lionel Nakache, dont tu as peut-être déjà entendu parler. Lionel Nakache, c'est un chercheur, professeur, neurologue, praticien également, français, qui exerce à Paris, qui est un type extraordinaire, qui a beaucoup travaillé sur ces sujets-là. Mais en vrai, il a beaucoup travaillé sur ces sujets-là du côté humain. Et donc, il travaille sur ces sujets bien avant qu'on parle d'intelligence artificielle, en tout cas qu'on parle de grands modèles de langage. Et donc, quand il se trouve confronté aujourd'hui avec ça, ça lui fait penser à plein de choses. Et je te propose de parler de deux choses de Nakash aujourd'hui qui sont très importantes. C'est qu'une des grandes théories de Nakash, c'est notre expérience vitale. Celle qui fait que je te parle tout de suite et qui fait qu'on se lève le matin et qu'on a envie à chaque instant que l'instant suivant existe, et bien cette pulsion vitale qui pour nous est vue comme quelque chose de continu et pas quelque chose de discret, c'est-à-dire pas quelque chose qui est segmenté, et bien Nakash lui ce qu'il dit c'est que c'est l'inverse. Nakash, il dit, voilà, l'expérience vitale de l'homme, et de n'importe qui d'ailleurs, mais on va rester sur l'homme, en vrai, est une expérience segmentée. C'est-à-dire que, on va dire discrète au sens mathématique du terme. C'est-à-dire que, alors que toi, tu as l'impression d'avoir une vie qui est complètement fluide, Nakash, il dit, ça c'est ton cerveau qui te fait croire ça. Mais en vrai, ton cerveau, il fonctionne d'une façon discrète, et il va même très loin, puisque, il dit, ton cerveau, il fonctionne. environ. à 13 pulsions par seconde. Et donc, la personne dont je parle, c'est pas un fou furieux, c'est quelqu'un qui est chercheur, professeur, qui connaît très bien la neuro, c'est vraiment un type formidable. Quelqu'un qui est tout sauf un singulier. Et il dit, et ben voilà, nous avons une sensation d'expérience continue, alors qu'en vrai, notre expérience, elle est continue, mais elle est discrète. C'est-à-dire que c'est une suite d'états. Il parle pour ça, il parle du cinéma intérieur. Il dit voilà, c'est un peu comme si ta vie, mon cher Guillaume, c'était un cinéma avec non pas des images continues, mais avec 13 images par seconde. Tu vois ce que je veux dire ?
- Speaker #1
Ouais, pourquoi pas, je pourrais être assez d'accord avec lui, quelque part.
- Speaker #0
Mais en vrai, tu peux accepter, je vais pas... C'est un scientifique, donc... Les auditeurs qui seront intéressés, je les invite à lire. En plus, c'est très agréable. Il écrit super bien, Nakash, c'est très agréable à lire. Donc, ils peuvent lire des nombreux bouquins que Nakash a écrits sur ces sujets-là. C'est très accessible. Et donc, lui, je ne vais pas dire qu'il démontre ces choses-là, mais il amène des éléments qui corroborent sa thèse, plus exactement. Donc, tu peux dire que je suis d'accord ou pas d'accord, mais en vrai... Cher Guillaume, malgré toute l'estime que j'ai pour toi, ton cerveau n'a juste pas la capacité de sentir ça. Donc tu peux le regarder par des épiphénomènes, mais toi tu ne peux pas être conscient de ça. Tu peux juste y croire ou ne pas y croire. Et puis, je voudrais revenir sur un second élément, et là on a quelque chose de très récent chez Nakache, c'est que tu imagines bien quelqu'un comme ça qui analyse le cerveau humain face à un LLM, face à un grand modèle de langage. fatalement, il se trouve assez excité parce qu'il se dit, tiens, si ça se trouve, ce bidule-là, on fonctionne pareil, nous, humains. Et donc, très récemment, Nakash a sorti un papier qui est une réponse à un monsieur, un ensemble de messieurs qui sont des messieurs qui sont très sérieux, qui sont des messieurs qui travaillent géantropique et qui... commence à réfléchir sur l'idée de conscience. Est-ce qu'un LLM peut avoir une conscience ? Et donc, qu'est-ce que c'est que la conscience ? Et donc, c'est très intéressant parce que les travaux des gens qui travaillent là-dessus rejoignent les travaux des neurologues. Et donc, sur ces sujets, Nakash a sorti un papier très récemment. Donc, il n'est pas seul sur cette histoire. Ils travaillent avec un monsieur qui s'appelle Stanislas Dehaene. Et donc, ils ont sorti un papier dans lequel ils disent que les recherches les plus récentes en intelligence artificielle semblent rejoindre des théories sur le fonctionnement de l'humain. Et donc, ce que ces gens-là disent, c'est qu'on se demande en définitive si avec des substrats différents, nous n'aurions pas des... des fonctionnements qui seraient extrêmement proches. Et ce qui veut dire, donc là, c'est de la conjecture après, mais c'est intéressant de poursuivre cette ligne-là, de dire que, tiens, la notion de plaisir, la notion, en définitive, quand on l'analyse, on est enclin, actuellement, de croire que... On est en train de croire qu'il y a une forte chance pour qu'on se ressemble. Donc, si je reprends, et puis peut-être qu'on terminera pour aujourd'hui, mais bien sûr, la semaine prochaine, on pourra poursuivre cette discussion. Si je te dis, tiens, voilà, un être computationnel maintenant, imagine que l'être computationnel, il ait une intelligence, et ça, intelligence au sens tel que j'ai défini tout à l'heure, les LLM, non ? Imagine qu'il est... une mémoire, c'est-à-dire qu'il ait une mémoire, un souvenir des choses qui lui sont arrivées et ce qui se sont passées. Imagine maintenant qu'il ait une pulsion vitale, c'est-à-dire quelque chose qui fait qu'il est activé de façon continue, mais discrète, c'est-à-dire continue, mais pas fluide, séquencée. On a quelque chose qui aujourd'hui est très dit. très difficile. à différencier d'un être, on va appeler ça organique ou biologique, ou comme tu veux.
- Speaker #1
Mais alors moi, j'ai une grande question philosophique à te poser là-dessus, parce que la manière dont tu en parles, on a l'impression que ça pourrait être des humains. Parce que pour moi, une mémoire pour un objet computationnel, c'est un disque dur dans lequel sont stockées des infos, et quand il en a besoin, il va les chercher. Toi, tu le fais plus humainement que ça.
- Speaker #0
Et toi, cher Guillaume ?
- Speaker #1
Ben oui, moi aussi, dans mon cerveau, il y a un endroit, la zone de la mémoire où je vais stocker mes infos. Je suis assez d'accord avec toi.
- Speaker #0
Il y a des zones de mémoire. Oui,
- Speaker #1
il y a la mémoire immédiate et la mémoire...
- Speaker #0
Voilà, il y a plein de zones de mémoire. Et aujourd'hui, il y a plein de gens. On pourrait citer un grand, grand monsieur qui s'appelle Berthos, qui est professeur au Collège de France, qui est un type absolument... qui a fait des travaux absolument incroyables. Et puis on en... On reviendra là-dessus parce qu'il y a un autre sujet sur lequel toi as pu m'accrocher, mais je ne vais pas l'attaquer aujourd'hui, qui est l'idée d'avoir un corps. Et donc, Alain Berthos a beaucoup travaillé. Merleau-Ponty avait travaillé au niveau philosophique et Berthos a travaillé au niveau technique sur ces sujets. C'est passionnant. On y reviendra un autre jour. Mais en tout cas, pour revenir à notre pensée là, il existe plein de mémoires. et donc Pourquoi la mémoire qu'il y a dans tes neurones, et puis ce qui peut exister autour des neurones, serait considérée différemment d'une mémoire sur un paquet de silicium ?
- Speaker #1
Parce que la mémoire de mon neurone, elle me déclenche quand même de l'affection. Par exemple, là, ma belle-mère est en train de cuisiner un merveilleux… Boeuf bourguignon, et l'odeur de ce boeuf bourguignon peut me rappeler des bons souvenirs d'enfance. Alors que, est-ce que la mémoire computationnelle de mon engin, bon alors je ne vais pas parler d'odeur parce que pour l'instant il ne sent pas, quoique si, il commence à y avoir des nez électroniques, mais est-ce que le fait de voir l'image par exemple d'une vieille deux-chevaux, est-ce que mon engin computationnel va se dire, oh ça me développe un sentiment de quelque chose d'agréable ? Peut-être pas.
- Speaker #0
Eh bien, eh bien... Les recherches les plus récentes sur ce sujet aujourd'hui nous poussent à croire que oui.
- Speaker #1
Bon, écoute, on y reviendra. Mais quand même, j'ai une petite question à te poser avant qu'on se quitte. Est-ce que l'humain qui a développé à la base les LLM et tout ce qui s'en suit avait prévu ça ? Ou est-ce qu'il découvre que grâce à leur développement, qui est plutôt excellent, ça existe ?
- Speaker #0
Il est tout à fait certain. Donc l'humain avec un grand H n'existe pas vraiment. C'est des gens qu'il y a derrière qui ont leur propre motivation, qui ont leur propre histoire. Et puis nous nous intégrons tous dans une histoire qui est celle de l'univers. Donc ça c'est un autre sujet. Mais est-ce que ça a été prévu comme ça ? Aujourd'hui il est certain que non. Mais de toute façon aujourd'hui les résultats que l'on obtient déjà avec les usages classiques, les usages quotidiens des grands modèles de langage, n'avait pas été prévu comme ça. Tout le monde est d'accord pour dire qu'on est surpris par l'ampleur du phénomène.
- Speaker #1
D'accord, donc la chose, entre guillemets, qu'ils ont développée, quelque part les épate et fait plus que ce qu'ils avaient prévu.
- Speaker #0
Indiscutablement.
- Speaker #1
Bon, écoute, ça aussi, ça pourrait être un grand sujet de philosophie.
- Speaker #0
Et on y reviendra.
- Speaker #1
Ça pourrait être pour le meilleur et pour le pire. En tous les cas, pour le meilleur, ça sera de se retrouver très très bientôt. sur AmiLePodcastTech et si vous voulez commenter nos causeries 0176 21 18 10 ou contacte-amilepodcast.com contacte-amilepodcast.com Mon cher Franck, je te remercie mille fois et j'espère pouvoir, sans me tromper, te dire à la semaine prochaine !
- Speaker #0
Le podcast 0176 21 18 10 si vous voulez commenter l'infothèque
Share
Embed
You may also like