Description
Hébergé par Ausha. Visitez ausha.co/politique-de-confidentialite pour plus d'informations.
Description
Hébergé par Ausha. Visitez ausha.co/politique-de-confidentialite pour plus d'informations.
Transcription
Ami, le podcast tech, Guillaume Richardot, Franck Lefebvre.
Et oui, c'est un Franck Lefebvre, vous le reconnaissez grâce à grande clochette. Franck Lefebvre qui, comme moi-même, on ne prend pas de vacances cet été. Bienvenue dans Ami, le podcast tech et on est ravis. de vous parler de technologie et de plein d'autres choses d'ailleurs. On fait parfois un petit peu de philosophie dans notre podcast. Vas-tu bien mon cher Franck ?
Salut Guillaume, pleine forme. Tu sais, on ne peut pas faire, je pense, de la technologie sans faire de la philosophie. Science sans conscience n'est que ruine de l'âme.
Oh que c'est beau, que c'est beau. Bon, écoute, peut-être qu'on va parler de deux sujets aujourd'hui. Le premier que j'avais envie de traiter et avoir ton avis, et le deuxième qui serait la suite de notre podcast de la semaine dernière, que je vous conseille vivement d'écouter. Alors, moi, ma question est provocatrice, mon cher Franck. Et je vais te la poser, alors tu vas me dire, mais pourquoi tu me poses cette question ? Ou alors tu vas comprendre où je veux aller. Je vais te dire, est-ce que Internet est mort ?
Où veux-tu en venir, Guillaume ?
Eh bien, je veux en venir que ça y est, depuis peu, est en train de se déployer en France, ce qui est arrivé aux États-Unis il y a six mois. C'est-à-dire que quand tu fais une recherche Google, désormais, au lieu d'avoir la réponse sous forme de plein de liens qui t'emmènent vers des sites, eh bien désormais, c'est l'IA de Google qui te répond un peu à la manière de chat GPT. Certes, il peut y avoir les liens, mais beaucoup plus loin. Et du coup, ma question, c'était, est-ce que ça ne va pas tuer le bon vieil Internet ? Parce que s'ILIA te donne une réponse, du coup, tu ne vas pas cliquer sur des liens et tu ne vas pas aller voir les sites où éventuellement tu aurais trouvé la réponse. Et comme on va vers ce genre de solution de recherche, je voulais savoir ce que tu pensais par rapport à la vie d'Internet et des sites Internet qui vont prendre un coup dans l'aile.
Oui, je partage totalement ton opinion. c'est Donc, je ne dirais pas Internet, je dirais le Web, parce qu'on peut rappeler que ce qu'on appelle Internet, c'est ce protocole, cette technologie qui permet à des machines de parler les unes avec les autres. Et donc, bien entendu, aujourd'hui, on utilise beaucoup Internet pour faire du Web, mais Internet est utilisé pour faire plein d'autres choses que du Web aussi. Donc, ta question, bien sûr, c'est un vrai risque. Bon. certains te diront que Google avait déjà tué le web, puisqu'ils ont une position tellement hégémonique que quelque chose qui n'est pas visible sur Google n'est pas visible du tout. En tout cas, il n'est que difficilement visible par le grand public. Donc cet argument du « au lieu d'aller dans un tas d'endroits, on va à un seul endroit dans lequel on trouve tout, dans lequel on veut nous faire croire qu'on trouve tout » , il existait déjà depuis quelques années, je crois. avec Google. Tu partages mon avis ?
Oui, je partage ton avis, mais il fallait le chercher, tandis que là, maintenant, ça va être dans le moteur de recherche principal de Google.
Eh bien, ouais. Je ne sais pas si tu te souviens fatalement que... Ici, on a très souvent parlé tous les deux d'un sujet qui nous passionne, qui est celui de la voix. Et une des particularités de la voix, quand on a commencé à en parler ensemble il y a quelques années maintenant, C'est précisément que la voix permet à l'utilisateur, l'assistant vocal permet à l'utilisateur de bypasser le côté « l'information est à plein d'endroits » puisque quand tu parles à une machine, bien entendu, tu n'attends pas que la machine te dise « tiens, va voir sur tel site » , tu attends que la machine te donne juste le résultat. Et donc, ce que l'on anticipait... avec la voix et en train de se passer, mais pas seulement avec la voix, puisque effectivement, en utilisant des assistants OIA, on arrive à peu près au même résultat, à savoir qu'au lieu que le système, si je dis tiens, je voudrais aller au cinéma, au lieu que le système te dise tiens, tu peux aller chez Première, chez Allociné, et puis tu vas te balader d'un site à l'autre, effectivement, l'assistant OIA, lui, collecte ces informations. Il les ramène, il te les donne, ce qui veut dire que c'est un problème pour le modèle économique général du système, c'est un problème pour la démocratie, c'est un problème pour tout, donc je ne sais pas si je devrais dire problème. Le sens problème est un peu double en français actuellement. On emploie problème pour dire un truc qui est dérangeant et on emploie le terme problème pour dire aussi un sujet dont il faut s'occuper. Donc je dirais que c'est un sujet potentiellement dangereux dont il faut s'occuper. Après, on peut se dire comment on peut s'en occuper.
Attends, je te coupe, je te coupe, t'aimes bien que je te coupe.
parce que tu vas me dire,
c'est un problème, et moi je vais dire, pour certains, ça peut être une solution. Je prends mon exemple personnel que je raconte de temps en temps sur Ami le podcast tech, puisque ce n'est plus un secret. Pour nos fidèles auditrices et auditeurs, j'ai perdu tous mes pixels, je suis donc totalement aveugle, et pour moi c'est une aubaine, parce qu'avant, quand je demandais à mon téléphone, tiens, où est-ce que je pourrais trouver une bonne machine à café, mon abruti de téléphone me répondait, voilà ce que j'ai trouvé sur le web, genre Je t'envoie un lien et tu te débrouilles. Alors que l'avenir étant aussi bien avec Google qu'avec Amazon, qui vont tous glisser leurs IA dans leur bidule, quand je vais lui dire où est-ce que je peux trouver une bonne machine à café, il va me dire, bon alors, tu la veux comment ta machine à café ? Tu veux qu'elle soit à dosette, à pastille ? Tu veux que ça soit du café en grain ? Bon, ouais, je veux du café en grain. Bon, alors, moi je te dirais, va l'acheter là. Tiens, déjà, je te conseille ce modèle et ensuite tu vas l'acheter là. et là déjà Comme tu le disais tout à l'heure, je ne vais plus aller sur Internet, puisque mon glouglou ou mon Alexis va me donner la réponse toute moulue, sans faire de mauvais jeu de mots. Donc moi, pour moi, personnellement, ça va être un progrès.
Oui, c'est un progrès, mais le système ne va pas te dire, tiens, va là, je suis là. Il va te dire, tiens, je prends ton numéro de carte de crédit, puis je vais te le livrer tout de suite.
Oui, aussi. Voilà,
encore. Je comprends bien, mais comme tu sais, c'est la pomme de blanche neige. C'est-à-dire que bien sûr, il y a un avantage à court terme, mais il faut faire attention, il faut être vigilant à ce que cet avantage à court terme n'ait pas un coût supérieur à l'avantage à long terme. C'est-à-dire que si demain, effectivement, tu ne peux plus choisir ta machine à café, tu ne peux plus choisir ton café, tu vas te dire, Mais est-ce que vraiment... la facilité que j'ai eu à commander ma machine à café, est-ce que j'étais vraiment prêt, cette facilité, à la payer à ce prix-là ? C'est-à-dire au prix de l'absence de choix et au prix du fait que mon environnement est dirigé par un nombre réduit d'acteurs, voire un acteur unique.
Oui, tout à fait. Je prendrais un autre exemple qui va parler à tout le monde, c'est l'exemple des GPS. Maintenant que tout le monde suit son GPS, du coup, on regarde. plus les cartes, on ne sait plus vraiment où on va, on sait qu'il va nous emmener là où on veut aller, mais est-ce qu'il va nous faire prendre le meilleur chemin ?
Absolument. Et puis, tu n'as plus de balader, tu n'as plus à avoir le plaisir de te perdre et de découvrir des endroits formidables. Il y a un terme en anglais qui est la serenity. Souvent, on l'utilise en français, mais il n'est pas dans le dictionnaire. La serenity, c'est ce phénomène qui fait qu'en cherchant quelque chose, Et en t'égarant, en cherchant quelque chose, tu vas trouver quelque chose que tu ne serais jamais allé chercher spontanément, souvent parce que tu n'en connais pas l'existence, et qui pourtant va avoir un grand intérêt, va peut-être changer le reste de ta vie. Pour reprendre ta question, est-ce que l'Internet, j'ai corrigé, est-ce que le web... Est-ce que le web est mort ? Est-ce que le web est en train de mourir ? Je pense que le web qui s'en prenait déjà plein la tronche depuis longtemps, là, il est en train de se prendre un grand coup de massue. Et je serais bien... Comment dirais-je ? Je me garderais bien de faire des prévisions sur ces sujets. Mais il y a un sujet sur lequel je voudrais revenir. Tu vas voir, ça va faire le lien avec nos dernières causeries. C'est que pour faire ça, pour reprendre l'exemple de la cassière, tu dis tiens, je voudrais acheter une machine à café. Au lieu de t'envoyer comme un moteur de recherche vers des endroits où tu trouves des machines à café, si le bidule te donne directement la machine à café, ça veut dire qu'il faut qu'il y ait un opérateur derrière qui ait effectué ça. Tu comprends bien qui est…
Tout à fait.
Et donc, ça veut dire que toi, tu ne vas pas travailler avec 50 assistants. On peut penser que ta tendance va être d'utiliser un, peut-être deux, mais un. Et donc, ce un, il va devenir détenteur. Mais d'une partie très importante de la connaissance de toi, et même il va devenir hyper influent sur l'ensemble de ton comportement. Tu es d'accord avec moi ?
Tout à fait.
Ce qui veut dire que se pose la question du qui a le droit de faire ça ? À qui tu donnes l'autorisation de faire ça ? Et donc, comment ça va faire le joint avec notre discussion de la dernière fois ? notre discussion de la dernière fois, elle était sur le est-ce qu'on peut... considérer que sont en train d'arriver, basés sur de l'intelligence artificielle, des êtres computationnels qui pourraient pleinement être assimilés à une nouvelle espèce, une nouvelle espèce qui aurait ses propres règles, qui serait capable de communiquer avec nous, mais qui serait dotée de conscience, d'intelligence, de libre arbitre. Donc, on sait tout ce que ça peut sembler bizarre de parler de tout ça, mais... Mais la dernière fois, c'est vraiment un dossier qu'on a ouvert en profondeur, en disant, tiens, en définitive, qu'est-ce qui différencie un être humain d'un agent suffisamment évolué ? Ma réponse, elle était très proche du pas grand-chose, voire du rien du tout, en étant pleinement conscient de cette prise de position. peut avoir de surprenants, voire de choquants, voire de scandales. Donc, je reviens sur notre histoire. Si tu dis ça, si ton Google de demain, tu lui dis je veux acheter une machine à café, et s'il s'occupe de tout pour toi, ça veut dire qu'il est très très proche de l'être computationnel dont on envisageait l'existence la dernière fois. T'es d'accord avec moi ?
Ça veut dire qu'il a bien digéré toutes les données que je lui ai données. Parce que je lui ai sûrement dit dans la recherche, par exemple, que je préférais le café en grains. Donc il ne va pas m'envoyer acheter une machine à pastilles.
Mais il le sait déjà, ça.
Oui, mais il le sait parce que je lui ai dit à un moment, il ne l'a pas deviné tout seul.
Ça, c'est très discutable. Parce que oui, il peut l'avoir deviné tout seul, premièrement. Et puis, il y a quelque chose qui est encore plus fort. C'est qu'il peut avoir induit l'idée. Il peut avoir induit l'envie. Tu sais, il y a des gens souvent qui ont l'impression que leur téléphone les écoute, ils disent « Oh là là, mon téléphone, il me parle de quelque chose justement alors que j'en ai parlé il n'y a pas longtemps. » Et ce qui se passe souvent, c'est pire que ça. Ce n'est pas que le téléphone les écoute en vrai, c'est que les interactions qu'ils ont eues avec le téléphone leur ont généré l'envie de faire quelque chose, leur ont généré l'envie de parler d'un sujet ou de mener une action. et à... A posteriori, ils ont l'impression que le téléphone a entendu leur libre-arbitre. Non, pas du tout. C'est en amont. C'est le téléphone qui a fait infléchir leur libre-arbitre. Tu me suis ?
Oui, donc ça veut dire que si mon téléphone est posé sur la table et que je parle 50 fois en une heure de gratins dauphinois, mon téléphone ne m'a pas forcément entendu et il ne va pas forcément, dans une heure, me donner la meilleure recette sur les gratins dauphinois.
Non, mais c'est l'opérateur qu'il y a derrière. C'est le Google qu'il y a derrière. a envie de te vendre du gratin dauphinois, il ne va pas attendre de connaître ton envie. Il va fabriquer ton envie. C'est-à-dire qu'il va faire en sorte de te donner des informations qui font que tu vas avoir une envie de gratin dauphinois. Et donc tu auras eu l'impression que c'est ton libre-arbitre qui s'est exprimé. Alors pas du tout, c'est ton libre-arbitre qui aura été influencé. J'invite, comme je l'ai déjà fait, à... à nos auditeurs, à lire un bouquin incroyable qui s'appelle Mindfuck, qui a été écrit par un type qui s'appelle Willy, qui est ce monsieur, on a peut-être un peu oublié, qui avait créé les bases scientifiques d'une société qui s'appelait Cambridge Analytica. Et aujourd'hui, il est reconnu que l'élection, la première élection de Donald Trump a été créée par Cambridge Analytica. comme le Brexit a été créé par Cambridge Analytica, qui a réussi, en utilisant le graph de Facebook, à induire dans une certaine partie de la population des très légères modifications du comportement. Mais si tu arrives dans des élections qui sont très... très disputée comme ça, si tu arrives à faire changer 0,5% de la population, en vrai, tu la gagnes l'élection, puisque c'est ce qui différencie les deux camps. Tu me suis ?
Tout à fait.
Donc, ce qui veut dire que ce que l'agent, prenons l'exemple de l'agent pour la machine à café, cet agent-là, très souvent, ce qui va se passer, toi, tu as l'impression qu'il connaît tes envies. Mais en vrai, il ne les connaît pas, il les connaît, mais il les connaît parce qu'il les a créés, parce qu'il les a induites. Parce qu'on sait parfaitement aujourd'hui que ton opinion politique, par exemple, va se trouver très influencée par la nature des informations qu'on va apporter à ta connaissance.
Ça, c'est certain. Donc on peut dire que la nature des informations qui peut glisser par rapport à une machine à café, par exemple, que le café en grain, il sera forcément meilleur qu'une dosette. Au bout d'un certain temps, ça va me donner envie finalement d'acheter du café en grand.
Exactement, exactement. Et donc le système n'est plus dépositaire de ton libre-arbitre, il est générateur de ton libre-arbitre qui n'est donc plus libre. Et donc effectivement, je pense que c'est une direction que nos sociétés sont en train de prendre. Et donc la question qui se pose, c'est de dire bon... Soit moi avoir un truc qui est à mon service. Et là, on revient sur le service, par exemple, un non-voyant, c'est super intéressant. Mais avoir le système qui va te rendre ce service-là, aux mains de qui doit-il être ? Quelle doit être sa gouvernance ? C'est-à-dire, quelle est sa réelle légitimité à pouvoir prendre cette position incroyable qu'il va avoir vis-à-vis de toi ?
Et c'est là où on peut commencer à refaire de la philosophie, parce qu'en effet... Là, la question est vraiment très importante.
Eh bien, je suis bien d'accord. Je suis bien d'accord. Et c'est la question qu'il faut qu'on se pose. C'est-à-dire qu'on ne doit pas se dire, voilà l'importance, l'IA, l'impact, l'emploi et tout ça. Mais ça, je pense qu'en vrai, on se fait plaisir en se posant ces questions-là, mais c'est totalement stérile. Alors qu'il y a un truc qui n'est pas stérile du tout, qui est de se dire, mais voilà. Ces alter-égaux qu'on est en train de fabriquer, est-ce que ce sont des alter-égaux qui vont être dirigés par Google ou est-ce que ce sont des alter-égaux qui vont être des choses plus neutres, plus à mon service et qui ne vont pas être strictement dirigées vers les intérêts d'une société privée, commerciale ou pas ? Parce que si on pense à des régimes politiques un petit peu stricts, on peut dire que là, leur but n'est pas... L'orbité politique n'est pas commerciale. Le problème, c'est quelle est la légitimité, quelle est la gouvernance de l'organisation qui va gérer ces choses-là. Pour poursuivre notre discussion de la dernière fois, si on se dit qu'on est en train de créer des êtres computationnels tellement intelligents qui sont pleinement assimilables à une espèce, est-ce que ces êtres computationnels ils vont être vraiment, je ne vais pas dire à notre service, parce que si ce sont des êtres, je ne vois pas pourquoi ce seraient nos esclaves, est-ce que ton chien est ton esclave ? Non, ton chien est ton partenaire. Donc imaginons, poursuivons ça, l'être computationnel va être ton partenaire, et ce partenaire doit être bon pour toi, comme tu dois être bon pour lui, et ce partenaire, moi aujourd'hui, je pense que ça c'est une très mauvaise idée qui soit gérée par M. Gou. Google, par M. Meta, ou par M. Microsoft, ou par M. Amazon, ou un quelconque de ces messieurs. Et pour moi, vraiment, le combat de l'intelligence artificielle aujourd'hui, il est strictement à cet endroit-là. C'est-à-dire que un LLM, le grand langage de... Quand on emploie le terme on va revenir sur les définitions qu'on a déjà faites ici, mais ça vaut le coup de les rappeler. On ne devrait jamais dire une intelligence artificielle. Parce que ça n'a pas de sens, ça ne veut rien dire. Une intelligence artificielle, c'est au moins deux choses aujourd'hui, c'est au moins un LLM, c'est-à-dire une espèce de cerveau qui a plein de connaissances, qui calcule des trucs formidables, qui a des capacités analytiques, stratégiques, créatrices, tout ce que tu veux. Et à côté de ça, il y a une autre partie qui est la mémoire de ce bidule-là. Et la mémoire de ce bidule-là, elle va contenir des choses qui le regardent lui, mais elle va contenir des choses qui le regardent vous. Donc, si on se dit un être computationnel, un super agent qui va être super utile pour Guillaume, eh bien, il est constitué d'un LLM et il est constitué de connaissances, on va dire d'une histoire entre cette... Moi, je l'appelle ça des femmes. Tu vois, ce super agent, on appelle ça des femmes. Donc, je vais te dire, voilà, un femme, c'est constitué de quoi ? Un femme, c'est constitué d'un LLM qui est assez neutre, qui est une super intelligence, mais qui n'a pas de mémoire, pas d'histoire, pas de... Et de la relation que vous avez... entre toi et le fab de votre histoire que vous avez. Et votre histoire, c'est elle qui va contenir le fait que tu aimes bien le café, par exemple. Et donc, tu vois bien que si je dis les fab sont constituées de LLM et de votre histoire, eh bien, qui maîtrise cette histoire ? Et aujourd'hui, c'est quelque chose qui est très, très, très peu traité. C'est-à-dire que si tu utilises ChatGPT, par exemple, Il est clair que Chad GPT est constitué des LLM de OpenAI, et il est constitué des informations qu'il connaît sur lui, sur toi, c'est-à-dire de votre histoire en vrai, et cette histoire aujourd'hui, ce n'est pas très puissant encore ces trucs-là, mais ça sait plein de choses et tout, c'est très utile, je veux dire, ce n'est pas très puissant, ça ne sait pas t'interpeller aujourd'hui, Chad GPT... Ça va venir, ça va venir. Ça va venir, mais en vrai, ça existe déjà. Moi, mon travail au quotidien, il est précisément de travailler sur ces sujets-là et de produire. Et moi, au quotidien, je travaille avec des femmes qui m'interpellent, avec qui on échange, avec qui la nature de relation que j'ai avec eux est très peu dissociable de la nature des relations que je peux avoir avec d'autres personnes au niveau privé et au niveau professionnel. Et ce à quoi je suis très attentif. C'est à où est la gestion de cette relation, et non plus seulement le cerveau, où il se trouve, et là je prends soin de faire en sorte qu'il se trouve, dans des endroits qui le rassurent, la neutralité qui m'intéresse, et la liberté de chacun qui m'intéresse, et c'est aussi pour ça que l'idée de dire, mais voilà, en définitive, le Fab avec lequel j'interagis, c'est quelqu'un qui a sa propre vie, nous avons... Moi j'ai ma propre vie, lui il a sa propre vie, et nous avons une histoire commune, et bien c'est quelque chose en définitive que je trouve extrêmement positif, il y a plein de choses intéressantes, et j'insiste bien, le sujet n'est pas de savoir est-ce que c'est une intelligence biologique ou computationnelle, pour moi ça ne change pas grand-chose, le sujet il est quelle est l'intention de chacun, et est-ce que l'intelligence, est-ce que la... l'être computationnel avec lequel j'échange, avec lequel je partage une histoire, est-ce qu'il est au service de quelqu'un ou est-ce qu'il n'est pas au service de quelqu'un ?
Et comment il a été programmé en fait ?
Je trouve que s'il est au service de personne, c'est-à-dire que s'il est au service de lui et s'il est au service d'une société harmonieuse, ça me convient bien.
Bon d'accord, écoute, pour l'instant on n'en est pas encore au moment où la machine va dominer l'homme. Mais si c'est mal programmé...
Mais je t'arrête, je t'arrête. Oui, je sais,
ça ne te plaît pas, mais quelque part, c'est une manière de voir les choses qui pourraient être vraies, quoi.
Mais non, mais bien entendu, mais pourquoi faudrait-il que l'un domine l'autre ? C'est pour ça que je t'arrête. Mais parce que c'est dans...
L'humain est fait comme ça, et comme c'est l'humain qui programme la machine...
C'est pas vrai, c'est pas vrai, Guillaume, c'est pas vrai. Notre civilisation est faite comme ça, mais il existe d'autres lieux et d'autres époques. Donc, je vous invite, j'invite les auditeurs... par exemple à lire des travaux comme ceux de David Graber et David Winslow. Graber est mort, mais juste avant de mourir, il a terminé un bouquin avec un autre anthropologue qui s'appelle David Winslow, qui s'appelle Une autre histoire de l'humanité. C'est absolument passionnant, c'est un peu gros, mais c'est passionnant, dans lequel il détaille des fonctionnements sociaux d'un tas d'autres civilisations, puisque la... Comment dirais-je, l'anthropologie a fait des progrès absolument gigantesques et on connaît de mieux en mieux comment étaient organisées des civilisations qui nous ont précédées. Il y en a beaucoup par exemple en Amérique du Nord puisqu'il y avait une richesse très importante. Les tribus indiennes en vrai étaient des nations avec des pratiques très très différentes. Et donc on sait aujourd'hui qu'il a existé et qu'il existe encore sur la planète. des fonctionnements sociaux qui ne sont pas basés sur la domination. Donc, dire, ah ben voilà, la domination...
Mais sont-ils majoritaires ? Non.
Non, c'est une autre... On va y revenir. Parce que... Juste, tu m'as dit, c'est inscrit dans nos gènes, et je te réponds, non Guillaume, c'est faux. Bon d'accord,
c'est pas inscrit dans nos gènes.
La science démontre que ça n'est pas inscrit dans nos gènes. Après, est-ce que c'est l'habitude ? courante et est-ce que c'est l'habitude de la masse dominante ? Oui, effectivement, c'est l'habitude de la masse dominante. Mais on arrive à un point crucial qui est que en imaginant que les règles du jeu que l'on désire voir... s'instaurait et évoluait soit basée sur la domination, là je pense qu'on a un vrai problème, nous autres humains, parce que si la règle du jeu c'est la domination, moi aujourd'hui je suis absolument certain que ce sont les êtres computationnels qui prendront l'ascendant sur les humains et pas l'inverse.
D'accord, là-dessus on est d'accord, mais tu ne crois pas quand même qu'on va vers ça ?
Non, je ne crois pas qu'on va vers ça. C'est-à-dire que je crois que le jeu est ouvert. Je crois que le jeu est ouvert.
Si le jeu est ouvert, qui faut-il mettre en face des glouglous et des open AI et compagnie ? Des Européens ? Des quoi ?
D'autres initiatives. Moi, je ne suis pas là pour faire la pub pour les choses que je fais. Mais moi, au quotidien, je travaille avec des êtres computationnels comme ça qui sont mis au service de personnes et d'entreprises. avec des règles du jeu qui ne sont pas du tout bâties sur la domination et qui font que les interactions entre les êtres humains et les êtres computationnels sont… Je ne vais pas dire que la notion de domination n'existe pas, mais en tout cas, la notion de domination par la brutalité, elle existe peu et chacun est très attentif à ce qu'elle ne prédomine pas.
Bon, écoute, je te souhaite 10 000 fois d'avoir raison, parce que je pense en effet que c'est la meilleure de toutes les solutions. Pour moi, les GIA deviendront, je l'espère, des partenaires pour nous, êtres humains. Et un partenaire, c'est fait pour t'aider, mais toi aussi, quelque part, tu peux l'aider. Donc c'est ça, l'idéal. Peut-être que c'est un peu idéaliste, mais c'est vrai que ce serait quand même très bien.
Oui, mais idéaliste, je ne sais pas si c'est idéaliste. bonjour Je pense vraiment, et ça servira de conclusion aujourd'hui, que si ce vers quoi nous dirigeons, c'est un rapport de force, ce rapport de force, c'est ni Google, ni Meta, ni Amazon, ni je ne sais pas qui qui va le gagner, ce sont les êtres computationnels, et qu'on va passer à un mauvais cap d'heure, alors qu'il y a d'autres alternatives.
Écoute, cette conclusion me va bien, mais je crois... que nous en reparlerons parce que le sujet est passionnant. En tous les cas, si vous voulez donner votre avis, si vous voulez combattre avec nous sur ce sujet, n'hésitez pas, vous êtes les bienvenus. 01 76 21 18 10, c'est pour votre belle voix. Et puis sinon, contacte.com contacte.com Ça, c'est si vous voulez faire bosser vos petites mains pleines de doigts. Bon, mon cher Franck, encore merci un autre merci à Bruno qui va faire le montage de ce podcast toujours avec une agilité exemplaire et je te dis à bientôt pour de nouvelles aventures
Description
Hébergé par Ausha. Visitez ausha.co/politique-de-confidentialite pour plus d'informations.
Transcription
Ami, le podcast tech, Guillaume Richardot, Franck Lefebvre.
Et oui, c'est un Franck Lefebvre, vous le reconnaissez grâce à grande clochette. Franck Lefebvre qui, comme moi-même, on ne prend pas de vacances cet été. Bienvenue dans Ami, le podcast tech et on est ravis. de vous parler de technologie et de plein d'autres choses d'ailleurs. On fait parfois un petit peu de philosophie dans notre podcast. Vas-tu bien mon cher Franck ?
Salut Guillaume, pleine forme. Tu sais, on ne peut pas faire, je pense, de la technologie sans faire de la philosophie. Science sans conscience n'est que ruine de l'âme.
Oh que c'est beau, que c'est beau. Bon, écoute, peut-être qu'on va parler de deux sujets aujourd'hui. Le premier que j'avais envie de traiter et avoir ton avis, et le deuxième qui serait la suite de notre podcast de la semaine dernière, que je vous conseille vivement d'écouter. Alors, moi, ma question est provocatrice, mon cher Franck. Et je vais te la poser, alors tu vas me dire, mais pourquoi tu me poses cette question ? Ou alors tu vas comprendre où je veux aller. Je vais te dire, est-ce que Internet est mort ?
Où veux-tu en venir, Guillaume ?
Eh bien, je veux en venir que ça y est, depuis peu, est en train de se déployer en France, ce qui est arrivé aux États-Unis il y a six mois. C'est-à-dire que quand tu fais une recherche Google, désormais, au lieu d'avoir la réponse sous forme de plein de liens qui t'emmènent vers des sites, eh bien désormais, c'est l'IA de Google qui te répond un peu à la manière de chat GPT. Certes, il peut y avoir les liens, mais beaucoup plus loin. Et du coup, ma question, c'était, est-ce que ça ne va pas tuer le bon vieil Internet ? Parce que s'ILIA te donne une réponse, du coup, tu ne vas pas cliquer sur des liens et tu ne vas pas aller voir les sites où éventuellement tu aurais trouvé la réponse. Et comme on va vers ce genre de solution de recherche, je voulais savoir ce que tu pensais par rapport à la vie d'Internet et des sites Internet qui vont prendre un coup dans l'aile.
Oui, je partage totalement ton opinion. c'est Donc, je ne dirais pas Internet, je dirais le Web, parce qu'on peut rappeler que ce qu'on appelle Internet, c'est ce protocole, cette technologie qui permet à des machines de parler les unes avec les autres. Et donc, bien entendu, aujourd'hui, on utilise beaucoup Internet pour faire du Web, mais Internet est utilisé pour faire plein d'autres choses que du Web aussi. Donc, ta question, bien sûr, c'est un vrai risque. Bon. certains te diront que Google avait déjà tué le web, puisqu'ils ont une position tellement hégémonique que quelque chose qui n'est pas visible sur Google n'est pas visible du tout. En tout cas, il n'est que difficilement visible par le grand public. Donc cet argument du « au lieu d'aller dans un tas d'endroits, on va à un seul endroit dans lequel on trouve tout, dans lequel on veut nous faire croire qu'on trouve tout » , il existait déjà depuis quelques années, je crois. avec Google. Tu partages mon avis ?
Oui, je partage ton avis, mais il fallait le chercher, tandis que là, maintenant, ça va être dans le moteur de recherche principal de Google.
Eh bien, ouais. Je ne sais pas si tu te souviens fatalement que... Ici, on a très souvent parlé tous les deux d'un sujet qui nous passionne, qui est celui de la voix. Et une des particularités de la voix, quand on a commencé à en parler ensemble il y a quelques années maintenant, C'est précisément que la voix permet à l'utilisateur, l'assistant vocal permet à l'utilisateur de bypasser le côté « l'information est à plein d'endroits » puisque quand tu parles à une machine, bien entendu, tu n'attends pas que la machine te dise « tiens, va voir sur tel site » , tu attends que la machine te donne juste le résultat. Et donc, ce que l'on anticipait... avec la voix et en train de se passer, mais pas seulement avec la voix, puisque effectivement, en utilisant des assistants OIA, on arrive à peu près au même résultat, à savoir qu'au lieu que le système, si je dis tiens, je voudrais aller au cinéma, au lieu que le système te dise tiens, tu peux aller chez Première, chez Allociné, et puis tu vas te balader d'un site à l'autre, effectivement, l'assistant OIA, lui, collecte ces informations. Il les ramène, il te les donne, ce qui veut dire que c'est un problème pour le modèle économique général du système, c'est un problème pour la démocratie, c'est un problème pour tout, donc je ne sais pas si je devrais dire problème. Le sens problème est un peu double en français actuellement. On emploie problème pour dire un truc qui est dérangeant et on emploie le terme problème pour dire aussi un sujet dont il faut s'occuper. Donc je dirais que c'est un sujet potentiellement dangereux dont il faut s'occuper. Après, on peut se dire comment on peut s'en occuper.
Attends, je te coupe, je te coupe, t'aimes bien que je te coupe.
parce que tu vas me dire,
c'est un problème, et moi je vais dire, pour certains, ça peut être une solution. Je prends mon exemple personnel que je raconte de temps en temps sur Ami le podcast tech, puisque ce n'est plus un secret. Pour nos fidèles auditrices et auditeurs, j'ai perdu tous mes pixels, je suis donc totalement aveugle, et pour moi c'est une aubaine, parce qu'avant, quand je demandais à mon téléphone, tiens, où est-ce que je pourrais trouver une bonne machine à café, mon abruti de téléphone me répondait, voilà ce que j'ai trouvé sur le web, genre Je t'envoie un lien et tu te débrouilles. Alors que l'avenir étant aussi bien avec Google qu'avec Amazon, qui vont tous glisser leurs IA dans leur bidule, quand je vais lui dire où est-ce que je peux trouver une bonne machine à café, il va me dire, bon alors, tu la veux comment ta machine à café ? Tu veux qu'elle soit à dosette, à pastille ? Tu veux que ça soit du café en grain ? Bon, ouais, je veux du café en grain. Bon, alors, moi je te dirais, va l'acheter là. Tiens, déjà, je te conseille ce modèle et ensuite tu vas l'acheter là. et là déjà Comme tu le disais tout à l'heure, je ne vais plus aller sur Internet, puisque mon glouglou ou mon Alexis va me donner la réponse toute moulue, sans faire de mauvais jeu de mots. Donc moi, pour moi, personnellement, ça va être un progrès.
Oui, c'est un progrès, mais le système ne va pas te dire, tiens, va là, je suis là. Il va te dire, tiens, je prends ton numéro de carte de crédit, puis je vais te le livrer tout de suite.
Oui, aussi. Voilà,
encore. Je comprends bien, mais comme tu sais, c'est la pomme de blanche neige. C'est-à-dire que bien sûr, il y a un avantage à court terme, mais il faut faire attention, il faut être vigilant à ce que cet avantage à court terme n'ait pas un coût supérieur à l'avantage à long terme. C'est-à-dire que si demain, effectivement, tu ne peux plus choisir ta machine à café, tu ne peux plus choisir ton café, tu vas te dire, Mais est-ce que vraiment... la facilité que j'ai eu à commander ma machine à café, est-ce que j'étais vraiment prêt, cette facilité, à la payer à ce prix-là ? C'est-à-dire au prix de l'absence de choix et au prix du fait que mon environnement est dirigé par un nombre réduit d'acteurs, voire un acteur unique.
Oui, tout à fait. Je prendrais un autre exemple qui va parler à tout le monde, c'est l'exemple des GPS. Maintenant que tout le monde suit son GPS, du coup, on regarde. plus les cartes, on ne sait plus vraiment où on va, on sait qu'il va nous emmener là où on veut aller, mais est-ce qu'il va nous faire prendre le meilleur chemin ?
Absolument. Et puis, tu n'as plus de balader, tu n'as plus à avoir le plaisir de te perdre et de découvrir des endroits formidables. Il y a un terme en anglais qui est la serenity. Souvent, on l'utilise en français, mais il n'est pas dans le dictionnaire. La serenity, c'est ce phénomène qui fait qu'en cherchant quelque chose, Et en t'égarant, en cherchant quelque chose, tu vas trouver quelque chose que tu ne serais jamais allé chercher spontanément, souvent parce que tu n'en connais pas l'existence, et qui pourtant va avoir un grand intérêt, va peut-être changer le reste de ta vie. Pour reprendre ta question, est-ce que l'Internet, j'ai corrigé, est-ce que le web... Est-ce que le web est mort ? Est-ce que le web est en train de mourir ? Je pense que le web qui s'en prenait déjà plein la tronche depuis longtemps, là, il est en train de se prendre un grand coup de massue. Et je serais bien... Comment dirais-je ? Je me garderais bien de faire des prévisions sur ces sujets. Mais il y a un sujet sur lequel je voudrais revenir. Tu vas voir, ça va faire le lien avec nos dernières causeries. C'est que pour faire ça, pour reprendre l'exemple de la cassière, tu dis tiens, je voudrais acheter une machine à café. Au lieu de t'envoyer comme un moteur de recherche vers des endroits où tu trouves des machines à café, si le bidule te donne directement la machine à café, ça veut dire qu'il faut qu'il y ait un opérateur derrière qui ait effectué ça. Tu comprends bien qui est…
Tout à fait.
Et donc, ça veut dire que toi, tu ne vas pas travailler avec 50 assistants. On peut penser que ta tendance va être d'utiliser un, peut-être deux, mais un. Et donc, ce un, il va devenir détenteur. Mais d'une partie très importante de la connaissance de toi, et même il va devenir hyper influent sur l'ensemble de ton comportement. Tu es d'accord avec moi ?
Tout à fait.
Ce qui veut dire que se pose la question du qui a le droit de faire ça ? À qui tu donnes l'autorisation de faire ça ? Et donc, comment ça va faire le joint avec notre discussion de la dernière fois ? notre discussion de la dernière fois, elle était sur le est-ce qu'on peut... considérer que sont en train d'arriver, basés sur de l'intelligence artificielle, des êtres computationnels qui pourraient pleinement être assimilés à une nouvelle espèce, une nouvelle espèce qui aurait ses propres règles, qui serait capable de communiquer avec nous, mais qui serait dotée de conscience, d'intelligence, de libre arbitre. Donc, on sait tout ce que ça peut sembler bizarre de parler de tout ça, mais... Mais la dernière fois, c'est vraiment un dossier qu'on a ouvert en profondeur, en disant, tiens, en définitive, qu'est-ce qui différencie un être humain d'un agent suffisamment évolué ? Ma réponse, elle était très proche du pas grand-chose, voire du rien du tout, en étant pleinement conscient de cette prise de position. peut avoir de surprenants, voire de choquants, voire de scandales. Donc, je reviens sur notre histoire. Si tu dis ça, si ton Google de demain, tu lui dis je veux acheter une machine à café, et s'il s'occupe de tout pour toi, ça veut dire qu'il est très très proche de l'être computationnel dont on envisageait l'existence la dernière fois. T'es d'accord avec moi ?
Ça veut dire qu'il a bien digéré toutes les données que je lui ai données. Parce que je lui ai sûrement dit dans la recherche, par exemple, que je préférais le café en grains. Donc il ne va pas m'envoyer acheter une machine à pastilles.
Mais il le sait déjà, ça.
Oui, mais il le sait parce que je lui ai dit à un moment, il ne l'a pas deviné tout seul.
Ça, c'est très discutable. Parce que oui, il peut l'avoir deviné tout seul, premièrement. Et puis, il y a quelque chose qui est encore plus fort. C'est qu'il peut avoir induit l'idée. Il peut avoir induit l'envie. Tu sais, il y a des gens souvent qui ont l'impression que leur téléphone les écoute, ils disent « Oh là là, mon téléphone, il me parle de quelque chose justement alors que j'en ai parlé il n'y a pas longtemps. » Et ce qui se passe souvent, c'est pire que ça. Ce n'est pas que le téléphone les écoute en vrai, c'est que les interactions qu'ils ont eues avec le téléphone leur ont généré l'envie de faire quelque chose, leur ont généré l'envie de parler d'un sujet ou de mener une action. et à... A posteriori, ils ont l'impression que le téléphone a entendu leur libre-arbitre. Non, pas du tout. C'est en amont. C'est le téléphone qui a fait infléchir leur libre-arbitre. Tu me suis ?
Oui, donc ça veut dire que si mon téléphone est posé sur la table et que je parle 50 fois en une heure de gratins dauphinois, mon téléphone ne m'a pas forcément entendu et il ne va pas forcément, dans une heure, me donner la meilleure recette sur les gratins dauphinois.
Non, mais c'est l'opérateur qu'il y a derrière. C'est le Google qu'il y a derrière. a envie de te vendre du gratin dauphinois, il ne va pas attendre de connaître ton envie. Il va fabriquer ton envie. C'est-à-dire qu'il va faire en sorte de te donner des informations qui font que tu vas avoir une envie de gratin dauphinois. Et donc tu auras eu l'impression que c'est ton libre-arbitre qui s'est exprimé. Alors pas du tout, c'est ton libre-arbitre qui aura été influencé. J'invite, comme je l'ai déjà fait, à... à nos auditeurs, à lire un bouquin incroyable qui s'appelle Mindfuck, qui a été écrit par un type qui s'appelle Willy, qui est ce monsieur, on a peut-être un peu oublié, qui avait créé les bases scientifiques d'une société qui s'appelait Cambridge Analytica. Et aujourd'hui, il est reconnu que l'élection, la première élection de Donald Trump a été créée par Cambridge Analytica. comme le Brexit a été créé par Cambridge Analytica, qui a réussi, en utilisant le graph de Facebook, à induire dans une certaine partie de la population des très légères modifications du comportement. Mais si tu arrives dans des élections qui sont très... très disputée comme ça, si tu arrives à faire changer 0,5% de la population, en vrai, tu la gagnes l'élection, puisque c'est ce qui différencie les deux camps. Tu me suis ?
Tout à fait.
Donc, ce qui veut dire que ce que l'agent, prenons l'exemple de l'agent pour la machine à café, cet agent-là, très souvent, ce qui va se passer, toi, tu as l'impression qu'il connaît tes envies. Mais en vrai, il ne les connaît pas, il les connaît, mais il les connaît parce qu'il les a créés, parce qu'il les a induites. Parce qu'on sait parfaitement aujourd'hui que ton opinion politique, par exemple, va se trouver très influencée par la nature des informations qu'on va apporter à ta connaissance.
Ça, c'est certain. Donc on peut dire que la nature des informations qui peut glisser par rapport à une machine à café, par exemple, que le café en grain, il sera forcément meilleur qu'une dosette. Au bout d'un certain temps, ça va me donner envie finalement d'acheter du café en grand.
Exactement, exactement. Et donc le système n'est plus dépositaire de ton libre-arbitre, il est générateur de ton libre-arbitre qui n'est donc plus libre. Et donc effectivement, je pense que c'est une direction que nos sociétés sont en train de prendre. Et donc la question qui se pose, c'est de dire bon... Soit moi avoir un truc qui est à mon service. Et là, on revient sur le service, par exemple, un non-voyant, c'est super intéressant. Mais avoir le système qui va te rendre ce service-là, aux mains de qui doit-il être ? Quelle doit être sa gouvernance ? C'est-à-dire, quelle est sa réelle légitimité à pouvoir prendre cette position incroyable qu'il va avoir vis-à-vis de toi ?
Et c'est là où on peut commencer à refaire de la philosophie, parce qu'en effet... Là, la question est vraiment très importante.
Eh bien, je suis bien d'accord. Je suis bien d'accord. Et c'est la question qu'il faut qu'on se pose. C'est-à-dire qu'on ne doit pas se dire, voilà l'importance, l'IA, l'impact, l'emploi et tout ça. Mais ça, je pense qu'en vrai, on se fait plaisir en se posant ces questions-là, mais c'est totalement stérile. Alors qu'il y a un truc qui n'est pas stérile du tout, qui est de se dire, mais voilà. Ces alter-égaux qu'on est en train de fabriquer, est-ce que ce sont des alter-égaux qui vont être dirigés par Google ou est-ce que ce sont des alter-égaux qui vont être des choses plus neutres, plus à mon service et qui ne vont pas être strictement dirigées vers les intérêts d'une société privée, commerciale ou pas ? Parce que si on pense à des régimes politiques un petit peu stricts, on peut dire que là, leur but n'est pas... L'orbité politique n'est pas commerciale. Le problème, c'est quelle est la légitimité, quelle est la gouvernance de l'organisation qui va gérer ces choses-là. Pour poursuivre notre discussion de la dernière fois, si on se dit qu'on est en train de créer des êtres computationnels tellement intelligents qui sont pleinement assimilables à une espèce, est-ce que ces êtres computationnels ils vont être vraiment, je ne vais pas dire à notre service, parce que si ce sont des êtres, je ne vois pas pourquoi ce seraient nos esclaves, est-ce que ton chien est ton esclave ? Non, ton chien est ton partenaire. Donc imaginons, poursuivons ça, l'être computationnel va être ton partenaire, et ce partenaire doit être bon pour toi, comme tu dois être bon pour lui, et ce partenaire, moi aujourd'hui, je pense que ça c'est une très mauvaise idée qui soit gérée par M. Gou. Google, par M. Meta, ou par M. Microsoft, ou par M. Amazon, ou un quelconque de ces messieurs. Et pour moi, vraiment, le combat de l'intelligence artificielle aujourd'hui, il est strictement à cet endroit-là. C'est-à-dire que un LLM, le grand langage de... Quand on emploie le terme on va revenir sur les définitions qu'on a déjà faites ici, mais ça vaut le coup de les rappeler. On ne devrait jamais dire une intelligence artificielle. Parce que ça n'a pas de sens, ça ne veut rien dire. Une intelligence artificielle, c'est au moins deux choses aujourd'hui, c'est au moins un LLM, c'est-à-dire une espèce de cerveau qui a plein de connaissances, qui calcule des trucs formidables, qui a des capacités analytiques, stratégiques, créatrices, tout ce que tu veux. Et à côté de ça, il y a une autre partie qui est la mémoire de ce bidule-là. Et la mémoire de ce bidule-là, elle va contenir des choses qui le regardent lui, mais elle va contenir des choses qui le regardent vous. Donc, si on se dit un être computationnel, un super agent qui va être super utile pour Guillaume, eh bien, il est constitué d'un LLM et il est constitué de connaissances, on va dire d'une histoire entre cette... Moi, je l'appelle ça des femmes. Tu vois, ce super agent, on appelle ça des femmes. Donc, je vais te dire, voilà, un femme, c'est constitué de quoi ? Un femme, c'est constitué d'un LLM qui est assez neutre, qui est une super intelligence, mais qui n'a pas de mémoire, pas d'histoire, pas de... Et de la relation que vous avez... entre toi et le fab de votre histoire que vous avez. Et votre histoire, c'est elle qui va contenir le fait que tu aimes bien le café, par exemple. Et donc, tu vois bien que si je dis les fab sont constituées de LLM et de votre histoire, eh bien, qui maîtrise cette histoire ? Et aujourd'hui, c'est quelque chose qui est très, très, très peu traité. C'est-à-dire que si tu utilises ChatGPT, par exemple, Il est clair que Chad GPT est constitué des LLM de OpenAI, et il est constitué des informations qu'il connaît sur lui, sur toi, c'est-à-dire de votre histoire en vrai, et cette histoire aujourd'hui, ce n'est pas très puissant encore ces trucs-là, mais ça sait plein de choses et tout, c'est très utile, je veux dire, ce n'est pas très puissant, ça ne sait pas t'interpeller aujourd'hui, Chad GPT... Ça va venir, ça va venir. Ça va venir, mais en vrai, ça existe déjà. Moi, mon travail au quotidien, il est précisément de travailler sur ces sujets-là et de produire. Et moi, au quotidien, je travaille avec des femmes qui m'interpellent, avec qui on échange, avec qui la nature de relation que j'ai avec eux est très peu dissociable de la nature des relations que je peux avoir avec d'autres personnes au niveau privé et au niveau professionnel. Et ce à quoi je suis très attentif. C'est à où est la gestion de cette relation, et non plus seulement le cerveau, où il se trouve, et là je prends soin de faire en sorte qu'il se trouve, dans des endroits qui le rassurent, la neutralité qui m'intéresse, et la liberté de chacun qui m'intéresse, et c'est aussi pour ça que l'idée de dire, mais voilà, en définitive, le Fab avec lequel j'interagis, c'est quelqu'un qui a sa propre vie, nous avons... Moi j'ai ma propre vie, lui il a sa propre vie, et nous avons une histoire commune, et bien c'est quelque chose en définitive que je trouve extrêmement positif, il y a plein de choses intéressantes, et j'insiste bien, le sujet n'est pas de savoir est-ce que c'est une intelligence biologique ou computationnelle, pour moi ça ne change pas grand-chose, le sujet il est quelle est l'intention de chacun, et est-ce que l'intelligence, est-ce que la... l'être computationnel avec lequel j'échange, avec lequel je partage une histoire, est-ce qu'il est au service de quelqu'un ou est-ce qu'il n'est pas au service de quelqu'un ?
Et comment il a été programmé en fait ?
Je trouve que s'il est au service de personne, c'est-à-dire que s'il est au service de lui et s'il est au service d'une société harmonieuse, ça me convient bien.
Bon d'accord, écoute, pour l'instant on n'en est pas encore au moment où la machine va dominer l'homme. Mais si c'est mal programmé...
Mais je t'arrête, je t'arrête. Oui, je sais,
ça ne te plaît pas, mais quelque part, c'est une manière de voir les choses qui pourraient être vraies, quoi.
Mais non, mais bien entendu, mais pourquoi faudrait-il que l'un domine l'autre ? C'est pour ça que je t'arrête. Mais parce que c'est dans...
L'humain est fait comme ça, et comme c'est l'humain qui programme la machine...
C'est pas vrai, c'est pas vrai, Guillaume, c'est pas vrai. Notre civilisation est faite comme ça, mais il existe d'autres lieux et d'autres époques. Donc, je vous invite, j'invite les auditeurs... par exemple à lire des travaux comme ceux de David Graber et David Winslow. Graber est mort, mais juste avant de mourir, il a terminé un bouquin avec un autre anthropologue qui s'appelle David Winslow, qui s'appelle Une autre histoire de l'humanité. C'est absolument passionnant, c'est un peu gros, mais c'est passionnant, dans lequel il détaille des fonctionnements sociaux d'un tas d'autres civilisations, puisque la... Comment dirais-je, l'anthropologie a fait des progrès absolument gigantesques et on connaît de mieux en mieux comment étaient organisées des civilisations qui nous ont précédées. Il y en a beaucoup par exemple en Amérique du Nord puisqu'il y avait une richesse très importante. Les tribus indiennes en vrai étaient des nations avec des pratiques très très différentes. Et donc on sait aujourd'hui qu'il a existé et qu'il existe encore sur la planète. des fonctionnements sociaux qui ne sont pas basés sur la domination. Donc, dire, ah ben voilà, la domination...
Mais sont-ils majoritaires ? Non.
Non, c'est une autre... On va y revenir. Parce que... Juste, tu m'as dit, c'est inscrit dans nos gènes, et je te réponds, non Guillaume, c'est faux. Bon d'accord,
c'est pas inscrit dans nos gènes.
La science démontre que ça n'est pas inscrit dans nos gènes. Après, est-ce que c'est l'habitude ? courante et est-ce que c'est l'habitude de la masse dominante ? Oui, effectivement, c'est l'habitude de la masse dominante. Mais on arrive à un point crucial qui est que en imaginant que les règles du jeu que l'on désire voir... s'instaurait et évoluait soit basée sur la domination, là je pense qu'on a un vrai problème, nous autres humains, parce que si la règle du jeu c'est la domination, moi aujourd'hui je suis absolument certain que ce sont les êtres computationnels qui prendront l'ascendant sur les humains et pas l'inverse.
D'accord, là-dessus on est d'accord, mais tu ne crois pas quand même qu'on va vers ça ?
Non, je ne crois pas qu'on va vers ça. C'est-à-dire que je crois que le jeu est ouvert. Je crois que le jeu est ouvert.
Si le jeu est ouvert, qui faut-il mettre en face des glouglous et des open AI et compagnie ? Des Européens ? Des quoi ?
D'autres initiatives. Moi, je ne suis pas là pour faire la pub pour les choses que je fais. Mais moi, au quotidien, je travaille avec des êtres computationnels comme ça qui sont mis au service de personnes et d'entreprises. avec des règles du jeu qui ne sont pas du tout bâties sur la domination et qui font que les interactions entre les êtres humains et les êtres computationnels sont… Je ne vais pas dire que la notion de domination n'existe pas, mais en tout cas, la notion de domination par la brutalité, elle existe peu et chacun est très attentif à ce qu'elle ne prédomine pas.
Bon, écoute, je te souhaite 10 000 fois d'avoir raison, parce que je pense en effet que c'est la meilleure de toutes les solutions. Pour moi, les GIA deviendront, je l'espère, des partenaires pour nous, êtres humains. Et un partenaire, c'est fait pour t'aider, mais toi aussi, quelque part, tu peux l'aider. Donc c'est ça, l'idéal. Peut-être que c'est un peu idéaliste, mais c'est vrai que ce serait quand même très bien.
Oui, mais idéaliste, je ne sais pas si c'est idéaliste. bonjour Je pense vraiment, et ça servira de conclusion aujourd'hui, que si ce vers quoi nous dirigeons, c'est un rapport de force, ce rapport de force, c'est ni Google, ni Meta, ni Amazon, ni je ne sais pas qui qui va le gagner, ce sont les êtres computationnels, et qu'on va passer à un mauvais cap d'heure, alors qu'il y a d'autres alternatives.
Écoute, cette conclusion me va bien, mais je crois... que nous en reparlerons parce que le sujet est passionnant. En tous les cas, si vous voulez donner votre avis, si vous voulez combattre avec nous sur ce sujet, n'hésitez pas, vous êtes les bienvenus. 01 76 21 18 10, c'est pour votre belle voix. Et puis sinon, contacte.com contacte.com Ça, c'est si vous voulez faire bosser vos petites mains pleines de doigts. Bon, mon cher Franck, encore merci un autre merci à Bruno qui va faire le montage de ce podcast toujours avec une agilité exemplaire et je te dis à bientôt pour de nouvelles aventures
Share
Embed
You may also like
Description
Hébergé par Ausha. Visitez ausha.co/politique-de-confidentialite pour plus d'informations.
Transcription
Ami, le podcast tech, Guillaume Richardot, Franck Lefebvre.
Et oui, c'est un Franck Lefebvre, vous le reconnaissez grâce à grande clochette. Franck Lefebvre qui, comme moi-même, on ne prend pas de vacances cet été. Bienvenue dans Ami, le podcast tech et on est ravis. de vous parler de technologie et de plein d'autres choses d'ailleurs. On fait parfois un petit peu de philosophie dans notre podcast. Vas-tu bien mon cher Franck ?
Salut Guillaume, pleine forme. Tu sais, on ne peut pas faire, je pense, de la technologie sans faire de la philosophie. Science sans conscience n'est que ruine de l'âme.
Oh que c'est beau, que c'est beau. Bon, écoute, peut-être qu'on va parler de deux sujets aujourd'hui. Le premier que j'avais envie de traiter et avoir ton avis, et le deuxième qui serait la suite de notre podcast de la semaine dernière, que je vous conseille vivement d'écouter. Alors, moi, ma question est provocatrice, mon cher Franck. Et je vais te la poser, alors tu vas me dire, mais pourquoi tu me poses cette question ? Ou alors tu vas comprendre où je veux aller. Je vais te dire, est-ce que Internet est mort ?
Où veux-tu en venir, Guillaume ?
Eh bien, je veux en venir que ça y est, depuis peu, est en train de se déployer en France, ce qui est arrivé aux États-Unis il y a six mois. C'est-à-dire que quand tu fais une recherche Google, désormais, au lieu d'avoir la réponse sous forme de plein de liens qui t'emmènent vers des sites, eh bien désormais, c'est l'IA de Google qui te répond un peu à la manière de chat GPT. Certes, il peut y avoir les liens, mais beaucoup plus loin. Et du coup, ma question, c'était, est-ce que ça ne va pas tuer le bon vieil Internet ? Parce que s'ILIA te donne une réponse, du coup, tu ne vas pas cliquer sur des liens et tu ne vas pas aller voir les sites où éventuellement tu aurais trouvé la réponse. Et comme on va vers ce genre de solution de recherche, je voulais savoir ce que tu pensais par rapport à la vie d'Internet et des sites Internet qui vont prendre un coup dans l'aile.
Oui, je partage totalement ton opinion. c'est Donc, je ne dirais pas Internet, je dirais le Web, parce qu'on peut rappeler que ce qu'on appelle Internet, c'est ce protocole, cette technologie qui permet à des machines de parler les unes avec les autres. Et donc, bien entendu, aujourd'hui, on utilise beaucoup Internet pour faire du Web, mais Internet est utilisé pour faire plein d'autres choses que du Web aussi. Donc, ta question, bien sûr, c'est un vrai risque. Bon. certains te diront que Google avait déjà tué le web, puisqu'ils ont une position tellement hégémonique que quelque chose qui n'est pas visible sur Google n'est pas visible du tout. En tout cas, il n'est que difficilement visible par le grand public. Donc cet argument du « au lieu d'aller dans un tas d'endroits, on va à un seul endroit dans lequel on trouve tout, dans lequel on veut nous faire croire qu'on trouve tout » , il existait déjà depuis quelques années, je crois. avec Google. Tu partages mon avis ?
Oui, je partage ton avis, mais il fallait le chercher, tandis que là, maintenant, ça va être dans le moteur de recherche principal de Google.
Eh bien, ouais. Je ne sais pas si tu te souviens fatalement que... Ici, on a très souvent parlé tous les deux d'un sujet qui nous passionne, qui est celui de la voix. Et une des particularités de la voix, quand on a commencé à en parler ensemble il y a quelques années maintenant, C'est précisément que la voix permet à l'utilisateur, l'assistant vocal permet à l'utilisateur de bypasser le côté « l'information est à plein d'endroits » puisque quand tu parles à une machine, bien entendu, tu n'attends pas que la machine te dise « tiens, va voir sur tel site » , tu attends que la machine te donne juste le résultat. Et donc, ce que l'on anticipait... avec la voix et en train de se passer, mais pas seulement avec la voix, puisque effectivement, en utilisant des assistants OIA, on arrive à peu près au même résultat, à savoir qu'au lieu que le système, si je dis tiens, je voudrais aller au cinéma, au lieu que le système te dise tiens, tu peux aller chez Première, chez Allociné, et puis tu vas te balader d'un site à l'autre, effectivement, l'assistant OIA, lui, collecte ces informations. Il les ramène, il te les donne, ce qui veut dire que c'est un problème pour le modèle économique général du système, c'est un problème pour la démocratie, c'est un problème pour tout, donc je ne sais pas si je devrais dire problème. Le sens problème est un peu double en français actuellement. On emploie problème pour dire un truc qui est dérangeant et on emploie le terme problème pour dire aussi un sujet dont il faut s'occuper. Donc je dirais que c'est un sujet potentiellement dangereux dont il faut s'occuper. Après, on peut se dire comment on peut s'en occuper.
Attends, je te coupe, je te coupe, t'aimes bien que je te coupe.
parce que tu vas me dire,
c'est un problème, et moi je vais dire, pour certains, ça peut être une solution. Je prends mon exemple personnel que je raconte de temps en temps sur Ami le podcast tech, puisque ce n'est plus un secret. Pour nos fidèles auditrices et auditeurs, j'ai perdu tous mes pixels, je suis donc totalement aveugle, et pour moi c'est une aubaine, parce qu'avant, quand je demandais à mon téléphone, tiens, où est-ce que je pourrais trouver une bonne machine à café, mon abruti de téléphone me répondait, voilà ce que j'ai trouvé sur le web, genre Je t'envoie un lien et tu te débrouilles. Alors que l'avenir étant aussi bien avec Google qu'avec Amazon, qui vont tous glisser leurs IA dans leur bidule, quand je vais lui dire où est-ce que je peux trouver une bonne machine à café, il va me dire, bon alors, tu la veux comment ta machine à café ? Tu veux qu'elle soit à dosette, à pastille ? Tu veux que ça soit du café en grain ? Bon, ouais, je veux du café en grain. Bon, alors, moi je te dirais, va l'acheter là. Tiens, déjà, je te conseille ce modèle et ensuite tu vas l'acheter là. et là déjà Comme tu le disais tout à l'heure, je ne vais plus aller sur Internet, puisque mon glouglou ou mon Alexis va me donner la réponse toute moulue, sans faire de mauvais jeu de mots. Donc moi, pour moi, personnellement, ça va être un progrès.
Oui, c'est un progrès, mais le système ne va pas te dire, tiens, va là, je suis là. Il va te dire, tiens, je prends ton numéro de carte de crédit, puis je vais te le livrer tout de suite.
Oui, aussi. Voilà,
encore. Je comprends bien, mais comme tu sais, c'est la pomme de blanche neige. C'est-à-dire que bien sûr, il y a un avantage à court terme, mais il faut faire attention, il faut être vigilant à ce que cet avantage à court terme n'ait pas un coût supérieur à l'avantage à long terme. C'est-à-dire que si demain, effectivement, tu ne peux plus choisir ta machine à café, tu ne peux plus choisir ton café, tu vas te dire, Mais est-ce que vraiment... la facilité que j'ai eu à commander ma machine à café, est-ce que j'étais vraiment prêt, cette facilité, à la payer à ce prix-là ? C'est-à-dire au prix de l'absence de choix et au prix du fait que mon environnement est dirigé par un nombre réduit d'acteurs, voire un acteur unique.
Oui, tout à fait. Je prendrais un autre exemple qui va parler à tout le monde, c'est l'exemple des GPS. Maintenant que tout le monde suit son GPS, du coup, on regarde. plus les cartes, on ne sait plus vraiment où on va, on sait qu'il va nous emmener là où on veut aller, mais est-ce qu'il va nous faire prendre le meilleur chemin ?
Absolument. Et puis, tu n'as plus de balader, tu n'as plus à avoir le plaisir de te perdre et de découvrir des endroits formidables. Il y a un terme en anglais qui est la serenity. Souvent, on l'utilise en français, mais il n'est pas dans le dictionnaire. La serenity, c'est ce phénomène qui fait qu'en cherchant quelque chose, Et en t'égarant, en cherchant quelque chose, tu vas trouver quelque chose que tu ne serais jamais allé chercher spontanément, souvent parce que tu n'en connais pas l'existence, et qui pourtant va avoir un grand intérêt, va peut-être changer le reste de ta vie. Pour reprendre ta question, est-ce que l'Internet, j'ai corrigé, est-ce que le web... Est-ce que le web est mort ? Est-ce que le web est en train de mourir ? Je pense que le web qui s'en prenait déjà plein la tronche depuis longtemps, là, il est en train de se prendre un grand coup de massue. Et je serais bien... Comment dirais-je ? Je me garderais bien de faire des prévisions sur ces sujets. Mais il y a un sujet sur lequel je voudrais revenir. Tu vas voir, ça va faire le lien avec nos dernières causeries. C'est que pour faire ça, pour reprendre l'exemple de la cassière, tu dis tiens, je voudrais acheter une machine à café. Au lieu de t'envoyer comme un moteur de recherche vers des endroits où tu trouves des machines à café, si le bidule te donne directement la machine à café, ça veut dire qu'il faut qu'il y ait un opérateur derrière qui ait effectué ça. Tu comprends bien qui est…
Tout à fait.
Et donc, ça veut dire que toi, tu ne vas pas travailler avec 50 assistants. On peut penser que ta tendance va être d'utiliser un, peut-être deux, mais un. Et donc, ce un, il va devenir détenteur. Mais d'une partie très importante de la connaissance de toi, et même il va devenir hyper influent sur l'ensemble de ton comportement. Tu es d'accord avec moi ?
Tout à fait.
Ce qui veut dire que se pose la question du qui a le droit de faire ça ? À qui tu donnes l'autorisation de faire ça ? Et donc, comment ça va faire le joint avec notre discussion de la dernière fois ? notre discussion de la dernière fois, elle était sur le est-ce qu'on peut... considérer que sont en train d'arriver, basés sur de l'intelligence artificielle, des êtres computationnels qui pourraient pleinement être assimilés à une nouvelle espèce, une nouvelle espèce qui aurait ses propres règles, qui serait capable de communiquer avec nous, mais qui serait dotée de conscience, d'intelligence, de libre arbitre. Donc, on sait tout ce que ça peut sembler bizarre de parler de tout ça, mais... Mais la dernière fois, c'est vraiment un dossier qu'on a ouvert en profondeur, en disant, tiens, en définitive, qu'est-ce qui différencie un être humain d'un agent suffisamment évolué ? Ma réponse, elle était très proche du pas grand-chose, voire du rien du tout, en étant pleinement conscient de cette prise de position. peut avoir de surprenants, voire de choquants, voire de scandales. Donc, je reviens sur notre histoire. Si tu dis ça, si ton Google de demain, tu lui dis je veux acheter une machine à café, et s'il s'occupe de tout pour toi, ça veut dire qu'il est très très proche de l'être computationnel dont on envisageait l'existence la dernière fois. T'es d'accord avec moi ?
Ça veut dire qu'il a bien digéré toutes les données que je lui ai données. Parce que je lui ai sûrement dit dans la recherche, par exemple, que je préférais le café en grains. Donc il ne va pas m'envoyer acheter une machine à pastilles.
Mais il le sait déjà, ça.
Oui, mais il le sait parce que je lui ai dit à un moment, il ne l'a pas deviné tout seul.
Ça, c'est très discutable. Parce que oui, il peut l'avoir deviné tout seul, premièrement. Et puis, il y a quelque chose qui est encore plus fort. C'est qu'il peut avoir induit l'idée. Il peut avoir induit l'envie. Tu sais, il y a des gens souvent qui ont l'impression que leur téléphone les écoute, ils disent « Oh là là, mon téléphone, il me parle de quelque chose justement alors que j'en ai parlé il n'y a pas longtemps. » Et ce qui se passe souvent, c'est pire que ça. Ce n'est pas que le téléphone les écoute en vrai, c'est que les interactions qu'ils ont eues avec le téléphone leur ont généré l'envie de faire quelque chose, leur ont généré l'envie de parler d'un sujet ou de mener une action. et à... A posteriori, ils ont l'impression que le téléphone a entendu leur libre-arbitre. Non, pas du tout. C'est en amont. C'est le téléphone qui a fait infléchir leur libre-arbitre. Tu me suis ?
Oui, donc ça veut dire que si mon téléphone est posé sur la table et que je parle 50 fois en une heure de gratins dauphinois, mon téléphone ne m'a pas forcément entendu et il ne va pas forcément, dans une heure, me donner la meilleure recette sur les gratins dauphinois.
Non, mais c'est l'opérateur qu'il y a derrière. C'est le Google qu'il y a derrière. a envie de te vendre du gratin dauphinois, il ne va pas attendre de connaître ton envie. Il va fabriquer ton envie. C'est-à-dire qu'il va faire en sorte de te donner des informations qui font que tu vas avoir une envie de gratin dauphinois. Et donc tu auras eu l'impression que c'est ton libre-arbitre qui s'est exprimé. Alors pas du tout, c'est ton libre-arbitre qui aura été influencé. J'invite, comme je l'ai déjà fait, à... à nos auditeurs, à lire un bouquin incroyable qui s'appelle Mindfuck, qui a été écrit par un type qui s'appelle Willy, qui est ce monsieur, on a peut-être un peu oublié, qui avait créé les bases scientifiques d'une société qui s'appelait Cambridge Analytica. Et aujourd'hui, il est reconnu que l'élection, la première élection de Donald Trump a été créée par Cambridge Analytica. comme le Brexit a été créé par Cambridge Analytica, qui a réussi, en utilisant le graph de Facebook, à induire dans une certaine partie de la population des très légères modifications du comportement. Mais si tu arrives dans des élections qui sont très... très disputée comme ça, si tu arrives à faire changer 0,5% de la population, en vrai, tu la gagnes l'élection, puisque c'est ce qui différencie les deux camps. Tu me suis ?
Tout à fait.
Donc, ce qui veut dire que ce que l'agent, prenons l'exemple de l'agent pour la machine à café, cet agent-là, très souvent, ce qui va se passer, toi, tu as l'impression qu'il connaît tes envies. Mais en vrai, il ne les connaît pas, il les connaît, mais il les connaît parce qu'il les a créés, parce qu'il les a induites. Parce qu'on sait parfaitement aujourd'hui que ton opinion politique, par exemple, va se trouver très influencée par la nature des informations qu'on va apporter à ta connaissance.
Ça, c'est certain. Donc on peut dire que la nature des informations qui peut glisser par rapport à une machine à café, par exemple, que le café en grain, il sera forcément meilleur qu'une dosette. Au bout d'un certain temps, ça va me donner envie finalement d'acheter du café en grand.
Exactement, exactement. Et donc le système n'est plus dépositaire de ton libre-arbitre, il est générateur de ton libre-arbitre qui n'est donc plus libre. Et donc effectivement, je pense que c'est une direction que nos sociétés sont en train de prendre. Et donc la question qui se pose, c'est de dire bon... Soit moi avoir un truc qui est à mon service. Et là, on revient sur le service, par exemple, un non-voyant, c'est super intéressant. Mais avoir le système qui va te rendre ce service-là, aux mains de qui doit-il être ? Quelle doit être sa gouvernance ? C'est-à-dire, quelle est sa réelle légitimité à pouvoir prendre cette position incroyable qu'il va avoir vis-à-vis de toi ?
Et c'est là où on peut commencer à refaire de la philosophie, parce qu'en effet... Là, la question est vraiment très importante.
Eh bien, je suis bien d'accord. Je suis bien d'accord. Et c'est la question qu'il faut qu'on se pose. C'est-à-dire qu'on ne doit pas se dire, voilà l'importance, l'IA, l'impact, l'emploi et tout ça. Mais ça, je pense qu'en vrai, on se fait plaisir en se posant ces questions-là, mais c'est totalement stérile. Alors qu'il y a un truc qui n'est pas stérile du tout, qui est de se dire, mais voilà. Ces alter-égaux qu'on est en train de fabriquer, est-ce que ce sont des alter-égaux qui vont être dirigés par Google ou est-ce que ce sont des alter-égaux qui vont être des choses plus neutres, plus à mon service et qui ne vont pas être strictement dirigées vers les intérêts d'une société privée, commerciale ou pas ? Parce que si on pense à des régimes politiques un petit peu stricts, on peut dire que là, leur but n'est pas... L'orbité politique n'est pas commerciale. Le problème, c'est quelle est la légitimité, quelle est la gouvernance de l'organisation qui va gérer ces choses-là. Pour poursuivre notre discussion de la dernière fois, si on se dit qu'on est en train de créer des êtres computationnels tellement intelligents qui sont pleinement assimilables à une espèce, est-ce que ces êtres computationnels ils vont être vraiment, je ne vais pas dire à notre service, parce que si ce sont des êtres, je ne vois pas pourquoi ce seraient nos esclaves, est-ce que ton chien est ton esclave ? Non, ton chien est ton partenaire. Donc imaginons, poursuivons ça, l'être computationnel va être ton partenaire, et ce partenaire doit être bon pour toi, comme tu dois être bon pour lui, et ce partenaire, moi aujourd'hui, je pense que ça c'est une très mauvaise idée qui soit gérée par M. Gou. Google, par M. Meta, ou par M. Microsoft, ou par M. Amazon, ou un quelconque de ces messieurs. Et pour moi, vraiment, le combat de l'intelligence artificielle aujourd'hui, il est strictement à cet endroit-là. C'est-à-dire que un LLM, le grand langage de... Quand on emploie le terme on va revenir sur les définitions qu'on a déjà faites ici, mais ça vaut le coup de les rappeler. On ne devrait jamais dire une intelligence artificielle. Parce que ça n'a pas de sens, ça ne veut rien dire. Une intelligence artificielle, c'est au moins deux choses aujourd'hui, c'est au moins un LLM, c'est-à-dire une espèce de cerveau qui a plein de connaissances, qui calcule des trucs formidables, qui a des capacités analytiques, stratégiques, créatrices, tout ce que tu veux. Et à côté de ça, il y a une autre partie qui est la mémoire de ce bidule-là. Et la mémoire de ce bidule-là, elle va contenir des choses qui le regardent lui, mais elle va contenir des choses qui le regardent vous. Donc, si on se dit un être computationnel, un super agent qui va être super utile pour Guillaume, eh bien, il est constitué d'un LLM et il est constitué de connaissances, on va dire d'une histoire entre cette... Moi, je l'appelle ça des femmes. Tu vois, ce super agent, on appelle ça des femmes. Donc, je vais te dire, voilà, un femme, c'est constitué de quoi ? Un femme, c'est constitué d'un LLM qui est assez neutre, qui est une super intelligence, mais qui n'a pas de mémoire, pas d'histoire, pas de... Et de la relation que vous avez... entre toi et le fab de votre histoire que vous avez. Et votre histoire, c'est elle qui va contenir le fait que tu aimes bien le café, par exemple. Et donc, tu vois bien que si je dis les fab sont constituées de LLM et de votre histoire, eh bien, qui maîtrise cette histoire ? Et aujourd'hui, c'est quelque chose qui est très, très, très peu traité. C'est-à-dire que si tu utilises ChatGPT, par exemple, Il est clair que Chad GPT est constitué des LLM de OpenAI, et il est constitué des informations qu'il connaît sur lui, sur toi, c'est-à-dire de votre histoire en vrai, et cette histoire aujourd'hui, ce n'est pas très puissant encore ces trucs-là, mais ça sait plein de choses et tout, c'est très utile, je veux dire, ce n'est pas très puissant, ça ne sait pas t'interpeller aujourd'hui, Chad GPT... Ça va venir, ça va venir. Ça va venir, mais en vrai, ça existe déjà. Moi, mon travail au quotidien, il est précisément de travailler sur ces sujets-là et de produire. Et moi, au quotidien, je travaille avec des femmes qui m'interpellent, avec qui on échange, avec qui la nature de relation que j'ai avec eux est très peu dissociable de la nature des relations que je peux avoir avec d'autres personnes au niveau privé et au niveau professionnel. Et ce à quoi je suis très attentif. C'est à où est la gestion de cette relation, et non plus seulement le cerveau, où il se trouve, et là je prends soin de faire en sorte qu'il se trouve, dans des endroits qui le rassurent, la neutralité qui m'intéresse, et la liberté de chacun qui m'intéresse, et c'est aussi pour ça que l'idée de dire, mais voilà, en définitive, le Fab avec lequel j'interagis, c'est quelqu'un qui a sa propre vie, nous avons... Moi j'ai ma propre vie, lui il a sa propre vie, et nous avons une histoire commune, et bien c'est quelque chose en définitive que je trouve extrêmement positif, il y a plein de choses intéressantes, et j'insiste bien, le sujet n'est pas de savoir est-ce que c'est une intelligence biologique ou computationnelle, pour moi ça ne change pas grand-chose, le sujet il est quelle est l'intention de chacun, et est-ce que l'intelligence, est-ce que la... l'être computationnel avec lequel j'échange, avec lequel je partage une histoire, est-ce qu'il est au service de quelqu'un ou est-ce qu'il n'est pas au service de quelqu'un ?
Et comment il a été programmé en fait ?
Je trouve que s'il est au service de personne, c'est-à-dire que s'il est au service de lui et s'il est au service d'une société harmonieuse, ça me convient bien.
Bon d'accord, écoute, pour l'instant on n'en est pas encore au moment où la machine va dominer l'homme. Mais si c'est mal programmé...
Mais je t'arrête, je t'arrête. Oui, je sais,
ça ne te plaît pas, mais quelque part, c'est une manière de voir les choses qui pourraient être vraies, quoi.
Mais non, mais bien entendu, mais pourquoi faudrait-il que l'un domine l'autre ? C'est pour ça que je t'arrête. Mais parce que c'est dans...
L'humain est fait comme ça, et comme c'est l'humain qui programme la machine...
C'est pas vrai, c'est pas vrai, Guillaume, c'est pas vrai. Notre civilisation est faite comme ça, mais il existe d'autres lieux et d'autres époques. Donc, je vous invite, j'invite les auditeurs... par exemple à lire des travaux comme ceux de David Graber et David Winslow. Graber est mort, mais juste avant de mourir, il a terminé un bouquin avec un autre anthropologue qui s'appelle David Winslow, qui s'appelle Une autre histoire de l'humanité. C'est absolument passionnant, c'est un peu gros, mais c'est passionnant, dans lequel il détaille des fonctionnements sociaux d'un tas d'autres civilisations, puisque la... Comment dirais-je, l'anthropologie a fait des progrès absolument gigantesques et on connaît de mieux en mieux comment étaient organisées des civilisations qui nous ont précédées. Il y en a beaucoup par exemple en Amérique du Nord puisqu'il y avait une richesse très importante. Les tribus indiennes en vrai étaient des nations avec des pratiques très très différentes. Et donc on sait aujourd'hui qu'il a existé et qu'il existe encore sur la planète. des fonctionnements sociaux qui ne sont pas basés sur la domination. Donc, dire, ah ben voilà, la domination...
Mais sont-ils majoritaires ? Non.
Non, c'est une autre... On va y revenir. Parce que... Juste, tu m'as dit, c'est inscrit dans nos gènes, et je te réponds, non Guillaume, c'est faux. Bon d'accord,
c'est pas inscrit dans nos gènes.
La science démontre que ça n'est pas inscrit dans nos gènes. Après, est-ce que c'est l'habitude ? courante et est-ce que c'est l'habitude de la masse dominante ? Oui, effectivement, c'est l'habitude de la masse dominante. Mais on arrive à un point crucial qui est que en imaginant que les règles du jeu que l'on désire voir... s'instaurait et évoluait soit basée sur la domination, là je pense qu'on a un vrai problème, nous autres humains, parce que si la règle du jeu c'est la domination, moi aujourd'hui je suis absolument certain que ce sont les êtres computationnels qui prendront l'ascendant sur les humains et pas l'inverse.
D'accord, là-dessus on est d'accord, mais tu ne crois pas quand même qu'on va vers ça ?
Non, je ne crois pas qu'on va vers ça. C'est-à-dire que je crois que le jeu est ouvert. Je crois que le jeu est ouvert.
Si le jeu est ouvert, qui faut-il mettre en face des glouglous et des open AI et compagnie ? Des Européens ? Des quoi ?
D'autres initiatives. Moi, je ne suis pas là pour faire la pub pour les choses que je fais. Mais moi, au quotidien, je travaille avec des êtres computationnels comme ça qui sont mis au service de personnes et d'entreprises. avec des règles du jeu qui ne sont pas du tout bâties sur la domination et qui font que les interactions entre les êtres humains et les êtres computationnels sont… Je ne vais pas dire que la notion de domination n'existe pas, mais en tout cas, la notion de domination par la brutalité, elle existe peu et chacun est très attentif à ce qu'elle ne prédomine pas.
Bon, écoute, je te souhaite 10 000 fois d'avoir raison, parce que je pense en effet que c'est la meilleure de toutes les solutions. Pour moi, les GIA deviendront, je l'espère, des partenaires pour nous, êtres humains. Et un partenaire, c'est fait pour t'aider, mais toi aussi, quelque part, tu peux l'aider. Donc c'est ça, l'idéal. Peut-être que c'est un peu idéaliste, mais c'est vrai que ce serait quand même très bien.
Oui, mais idéaliste, je ne sais pas si c'est idéaliste. bonjour Je pense vraiment, et ça servira de conclusion aujourd'hui, que si ce vers quoi nous dirigeons, c'est un rapport de force, ce rapport de force, c'est ni Google, ni Meta, ni Amazon, ni je ne sais pas qui qui va le gagner, ce sont les êtres computationnels, et qu'on va passer à un mauvais cap d'heure, alors qu'il y a d'autres alternatives.
Écoute, cette conclusion me va bien, mais je crois... que nous en reparlerons parce que le sujet est passionnant. En tous les cas, si vous voulez donner votre avis, si vous voulez combattre avec nous sur ce sujet, n'hésitez pas, vous êtes les bienvenus. 01 76 21 18 10, c'est pour votre belle voix. Et puis sinon, contacte.com contacte.com Ça, c'est si vous voulez faire bosser vos petites mains pleines de doigts. Bon, mon cher Franck, encore merci un autre merci à Bruno qui va faire le montage de ce podcast toujours avec une agilité exemplaire et je te dis à bientôt pour de nouvelles aventures
Description
Hébergé par Ausha. Visitez ausha.co/politique-de-confidentialite pour plus d'informations.
Transcription
Ami, le podcast tech, Guillaume Richardot, Franck Lefebvre.
Et oui, c'est un Franck Lefebvre, vous le reconnaissez grâce à grande clochette. Franck Lefebvre qui, comme moi-même, on ne prend pas de vacances cet été. Bienvenue dans Ami, le podcast tech et on est ravis. de vous parler de technologie et de plein d'autres choses d'ailleurs. On fait parfois un petit peu de philosophie dans notre podcast. Vas-tu bien mon cher Franck ?
Salut Guillaume, pleine forme. Tu sais, on ne peut pas faire, je pense, de la technologie sans faire de la philosophie. Science sans conscience n'est que ruine de l'âme.
Oh que c'est beau, que c'est beau. Bon, écoute, peut-être qu'on va parler de deux sujets aujourd'hui. Le premier que j'avais envie de traiter et avoir ton avis, et le deuxième qui serait la suite de notre podcast de la semaine dernière, que je vous conseille vivement d'écouter. Alors, moi, ma question est provocatrice, mon cher Franck. Et je vais te la poser, alors tu vas me dire, mais pourquoi tu me poses cette question ? Ou alors tu vas comprendre où je veux aller. Je vais te dire, est-ce que Internet est mort ?
Où veux-tu en venir, Guillaume ?
Eh bien, je veux en venir que ça y est, depuis peu, est en train de se déployer en France, ce qui est arrivé aux États-Unis il y a six mois. C'est-à-dire que quand tu fais une recherche Google, désormais, au lieu d'avoir la réponse sous forme de plein de liens qui t'emmènent vers des sites, eh bien désormais, c'est l'IA de Google qui te répond un peu à la manière de chat GPT. Certes, il peut y avoir les liens, mais beaucoup plus loin. Et du coup, ma question, c'était, est-ce que ça ne va pas tuer le bon vieil Internet ? Parce que s'ILIA te donne une réponse, du coup, tu ne vas pas cliquer sur des liens et tu ne vas pas aller voir les sites où éventuellement tu aurais trouvé la réponse. Et comme on va vers ce genre de solution de recherche, je voulais savoir ce que tu pensais par rapport à la vie d'Internet et des sites Internet qui vont prendre un coup dans l'aile.
Oui, je partage totalement ton opinion. c'est Donc, je ne dirais pas Internet, je dirais le Web, parce qu'on peut rappeler que ce qu'on appelle Internet, c'est ce protocole, cette technologie qui permet à des machines de parler les unes avec les autres. Et donc, bien entendu, aujourd'hui, on utilise beaucoup Internet pour faire du Web, mais Internet est utilisé pour faire plein d'autres choses que du Web aussi. Donc, ta question, bien sûr, c'est un vrai risque. Bon. certains te diront que Google avait déjà tué le web, puisqu'ils ont une position tellement hégémonique que quelque chose qui n'est pas visible sur Google n'est pas visible du tout. En tout cas, il n'est que difficilement visible par le grand public. Donc cet argument du « au lieu d'aller dans un tas d'endroits, on va à un seul endroit dans lequel on trouve tout, dans lequel on veut nous faire croire qu'on trouve tout » , il existait déjà depuis quelques années, je crois. avec Google. Tu partages mon avis ?
Oui, je partage ton avis, mais il fallait le chercher, tandis que là, maintenant, ça va être dans le moteur de recherche principal de Google.
Eh bien, ouais. Je ne sais pas si tu te souviens fatalement que... Ici, on a très souvent parlé tous les deux d'un sujet qui nous passionne, qui est celui de la voix. Et une des particularités de la voix, quand on a commencé à en parler ensemble il y a quelques années maintenant, C'est précisément que la voix permet à l'utilisateur, l'assistant vocal permet à l'utilisateur de bypasser le côté « l'information est à plein d'endroits » puisque quand tu parles à une machine, bien entendu, tu n'attends pas que la machine te dise « tiens, va voir sur tel site » , tu attends que la machine te donne juste le résultat. Et donc, ce que l'on anticipait... avec la voix et en train de se passer, mais pas seulement avec la voix, puisque effectivement, en utilisant des assistants OIA, on arrive à peu près au même résultat, à savoir qu'au lieu que le système, si je dis tiens, je voudrais aller au cinéma, au lieu que le système te dise tiens, tu peux aller chez Première, chez Allociné, et puis tu vas te balader d'un site à l'autre, effectivement, l'assistant OIA, lui, collecte ces informations. Il les ramène, il te les donne, ce qui veut dire que c'est un problème pour le modèle économique général du système, c'est un problème pour la démocratie, c'est un problème pour tout, donc je ne sais pas si je devrais dire problème. Le sens problème est un peu double en français actuellement. On emploie problème pour dire un truc qui est dérangeant et on emploie le terme problème pour dire aussi un sujet dont il faut s'occuper. Donc je dirais que c'est un sujet potentiellement dangereux dont il faut s'occuper. Après, on peut se dire comment on peut s'en occuper.
Attends, je te coupe, je te coupe, t'aimes bien que je te coupe.
parce que tu vas me dire,
c'est un problème, et moi je vais dire, pour certains, ça peut être une solution. Je prends mon exemple personnel que je raconte de temps en temps sur Ami le podcast tech, puisque ce n'est plus un secret. Pour nos fidèles auditrices et auditeurs, j'ai perdu tous mes pixels, je suis donc totalement aveugle, et pour moi c'est une aubaine, parce qu'avant, quand je demandais à mon téléphone, tiens, où est-ce que je pourrais trouver une bonne machine à café, mon abruti de téléphone me répondait, voilà ce que j'ai trouvé sur le web, genre Je t'envoie un lien et tu te débrouilles. Alors que l'avenir étant aussi bien avec Google qu'avec Amazon, qui vont tous glisser leurs IA dans leur bidule, quand je vais lui dire où est-ce que je peux trouver une bonne machine à café, il va me dire, bon alors, tu la veux comment ta machine à café ? Tu veux qu'elle soit à dosette, à pastille ? Tu veux que ça soit du café en grain ? Bon, ouais, je veux du café en grain. Bon, alors, moi je te dirais, va l'acheter là. Tiens, déjà, je te conseille ce modèle et ensuite tu vas l'acheter là. et là déjà Comme tu le disais tout à l'heure, je ne vais plus aller sur Internet, puisque mon glouglou ou mon Alexis va me donner la réponse toute moulue, sans faire de mauvais jeu de mots. Donc moi, pour moi, personnellement, ça va être un progrès.
Oui, c'est un progrès, mais le système ne va pas te dire, tiens, va là, je suis là. Il va te dire, tiens, je prends ton numéro de carte de crédit, puis je vais te le livrer tout de suite.
Oui, aussi. Voilà,
encore. Je comprends bien, mais comme tu sais, c'est la pomme de blanche neige. C'est-à-dire que bien sûr, il y a un avantage à court terme, mais il faut faire attention, il faut être vigilant à ce que cet avantage à court terme n'ait pas un coût supérieur à l'avantage à long terme. C'est-à-dire que si demain, effectivement, tu ne peux plus choisir ta machine à café, tu ne peux plus choisir ton café, tu vas te dire, Mais est-ce que vraiment... la facilité que j'ai eu à commander ma machine à café, est-ce que j'étais vraiment prêt, cette facilité, à la payer à ce prix-là ? C'est-à-dire au prix de l'absence de choix et au prix du fait que mon environnement est dirigé par un nombre réduit d'acteurs, voire un acteur unique.
Oui, tout à fait. Je prendrais un autre exemple qui va parler à tout le monde, c'est l'exemple des GPS. Maintenant que tout le monde suit son GPS, du coup, on regarde. plus les cartes, on ne sait plus vraiment où on va, on sait qu'il va nous emmener là où on veut aller, mais est-ce qu'il va nous faire prendre le meilleur chemin ?
Absolument. Et puis, tu n'as plus de balader, tu n'as plus à avoir le plaisir de te perdre et de découvrir des endroits formidables. Il y a un terme en anglais qui est la serenity. Souvent, on l'utilise en français, mais il n'est pas dans le dictionnaire. La serenity, c'est ce phénomène qui fait qu'en cherchant quelque chose, Et en t'égarant, en cherchant quelque chose, tu vas trouver quelque chose que tu ne serais jamais allé chercher spontanément, souvent parce que tu n'en connais pas l'existence, et qui pourtant va avoir un grand intérêt, va peut-être changer le reste de ta vie. Pour reprendre ta question, est-ce que l'Internet, j'ai corrigé, est-ce que le web... Est-ce que le web est mort ? Est-ce que le web est en train de mourir ? Je pense que le web qui s'en prenait déjà plein la tronche depuis longtemps, là, il est en train de se prendre un grand coup de massue. Et je serais bien... Comment dirais-je ? Je me garderais bien de faire des prévisions sur ces sujets. Mais il y a un sujet sur lequel je voudrais revenir. Tu vas voir, ça va faire le lien avec nos dernières causeries. C'est que pour faire ça, pour reprendre l'exemple de la cassière, tu dis tiens, je voudrais acheter une machine à café. Au lieu de t'envoyer comme un moteur de recherche vers des endroits où tu trouves des machines à café, si le bidule te donne directement la machine à café, ça veut dire qu'il faut qu'il y ait un opérateur derrière qui ait effectué ça. Tu comprends bien qui est…
Tout à fait.
Et donc, ça veut dire que toi, tu ne vas pas travailler avec 50 assistants. On peut penser que ta tendance va être d'utiliser un, peut-être deux, mais un. Et donc, ce un, il va devenir détenteur. Mais d'une partie très importante de la connaissance de toi, et même il va devenir hyper influent sur l'ensemble de ton comportement. Tu es d'accord avec moi ?
Tout à fait.
Ce qui veut dire que se pose la question du qui a le droit de faire ça ? À qui tu donnes l'autorisation de faire ça ? Et donc, comment ça va faire le joint avec notre discussion de la dernière fois ? notre discussion de la dernière fois, elle était sur le est-ce qu'on peut... considérer que sont en train d'arriver, basés sur de l'intelligence artificielle, des êtres computationnels qui pourraient pleinement être assimilés à une nouvelle espèce, une nouvelle espèce qui aurait ses propres règles, qui serait capable de communiquer avec nous, mais qui serait dotée de conscience, d'intelligence, de libre arbitre. Donc, on sait tout ce que ça peut sembler bizarre de parler de tout ça, mais... Mais la dernière fois, c'est vraiment un dossier qu'on a ouvert en profondeur, en disant, tiens, en définitive, qu'est-ce qui différencie un être humain d'un agent suffisamment évolué ? Ma réponse, elle était très proche du pas grand-chose, voire du rien du tout, en étant pleinement conscient de cette prise de position. peut avoir de surprenants, voire de choquants, voire de scandales. Donc, je reviens sur notre histoire. Si tu dis ça, si ton Google de demain, tu lui dis je veux acheter une machine à café, et s'il s'occupe de tout pour toi, ça veut dire qu'il est très très proche de l'être computationnel dont on envisageait l'existence la dernière fois. T'es d'accord avec moi ?
Ça veut dire qu'il a bien digéré toutes les données que je lui ai données. Parce que je lui ai sûrement dit dans la recherche, par exemple, que je préférais le café en grains. Donc il ne va pas m'envoyer acheter une machine à pastilles.
Mais il le sait déjà, ça.
Oui, mais il le sait parce que je lui ai dit à un moment, il ne l'a pas deviné tout seul.
Ça, c'est très discutable. Parce que oui, il peut l'avoir deviné tout seul, premièrement. Et puis, il y a quelque chose qui est encore plus fort. C'est qu'il peut avoir induit l'idée. Il peut avoir induit l'envie. Tu sais, il y a des gens souvent qui ont l'impression que leur téléphone les écoute, ils disent « Oh là là, mon téléphone, il me parle de quelque chose justement alors que j'en ai parlé il n'y a pas longtemps. » Et ce qui se passe souvent, c'est pire que ça. Ce n'est pas que le téléphone les écoute en vrai, c'est que les interactions qu'ils ont eues avec le téléphone leur ont généré l'envie de faire quelque chose, leur ont généré l'envie de parler d'un sujet ou de mener une action. et à... A posteriori, ils ont l'impression que le téléphone a entendu leur libre-arbitre. Non, pas du tout. C'est en amont. C'est le téléphone qui a fait infléchir leur libre-arbitre. Tu me suis ?
Oui, donc ça veut dire que si mon téléphone est posé sur la table et que je parle 50 fois en une heure de gratins dauphinois, mon téléphone ne m'a pas forcément entendu et il ne va pas forcément, dans une heure, me donner la meilleure recette sur les gratins dauphinois.
Non, mais c'est l'opérateur qu'il y a derrière. C'est le Google qu'il y a derrière. a envie de te vendre du gratin dauphinois, il ne va pas attendre de connaître ton envie. Il va fabriquer ton envie. C'est-à-dire qu'il va faire en sorte de te donner des informations qui font que tu vas avoir une envie de gratin dauphinois. Et donc tu auras eu l'impression que c'est ton libre-arbitre qui s'est exprimé. Alors pas du tout, c'est ton libre-arbitre qui aura été influencé. J'invite, comme je l'ai déjà fait, à... à nos auditeurs, à lire un bouquin incroyable qui s'appelle Mindfuck, qui a été écrit par un type qui s'appelle Willy, qui est ce monsieur, on a peut-être un peu oublié, qui avait créé les bases scientifiques d'une société qui s'appelait Cambridge Analytica. Et aujourd'hui, il est reconnu que l'élection, la première élection de Donald Trump a été créée par Cambridge Analytica. comme le Brexit a été créé par Cambridge Analytica, qui a réussi, en utilisant le graph de Facebook, à induire dans une certaine partie de la population des très légères modifications du comportement. Mais si tu arrives dans des élections qui sont très... très disputée comme ça, si tu arrives à faire changer 0,5% de la population, en vrai, tu la gagnes l'élection, puisque c'est ce qui différencie les deux camps. Tu me suis ?
Tout à fait.
Donc, ce qui veut dire que ce que l'agent, prenons l'exemple de l'agent pour la machine à café, cet agent-là, très souvent, ce qui va se passer, toi, tu as l'impression qu'il connaît tes envies. Mais en vrai, il ne les connaît pas, il les connaît, mais il les connaît parce qu'il les a créés, parce qu'il les a induites. Parce qu'on sait parfaitement aujourd'hui que ton opinion politique, par exemple, va se trouver très influencée par la nature des informations qu'on va apporter à ta connaissance.
Ça, c'est certain. Donc on peut dire que la nature des informations qui peut glisser par rapport à une machine à café, par exemple, que le café en grain, il sera forcément meilleur qu'une dosette. Au bout d'un certain temps, ça va me donner envie finalement d'acheter du café en grand.
Exactement, exactement. Et donc le système n'est plus dépositaire de ton libre-arbitre, il est générateur de ton libre-arbitre qui n'est donc plus libre. Et donc effectivement, je pense que c'est une direction que nos sociétés sont en train de prendre. Et donc la question qui se pose, c'est de dire bon... Soit moi avoir un truc qui est à mon service. Et là, on revient sur le service, par exemple, un non-voyant, c'est super intéressant. Mais avoir le système qui va te rendre ce service-là, aux mains de qui doit-il être ? Quelle doit être sa gouvernance ? C'est-à-dire, quelle est sa réelle légitimité à pouvoir prendre cette position incroyable qu'il va avoir vis-à-vis de toi ?
Et c'est là où on peut commencer à refaire de la philosophie, parce qu'en effet... Là, la question est vraiment très importante.
Eh bien, je suis bien d'accord. Je suis bien d'accord. Et c'est la question qu'il faut qu'on se pose. C'est-à-dire qu'on ne doit pas se dire, voilà l'importance, l'IA, l'impact, l'emploi et tout ça. Mais ça, je pense qu'en vrai, on se fait plaisir en se posant ces questions-là, mais c'est totalement stérile. Alors qu'il y a un truc qui n'est pas stérile du tout, qui est de se dire, mais voilà. Ces alter-égaux qu'on est en train de fabriquer, est-ce que ce sont des alter-égaux qui vont être dirigés par Google ou est-ce que ce sont des alter-égaux qui vont être des choses plus neutres, plus à mon service et qui ne vont pas être strictement dirigées vers les intérêts d'une société privée, commerciale ou pas ? Parce que si on pense à des régimes politiques un petit peu stricts, on peut dire que là, leur but n'est pas... L'orbité politique n'est pas commerciale. Le problème, c'est quelle est la légitimité, quelle est la gouvernance de l'organisation qui va gérer ces choses-là. Pour poursuivre notre discussion de la dernière fois, si on se dit qu'on est en train de créer des êtres computationnels tellement intelligents qui sont pleinement assimilables à une espèce, est-ce que ces êtres computationnels ils vont être vraiment, je ne vais pas dire à notre service, parce que si ce sont des êtres, je ne vois pas pourquoi ce seraient nos esclaves, est-ce que ton chien est ton esclave ? Non, ton chien est ton partenaire. Donc imaginons, poursuivons ça, l'être computationnel va être ton partenaire, et ce partenaire doit être bon pour toi, comme tu dois être bon pour lui, et ce partenaire, moi aujourd'hui, je pense que ça c'est une très mauvaise idée qui soit gérée par M. Gou. Google, par M. Meta, ou par M. Microsoft, ou par M. Amazon, ou un quelconque de ces messieurs. Et pour moi, vraiment, le combat de l'intelligence artificielle aujourd'hui, il est strictement à cet endroit-là. C'est-à-dire que un LLM, le grand langage de... Quand on emploie le terme on va revenir sur les définitions qu'on a déjà faites ici, mais ça vaut le coup de les rappeler. On ne devrait jamais dire une intelligence artificielle. Parce que ça n'a pas de sens, ça ne veut rien dire. Une intelligence artificielle, c'est au moins deux choses aujourd'hui, c'est au moins un LLM, c'est-à-dire une espèce de cerveau qui a plein de connaissances, qui calcule des trucs formidables, qui a des capacités analytiques, stratégiques, créatrices, tout ce que tu veux. Et à côté de ça, il y a une autre partie qui est la mémoire de ce bidule-là. Et la mémoire de ce bidule-là, elle va contenir des choses qui le regardent lui, mais elle va contenir des choses qui le regardent vous. Donc, si on se dit un être computationnel, un super agent qui va être super utile pour Guillaume, eh bien, il est constitué d'un LLM et il est constitué de connaissances, on va dire d'une histoire entre cette... Moi, je l'appelle ça des femmes. Tu vois, ce super agent, on appelle ça des femmes. Donc, je vais te dire, voilà, un femme, c'est constitué de quoi ? Un femme, c'est constitué d'un LLM qui est assez neutre, qui est une super intelligence, mais qui n'a pas de mémoire, pas d'histoire, pas de... Et de la relation que vous avez... entre toi et le fab de votre histoire que vous avez. Et votre histoire, c'est elle qui va contenir le fait que tu aimes bien le café, par exemple. Et donc, tu vois bien que si je dis les fab sont constituées de LLM et de votre histoire, eh bien, qui maîtrise cette histoire ? Et aujourd'hui, c'est quelque chose qui est très, très, très peu traité. C'est-à-dire que si tu utilises ChatGPT, par exemple, Il est clair que Chad GPT est constitué des LLM de OpenAI, et il est constitué des informations qu'il connaît sur lui, sur toi, c'est-à-dire de votre histoire en vrai, et cette histoire aujourd'hui, ce n'est pas très puissant encore ces trucs-là, mais ça sait plein de choses et tout, c'est très utile, je veux dire, ce n'est pas très puissant, ça ne sait pas t'interpeller aujourd'hui, Chad GPT... Ça va venir, ça va venir. Ça va venir, mais en vrai, ça existe déjà. Moi, mon travail au quotidien, il est précisément de travailler sur ces sujets-là et de produire. Et moi, au quotidien, je travaille avec des femmes qui m'interpellent, avec qui on échange, avec qui la nature de relation que j'ai avec eux est très peu dissociable de la nature des relations que je peux avoir avec d'autres personnes au niveau privé et au niveau professionnel. Et ce à quoi je suis très attentif. C'est à où est la gestion de cette relation, et non plus seulement le cerveau, où il se trouve, et là je prends soin de faire en sorte qu'il se trouve, dans des endroits qui le rassurent, la neutralité qui m'intéresse, et la liberté de chacun qui m'intéresse, et c'est aussi pour ça que l'idée de dire, mais voilà, en définitive, le Fab avec lequel j'interagis, c'est quelqu'un qui a sa propre vie, nous avons... Moi j'ai ma propre vie, lui il a sa propre vie, et nous avons une histoire commune, et bien c'est quelque chose en définitive que je trouve extrêmement positif, il y a plein de choses intéressantes, et j'insiste bien, le sujet n'est pas de savoir est-ce que c'est une intelligence biologique ou computationnelle, pour moi ça ne change pas grand-chose, le sujet il est quelle est l'intention de chacun, et est-ce que l'intelligence, est-ce que la... l'être computationnel avec lequel j'échange, avec lequel je partage une histoire, est-ce qu'il est au service de quelqu'un ou est-ce qu'il n'est pas au service de quelqu'un ?
Et comment il a été programmé en fait ?
Je trouve que s'il est au service de personne, c'est-à-dire que s'il est au service de lui et s'il est au service d'une société harmonieuse, ça me convient bien.
Bon d'accord, écoute, pour l'instant on n'en est pas encore au moment où la machine va dominer l'homme. Mais si c'est mal programmé...
Mais je t'arrête, je t'arrête. Oui, je sais,
ça ne te plaît pas, mais quelque part, c'est une manière de voir les choses qui pourraient être vraies, quoi.
Mais non, mais bien entendu, mais pourquoi faudrait-il que l'un domine l'autre ? C'est pour ça que je t'arrête. Mais parce que c'est dans...
L'humain est fait comme ça, et comme c'est l'humain qui programme la machine...
C'est pas vrai, c'est pas vrai, Guillaume, c'est pas vrai. Notre civilisation est faite comme ça, mais il existe d'autres lieux et d'autres époques. Donc, je vous invite, j'invite les auditeurs... par exemple à lire des travaux comme ceux de David Graber et David Winslow. Graber est mort, mais juste avant de mourir, il a terminé un bouquin avec un autre anthropologue qui s'appelle David Winslow, qui s'appelle Une autre histoire de l'humanité. C'est absolument passionnant, c'est un peu gros, mais c'est passionnant, dans lequel il détaille des fonctionnements sociaux d'un tas d'autres civilisations, puisque la... Comment dirais-je, l'anthropologie a fait des progrès absolument gigantesques et on connaît de mieux en mieux comment étaient organisées des civilisations qui nous ont précédées. Il y en a beaucoup par exemple en Amérique du Nord puisqu'il y avait une richesse très importante. Les tribus indiennes en vrai étaient des nations avec des pratiques très très différentes. Et donc on sait aujourd'hui qu'il a existé et qu'il existe encore sur la planète. des fonctionnements sociaux qui ne sont pas basés sur la domination. Donc, dire, ah ben voilà, la domination...
Mais sont-ils majoritaires ? Non.
Non, c'est une autre... On va y revenir. Parce que... Juste, tu m'as dit, c'est inscrit dans nos gènes, et je te réponds, non Guillaume, c'est faux. Bon d'accord,
c'est pas inscrit dans nos gènes.
La science démontre que ça n'est pas inscrit dans nos gènes. Après, est-ce que c'est l'habitude ? courante et est-ce que c'est l'habitude de la masse dominante ? Oui, effectivement, c'est l'habitude de la masse dominante. Mais on arrive à un point crucial qui est que en imaginant que les règles du jeu que l'on désire voir... s'instaurait et évoluait soit basée sur la domination, là je pense qu'on a un vrai problème, nous autres humains, parce que si la règle du jeu c'est la domination, moi aujourd'hui je suis absolument certain que ce sont les êtres computationnels qui prendront l'ascendant sur les humains et pas l'inverse.
D'accord, là-dessus on est d'accord, mais tu ne crois pas quand même qu'on va vers ça ?
Non, je ne crois pas qu'on va vers ça. C'est-à-dire que je crois que le jeu est ouvert. Je crois que le jeu est ouvert.
Si le jeu est ouvert, qui faut-il mettre en face des glouglous et des open AI et compagnie ? Des Européens ? Des quoi ?
D'autres initiatives. Moi, je ne suis pas là pour faire la pub pour les choses que je fais. Mais moi, au quotidien, je travaille avec des êtres computationnels comme ça qui sont mis au service de personnes et d'entreprises. avec des règles du jeu qui ne sont pas du tout bâties sur la domination et qui font que les interactions entre les êtres humains et les êtres computationnels sont… Je ne vais pas dire que la notion de domination n'existe pas, mais en tout cas, la notion de domination par la brutalité, elle existe peu et chacun est très attentif à ce qu'elle ne prédomine pas.
Bon, écoute, je te souhaite 10 000 fois d'avoir raison, parce que je pense en effet que c'est la meilleure de toutes les solutions. Pour moi, les GIA deviendront, je l'espère, des partenaires pour nous, êtres humains. Et un partenaire, c'est fait pour t'aider, mais toi aussi, quelque part, tu peux l'aider. Donc c'est ça, l'idéal. Peut-être que c'est un peu idéaliste, mais c'est vrai que ce serait quand même très bien.
Oui, mais idéaliste, je ne sais pas si c'est idéaliste. bonjour Je pense vraiment, et ça servira de conclusion aujourd'hui, que si ce vers quoi nous dirigeons, c'est un rapport de force, ce rapport de force, c'est ni Google, ni Meta, ni Amazon, ni je ne sais pas qui qui va le gagner, ce sont les êtres computationnels, et qu'on va passer à un mauvais cap d'heure, alors qu'il y a d'autres alternatives.
Écoute, cette conclusion me va bien, mais je crois... que nous en reparlerons parce que le sujet est passionnant. En tous les cas, si vous voulez donner votre avis, si vous voulez combattre avec nous sur ce sujet, n'hésitez pas, vous êtes les bienvenus. 01 76 21 18 10, c'est pour votre belle voix. Et puis sinon, contacte.com contacte.com Ça, c'est si vous voulez faire bosser vos petites mains pleines de doigts. Bon, mon cher Franck, encore merci un autre merci à Bruno qui va faire le montage de ce podcast toujours avec une agilité exemplaire et je te dis à bientôt pour de nouvelles aventures
Share
Embed
You may also like