- France Charruyer
Bonjour, bienvenue à nos causes de l'Udata Ring. L'intelligence artificielle, on en parle tout le temps. Elle promet des avancées significatives dans les secteurs clés tels que la médecine, l'éducation, l'économie, mais son déploiement suscite beaucoup de commentaires, des interrogations, alors, entre... techno-utopie et techno-solutionnisme, il va falloir rester techno-lucide. J'ai le plaisir d'accueillir aujourd'hui les fondateurs du manifeste du techno-réalisme et on va les laisser se présenter parce que j'ai toujours une surprise avec Data Ring. Bonjour Arnaud, bonjour Nour, bonjour Maxime, je vais vous laisser vous présenter car vous êtes nos invités stars d'aujourd'hui.
- Arnaud Billion
Bonjour, et bien c'est peut-être Nour qui va commencer.
- Nour Trabelsi
Avec choix, bonjour et merci encore pour l'interview. Je suis Nour Trabelsi, ingénieure en génie industriel avec la spécialité en supply chain. Et j'ai eu l'occasion durant mes recherches personnelles sur le phénomène de l'IA de rencontrer Arnaud et Maxime qui sont avec nous aujourd'hui et de travailler sur un manifeste qui m'est important aussi bien pour mes valeurs mais aussi pour son application dans le cadre de mon travail.
- France Charruyer
Alors Maxime ?
- Maxime Derian
Moi de mon côté, bonjour, je suis Maxime Den, je suis anthropologue du numérique. Ça fait une vingtaine d'années que je travaille sur la question de l'impact de la digitalisation des outils numériques sur la société, sur les psychologies, sur le business. Et je suis à présent consultant, on va dire, en éthique de l'IA, puisque ça correspondrait mieux à ce que je fais actuellement.
- France Charruyer
Et alors Arnaud, et vous ?
- Arnaud Billion
Et alors, moi je suis docteur en droit de l'informatique. Je travaille dans un laboratoire d'informatique dans une grosse compagnie de logiciels. Je me suis intéressé par des rencontres à chercher une posture qui soit la plus réaliste possible, c'est-à-dire une posture en recherche. Une posture en recherche d'une forme de réalité qu'on pourrait ensemble partager et que nos mots, les mots que nous utilisons pour essayer de nous approprier les actions, soient des mots raisonnables, compréhensibles, et qu'il y ait vraiment cet aspect de discussion et de recherche ensemble.
- France Charruyer
Alors on va essayer de comprendre tous ensemble. Arnaud, vous êtes modeste, mais vous êtes surtout le fondateur du technoréalisme et auteur du livre « Sous le règne des machines à gouverner » qui a été édité par l'Arsier en juillet 2022. Et à l'instar de toutes les personnes qui sont venues à nos podcasts, je vais vous demander quelle est votre définition de l'intelligence artificielle ? Parce que je n'ai jamais pu avoir la même définition, alors je voudrais la vôtre.
- Maxime Derian
Oui, alors donc, quand on parle d'intelligence artificielle, on a la définition de 56. qui est celle d'un système informatisé qui reproduirait des fonctionnements cognitifs humains. Ça, c'était plus ou moins la perspective qui était envisagée dans les années 50. Et depuis, les choses ont changé dans la mesure où, comme l'IA est devenue quelque chose de tangible dans notre vie quotidienne, la définition qu'on trouve la plus simple est devenue très floue. Donc moi, celle que je propose, à partir de… de ce qu'on a travaillé au niveau du technoréalisme, et c'est aussi inspiré par du travail d'un groupe de recherche de Orande, je dirais que déjà l'intelligence artificielle, en fait c'est une discipline, une sous-discipline de l'informatique. C'est-à-dire que quand on dit intelligence artificielle, c'est un raccourci, un peu comme si on disait mathématiques au lieu de dire un calcul. Et cette discipline scientifique construit des agents, c'est-à-dire que c'est soit des logiciels, soit du matériel, qui est capable d'exécuter un logiciel, un programme, qu'on dit d'intelligence artificielle. Et ce programme a comme capacité d'interagir avec son environnement et surtout d'apprendre à partir des données. Et ayant cet apprentissage, il est ensuite capable de restituer un résultat qui peut être soit la forme d'une génération, générer un texte, générer une image, soit peut être une prise de décision ou une prédiction. Et entre le moment où la donnée est traitée et le moment où une nouvelle donnée est sortie, l'agent d'IA a comme particularité d'avoir un certain degré d'autonomie. Là-dessus que l'enjeu se joue, c'est que cette autonomie, cette semi-autonomie du logiciel, fait qu'il y a des effets qui ne sont pas prévus. On peut dire des effets impromptus, on peut avoir des comportements comme des hallucinations, mais généralement aussi de la créativité, une forme de créativité, ce qui nous paraît de la créativité. Et du coup, en fait, l'IA tel que je le définirais, c'est ainsi. C'est un agent logiciel ou matériel et qui a comme particularité aussi de travailler sur une très très grande base de données préexistantes. C'est en cela qu'il est différent de l'esprit humain.
- France Charruyer
Donc finalement, pour sortir et démystifier l'IA, en fait ce que vous définissez, c'est que vous nous dites que l'IA, qu'on définit souvent comme un algorithme, ce n'est pas forcément le bon terme. Vous avez même écrit que ça donne l'illusion, Arnaud, de la transparence. Vous dites également que l'IA comme système, ça donne l'illusion de cloisonnement. Vous dites que le système d'IA, cette définition n'est pas pleinement acceptable en l'état parce que ça suggère à tort que l'on peut en connaître les frontières concrètes et les effets pratiques. Vous dites également que les modèles d'IA, ça nous donne l'illusion de la familiarité, c'est surtout l'invisibilité. L'IA n'est pas autonome, non pleinement automatique, et qu'on a peut-être aussi l'illusion de la maîtrise, l'illusion de la raison, l'illusion du consentement. Donc Arnaud, je voudrais vous entendre là-dessus. Est-ce que tous les mots que l'on utilise ne sont pas faux ? Est-ce qu'on ne surdimensionne pas l'IA ?
- Arnaud Billion
Oui, bien sûr, comme le disait Maxime, c'est une manière de faire du logiciel. À la limite, on pourrait dire plus précisément, c'est de l'ingénierie logicielle. Et ça, là-dessus, Noor pourra... C'est bien apprécié d'avoir des gens comme Noor qui sont descendus, qui ont programmé, qui ont fait de la data science, donc qui regardent ça de près. Je dirais que l'illusion, elle vient du fait que c'est très difficile, avec nos mots de langage naturel, de parler d'un système informatique intégré et largement déployé. Parce qu'il ne faut pas oublier que... Les systèmes d'IA sont installés sur des logiciels, et en fait c'est une partie du logiciel, et le grand logiciel, c'est un grand système d'information mondial interconnecté, qui anime en particulier nos institutions. Donc on voit tout de suite survenir les enjeux politiques. Il n'est pas raisonnable, à mon avis, de parler d'IA en essayant d'en deviner les effets, en oubliant... que ce sont des programmes installés sur des ordinateurs et ce que ces programmes interagissent entre eux. Maxime parlait à raison de l'action sur l'environnement. Mais l'IA, elle peut avoir parfois une action sur l'environnement s'il y a un bras mécanisé et que le robot se comporte comme ça. Mais la première action sur l'environnement, c'est que ça balance des données transformées dans un réseau et que ces données transformées dans un réseau, elles vont avoir d'autres conséquences, elles vont déclencher d'autres calculs. C'est pour compléter... ce que disait Maxime sur les effets impromptus. Pour moi, les effets impromptus, c'est avant tout le fait que je prompte et je déclenche des robots, mais je ne sais absolument pas ce que vont faire mes petits robots. Et avant de passer la parole à Nour, j'aimerais donner juste cette anecdote. C'est que dans le milieu militaire, j'ai eu l'occasion d'échanger avec des gradés autour du mode avion du smartphone. Il faut bien comprendre que personne ne sait ce que ça fait d'appuyer sur le mode avion, à part changer la couleur du petit avion. Ça déclenche des commandes informatiques qui ne sont peut-être pas les mêmes hier, aujourd'hui, demain, qui ne sont peut-être pas les mêmes pour vous et pour moi. Et on espère, c'est pour répondre sur l'illusion, nous espérons qu'appuyer sur mode avion, ça coupe des réseaux, quelque chose comme ça. Mais en fait, nous ne sommes absolument pas assurés parce que derrière, c'est que du code.
- France Charruyer
Donc on est sur de la maîtrise. Alors nous, je suis vraiment ravie de vous avoir. est-ce que vous pourriez poursuivre la réflexion d'Arnaud compte tenu de votre expertise ? Vous êtes une scientifique, donc on va donner de la rationalité aussi dans tout ça.
- Nour Trabelsi
Oui, absolument. Et pour reprendre l'idée du système, en effet, le mot est systématique, parce qu'il n'y a pas de limite. Mais moi, ce que je dirais, c'est que c'est un milieu aujourd'hui. L'IA n'est pas un système, ce n'est pas non plus un algorithme qui est dissocié et unique. C'est tout un milieu. Et d'ailleurs, quand on code, on parle très bien d'environnement et on parle beaucoup de bibliothèque. D'ailleurs, toute la base du code, ça dépend des bibliothèques. Mais encore une fois, comme a dit Arnaud, bibliothèque pour nous en tant qu'humains et dans notre langage, c'est un ensemble de livres, un ensemble de connaissances qui ont été rassemblées, qui ont été éditées, alors que bibliothèque dans le code, c'est en fait un ensemble de langages ou d'outils ou d'objets. C'est comme des artefacts, sauf que ces artefacts peuvent être mis dans un contexte pour pouvoir créer ce qu'on appellerait un programme de manière courante.
- France Charruyer
Je vais vous poser des questions les uns après les autres, en fonction de votre secteur, de vos compétences et de votre expertise. Mais alors, comment vous expliquez que nous ayons tendance à surestimer ces effets technologiques ? nous considérer avec toute cette émulation autour de l'IA qui devient un buzzword ? Est-ce qu'on peut dire que c'est une technologie de rupture ? Là, j'écoute Arnaud et ensuite Maxime et enfin Nour. Est-ce que chacun avec vos mots, chacun avec votre expérience, est-ce que c'est une technologie de rupture ? Est-ce qu'on est dans la surestimation ? Est-ce qu'on est dans le fantasme ? Dans l'illusion de la magie ?
- Arnaud Billion
Alors, il y a certainement une illusion, il y a certainement du fantasme qui est entretenu par des dynamiques de marché et puis par une envie de croire des récits simplistes. Moi, je dirais, ce que je vois sur la rupture, simplement, je vois surtout une continuité avec ce que j'ai mis dans mon bouquin, la rationalisation du droit depuis, disons, au moins le XVIIe siècle. Et pour le dire en deux mots, et on y reviendra, je crois, c'est que ça fait bien longtemps. que les juristes essayent d'écrire des règles en systèmes déductibles les unes des autres et dans un langage de plus en plus stabilisé, de plus en plus formel. Et ça, c'est une assez bonne définition du logiciel. Donc, nos institutions, dans notre état de droit, ce sont des institutions en tout juridique qui sont posées, organisées par le droit. Il faut bien comprendre que la continuité, c'est ça. C'est que l'IA, c'est du logiciel, et le logiciel, c'est un système d'instruction comme on rêve de le faire depuis des siècles. pour ce qui est des juristes. Ça, c'est un élément fort de continuité. Alors, je suis d'accord qu'il y a des ruptures, mais il y a avant tout une nécessité de comprendre les logiques longues. Sinon, on réfléchit à l'IA dans la boîte, un peu comme on soulignait tout à l'heure, comme dans le laboratoire, dans un laboratoire, en estimant qu'en dehors du laboratoire, tout est magique, tout s'organise pour le mieux. Non, c'est une production longue et il faut réussir à penser ensemble tout ça. quand même beaucoup plus intéressant, je pense.
- France Charruyer
Et vous, Maxime ?
- Maxime Derian
Eh bien, on va mettre tout de suite en application pas mal de choses qu'on a faites au moment de la rédaction du technoréalisme. C'est-à-dire qu'en fait, je ne suis pas tout à fait d'accord avec Arnaud.
- France Charruyer
Mais ça, c'est bien, c'est intéressant. Je ne suis pas d'accord.
- Maxime Derian
Même si on n'est pas d'accord avec l'autre, pardon.
- Arnaud Billion
C'est la part de Fabrique.
- Maxime Derian
On arrive à s'entendre quand même.
- France Charruyer
Vous savez qu'on est contre la normalisation de la pensée, donc c'est ça qui nous enrichit.
- Maxime Derian
Il y a un côté débat qui est promu par le technoréalisme et qui se met en œuvre aussi quand on en discute, parce que parfois on a des points de convergence et parfois de divergence. Alors déjà, juste, je reviens sur l'environnement. Quand je disais environnement, ce n'était pas au sens écologique uniquement, mais autant écosystème. Donc l'environnement de l'IA pour moi, c'est son environnement physique, mais aussi son environnement numérique. C'est ce que je voulais préciser, mais ce qui passe actuellement pour moi, il y a une rupture. Et en fait, ce qui est amusant, c'est que j'ai passé beaucoup de temps auparavant à dire non, cette technologie n'est pas une révolution, ce n'est pas une rupture, c'est juste une prolongation. L'ordinateur, le smartphone, c'est un prolongement de l'ordinateur personnel qui lui-même, un prolongement du mainframe computer, etc. J'avais toujours tendance à ne pas trop voir des ruptures. Et en fait, ce qui se passe actuellement avec l'intelligence artificielle, c'est vrai qu'il y a aussi un côté fascination. Mais j'assistais hier à une conférence de... de personnes qui fabriquent des IA et qui disaient eux-mêmes qu'ils sont surpris par la vitesse de l'avancée que leur domaine a pris ces derniers temps. Et donc, du coup, tout le monde est un peu fasciné, un peu comme si on avait mis le feu à la forêt et que la forêt brûle sous nos yeux. Alors, ce n'est pas forcément si dramatique, mais on a déclenché quelque chose. Et c'est pour ça que je parle de rupture. Quand je dis rupture, c'est-à-dire qu'il y a un avant et un après. On va sûrement mettre la césure historique à chaque GPT, mais en fait, finalement, il y avait déjà des prémices. Et cette rupture, en quoi elle consiste ? Pour moi, elle consiste au niveau du tempo, au niveau de la rythmicité, au niveau de l'accélération. Parce que l'IA actuellement, en fait, permet d'accélérer l'innovation, y compris l'innovation en IA. Donc, je ne fais pas partie des turiféraires qui pensent qu'on va créer un nouveau dieu, une intelligence supra-géniale dans les mois qui viennent, mais cette accélération, elle est quand même significative. Donc du coup, il faut bien sûr ne pas se départir d'une forme de crise plus critique, parce que l'IA aussi, je vois en travaillant avec, écrit aussi beaucoup de bêtises, mais une capacité d'accélération. Donc il y a différents types d'IA, les IA génératives, les IA prédictives, il y a plein plein d'usages, mais globalement, l'usage tout azimut de l'IA dans la société, dans la science et dans l'industrie, font que tout s'accélère. Et cette accélération-là, c'est ce que j'appelle une redistribution des cartes. Et il y a peut-être même une forme de clergé qui se met en place, le clergé de l'IA. J'ai l'impression que ça se crée au niveau de la jeunesse d'un clergé. Et du coup, là, je rejoins quand même Arnaud sur cet espoir des juristes qui a été de tout codifier. Et finalement, avec l'IA et l'informatique, avant l'IA, c'est aussi un moyen d'aller codifier un peu partout, y compris dans nos poches, dans notre environnement, dans les murs de nos maisons, dans nos voitures, etc. Voilà, je m'arrête, mais je vote pour la rupture.
- France Charruyer
Ah non, mais moi, je vais organiser le fil de la discussion et l'organiser différemment. Vous allez voir. Et vous, Nour, rapidement, parce que j'ai plein d'autres questions à poser. Qu'est-ce que vous avez à dire ? Parce que moi, j'ai Arnaud qui me dit, bon, c'est une continuité, ce n'est ni plus ni moins que la tentation de la machine à gouverner. J'ai Maxime qui me dit, qui ne contredit pas tout à fait Arnaud, si je puis me permettre, qui dit qu'en fait... Lui aussi, au début, était sur la continuité, mais que maintenant, on est face à une rupture, mais peut-être dans notre rapport au temps, face à l'accélération, et vous, Nour, qu'est-ce que vous pouvez nous dire ?
- Nour Trabelsi
Oui, alors, il faut savoir que le machine learning, c'est-à-dire l'apprentissage de la machine, n'est pas quelque chose de nouveau. Il y a même les réseaux de neurones qui est en fait une construction dans la programmation, où on donne des inputs et c'est un peu comme une boîte noire. Il y a des fonctions, des distributions probabilistes qui se font et après, on a l'output. Alors, la rupture ou plutôt le feu, c'est en fait la puissance de calcul. Il y a peut-être trois piliers. La puissance de calcul que l'IA a permis, parce que plus on calcule, plus on a de résultats, plus on est performant. C'est les fonctions ou la probabilité qui a été utilisée, la loi de probabilité qui a été utilisée. Peut-être qu'on ne la connaît pas, peut-être que c'est une jonction de plusieurs lois. Et ça, il faut encore beaucoup de capacités, mais aussi il faut pouvoir l'intégrer sur un seul système. Et le troisième pilier qui est important pour moi, c'est le format de présentation. Quand je dis qu'avant on avait le réseau de neurones et le machine learning, ce n'était que des résultats qu'un programme pouvait nous donner, suivant un format numérique, sous un format assez réservé pour ceux qui peuvent lire et comprendre. La puissance pour moi de l'IA, et peut-être ça rejoint cette rupture, c'est en fait le format de présentation. Quand une machine peut nous poser maintenant des questions sur la base des inputs qu'on lui a donnés, ça, c'est révolutionnaire du point de vue expérience utilisateur et du point de vue de la personne. Donc, pour conclure sur cette question, ce n'est pas technologiquement, fonctionnellement, la révolution ou la découverte du siècle, mais c'est sur l'utilisation, comment elle est présentée aux internautes, qui fait d'elle une chose assez nouvelle. Et d'ailleurs... que par exemple Gemini de Google n'a pas été aussi performant, n'a pas eu la popularité qu'AchatGPT. Et pour moi, ça, ça montre qu'en fait, la distinction ou la révolution, elle ne vient pas de la technologie puisque les deux ont des technologies similaires, mais c'est surtout de la manière de la présenter, de la qualité peut-être aussi des données. Et il y a eu même des anecdotes sur Gemini du fait qu'il présentait des images avec des connotations un peu raciales.
- France Charruyer
un peu choquantes. Les deux, quand on compte différemment. Donc en fait, si je comprends bien, quand vous nous dites qu'il y a une rupture pour vous dans le format, c'est en fait de nous parler d'ingénierie. Parce que la révolution à laquelle s'est livrée OpenAI, c'est le fait de l'acceptabilité par le plus grand nombre dans le téléchargement et le fait qu'on soit aujourd'hui dans une véritable ingénierie. et une généralisation de l'outil. Et j'en viens à ma troisième question. Est-ce que finalement, qu'il s'agisse de continuité ou de rupture, les questions que nous devons nous poser face à cette avalanche d'IA, de systèmes d'IA, d'environnement logiciel, dans cette systématisation du recours à l'IA et parfois à son invisibilité, comme vous l'avez très bien dit Arnaud, lorsque je coche le mode avion, finalement je ne sais pas. pas trop à quoi ça... ce que cela recouvre exactement techniquement. Est-ce que je ne suis pas en train de rentrer dans une forme de dépendance dont je ne pourrais pas me passer, dans une forme de... je ne dirais pas d'aliénation, mais de propre obsolescence, et dans un système où je suis surveillée, je suis encadrée, et que j'ai un impact où on beaucoup parle sur mon autonomie, mon libre-arbitre. Qu'est-ce que vous pouvez nous en dire sur ce dernier aspect ? La question, c'est le rapport à l'égard de notre autonomie et cette avalanche de systèmes d'IA qui vient à notre secours ou pas, dont on ne comprend pas très bien comment ça fonctionne, qui vient se substituer. On nous dit que c'est des assistants à prise de décision, mais de plus en plus, on assiste à un glissement sur de la substitution. Donc, quel rapprochement vous faites, vous, sur le déclin de notre autonomie ou pas, le rapport au libre arbitre avec l'esprit critique ? Qu'est-ce que vous en pensez ?
- Maxime Derian
Si je peux me permettre par rapport à ça, ça fait quelques années que je parle de deux choses, d'un emmaillotement numérique. Je pense à un bébé en fait.
- France Charruyer
L'image est bonne.
- Maxime Derian
Quand le bébé sort de l'utérus et qu'il vient de naître, sa femme peut emmailloter, c'est très mignon, et c'est rassurant pour le bébé. Donc cet emmaillotement, il contraint de toute façon... des déplacements et une mobilité quand même très limitée d'un nouveau-né, mais en même temps, il le rassure. Et cet emménagement numérique, en fait, il va de plus en plus étroitement en s'y rénover, quitte à même parfois, avec l'Internet des Objets, l'Internet of Things, devenir quelque chose de l'ordre de l'impalpable, de l'intangible, puisque ce sera dans notre environnement. Mais concrètement, de quoi il s'agit ? Un, Nous, humains, en tant qu'humains, homo sapiens, on vit beaucoup plus vieux qu'on le ferait à l'état sauvage. C'est-à-dire que si nous tous on se retrouvait dans la jungle ou dans un champ, mais avec aucun accès à aucune technologie ni rien, d'un coup l'espérance de vie chute très drastiquement et nos mesures de subsistance, etc., ça serait radicalement différent. C'est-à-dire qu'en fait on est déjà très très très dépendant de la société dans laquelle on vit. Bien sûr c'était le cas déjà dans le passé, mais là non seulement c'est de la société humaine, mais c'est tout un accompagnement technologique. On peut bien le voir que pour l'approvisionnement énergétique ou même au niveau de la nourriture, sans énergie, pas de nourriture, sans nourriture, etc. Donc en fait, cette dépendance, elle est déjà très étroite. Mais l'emménagement numérique fait qu'en fait, il va aussi accompagner notre cognition, c'est-à-dire notre façon de penser, notre façon, c'est-à-dire que notre façon de nous adresser à l'autre, au point où parfois on peut être dans la même maison et on s'envoie un mail dans la même maison ou un SMS alors qu'on est dans la même maison. Mais c'est devenu tellement une façon de communiquer entre nous que… ça devient une seconde nature. Et là, j'arrive à ce deuxième concept que j'ai développé depuis quelques années et qui paraissait vraiment de la science-fiction, mais qui, à mon avis, résonne de plus en plus avec la réalité, c'est la société ruche. Je pense, en tant qu'anthropologue, puisque en tant qu'anthropologue, l'idée, c'est de travailler sur l'homme en général et ce qui constitue l'humain, et une des grandes préoccupations, c'est l'organisation humaine. On a toujours l'impression que le monde dans lequel on vit, il est immuable, parce qu'à l'échelle de nos vies, de notre temporalité, on croit que les choses ne vont pas changer. Mais en fait, si on prend un peu plus de distance, comme un siècle, deux siècles, trois siècles, des millénaires, d'un coup, on voit quelque chose. C'est que si l'homo sapiens, on va dire, les premières traces, c'est 300 000 ans au Maroc, ça fait seulement 150 ans qu'on a autant d'énergie. Et ça fait seulement quelques décennies qu'on utilise l'ordinateur. Et ça fait seulement quelques mois, quelques années qu'on utilise l'IA. Donc de ce fait, en fait, ce qui se passe, la société ruche, je pense qu'il y a un changement global de la société qui se passe. C'est-à-dire qu'autrefois, on était vraiment basé sur le groupe. C'est-à-dire qu'autrefois, c'était avant la Révolution, c'est-à-dire avant la Révolution française à peu près, avant le siècle des Lumières. C'était le groupe qui comptait, avec un roi au milieu. Et donc, c'est Ferdinand Thonis qui l'a théorisé. Et on est passé peu à peu de la communauté à la société, de la Gemeinschaft à la Gesellschaft en allemand. Et c'est-à-dire qu'en fait, la société, c'est l'individu qui devient l'atome constitutif de la population. Un individu qui vote, un individu qu'on compte via les statistiques. Et c'est la forme de société qu'on connaît, avec le monopole de la force de l'État, etc., et le vote. Mais on va s'acheminer peut-être vers quelque chose d'autre. Ce que j'appelle la société ruche, en gros, c'est une population humaine beaucoup plus large, structurée en essaim, à l'échelle continentale, et qui, en gros, recoupe une ère culturelle, et qui a comme particularité de s'organiser avant tout via des interfaces numériques. Alors, ce que j'appelle les prothèses cognitives, c'est ces excroissances qu'on utilise comme les smartphones, mais il y en aura peut-être d'autres modalités, des choses nouvelles. peu importe le type d'accessoires. Mais ce qui se passe, c'est qu'on a des relations entre nous qui deviennent synchrones et asynchrones. Et c'est là que je reprends un peu l'idée de la ruche et de l'essaim, un peu comme des phéromones chez les fourmis, chez les abeilles. C'est-à-dire qu'on est capable de s'organiser bien plus que jamais autrefois. C'est-à-dire qu'un empire comme l'empire romain a trouvé ses limites techniques parce qu'il n'était plus capable d'acheminer l'information. Ensuite, on a eu le téléphone, le télégraphe. Mais là, maintenant, avec ces outils numériques, on a un niveau de finesse incroyable. Et ce niveau de finesse est... et en plus amplifiée par la capacité de traitement de l'information de l'IA. C'est là que la société est en train de changer, on est en train de voir une nouvelle société arriver. C'est mon point de vue.
- France Charruyer
Vous n'avez pas l'impression qu'en fait, derrière tout ça, puisque vous parlez de la ruche, qu'on est sur une banalisation, standardisation, avec une volonté que les individus soient interchangeables pour augmenter la productivité ?
- Maxime Derian
Oui, si, complètement.
- France Charruyer
Oui,
- Nour Trabelsi
alors je veux beaucoup revenir sur ça. D'abord pour l'histoire de la dépendance et l'indépendance. toujours une liberté fondamentale chez l'être humain et une indépendance qui est son pouvoir de fermer la fenêtre. La fenêtre, c'est-à-dire l'anglais. Donc, il y a toujours cette liberté et celle-ci, pour l'instant, n'est pas controversée, n'est pas commandée. Après, pour l'histoire de dépendance, pour moi, c'est tout un processus qui a commencé il y a longtemps. Ce n'est pas l'apparition de l'intelligence artificielle en tant que mot, comme vous l'avez dit, en tant que buzzword, maintenant, qui va nous rendre dépendants. On a beaucoup durant ces décennies, ces siècles, peu importe, là où a commencé le progrès, tout ce qu'on a essayé de faire, c'est changer la manière de penser, le système même de réflexion. C'est peut-être même le rendre paresseux sans être dans une connotation négative, mais le fait de donner beaucoup d'outils pour permettre à l'homme non pas de penser, mais d'organiser plusieurs pensées. Et c'est pour ça que même ce qu'avait dit Maxime sur le problème de la vie, sur les sociétés en ruche, pour moi ce serait bien, pas dans le sens manichéisme, mais ce serait vraiment productif pour l'humain d'avoir des sociétés ruches si l'entraide était latérale. Mais ce que je vois, c'est qu'on organise des communautés. Et au centre de ces communautés, il y a ce qu'on appelle l'intelligence artificielle. Donc ce n'est pas un échange latéral entre les individus, c'est vraiment un échange qui est concentrique, qui va vers un seul point, un seul centre.
- France Charruyer
Et une gouvernementalité algorithmique.
- Nour Trabelsi
Oui, effectivement. Et comme vous avez parlé de productivité, justement on nous a appris ou on nous apprend aujourd'hui que l'opinion n'est pas bonne pour la productivité, n'est pas intéressante ou utile pour le travail. n'est pas un but à atteindre pour les sociétés.
- France Charruyer
Donc on aplatie la pensée.
- Nour Trabelsi
On aplatie la pensée pour les faits. On parle toujours de faits, donnez-nous des faits, dans les emails des faits, dans les conversations aussi des faits. L'opinion passe comme à côté. On parle de liberté d'opinion, mais pas dans la société de l'action, dans la société plutôt politique, dans la société sociale. Et c'est le problème qui amène au fait que l'IA est une source de faits. On fait croire que l'IA est une source de faits, et c'est pour ça que c'est facile. d'aller directement vers l'IA pour combler ses besoins ou ses requêtes de productivité et d'action.
- France Charruyer
Donc le mensonge vole et la vérité vient boiter après elle. Alors Arnaud, qu'est-ce que vous pouvez nous dire sur l'aplatissement banalisation ?
- Arnaud Billion
Oui, il y a un aplatissement, il y a comme la création d'une surcouche cognitive et puis de représentation. Et en fait, effectivement, quand je m'adresse à l'IA, il faut bien comprendre que je vais interroger un système. qui n'est pas, qui a toutes les apparences de la vie, mais qui n'est pas la vie, qui est un système autonome, en tout cas qui se transforme, mais qui me redonne l'illusion d'avoir du sens et de la signification humaine. Ça, c'est un petit peu subtil, mais en fait, il faut toujours revenir à l'ordinateur. C'est-à-dire que se rappeler que toutes ces grandes réflexions que nous faisons sur la ruche, sur le temps long, etc., Elles sont valables si et seulement si nous arrivons à maintenir en place un système logiciel qui se casse la figure toute la journée, dont il y a toutes les raisons de penser que l'IA ne peut pas le réparer. Parce que des bugs, ce n'est pas de la régularité. En gros, je peux dire ça du point de vue du juriste. Un programme logiciel, c'est du conventionnel. C'est-à-dire que quelqu'un l'a écrit ou quelque chose l'a écrit. C'est une manière d'écrire. Mais le langage n'épuise pas le réel. Ça veut dire que dans les programmes tels qu'ils sont interconnectés et tels qu'on les rebranche quand ils arrêtent de fonctionner, parce qu'il y a des propagations qui font écrouler des pans entiers tous les jours du système d'information, il y a des fuites de données, tout un tas de problèmes, si tu veux. Ce truc-là n'est pas magique, ce n'est pas de la vie, justement. Alors que des abeilles, des vraies abeilles, se régulent, elles peuvent s'organiser pour répondre à une menace si elles sont attaquées dans la rue, etc. Les IA, si on veut parler comme ça, ce n'est que du programme. Un programme est non stratégique et non... Incarné. Un programme n'est pas circonstancié.
- France Charruyer
Ou incarné. En fait, ce qu'il en manque...
- Arnaud Billion
Il n'est pas incarné, il n'est pas circonstancié. Incarné, on peut mettre un robot, on peut mettre du plastique, mais il n'est pas, au fond, sa mesure, c'est les limites du web mondial. Et donc, il n'a pas le sens des inconvénients et, d'une certaine manière, le sens de la survie. Il ne va pas chercher des causes. Toutes ces choses-là, qui sont présentes dans les sociétés humaines, qui sont présentes dans la vie, finalement, avec des réactions. Il faut bien comprendre une dernière chose, peut-être, sur l'ordinateur, qui est un objet fascinant, en fait. Dans l'ordinateur, et en particulier dans la couche logicielle, aucune loi naturelle ne règne. Aucune loi naturelle n'a de prise. C'est que de la logique booléenne. Alors, c'est de la simulation, c'est-à-dire, si je joue à un jeu de foot, j'ai l'impression qu'il y a de la gravitation qui attire mon ballon vers le bas. Mais en vrai... Et alors, le fait d'avoir un monde simulé qui se déploie dans un univers où les lois de la nature n'ont pas cours, ça donne des réactions de ce système très particulières. Absurde parfois, c'est les hallucinations, mais aussi injustes. C'est-à-dire que demain matin, peut-être, tout notre système bancaire va se casser la figure. Nous n'aurons plus, aucun d'entre nous, plus aucune écriture comptable sur nos comptes. Simplement parce qu'il y a un bot qui a fait n'importe quoi ou une cyberdéfense qui était mal vue. Donc il faut penser, réussir à tenir les deux en même temps. Les réflexions sur ce que ça change fondamentalement dans nos rapports entre nous, dans notre manière de vivre, etc. Et en même temps, ce côté tout à fait trivial et impitoyable de la technique.
- France Charruyer
qui fait que je coupe un câble. Ça peut changer, ça peut paralyser tout un hôpital, par exemple. Tout ça, c'est... On a l'ancien monde qui survit dans le nouveau monde.
- Arnaud Billion
Et dans cet interstice surgissent les monstres. On connaît la phrase fabuleuse. Mais donc, finalement, Günther Anders a tort quand il dit l'avènement de la technologie qui nous rend dépendants et qui nous rend obsolètes à terme. Dans ce que tu nous dis, c'est... Attention, il y a des limites à cette infrastructure, ces systèmes logiciels, cet environnement qui fonctionne avec ses lois propres, mais en tout cas pas forcément les nôtres,
- France Charruyer
et qui peut être condamné. Les grands spécialistes de la résilience des systèmes, je pense que quand on parle avec des gens qui s'intéressent de près à ces questions, c'est à peu près clair que personne ne croit. à l'IA générale, au sens de l'IA qui prend le pouvoir, etc. Parce que tout le monde pense que le système va tomber avant. Il y a beaucoup de doutes. En fait, d'une certaine manière, les bots malfaisants, je vais l'expliquer en deux secondes avec mes petits mots, il faudra demander à un spécialiste, les bots malfaisants, on les blanche aux échecs. L'attaque précède la défense. Et ça, ça nous met dans une situation où, s'agissant d'un dispositif, mais ça, on va faire des interrogés un peu nourres, parce qu'elles fréquentent vraiment des systèmes logistiques, des programmes, voilà, c'est ça. Il s'agit de dispositifs qui sont à la fin des programmes, donc non adaptatifs, sans aucun sens de la réalité, sans aucun sens de la survie. Dans les couches basses, on voit très mal comment ce n'est pas de la même résilience que celle d'un animal ou d'un organisme ou même d'un écosystème qui va, d'une certaine manière, jouer avec les lois naturelles et d'autres choses pour persévérer dans son être, si je peux marcher sur le terrain de la philosophie. Allez, je passe le ballon à Nour.
- Arnaud Billion
Alors Nour, est-ce que l'IA, elle est résiliente ? Est-ce qu'elle s'auto-condamne ? Est-ce qu'elle s'auto-sabote ?
- Nour Trabelsi
Je pense que la réponse peut être dite en une phrase, dans le sens où Lya n'a pas conscience de son être. Et aussi, je m'aventure dans le terrain philosophique, c'est-à-dire que Lya ne sait pas qui elle est. Même quand on pose des questions, on s'amuse à jouer, à dire à Tchadjepeté ou autre qui es-tu. on n'a jamais une réponse parce qu'ils n'ont pas conscience. Et quand ils n'ont pas conscience de soi, ils n'ont pas conscience des risques autour. S'il y a, comme dit Arnaud, des bottes malfaisantes ou une déviation, c'est sûrement une déviation aléatoire qui ne vient pas suivant un plan, donc qui n'a pas d'objectif ou de but. Et ce qui me dérange d'ailleurs dans tous ces débats autour de l'IA bonne, de l'IA mauvaise, de la science-fiction et des films, c'est que... c'est qu'en réalité, on revient au terrain de la guerre. Mais ce n'est pas l'IA qui va créer la guerre, c'est nous en tant qu'humains ou les gens derrière cette IA qui vont peut-être pousser à la guerre, mais l'IA en tant que telle, le système et l'ordinateur d'un point de vue simple, ne peut pas avoir des objectifs de guerre et ne peut pas s'auto-combattre ou s'auto-détruire, à moins que ça ne soit de manière vraiment aléatoire, ce qu'on peut appeler bug ou autre.
- Arnaud Billion
Alors, je vois Maxime qui fonce les sourcils.
- Maxime Derian
Avant de dire ce Gunther Anders, parce que Gunther Anders, quand il parle de l'obsolescence de l'homme, il parle davantage d'une perception que d'un fait. C'est-à-dire qu'il était à l'idée guérien et je pense qu'à un moment donné, il ne pense pas que la technique humaine va dépasser la cognition, la raison humaine. Mais par contre, on pourrait nous percevoir, se sentir comme inférieurs face aux objets qu'on a générés.
- France Charruyer
La honte promettéenne. Oui,
- Maxime Derian
la trométhéenne chez Gunther Anders, c'est ça. C'est qu'on fabrique, par exemple, moi je vois ma voiture, elle va tellement plus vite que moi. Si j'essaie de courir derrière, j'aurais les ridicules. Je n'atteindrais jamais les 150 km heure ou les je ne sais pas quoi. Et ce que je veux dire, ce n'est pas pour autant que je me sens vraiment si inférieure que ça à ma voiture, parce que je sais qu'elle est quand même limitée intellectuellement, que c'est juste une voiture. Mais le truc avec l'IA, c'est que l'IA, elle peut être jouée sur le côté cognitif et comportemental ou en tout cas sur les expressions. Et comme une machine, on peut sans cesse la peaufiner, l'améliorer, par la puissance, par la puissance de calcul, par les données qu'on y apporte, on n'en est qu'au début, on n'en est qu'en 2024. Tant qu'on aura d'énergie pour faire avancer la machine et des ressources minières pour faire avancer les choses, on arrivera à le développer et on va arriver à avoir des IA qui seront censés être plus raffinés pour nous faire croire que les vessies sont des lanternes. Mais par contre, je rejoins complètement Nour sur le fait que pour moi, au centre de la ruche, il ne s'agit pas d'avoir une IA, il s'agit d'avoir… Un roi ou une reine de la ruche. Je dis un roi à dessein parce qu'en général, c'est plutôt des hommes. Mais ce sera les gens qui dirigent les grands groupes.
- Arnaud Billion
De toute façon, on pourra parler de l'invisibilité des femmes aussi dans le domaine du nuage.
- Maxime Derian
Ils utilisent peut-être des femmes ou d'autres hommes qui sont leur levier. Et l'IA est un des leviers qui permet d'accroître la capacité de captation capitaliste aussi et d'efficacité. Mais en effet, l'IA par elle-même n'a pas de téléologie. Elle n'a pas de ligne directrice, pour l'instant en tout cas, pas du tout. C'est juste un logiciel qu'on allume et qu'on éteint. Par contre, les gens qui l'allument et qui l'éteignent le font à dessein. Et c'est nous aussi, quand on emploie un prompt, etc., qu'on utilise l'IA pour faire quelque chose. Donc l'IA, c'est un accélérateur, c'est un vecteur. Sur le côté militaire, il y a tellement de possibilités différentes et il faut quand même admettre le fait qu'on utilise de plus en plus l'IA dans le domaine militaire. On avait dit qu'on ne ferait pas d'IA tueuse, on ne ferait pas de machine tueuse parce que ce n'est pas éthiquement correct. Or, si on regarde un peu les développements militaires, il y a beaucoup d'applications de l'IA dans le domaine.
- Arnaud Billion
On a toujours utilisé les outils et ce dont nous avions à notre disposition pour conquérir un territoire et rentrer dans une logique de prédation. Aujourd'hui, on a aussi un vrai problème concurrentiel, c'est-à-dire qu'on a de l'IA qui se concentre entre les mains de quelques-uns. On a deux sujets, me semble-t-il, sur lesquels j'aimerais bien vous entendre. C'est la concentration du pouvoir entre les mains de quelques monopoles avec une culture qui n'est pas forcément la nôtre. La deuxième, c'est cette volonté, contrairement à Platon, de rester dans la caverne. Ça nous va bien de prendre des vessies pour des lanternes. C'est confortable. On n'a pas envie de la pilule rouge.
- Maxime Derian
Thomas Tman a dit il y a quelques semaines, ça va vite, 12 mois peut-être maintenant, qu'un de ces quatre matins, on allait voir des entreprises avec un employé et un milliard de capital. Parce qu'il y aurait un employé, un patron qui dirigerait des IA. Et ça fait un petit peu sourire et ricaner. Mais quand on regarde les chiffres, par exemple, quand je regarde Mistralia, Mistralia, je crois qu'ils sont 35 et ils s'en sont à 2 milliards de capitalisation. Quand on voit OpenAI, ils sont à 80 milliards de dollars, je crois, je ne sais plus exactement, ou 20, je ne sais plus, je n'en sais pas vraiment, mais ils sont 300. Ce qui se passe, c'est qu'on a les IA, il faut voir ce qu'on définit par IA, on en a déjà parlé avant, il y a différents types de solutions, mais en gros, on a un système informatique qui amplifie la capacité de prédation du pouvoir et de captation de capitaux, qui permet à certains d'avoir des rapports de force en leur faveur. Par exemple, Sam Altman, Bill Gates, etc. Donc, c'est intéressant de voir dans quel sens on accepte que la société aille, et avec une forme de fascination peut-être.
- France Charruyer
Oui, mais la technologie n'est pas neutre. La technologie n'a jamais été neutre.
- Maxime Derian
Elle n'est jamais, et là, elle est utilisée à dessein par certaines personnes qui sont très contentes de s'enrichir. Et Sam Altman, qui a quand même une vision derrière ça, je ne peux pas me fixer sur Sam Altman, mais c'est un bon exemple, il a pas de part dans Open AI. C'est-à-dire qu'il est juste, il dit que j'open AI, mais il n'a pas de part dans la société. Ça peut paraître incroyable. Mais par contre, il met beaucoup d'énergie. Il a mis 500 millions de dollars assez récemment dans Elyon Energy, qui est une entreprise qui vise à faire de l'énergie nucléaire vraiment la nouvelle méthode, la fusion nucléaire contrôlée. Autre chose que ce qui se fait à ITER, etc. Et si ça marche, alors là, on sera tous à avoir besoin de ces outils encore plus qu'on a besoin d'OpenAI et de ChatGPT. Ce serait incomparable. Donc du coup, derrière sa logique, j'imagine, c'est de faire tout ce qu'il s'en quête. mais voilà, de nous vendre des produits à 100%.
- France Charruyer
Mais on revient aux notions de dépendance, d'asservissement et de contrôle. Enfin, on est toujours là-dessus.
- Arnaud Billion
Moi, j'ai l'impression que dans la vocation, une des vocations de technoréalisme, c'est de reposer justement ces questions à hauteur de dépendance, et de dépendance, on va commencer par les dépendances techniques, les dépendances énergétiques, les dépendances humaines, etc. Et après, de montrer l'IA comme elle est. c'est-à-dire avant tout comme un miroir de notre organisation sociale. Et quand on parle des entreprises fort capitalisées, avec quasiment aucun employé à l'intérieur, mais simplement qui sont des logiciels, simplement des logiciels branchés sur des comptes en banque, nous pouvons quand même nous redemander collectivement si c'est cette organisation de l'économie que nous souhaitons, que nous acceptons. Je pense qu'il est temps de regarder le plan comptable, les 30 000 nouvelles lois votées en France en plus chaque année, de regarder les instruments européens, sur l'IA par exemple, et la data, qu'ils vomissent de la norme technique à toute allure, de telle manière que la seule vocation humaine d'un professionnel, dans pas longtemps, ce sera de développer des logiciels pour cocher les cases de ce qu'ont voté nos députés. Et je pense qu'il faut très sérieusement regarder si cette organisation collective nous convient, puisqu'elle suppose, en termes de dépendance, de brûler la plupart de notre énergie pour faire des calculs absurdes. Elle suppose d'obéir à des lois qui n'ont aucun sens, parce que ce n'est pas vrai que 200 000 règles écrites par quelqu'un, ou même par IA si on préfère, auraient la moindre signification pour un être humain. Et si nous reconnaissons que vraiment, à regarder l'IA au prisme de l'ordinateur, au prisme du technoréalisme, c'est-à-dire comme elle est véritablement, comme aussi l'aboutissement de logiques longues, de rationalisation, moi je travaille sur la rationalisation du droit, mais on peut regarder dans tout domaine. Et c'est d'ailleurs un travail que fait Techno-réalisme, de décrire une théorie générale de la machine, c'est-à-dire comment tout converge finalement dans un ordinateur.
- France Charruyer
Quelle solution pour nous ?
- Arnaud Billion
Non mais alors, moi je...
- Maxime Derian
L'information,le débat déjà, écoutez, je pense que déjà il faut que tout le monde doit avoir son mot à dire.
- Arnaud Billion
Exactement. Et peut-être, pardon pour finir, il me semble que nous avons besoin d'un compromis finalement. autour du fait que la réalité existe et n'est pas multiple ou absurde. Les ronds ne sont pas carrés. Je parle à Data Ring et ça veut dire que ça passe par un réseau et donc potentiellement je parle au monde entier, etc. Il me semble qu'il faut quand même disqualifier la parole irrationnelle. C'était important, c'est-à-dire que ce sont des gens, certaines personnes ou à certains moments de leur vie... ont décidé que la réalité ne leur importait plus et qu'ils pouvaient s'échapper dans un système de représentation qu'ils inventent quasiment à la volée, avec des mots probables à la ChatGPT, en fait. Et je pense que ces gens-là, ou à ce moment-là de leur vie, ne sont plus capables de construire le commun.
- France Charruyer
Alors, n'être plus capable de construire le commun. En fait, j'ai envie de faire un deuxième podcast avec vous, rien que sur cette phrase. Est-ce qu'on est encore en capacité de construire le commun, d'avoir eu un vivre ensemble ? À l'heure de l'irrationalité, si je vous entends, comment allons-nous devenir des techno-lucides ? Est-ce que vous auriez une phrase de fin, tous les trois ? Qu'est-ce que vous aimeriez ?
- Maxime Derian
Je reprendrai l'affiliation avec le techno-réalisme américain des années 90, parce que le mouvement techno-réaliste, initialement, est arrivé en anticipant l'essor du web. Dans les années 90, David Shapiro et Douglas Rochkoff ont créé un site et un collectif, Techno-réalisme sans eux. qui visait à réfléchir justement à enlever l'irrationnel dans le discours sur le web. Parce qu'à l'époque c'était pareil, on disait avec le internet et le web, tout va être mieux, tout sera parfait, l'éducation sera pour tous, tout ira mieux, il n'y aura plus de problèmes. Et donc du coup eux, ce qu'ils voulaient c'était se départir de l'irrationnel de la même manière que nous, c'est-à-dire ne pas voir que le web à l'époque va tout améliorer, tout changer en mieux, ou tout empire et tout s'effondrer, mais créer surtout un débat. Un débat et moi personnellement je pense qu'il faut avoir le courage du compromis. pour reprendre exactement le mot compromis parce qu'on pense souvent que le courage c'est de pouvoir imposer sa vue quoi qu'il en coûte je pense que si on écoute tous le discours des uns des autres et qu'on arrive à faire une synthèse on arrivera à accepter aussi collectivement ce dans quoi on s'engage moi je pense que c'est super important d'être capable aussi d'accepter la contradiction parce que personne ne sait de quoi le futur sera fait personne ne sait où le lien va nous amener je pense qu'il faut s'écouter y compris écouter les gens les plus enthousiastes ou les gens les plus critiques parce que c'est comme ça qu'on pourrait arriver en excluant personne à accepter ce qui nous arrive.
- France Charruyer
Et j'aimerais en finir avec Nour. Alors Nour, le mot de la fin.
- Nour Trabelsi
Pour revenir sur un point qui m'est très important, je vois qu'il y a une grande contradiction entre le fait qu'on veuille ignorer la réalité et que d'une autre manière on voit la réalité mais sous forme virtuelle. En fin de compte, toutes les organisations qu'on est en train de créer dans le virtuel, sur ordinateur, dans les jeux vidéo, elles s'inspirent totalement de la réalité. C'est vrai qu'on ajoute des cornes à des personnages ou une queue fantastique, mais le fantastique est ancré dans la réalité, donc on n'échappe pas du tout à la réalité. Et pour être aussi réaliste dans la solution, honnêtement, je ne crois pas qu'il puisse y avoir... solution à travers que des débats ou autre parce qu'il y a forcément des jeux de pôle, des jeux d'intérêts et l'IA, ce n'est pas le progrès de l'IA qui va être mis en contrebalance du progrès par exemple ou du développement culturel, ce sera probablement un autre intérêt qui nous dépasse dont les gouverneurs sont aussi à un autre niveau. Par contre, ce que je trouve assez amusant et pourtant ignoré de pas mal de personnes de mon entourage en tout cas, c'est que tout est écrit, tout est dans l'histoire, tout a déjà été fait, peut-être pas dans le même... sens technologique, mais les faits sont pareils. Et nous nous répétons, tout comme les guerres du XXIe siècle, on s'en sent basé sur les mêmes principes que les guerres du Moyen-Âge ou même avant. Pour moi, vraiment la solution, à part le débat et en plus de cela, c'est en fait essayer de chercher l'irrationalité dans ce qu'on a. Et plus on cherche l'irrationalité, plus on lit sur ce qui s'est passé et dans le passé pour toutes les inventions, plus on commencera à avoir de la lucidité. Parce que tout est écrit, tout est assez clair, sous différentes manières, différentes formes. Il faut faire un peu plus d'efforts pour le comprendre. Mais je crois que la solution est à portée de chacun, mais elle est plus ou moins dissimulée ou cachée. C'est pour ça qu'on a fait le technoréalisme aussi. C'est pour dire qu'on a écrit, on a laissé une trace et c'est à portée de tout le monde.
- France Charruyer
Écoutez, je vous remercie tous les trois. J'ai envie d'en faire un autre. J'ai envie de vous dire, je ne sais pas si les solutions seront dans le livre, dans les choses qui sont sacrées, dans les choses qui sont cachées, mais peut-être d'aller à l'essence de celles-ci. Et j'ai envie d'essayer de vous amener à être des technolucides. Merci à vous et à bientôt pour de nouvelles aventures sur Data Room. Au revoir. Merci.
- Nour Trabelsi
Merci beaucoup.
