Transcription

• Speaker #0

  Bonjour à toutes et à tous et bienvenue dans SAF IA, le podcast qui explore la relation entre l'intelligence artificielle et le droit sous tous les angles, avec clarté et simplicité, mais surtout sans artifice. L'IA est déjà partout, notre quotidien, nos choix, nos métiers et même nos pensées. Mais devons-nous la laisser transformer notre réalité sans nous poser les bonnes questions, sans saisir pleinement ses conséquences sur nos vies ? Je suis Safia Kirbouche. avocate et passionnée par les enjeux du numérique. A chaque épisode, j'ai le plaisir de tendre le micro à un expert d'une discipline différente pour qu'il partage avec nous ses éclairages sur cette révolution technologique. Opportunités et risques, ensemble, nous explorons toutes les facettes de l'IA. Que vous soyez juriste ou novice, professionnel ou simple curieux, que ce soit votre première écoute ou que vous soyez déjà un fidèle de notre communauté passionnée de droit. et ou d'IA, vous êtes au bon endroit. On décrypte ensemble les grands enjeux de l'intelligence artificielle pour comprendre aujourd'hui ce qui dessinera demain. Alors installez-vous confortablement et je vous présente notre invité.

• Speaker #1

  De qu'est-ce que l'individu à l'ère de l'IA, j'ai le grand plaisir d'accueillir Julien Govin, philosophe et essayiste, auteur de l'ouvrage L'Individu, fin de parcours. cours aux éditions Gallimard, qui va venir nous expliquer comment l'individu doit être perçu à l'ère des nouvelles technologies et quelle est probablement son évolution. Julien, merci beaucoup pour avoir accepté de venir dans ce podcast.

• Speaker #0

  Merci à toi, Safia.

• Speaker #1

  En quoi l'émergence de cette technologie influe sur notre qualité d'individu ?

• Speaker #0

  Ah bon, c'est une question très vaste et je suis ravi parce que je crois que j'ai l'espace pour être volubile.

• Speaker #1

  Je crois que j'ai l'espace pour être volumineux. Simplement, cette question-là dont je parle est très intéressante parce qu'elle parle de l'individu,

• Speaker #0

  Bon, simplement,

• Speaker #1

  qui est une notion très propre à notre civilisation occidentale ou du moins toutes les civilisations qui se revendiquent héritières des lumières,

• Speaker #0

  cette question-là dont tu parles est très intéressante parce qu'elle parle de l'individu.

• Speaker #1

  des droits de l'homme et de l'émancipation individuelle. Et je vais y revenir, mais donc la question, c'est en quoi la technologie aujourd'hui s'inscrit,

• Speaker #0

  Il y a une notion très propre à notre civilisation occidentale ou tout du moins toutes les civilisations qui se revendiquent héritières des Lumières.

• Speaker #1

  rentre et peut changer certains paramètres.

• Speaker #0

  des droits de l'homme et de l'émancipation individuelle. Et je vais y revenir, mais donc la question, c'est en quoi la technologie aujourd'hui s'inscrit, rentre et peut changer certains paramètres dans lesquels l'individu est une notion centrale. C'est-à-dire que ce n'est pas la même chose l'intelligence artificielle en Chine, en Russie, en Corée du Nord, parce que les valeurs ne sont pas les mêmes, mais en Europe, aux États-Unis, États-Unis qui commencent à basculer, mais qui restent encore pays des droits de l'homme, constitutionnellement. Tous ces pays qui ont les droits de l'homme et l'émancipation et la liberté au cœur de leur définition, eh bien, la question qui va se poser,

• Speaker #1

  La question qui va se poser,

• Speaker #0

  c'est de quelle manière l'IA,

• Speaker #1

  c'est de quelle manière l'IA, la technologie, s'inscrit dans ce paradigme civilisationnel. Alors,

• Speaker #0

  la technologie,

• Speaker #1

  qu'est-ce que c'est que l'individu ? Parce qu'on tourne autour du pot.

• Speaker #0

  s'inscrit dans ce paradigme civilisationnel ?

• Speaker #1

  L'individu, c'est un certain type d'homme, de femme, homme avec un grand H, parce que c'est une notion qui s'est construite au cours de l'histoire et qui s'est vraiment cristallisée à l'échelle de masse au XVIIIe siècle avec la philosophie des lumières. ...

• Speaker #0

  Alors, qu'est-ce que c'est que l'individu ? Parce qu'on tourne autour du pot. L'individu, c'est un certain type d'homme ou de femme, l'homme avec le grand H, parce que c'est une notion qui s'est construite au cours de l'histoire et qui s'est vraiment cristallisée. à l'échelle de masse au XVIIIe siècle avec la philosophie des Lumières. Et le concept fondamental, c'est de se dire, les personnes ne sont pas forcément libres de s'autodéterminer.

• Speaker #1

  et bien les personnes ne sont pas forcément libres de s'autodéterminer. Si on prend les sociétés qu'on pourrait appeler traditionnelles de l'Ancien Régime, et bien il y a un certain nombre de normes qui s'imposaient aux personnes,

• Speaker #0

  Si on prend les sociétés qu'on pourrait appeler traditionnelles de l'Ancien Régime,

• Speaker #1

  des tutelles religieuses, familiales, traditionnelles, étatiques, qui empêchaient les personnes de choisir librement leur destin. Penser librement, donc c'est les préjugés, la censure, les choix de vie qui sont imposés par le cadre collectif. ...

• Speaker #0

  il y a un certain nombre de normes qui s'imposaient aux personnes, des tutelles religieuses, familiales, traditionnelles, étatiques, qui empêchaient les personnes de choisir librement leur destin. Penser librement, donc c'est les préjugés, la censure. les choix de vie qui sont imposés par le cadre collectif. Et pour le mot technique, mais qui sera peut-être le seul mot technique, on appelle ça des sociétés hétéronomes. Pourquoi ? Parce que nomos, la loi, vient de l'extérieur. Donc c'est l'extérieur qui impose aux personnes les grandes trajectoires de leur vie. Et avec les Lumières, on s'est dit, eh bien, tout ça c'est injuste. Il faut que les personnes puissent s'émanciper pour être maîtresses de leur destin et être... autonome cette fois-ci, non plus hétéronome mais autonome, soi-même, sa propre loi et pour cela il y a tout un programme que l'on connait très bien qui est de dire grâce à l'éducation, à la raison à la réflexion, on peut s'émanciper progressivement pour être maître de son destin et c'est ce qu'on appelle l'individu, pourquoi ? Parce que l'individu c'est ce qui reste une fois qu'on a retiré toutes ces influences imposées par le cadre extérieur aux personnes pour se choisir librement ensuite Merci. Donc l'individu, c'est indivisible, c'est ce qui reste de soi une fois qu'on a retiré l'arbitraire du cadre collectif extérieur. Et au cours de l'histoire, sur les 250 ans qui ont suivi, on voit qu'il y a des grandes luttes qui ont eu lieu. Et toutes ces grandes luttes propres à l'histoire des sociétés occidentales sont des luttes toujours qui visent l'émancipation. Il peut y avoir des conflits, mais c'est toujours comment faire pour que les personnes soient plus libres. Et selon les définitions de la liberté de chaque époque, ça évolue. Mais aujourd'hui, on est à un stade quand même assez avancé, parce que l'emprise du cadre collectif sur les individus est bien inférieure à ce qu'il était il y a 50 ans, 100 ans, 200 ans. Aujourd'hui, nous sommes dans des sociétés individuelles qui ont pour conséquence l'autodétermination. Il faut choisir soi-même un certain nombre de choses puisqu'on est libre de son destin.

• Speaker #1

  Est-ce que tu es en train de nous amener à réfléchir la fin d'une certaine émancipation de l'individu ? Est-ce qu'on est en train de la perdre ?

• Speaker #0

  Alors oui, puisque le titre effectivement de l'ouvrage, c'est l'individu fin de parcours avec une forme de question, parce que ce qui caractérise... fondamentalement l'individu, c'est le fait qu'il dispose d'un libre arbitre, qui est sa boussole intérieure pour se déterminer, et d'une notion juridique absolument fondamentale pour tout le système libéral, c'est le consentement libre et éclairé, qui montre que l'on est un pôle qui est capable de choisir en son âme et conscience, de faire la part des choses entre ce qui est dans notre intérêt et ce qui n'est pas dans notre intérêt, ne pas être influencé, manipulé, donc être ce qu'on appelle un pôle initial qui peut... ensuite se projeter dans le collectif. Et toute la question, c'est que ce libre-arbitre, ce consentement libre et éclairé, a pour corollaire la responsabilité, les droits et les devoirs, les deux vont ensemble. Eh bien, la question qui se pose, c'est qu'avec l'arrivée de l'intelligence artificielle, mais pas seulement, puisque l'intelligence artificielle, c'est le dernier avatar de la technologie en général, de la technique, donc c'est un peu la phase finale. d'un processus beaucoup plus long, est-ce que ce libre-arbitre n'est pas arrivé à date de péremption ? Est-ce qu'il est encore pertinent, efficace ? Est-ce qu'il n'est pas en réalité devenu sous-optimal ? Et pire encore, est-ce que ce libre-arbitre est encore désiré et souhaité par les individus ? Est-ce que les individus, finalement, ne sont pas fatigués d'être libres et préfèrent par confort, par plus d'efficacité ? externaliser leurs décisions, abdiquer leur libre arbitre, et être dans un état qui avait déjà été pensé au XVIe siècle par Étienne de la Boétie, dans un état qu'on appelle de servitude volontaire, c'est-à-dire s'en remettre à une tutelle extérieure, au même titre que dans la période antérieure aux Lumières, c'est-à-dire de nouveau externaliser notre prise de décision. Et la technologie, on pourra peut-être le voir, incite à ces comportements, puisque ça rentre. dans une période de notre civilisation où il y a des symptômes de fatigue de la liberté, et la technologie vient en renfort pour nous délester de ce choix de grand dilemme qui constitue le quotidien des individus qui sont fatigués par l'excès de choix.

• Speaker #1

  Quels sont les principaux signaux que tu peux nous donner sur cette fatigue de la liberté de choix ?

• Speaker #0

  Oui, il y en a un principal. qui est peut-être le plus intéressant. Je reprends ici l'expression d'un sociologue qui s'appelle Alain Ehrenberg. Son livre s'appelle « La fatigue d'être soi » . Donc, c'est quand même assez clair. Eh bien, c'est que être libre, c'est formidable. On adore ça. On est tous ravis quand même d'être dans une époque où on a de la liberté. Donc, l'idée n'est pas de dire que c'était mieux avant. Néanmoins, dans les sociétés traditionnelles où le cadre collectif préempte les choix des personnes,

• Speaker #1

  où le cadre collectif préempte les choix des personnes, un certain nombre de décisions sont déjà réglées par la société, par la coutume, par les mœurs. C'est comme ça.

• Speaker #0

  Un certain nombre de décisions sont déjà réglées par la société,

• Speaker #1

  Et si certains auditeurs ont des grands-parents et on leur dit « mais comment tu as pu faire ça ?

• Speaker #0

  par la coutume, par les mœurs. C'est comme ça, comme on dit. Et si certains auditeurs ont des grands-parents et qu'on leur dit « Mais comment tu as pu faire ça ?

• Speaker #1

  Moi, je n'accepterai jamais. » La personne répond « oui, mais à l'époque,

• Speaker #0

  Moi,

• Speaker #1

  on faisait comme ça,

• Speaker #0

  je n'accepterai jamais. »

• Speaker #1

  on ne se posait pas la question. »

• Speaker #0

  La personne répond « Oui,

• Speaker #1

  Peut-être que c'était sous-optimal qu'il y avait de la souffrance.

• Speaker #0

  mais à l'époque, on faisait comme ça, on ne se posait pas la question. » Peut-être que c'était sous-optimal qu'il y avait de la souffrance. Néanmoins, cette question-là a été réglée et il n'y avait pas d'enjeu de choix là-dessus.

• Speaker #1

  Néanmoins, cette question-là a été réglée et il n'y avait pas d'enjeu de choix là-dessus. Donc le corollaire de la liberté, c'est la responsabilité.

• Speaker #0

  Le corollaire de la liberté,

• Speaker #1

  Et donc quand on a un excès de choix sur l'ensemble des domaines de l'existence,

• Speaker #0

  c'est la responsabilité. Et donc, quand on a un excès de choix sur l'ensemble des domaines de l'existence,

• Speaker #1

  à savoir...

• Speaker #0

  à savoir le travail que l'on va faire,

• Speaker #1

  Le travail que l'on va faire, le lieu où on va vivre,

• Speaker #0

  le lieu où l'on va vivre,

• Speaker #1

  la personne avec qui on va se marier, les études, est-ce qu'on va avoir des enfants,

• Speaker #0

  la personne avec qui on va se marier,

• Speaker #1

  les études, tout ça finalement,

• Speaker #0

  les études, est-ce qu'on va avoir des enfants,

• Speaker #1

  aujourd'hui,

• Speaker #0

  les études, tout ça, finalement,

• Speaker #1

  c'est un choix individuel.

• Speaker #0

  aujourd'hui, c'est un choix individuel. Il peut y avoir encore quelques pressions extérieures.

• Speaker #1

  encore quelques pressions extérieures.

• Speaker #0

  Néanmoins,

• Speaker #1

  Néanmoins,

• Speaker #0

  la personne ne sera jamais sanctionnée par la loi.

• Speaker #1

  la personne ne sera jamais sanctionnée par la loi. La famille, maintenant,

• Speaker #0

  la famille maintenant est de plus en plus tolérante,

• Speaker #1

  est de plus en plus tolérante. Voilà, donc un ensemble de choses qui font qu'on a le choix,

• Speaker #0

  un ensemble de choses qui font qu'on a le choix,

• Speaker #1

  mais donc on est responsable.

• Speaker #0

  mais donc on est responsable.

• Speaker #1

  Et cela fait peser un coup sur la vie.

• Speaker #0

  Et cela fait peser un coût sur les personnes,

• Speaker #1

  sur les personnes,

• Speaker #0

  un coût qui est à la fois cognitif,

• Speaker #1

  un coût qui est à la fois cognitif, parce qu'il faut gérer un énorme problème de la liberté,

• Speaker #0

  parce qu'il faut gérer un énorme problème de la liberté,

• Speaker #1

  c'est qu'on est responsable,

• Speaker #0

  c'est qu'on est responsable,

• Speaker #1

  certes, mais il y a aussi de l'incertitude.

• Speaker #0

  mais il y a aussi de l'incertitude.

• Speaker #1

  Nos décisions vont influer le destin,

• Speaker #0

  nos décisions vont influer le destin et donc il faut anticiper tout ça.

• Speaker #1

  et donc il faut anticiper tout ça. Donc c'est un coût cognitif assez important qui peut engendrer beaucoup d'anxiété.

• Speaker #0

  Donc ça a un coût cognitif assez important qui peut engendrer beaucoup d'anxiété.

• Speaker #1

  Il y a également un coût physique,

• Speaker #0

  Il y a également un coût physique puisqu'on a de plus en plus de choses qui relèvent de notre propre décision.

• Speaker #1

  puisqu'on a de plus en plus de choses qui...

• Speaker #0

  Alors je prends l'exemple le plus peut-être radical, mais c'est finalement aujourd'hui une mère célibataire qui a deux enfants. Elle doit gérer son travail, elle doit gérer les enfants. la famille élargie souvent n'est plus là parce qu'on n'est plus au même endroit géographiquement. Donc tout un ensemble de choses qui font qu'on est certes libre, néanmoins il y a une charge qui pèse sur les personnes, qui rend la vie beaucoup plus compliquée. Il faut segmenter les différentes parties de la journée, il faut être productif. Tout cela fait une injonction sur les épaules de l'individu. Et enfin, un coût qui est existentiel, puisque le sens du monde n'est plus réglé à l'avance. On ne nous dit pas le monde, je ne sais pas, c'est telle religion, c'est telle... telle certitude, telle croyance, les personnes doivent recréer elles-mêmes ça. Alors certains vont choisir une religion, d'autres vont dire moi je ne crois pas, d'autres vont dire moi je dois prendre un peu de l'un de l'autre, et c'est ce qu'on appelle les spiritualités new age aujourd'hui, où on peut prendre un peu de tout. Néanmoins, tout cet abîme existentiel crée de l'angoisse. Et donc il y a des pathologies qui sont apparues à la fin des années 70, qui n'existaient pas vraiment avant, à savoir l'anxiété, la dépression, le burn-out. toutes ces pathologies qui sont des pathologies liées à l'excès de liberté. Et dans une société traditionnelle, il y avait des pathologies mentales qui étaient différentes, à savoir des pathologies liées à la culpabilité, qui créaient plutôt des névroses. La culpabilité, c'est très différent. C'est qu'on a des désirs qui s'opposent à la norme collective. Par exemple, je suis homosexuel, l'homosexualité est condamnée. Je me sens coupable, je ne suis pas à l'aise. Aujourd'hui... Dans une société européenne, il n'y a pas un problème de sanction pénale, quoi que ce soit. Néanmoins, la pathologie, à ce moment-là, ne sera plus la culpabilité, mais peut-être que faire de ma vie, et là, comment agir, l'injonction à être productif, tout cela, si on veut mettre des termes plus simples, cela met trop de pression sur les individus. Pourquoi ? Parce qu'ils sont trop responsabilisés. Et je te laisse rebondir.

• Speaker #1

  Les individus aient un accès à l'intelligence artificielle de manière récurrente et simplifiée. Qu'est-ce que l'intégration de ces usages implique sur nos libertés, sur cette servitude ?

• Speaker #0

  Tout à fait, Tout à fait. comme tu le dis, les symptômes que je décris qui sont là à l'échelle personnelle, il y en a d'autres à l'échelle collective, on sait comment faire société quand l'individu refuse certains compromis qui impliquent la vie en société, de l'arbitraire, de conventions sociales. Cela est antérieur à l'arrivée de l'IA. Néanmoins, ce qui est intéressant, c'est de se dire, comment ces individus arrivaient à un état de fatigue de la liberté ? Comment ces individus vont s'emparer de l'IA ? Vont-ils l'utiliser pour être plus productifs, pour avoir des remèdes à leur fatigue ? Et c'est ce que je vois, c'est que ces outils viennent en renfort, en renfort pour pallier les déficiences actuelles que l'on ressent au niveau de la décision individuelle, de la liberté, de la pression qui est mise sur les individus. Et ce sont donc des outils qui viennent au secours de l'individu. L'IA, mais aussi la technologie, tout cela permet d'être plus autonome, d'avoir plus de marge de manœuvre individuelle. La technologie permet de proposer un certain nombre de services qui vont délester l'individu d'un certain nombre de tâches. Ça peut être des tâches physiques, si on prend des machines, la voiture, tout ça permet d'être plus autonome. Le GPS sur le téléphone, on s'oriente plus facilement. mais aussi chat GPT aujourd'hui un des grands usages Il y en a deux en fait. Celui qui est devenu mineur en 2025 dans la liste des grands usages, c'est tout ce qui aide à la productivité, écrire des mails, faire tout ce genre de choses. On voit bien que ça, c'est une aide pour l'autonomie, parce qu'on a de plus en plus de choses à gérer, parce qu'on a l'ensemble des sphères de l'existence à supporter. Donc, on demande de l'aide à ChatGPT qui devient un secrétaire, un assistant. C'est parfait, ça permet d'être plus libre individuellement, d'avoir plus de temps, de dépenser moins d'énergie. Mais un second usage, Mais un second usage, et en 2025 c'est celui qui est devenu le plus important, et en 2025 c'est celui qui est devenu le plus important, c'est celui de demander un rôle non plus d'assistant mais de conseiller. c'est celui de demander un rôle non plus d'assistant, Et là on est plus simplement dans le fait, mais de conseiller. Et là, on n'est plus simplement dans le fait « j'ai des buts et je te demande de les exécuter » , j'ai des buts et je te demande de les exécuter, c'est « je ne sais pas vraiment quoi faire, c'est je ne sais pas vraiment quoi faire, comment m'orienter » . Parce que cette fois-ci, j'ai l'incertitude de l'avenir, il y a des choix, j'ai des dilemmes, comment m'orienter, aide-moi à les résoudre. Et ChatGPT aujourd'hui est utilisé en premier lieu pour du coaching, Merci. pour du coaching, pour de l'assistance psychologique, pour de l'assistance psychologique, pour finalement avoir une nouvelle boussole. Et en d'autres termes, on pourrait dire cette phrase que jusqu'à présent, pour finalement avoir une nouvelle boussole. le libre-arbitre était la boussole de l'individu. Et en d'autres termes, on pourrait dire cette phrase que jusqu'à présent, le libre-arbitre était la boussole de l'individu. Soi-même, on prend des décisions avec notre propre boussole, on prend des décisions avec notre propre boussole, notre fort intérieur. Et bien cette boussole du libre-arbitre commence à être remplacée par le GPS de l'IA. notre fort intérieur. et bien cette boussole du libre-arbitre commence à être remplacée par le GPS de l'IA. Le GPS qui prétend être plus efficace, dire mais tu me poses cette question, Le GPS qui prétend être plus efficace, dire mais tu me poses cette question, mais moi au regard de tous tes échanges, mais moi au regard de tous nos échanges, je te connais parfaitement bien, je peux te conseiller, je te connais parfaitement bien, je peux te conseiller et moi je ne suis pas biaisé par des intérêts personnels, et moi je ne suis pas biaisé par des intérêts personnels, d'égo, comme pour avoir un meilleur ami qui finalement est jaloux, et qui dit oui mais voilà, finalement je vais le saborder. d'ego, comme pour avoir un meilleur ami qui finalement est jaloux et dit oui, mais voilà, finalement je vais le s'aborder. Non, Non, c'est un alter ego rationnel, c'est un alter ego rationnel, bienveillant, qui nous connaît très bien, parfois mieux que nous-mêmes, parce que certaines données dont on n'a même pas conscience peuvent nourrir la machine de manière pertinente. bienveillant, qui nous connaît très bien. parfois mieux que nous-mêmes, parce que certaines données que l'on émet, dont on n'a même pas conscience, peuvent nourrir la machine de manière pertinente, et surtout, elle a accès à une base de données tellement grande que c'est d'une grande aide. Et surtout, elle a accès à une base de données tellement grande que c'est une grande aide. Et à ce moment-là, on le considère toujours comme un assistant, Et à ce moment-là, on le considère toujours comme un assistant, néanmoins la place qu'on lui accorde... néanmoins la place qu'on lui accorde dans ce contexte de fatigue de la liberté fait qu'on se dit « Ah ben là, Dans ce contexte de fatigue de la liberté, on se dit « Ah ben là, je vais suivre ce qu'il me dit, ça m'arrange finalement. » Quand bien même ça ne serait pas sûr à 100%, ça m'arrange. je vais suivre ce qu'il me dit, ça m'arrange finalement. » Quand bien même ça ne serait pas sûr à 100%, ça m'arrange. Et par confort, et par confort. par aussi exigence d'avoir beaucoup de choses à gérer dans la vie quotidienne, par aussi exigence d'avoir beaucoup de choses à gérer dans la vie quotidienne. On se dit, bon, ça, je vais le suivre, il me dit ça. on se dit « Bon, Il me dit d'écrire le mail de cette façon, ben ça, je vais le suivre, je le fais. il me dit ça. » Il me dit d'écrire le mail de cette façon, Il me dit d'avoir telle stratégie commerciale, je le fais. Il me dit d'avoir telle stratégie commerciale, je le fais. je le fais. Ou partir en vacances, Ou partir en vacances, je lui demande juste mon idée générale, je lui demande juste mon idée générale, il me fait tout un parcours, il me fait tout un parcours, je vais le suivre. je vais le suivre. Et finalement, des décisions de plus en plus stratégiques de nos vies qui devraient relever de notre autonomie, de notre liberté, sont externalisées. Et à ce moment-là, que reste-t-il de notre libre arbitre ? dans ces conditions.

• Speaker #1

  conditions

• Speaker #0

  Alors,

• Speaker #1

  lorsque toi, tu poses la question de que reste-t-il de notre libre-arbitre, moi, je repense à ce que tu as dit sur le fait que le corollaire était la responsabilité. Peut-on encore considérer que des individus qui remplacent leur libre-arbitre par un algorithme qui leur fera des recommandations, peut-on encore considérer cet individu suffisamment autonome ? dans ses décisions, dans ses prises de décision, pour être responsable.

• Speaker #0

  Tout à fait. C'est évidemment pour moi la question centrale. Est-ce que la technologie, l'intelligence et l'intelligence artificielle en particulier, ne viennent pas dévitaliser la notion de responsabilité parce qu'elle rend l'usage du libre-arbitre inutile, sous-optimal, caduque, sous plusieurs angles ? Et je vais te dire brièvement, pour moi, il y a trois grands points. Là, je décris tout ce qui est l'externalisation par fatigue. par besoin d'être coaché. Et on voit aujourd'hui dans la société, le coaching n'a jamais été aussi grand. Pourquoi ? Parce que justement, chaque coach vient prendre une place qui était prise autrefois par le cadre collectif. Que ça soit le coach amoureux, le coach de travail, tous les aspects de l'existence, coach sportif, coach santé, eh bien tous ces coachs vont être automatisés. Parce que finalement, c'est une question d'observation, de conseil. Donc ça, c'est le premier aspect où il y a une abdication. de cette responsabilité. En tout cas, là, juridiquement, on peut suivre des algorithmes de recommandation, avoir pris des décisions. Si on commet une faute, on reste quand même responsable de tout ça. Mais en revanche, on se déleste, en tout cas, d'une certaine individualité parce que chaque choix, ça, c'est important, chaque choix mobilise notre cerveau, mobilise des connaissances, prend du temps, fait de la délibération intérieure. Et donc, moi, on délibère en suivant des conseils qu'on nous donne. moins on forge son autonomie. L'autonomie, ce n'est pas quelque chose qui nous tombe dessus et on est autonome, ça s'exerce. Et pour l'ensemble des choix de l'existence, même un choix anodin participe de notre statut intérieur pour être de plus en plus autonome et de pouvoir exercer ce fameux consentement libre et éclairé parce qu'on a une maîtrise sur nous-mêmes.

• Speaker #1

  pour être de plus en plus autonome, de plus en plus... et de pouvoir exercer ce fameux consentement libre et éclairé. Parce qu'on a une maîtrise sur nous-mêmes. Mais ça, c'est un des éléments.

• Speaker #0

  Mais ça,

• Speaker #1

  Les deux,

• Speaker #0

  c'est un des éléments.

• Speaker #1

  pour moi, principaux qui engendrent une déresponsabilisation,

• Speaker #0

  Les deux, pour moi, principaux qui engendrent une déresponsabilisation, c'est une attaque du libre-arbitre

• Speaker #1

  c'est une attaque du libre-arbitre en amont et en aval de la décision.

• Speaker #0

  en amont et en aval de la décision.

• Speaker #1

  Pourquoi ? Parce qu'en amont de la décision...

• Speaker #0

  Pourquoi ? Parce qu'en amont de la décision, il ne suffit pas,

• Speaker #1

  Il ne suffit pas, tu vois, Safia, d'avoir par exemple la liberté d'expression,

• Speaker #0

  tu vois,

• Speaker #1

  c'est quelque chose de formidable,

• Speaker #0

  Safia,

• Speaker #1

  mais qu'est-ce qui me garantit que mon expression,

• Speaker #0

  d'avoir par exemple la liberté d'expression.

• Speaker #1

  que mon choix,

• Speaker #0

  C'est quelque chose de formidable.

• Speaker #1

  que mon consentement n'est pas manipulé ?

• Speaker #0

  Mais qu'est-ce qui me garantit que mon expression, que mon choix, que mon consentement n'est pas manipulé ? Et donc,

• Speaker #1

  Et donc, la liberté d'expression est en aval, en amont on a la liberté de penser. La liberté de penser,

• Speaker #0

  la liberté d'expression est en aval.

• Speaker #1

  ce n'est pas juste je pense dans ma tête, ma pensée n'est pas sous contrainte, sous influence.

• Speaker #0

  En amont,

• Speaker #1

  Parce qu'ensuite,

• Speaker #0

  on a la liberté de penser. liberté de penser c'est pas juste je pense dans ma tête c'est ma pensée n'est pas sous contrainte

• Speaker #1

  si je suis sous influence et que je décide...

• Speaker #0

  sous influence parce qu'ensuite si je suis influencé que je décide de dire telle chose et de faire telle chose en fait ça n'a aucune valeur parce que en amont j'ai été piraté et donc et là je suis manipulé voilà et donc on sait que c'est quelque chose de très important et c'est pour cela que dans depuis les lumières l'éducation est importante on se dit les personnes doivent être doivent avoir cette forteresse intérieure pour résister mais

• Speaker #1

  de dire telle chose et de faire telle chose, en fait, ça n'a aucune valeur parce qu'en amont, j'ai été piraté. Et donc, c'est évidemment que manipuler. Et là, je suis manipulé. Et donc, on sait que c'est quelque chose de très important et c'est pour cela que depuis les Lumières, l'éducation est importante. On se dit que les personnes doivent avoir cette forteresse intérieure pour résister. Mais aujourd'hui, il y a plusieurs éléments qui rendent cette délibération intérieure compliquée.

• Speaker #0

  aujourd'hui il y a plusieurs éléments qui rendent cette délibération intérieure compliqué Je vais aller du plus lointain au plus proche en termes de valeur.

• Speaker #1

  Je vais aller du plus lointain au plus proche en termes de valeur. Le plus lointain déjà, mais qui est puissant, c'est le fait que le monde est de plus en plus complexe à comprendre.

• Speaker #0

  Le plus lointain déjà, mais qui est puissant, c'est le fait que le monde est de plus en plus complexe à comprendre.

• Speaker #1

  Les choses sont de plus en plus interconnectées,

• Speaker #0

  Les choses sont de plus en plus interconnectées,

• Speaker #1

  évoluent très vite.

• Speaker #0

  évoluent très vite. Il y a de nombreuses informations qui nous échappent.

• Speaker #1

  Il y a de nombreuses informations qui nous échappent. Et donc, est-ce que déjà la vitesse à laquelle le monde évolue,

• Speaker #0

  Et donc, est-ce que déjà la vitesse à laquelle le monde évolue,

• Speaker #1

  la submersion informationnelle que nous avons, nous permet tout simplement d'élaborer un jugement qui soit rationnel,

• Speaker #0

  la submersion informationnelle que nous avons, nous permet tout simplement d'élaborer un jugement qui soit rationnel ?

• Speaker #1

  clair, et d'avoir une opinion justifiable,

• Speaker #0

  clair et d'avoir une opinion justifiable,

• Speaker #1

  justifiée, sans tomber dans des grands pièges, dans des biais cognitifs. Tu vois, je pense au complotiste qui dit toujours,

• Speaker #0

  justifiée,

• Speaker #1

  moi, je ne vais pas me laisser avoir.

• Speaker #0

  sans tomber dans des grands pièges, dans des biais cognitifs. Tu vois, je pense au complotiste qui dit toujours « Moi, je ne vais pas me laisser avoir par le système,

• Speaker #1

  par le système,

• Speaker #0

  je vais utiliser mon libre-arbitre,

• Speaker #1

  je vais utiliser mon libre-arbitre, je vais exprimer mon propre jugement et pourtant on peut tomber dans des théories complètement aberrantes.

• Speaker #0

  je vais exprimer mon propre jugement, et pourtant, on peut tomber dans des théories complètement aberrantes. »

• Speaker #1

  Pourtant, le point de départ est extrêmement noble,

• Speaker #0

  Pourtant, le point de départ est extrêmement noble,

• Speaker #1

  c'est de dire je vais délibérer vraiment et exercer mon libre-arbitre contre la manipulation.

• Speaker #0

  c'est de dire « Je vais délibérer. » vraiment et exercer mon libre-arbitre contre la manipulation.

• Speaker #1

  Donc un monde très difficile à comprendre et là on est tous logés à la même enseigne, c'est de plus en plus compliqué quand même de saisir les grands enjeux.

• Speaker #0

  Un monde très difficile à comprendre, et là, on est tous logés à la même enseigne. C'est de plus en plus compliqué quand même de saisir les grands enjeux et d'avoir une emprise sur ce qui se passe. De plus, l'IA, précisément, permet d'augmenter cette désinformation, de créer des fausses informations, et aussi, par les chatbots, de manipuler beaucoup plus facilement. À savoir... Bon, une IA ne se fatigue pas pour parler à quelqu'un et le faire changer d'avis, mais c'est surtout qu'elle peut avoir accès à de nombreuses données de la personne qui permettent de trouver les bons arguments pour la faire changer d'avis.

• Speaker #1

  de trouver les bons arguments pour faire changer la vie. Et ça, c'est le grand enjeu pour nos démocraties. Est-ce que les citoyens qui votent peuvent encore se faire leur propre opinion là où une grande partie du débat se passe sur les réseaux sociaux,

• Speaker #0

  Et ça, c'est le grand enjeu pour nos démocraties.

• Speaker #1

  réseaux sociaux qui sont infestés de chatbots,

• Speaker #0

  Est-ce que les citoyens qui votent peuvent encore se faire leur propre opinion là où une grande partie du débat se passe sur les réseaux sociaux ?

• Speaker #1

  de désinformation,

• Speaker #0

  Réseaux sociaux qui sont infestés de chatbots ?

• Speaker #1

  qui, au regard des préférences des utilisateurs, des profils, peuvent cibler le type de message.

• Speaker #0

  de désinformation, qui, au regard des préférences des utilisateurs, des profils, peuvent cibler le type de message. Et ça, ce problème est apparu avec l'élection de Donald Trump aux primaires républicaines,

• Speaker #1

  Et ça, ce problème est apparu avec l'élection de Donald Trump aux primaires républicaines, c'était en 2015 ou 2016, le scandale de Cambridge Analytica, qui était une société qui a acheté à Facebook les données de millions d'utilisateurs,

• Speaker #0

  c'était en 2015 ou 2016, le scandale de Cambridge Analytica, qui était une société qui a acheté à Facebook les données de millions d'utilisateurs,

• Speaker #1

  qui étaient des électeurs indécis.

• Speaker #0

  qui étaient des électeurs indécis. Et à partir de tous leurs likes, on avait accès à leurs préférences et on a pu leur faire des messages ciblés. Et évidemment, lorsqu'on a un message ciblé, c'est beaucoup plus simple de trouver un message sur mesure. Et c'est très différent du système démocratique à l'ancienne, entre guillemets, dans lequel la manipulation est également présente. Néanmoins, les armes à la disposition des personnes qui veulent manipuler sont bien moindres. On a un homme politique, un parti, peut-être la presse qui s'adresse avec un message unique à des millions de personnes. Là, c'est un chatbot pour une personne. et avec des techniques de persuasion bien plus fortes. Et il y a des études qui ont montré que chaque GPT convainc mieux qu'un homme son interlocuteur. Donc ça, c'est le point important. C'est en amont de notre décision. Est-on encore en mesure d'exercer ce libre arbitre, ce consentement libre et éclairé ? Et donc, si on est manipulé, est-on responsable de l'ensemble des choses que l'on fait, des choix politiques ? Ça, c'est la question. Et le second point, peut-être que tu veux rebondir avant que j'avance ?

• Speaker #1

  N'étant pas déjà manipulé et influencé, même avant l'apparition, encore une fois j'essaye de comprendre la différence entre l'intervention de l'IA et l'étape précédente. Ces influences-là existaient déjà ?

• Speaker #0

  Voilà, c'est ce que je disais effectivement avant. Et d'ailleurs, on pourrait citer un des grands maîtres de la propagande aux États-Unis qui s'appelait Edward Bernays, qui a théorisé tout ça, de se dire finalement, dans une démocratie, si on laisse les gens penser par eux-mêmes vraiment, finalement, ça va conduire au chaos. Pourquoi ? Parce qu'il y en a qui ne s'intéressent pas forcément, ils vont voter n'importe comment. D'autres ne sont pas au courant des affaires réellement importantes. D'autres sont irrationnels, tout simplement. D'autres sont bêtes. Il y a tout un ensemble de choses qui met un pessimisme sur le fait de laisser trop de liberté. Et il dit qu'il faut une élite qui constitue un message qui sera la fabrique du consentement, de l'opinion publique, la propagande. Et il dit qu'il ne faut plus appeler ça propagande, mais opinion publique, relation publique. Et d'ailleurs, on voit le mot relation publique, c'est devenu un terme habituel, qui est d'imposer un narratif aux personnes. Donc oui, ça a toujours été au cœur des démocraties. le grand changement c'est que La technologie s'immiscent là-dedans. Et qu'est-ce qu'elle fait ? Elle démultiplie la puissance de manipulation, la puissance pour réaliser le but attendu. Donc, c'est une question de degrés. Et je peux te citer, par exemple, il y a un auteur, si ça intéresse les auditeurs, qui s'appelle Giuliano da Empoli, qui a écrit « Les ingénieurs du chaos » , par exemple, qui traite de cette manipulation. Il montre que le mouvement italien « Cipo Stelle » , mouvement populiste, a pu arriver au pouvoir. Pourquoi ? Parce que ça n'était qu'à partir d'Internet, où il avait accès aux données des personnes, et a pu petit à petit façonner son message en fonction des attentes, parce que la connaissance des adhérents et des sympathisants se fait par les mathématiques, parce que finalement, c'est des données que l'on a. Et il cite un des architectes du Brexit qui dit, ça c'est très important, « Si vous souhaitez gagner une élection, ne faites pas appel à des communicants, mais employé des physiciens. Pourquoi des physiciens ? Parce qu'aujourd'hui, c'est par les mathématiques, par les statistiques, que l'on peut transformer l'opinion publique. Ce n'est plus simplement des messages. Là, il y a une scientifisation du processus de la manipulation et donc beaucoup plus d'efficacité. Oui, c'est glissant. En tout cas, il faut être vigilant, bien sûr, dessus. Et dernier point... Oui, vas-y, pardon.

• Speaker #1

  Parce que tu parles de vigilance, tu parles de fatigue mentale. Moi, je pense à ces personnes qui ne sont pas nécessairement fatiguées mentalement, qui veulent continuer à faire l'effort, mais pour lesquelles c'est encore, c'est devenu extrêmement dur de faire la différence entre le vrai du faux, par exemple.

• Speaker #0

  Oui, oui, oui, oui. Alors, effectivement,

• Speaker #1

  J'ai envie de dire, cette servitude, on n'y va pas de manière volontaire.

• Speaker #0

  non. Alors, tout à fait. En fait, la servitude dont je parlais tout à l'heure, c'est par le fait de s'en remettre à des algorithmes de recommandation parce que c'est plus simple. Ça, c'est un point. Sur le point de distinguer le vrai du faux, ça, c'est l'écosystème qui nous entoure en lui-même. devient trop complexe. Pourquoi ? Trop complexe par rapport à quoi ? Par rapport aux outils que l'évolution nous a donnés. Nous, si nous sommes vivants et que nous sommes une espèce qui a survécu, c'est parce qu'avec l'évolution, notre cerveau a adopté certains outils qui maximisent la survie, qui sont très importants. Et aujourd'hui, s'il y en a qui travaillent en entreprise, je suis sûr qu'il y a eu des séminaires de formation sur la chasse aux biais cognitifs, en disant que les biais cognitifs, c'est... C'est terrible, c'est irrationnel, etc. Certes, néanmoins, les biais cognitifs, c'est ce qui fait que dans 99% des cas, on survit. Pourquoi ? Parce que ce sont des simplifications que notre cerveau fait, des erreurs peut-être, mais des préjugés, des raccourcis, qui nous permettent d'agir vite dans des situations où il y a un potentiel danger. Peu importe que le danger ait réellement lieu ou pas, il suffit qu'il ait lieu qu'une seule fois pour qu'on meure. Donc, l'évolution nous a dit, il faut du préjugé, c'est pas grave. Moi, je veux que tu survives. Donc tant pis si un jour, tu as pensé que le tigre allait te manger alors qu'en fait, c'était un gentil tigre. Tu vas avoir comme préjugé que tous les tigres sont méchants. Et puis, c'est plus simple comme ça. Eh bien, c'est bien cognitif. Évidemment, ils ne visent pas la vérité. Ils visent la survie. Et là, on a deux choses très différentes. C'est que dans notre monde aujourd'hui, qui a évidemment comme grand précepte l'optimisation, l'efficience, l'efficacité. il y a la vérité mathématique qui commence à arriver. C'est de se dire qu'il n'y a pas 36 façons d'arriver à mon objectif, il y a une façon la plus efficace possible, qui a été pensée avec des fonctions,

• Speaker #1

  Sous-titrage ST

• Speaker #0

  des équations, qui est une organisation, une architecture, qui est la bonne trajectoire. Et les biens cognitifs humains là-dedans deviennent complètement sous-optimaux. Et donc notre monde d'aujourd'hui, qui est façonné par l'exigence d'efficacité, se retrouve en contradiction avec les biens que l'on a. Pour la désinformation, on est un tout petit peu à côté de ce que je disais, c'est que ça reste notre environnement, cette fois-ci, à des fins volontaires de tromper, mais c'est la technologie qui renforce le pouvoir de manipulation, comme on le disait tout à l'heure.

• Speaker #1

  Donc, ça va se faire.

• Speaker #0

  Donc ça, c'est qu'on le veuille ou non, et il n'est pas question d'être en fatigue de liberté, c'est notre environnement qui a évolué beaucoup plus vite que notre cognition. Et donc notre cerveau humain n'est pas câblé pour... détecter une vraie vidéo d'une fausse vidéo si elle est très bien faite, une vraie photo, une fausse photo. Un algorithme le peut en revanche en analysant les photos etc. Donc nous maintenant on est dépassé par un environnement qui n'est plus à la mesure de notre leg biologique.

• Speaker #1

  Est-ce que tu n'es pas en train de tous nous déresponsabiliser collectivement en disant ça ?

• Speaker #0

  Alors, à l'échelle collective, parce que là, il est question, quand je parle de ça, de politique, beaucoup, parce que le principe même de la démocratie, c'est que lorsque les personnes votent… Elles votent selon leur fort intérieur,

• Speaker #1

  Elles votent selon leur fort intérieur, en ayant justement fait le tri entre des influences négatives pour que la personne qui vote le fasse par rapport à ses véritables opinions,

• Speaker #0

  en ayant justement fait le tri entre des influences négatives pour que la personne qui vote le fasse par rapport à ses véritables opinions,

• Speaker #1

  ses véritables valeurs. Autrement, on pourrait dire que c'est un vote manipulé, ou alors c'est l'ancien régime qui utilise des marionnettes en disant « oui,

• Speaker #0

  ses véritables valeurs. Autrement, on pourrait dire que c'est un vote manipulé, ou alors c'est l'ancien régime qui utilise des marionnettes en disant « oui, oui, vous êtes libre, mais votez pour telle personne » .

• Speaker #1

  oui,

• Speaker #0

  Donc la démocratie peut-elle encore tenir ?

• Speaker #1

  vous êtes libre, mais votez pour telle personne » . Donc la démocratie peut-elle encore tenir ?

• Speaker #0

  Et la responsabilité politique,

• Speaker #1

  Et la responsabilité politique, à ce moment-là, a-t-elle encore un sens ?

• Speaker #0

  à ce moment-là, a-t-elle encore un sens ?

• Speaker #1

  Le citoyen est-il un...

• Speaker #0

  Le citoyen est-il un… Est-il encore une unité fondamentale qui permet au système démocratique de se poursuivre ?

• Speaker #1

  est-il encore une unité fondamentale qui permet au système démocratique de se poursuivre ? Et on pourrait penser aussi à des crimes qui pourraient être commis,

• Speaker #0

  Et on pourrait penser aussi à des crimes qui pourraient être commis,

• Speaker #1

  des personnes qui font des attentats parce qu'ils sont complètement manipulés.

• Speaker #0

  des personnes qui font des attentats parce qu'ils sont complètement manipulés.

• Speaker #1

  Alors là, ça me fait penser par association d'idées à l'islamisme radical.

• Speaker #0

  Alors là, ça me fait penser par association d'idées à l'islamisme radical. Lorsqu'il y a eu des attentats, il y avait des profils de personnes qui vivaient en France et qui ont fait un attentat simplement par Internet,

• Speaker #1

  Lorsqu'il y a eu des attentats, il y avait des profils de personnes qui vivaient en France et qui ont fait un attentat simplement par Internet,

• Speaker #0

  par la radicalisation qui a eu lieu par un processus de manipulation.

• Speaker #1

  par la radicalisation qui a eu lieu par un processus de manipulation.

• Speaker #0

  Et donc sans jamais être allé ailleurs,

• Speaker #1

  Et donc sans jamais être allé ailleurs, en restant dans un endroit. Donc là, on peut imaginer tout un tas de scénarios dans lesquels la manipulation pousse quelqu'un à commettre des actions ou des choix politiques qui en réalité ne sont que le fruit de ce travail de propagande,

• Speaker #0

  en restant dans un endroit. Donc là, on peut imaginer tout un tas de scénarii dans lesquels la manipulation pousse quelqu'un à commettre des actions ou des choix politiques qui en réalité ne sont que le fruit de ce travail de propagande,

• Speaker #1

  mais qui est tellement puissant que le cerveau humain n'était pas apte à établir des défenses,

• Speaker #0

  mais qui est tellement puissant que le cerveau humain n'était pas apte à établir des défenses,

• Speaker #1

  comme si on dit en informatique des firewalls ou des antivirus pour être hermétique à ces infos.

• Speaker #0

  comme si on dit en informatique des firewalls ou des antivirus pour... être hermétique à ces influences.

• Speaker #1

  Donc ça,

• Speaker #0

  Donc ça c'était mon deuxième grand point,

• Speaker #1

  c'était mon deuxième grand point, je passe au dernier, qui nous permet aussi de poursuivre dans la déresponsabilisation.

• Speaker #0

  je passe au dernier qui nous permet aussi de poursuivre dans la déresponsabilisation.

• Speaker #1

  J'ai dit donc, par pratique d'être soi, externalisation, substitution, etc. Par un monde devenu tellement complexe,

• Speaker #0

  J'ai dit donc par fatigue d'être soi, externalisation, substitution, etc.

• Speaker #1

  tellement fort en influence que notre libre arbitre en amont de la décision est menacé.

• Speaker #0

  Par un monde devenu tellement complexe, tellement fort en influence que notre libre arbitre en amont de la décision est menacé. Et le dernier point c'est en aval de la décision,

• Speaker #1

  Et le dernier point, c'est en aval de la décision. C'est-à-dire que je peux tout à fait mettre en place ma propre opinion,

• Speaker #0

  c'est à dire que je peux tout à fait m'être fait ma propre opinion et

• Speaker #1

  et souhaitons-le, sans influence extérieure trop forte.

• Speaker #0

  souhaitons-le sans influence extérieure trop forte,

• Speaker #1

  Est-ce que maintenant,

• Speaker #0

  est-ce que maintenant le monde d'aujourd'hui est un monde optimisé et alors je vais utiliser un mot un peu...

• Speaker #1

  le monde d'aujourd'hui,

• Speaker #0

  le mot technicien.

• Speaker #1

  qui est un monde optimisé,

• Speaker #0

  Technicien ça veut dire quoi ? C'est pas juste avec de la technologie, c'est un monde où tout a été pensé pour être dans le plus d'optimum,

• Speaker #1

  et là je vais utiliser un mot un peu, qui est le mot technicien. Technicien, ça veut dire quoi ? C'est pas juste avec de la technologie.

• Speaker #0

  le plus d'efficacité.

• Speaker #1

  C'est un monde où tout a été pensé pour être dans le plus d'optimum,

• Speaker #0

  Donc une société peut être technicienne dans le sens où même l'administration a été pensée pour être la plus efficace et souvent ça va de pair avec le fait d'être fragmenté.

• Speaker #1

  le plus d'efficacité. Donc une société peut être technicienne dans le sens où même l'administration... a été pensée pour être la plus efficace, et souvent, ça va de pair avec le fait d'être fragmentée, en unité, en département, et ce qu'on appelle ensuite une grande machine,

• Speaker #0

  en unité,

• Speaker #1

  la machine administrative,

• Speaker #0

  en département,

• Speaker #1

  la machine technocratique,

• Speaker #0

  et ce qu'on appelle ensuite une grande machine,

• Speaker #1

  la bureaucratie, etc. Et bien, est-ce que dans ce monde, l'individu a une marge de manœuvre suffisante pour pouvoir...

• Speaker #0

  la machine administrative, la machine technocratique, la bureaucratie, etc. Est-ce que dans ce monde, l'individu a une marge de manœuvre suffisante pour pouvoir agir comme il le souhaite ?

• Speaker #1

  agir comme il le souhaite, c'est-à-dire l'individu veut arriver à un objectif,

• Speaker #0

  C'est-à-dire,

• Speaker #1

  a-t-il le choix entre plusieurs directions possibles ?

• Speaker #0

  l'individu veut arriver à un objectif,

• Speaker #1

  Je vais te donner deux exemples qui vont parler à tout le monde,

• Speaker #0

  a-t-il le choix entre plusieurs directions possibles ? Je vais te donner deux exemples qui vont parler à tout le monde,

• Speaker #1

  je pense, que l'on constate.

• Speaker #0

  je pense.

• Speaker #1

  Le premier,

• Speaker #0

  que l'on constate.

• Speaker #1

  c'est l'exemple du garagiste.

• Speaker #0

  Le premier, c'est l'exemple du garagiste. Le garagiste, autrefois, il n'y a pas si longtemps, il veut réparer une voiture,

• Speaker #1

  Le garagiste, autrefois, il n'y a pas si longtemps,

• Speaker #0

  il a plusieurs moyens à sa disposition pour arriver à l'objectif final.

• Speaker #1

  il veut réparer une voiture, il a plusieurs moyens à sa disposition pour arriver à l'objectif final. Alors, s'il n'a pas telle pièce,

• Speaker #0

  Alors,

• Speaker #1

  il peut en trouver une autre ailleurs,

• Speaker #0

  s'il n'a pas telle pièce, il peut en trouver une autre ailleurs,

• Speaker #1

  etc.

• Speaker #0

  etc. Pour les voitures actuelles,

• Speaker #1

  Pour les voitures actuelles, ce travail du garagiste se résume à mettre une clé USB dans un moteur,

• Speaker #0

  ce travail du garagiste se résume à mettre une clé USB dans un moteur,

• Speaker #1

  parce que tout est informatisé, clé USB qui va dire qu'il y a telle pièce qui pose problème,

• Speaker #0

  parce que tout est informatisé. Clé USB qui va dire,

• Speaker #1

  il faut la commander à telle centrale qui est celle homologuée par la voiture,

• Speaker #0

  il y a telle pièce qui pose problème. Il faut la commander à telle centrale qui est celle homologuée par la voiture.

• Speaker #1

  et finalement le rôle du garagiste devient absolument mineur. Je pense aussi, en association d'idées, j'avais vu un reportage sur les moissonneuses batteuses aux Etats-Unis,

• Speaker #0

  Et finalement, le rôle du garagiste devient absolument mineur.

• Speaker #1

  qui valent 2 millions d'euros,

• Speaker #0

  Je pense aussi,

• Speaker #1

  à chaque fois c'est des énormes...

• Speaker #0

  en association d'idées, j'avais vu un reportage sur les moissonneuses batteuses aux États-Unis qui valent 2 millions d'euros. À chaque fois, c'est des énormes problèmes. Lorsqu'elles tombent en panne, il y a une interdiction pour les personnes de les réparer elles-mêmes ou de regarder ce qui se passe. Ils doivent attendre deux semaines. Tout est par une infrastructure logicielle. conduite jusqu'à l'opérateur. Et le deuxième, c'est le banquier. Je pense que pour ceux qui ont voulu prendre un prêt bancaire, le banquier dit ah oui, le taux que j'ai proposé la semaine dernière, en fait, il ne va plus, l'algorithme a changé, je ne peux rien faire, je n'ai pas la main dessus. Et là, ça nous dit bien ce qui se passe, c'est que il y a tout un back office extrêmement compliqué, géré par des algorithmes, par des calculs qui visent l'efficacité maximale.

• Speaker #1

  Merci.

• Speaker #0

  Et la marge de manœuvre individuelle là-dedans, elle n'est pas souhaitée, parce que faire intervenir l'être humain, c'est introduire de l'aléa, du grain de sable, de l'imprévisible dans un système qui a été pensé comme un logiciel, à savoir essayer de légiférer l'ensemble des sphères de l'existence pour que à chaque situation donnée, corresponde une réaction appropriée, une décision souhaitée. Pourquoi celle-ci ? Parce que c'est pensé comme la plus optimale. Et faire intervenir l'humain, ça détraque le système. Et donc là, il y a une question de déresponsabilisation, parce qu'à la fois la marge de manœuvre qu'a l'individu dans la structure, que ce soit à l'échelle administrative, en entreprise, eh bien elle est... Elle n'est pas souhaitée, mais le système en lui-même est tellement hiérarchisé, fragmenté, parce que c'est une machine, que la responsabilité individuelle de chaque personne est complètement fragmentée parce que chacun a une tâche. Mais une tâche qui n'est pas du tout l'ensemble du processus. Et ça, ça a été pensé d'ailleurs depuis assez longtemps, mais ce n'est pas nouveau, mais ça s'accentue. C'est très intéressant ce que tu me dis sur le fait que le banquier devienne un technicien et que finalement la prise de décision n'est plus entre les mains de l'homme parce que dans une intervention précédente, Pierre Jourlin nous expliquait que lorsqu'on utilisait un algorithme pour faire des choix, pour choisir à qui emprunter, il y avait des biais qui étaient appliqués et des solutions potentiellement discriminantes. qui pouvaient en résulter. Donc là, finalement, est-ce qu'on n'est pas en train d'aller de manière irréversible vers une société discriminante ? Oui, il a tout à fait raison. Sur l'IA, il y a un préjugé qu'on a souvent, c'est l'illusion que ces systèmes sont fiables et qu'ils apportent la vérité, qu'ils sont justes, qu'ils sont rationnels. Ce n'est pas le cas, mais on accorde cette confiance. Des études ont montré qu'entre une affirmation posée par un chatbot et celle posée par un humain, on fait plus confiance au chatbot qu'à l'humain parce que sur l'humain, il y a une suspicion d'erreur. Non pas sur le chatbot. Donc ça, il a tout à fait raison. Et cela se corrèle à un logiciel mental qu'on a et qui est propre aux entreprises. C'est d'être assez utilitariste, à savoir vouloir maximiser une valeur. Et en l'occurrence, la valeur de cette entreprise, c'est le profit. Et donc, s'il y a quelques personnes qui sont malheureusement, qui passent dans la passoire des statistiques, tant pis pour eux. Et là, on voit une contradiction avec nos sociétés de l'égalité. Et je pense qu'il n'y a pas une fatalité parce que le droit arrive toujours un petit peu après, parce que ces outils débattent, mais je pense que le droit m'a l'air très vigilant en Europe sur ça, pour essayer de minimiser au maximum, laisser pour compte des erreurs statistiques. Mais ce n'est pas un sujet résolu. Moi, je suis plutôt inquiet là-dessus, en tout cas, parce que pour l'instant... c'est quelque chose qui se manifeste de manière assez éclatante. Alors, je vais être un peu optimiste quand même, parce qu'il y a des réflexions qui sont menées aujourd'hui. Il y a des opinions doctrinales qui sont assez vigilantes, qui prennent en compte déjà tous ces cas de figure-là et qui les réfléchissent pour y trouver des solutions. Donc, on ne va pas se réveiller demain. Il y a des laboratoires de recherche dans des universités qui réfléchissent à cette question d'un point de vue juridique et même en collaboration avec des entreprises privées qui développent des IA. Donc sur ça, finalement, je ne suis pas très inquiète. Mais la grande question pour moi, et là, c'est pour nous faire réfléchir tous collectivement, c'est si... Aujourd'hui, le droit s'articule principalement autour de la personne, par rapport à sa capacité, son pouvoir, ses droits, ses obligations. Si cette personne mute, comme tu me l'as très bien expliqué, est-ce que ces normes doivent muter également et dans quel sens ? Oui, j'aime bien cette question un peu finale qui en même temps implique une heure de débat. Non, je plaisante bien sûr. Ta question, tout simplement, tu as dit le mot personne. La personne existe-t-elle en réalité ? Est-ce que ce n'est pas une fiction utile pour nos sociétés ? Et tout à l'heure, j'ai parlé du libre-arbitre qui était menacé. Donc forcément, ça déresponsabilise parce qu'il y a un effet de transfert de fluide. ça passe d'un contenant à un autre et donc où le libre-arbitre s'échappe comme une âme qui sortirait du corps. Mais en réalité, Sous-titrage ST' le libre-arbitre existe-t-il ? N'est-il pas une fiction qu'un sentiment qu'on a, nous on a le sentiment qu'on est maître de nos décisions, qu'on est maître de nos choix, que quand on veut, c'est nous qui créerons cette volonté. Quand on a une idée, on crée cette idée. 50 Pourtant, la science a avancé depuis ces débats qui datent du XVIIe siècle, en tout cas les grands débats sur le libre-arbitre. John Stuart Mill, qui est un des fondateurs du libéralisme, dit « sur son corps et sur son esprit, l'individu est souverain » . L'individu est souverain et on comprend, c'est très important. Et on comprend, Tout ça forme une force de la personne. c'est très important. Aujourd'hui, les neurosciences sont beaucoup avancées et montrent qu'en réalité, Tout ça forme, forge la personne juridique. lorsque l'on prend une décision... Aujourd'hui, les neurosciences ont beaucoup avancé et montrent qu'en réalité, lorsque l'on prend une décision, le cerveau prend cette décision. Le cerveau prend cette décision et toute l'impulsion est envoyée et lorsque l'on a conscience de vouloir quelque chose, Et toute l'impulsion est envoyée. en réalité le cerveau a déjà pris la décision. Et nous, Et lorsque l'on a conscience de vouloir quelque chose, en réalité, le cerveau a déjà pris la décision. intuitivement, Et nous, on amalgame le fait d'avoir conscience... intuitivement, on amalgame le fait d'avoir conscience avec le fait d'avoir décidé. avec le fait d'avoir décidé. Or, pour ceux que ça intéresse, il y a deux chercheurs neuroscientifiques, Stanislas Dehaene et Lionel Macache, Or, qui sont des très grands scientifiques français, pour ceux que ça intéresse, il y a deux chercheurs neuroscientifiques, qui montrent que finalement, Stanislas Dehaene et Lionel Nakache, qui sont des très grands scientifiques français, montrent que finalement, la conscience n'est pas un agent de décision. la conscience n'est pas un agent de décision. Le cerveau est un agent de décision, Le cerveau est un agent de décision, mais on n'a pas forcément la main là-dessus. mais on n'a pas forcément la main là-dessus. Je donne une expérience assez vertigineuse, qui a été un peu fondatrice de tout ça, c'était en 1983, Je donne une expérience assez vertigineuse qui a été un peu fondatrice de tout ça. C'était en 1983, l'expérience de Libet, l'expérience de Libette. qui montre qu'on demande aux personnes de lever le bras droit ou le bras gauche selon leur bon vouloir, qui montre qu'on demande aux personnes de lever le bras droit ou le bras gauche selon leur bon vouloir. Ce qui serait quand même une bonne illustration du libre arbitre. ce qui serait quand même une bonne illustration du libre-arbitre. Quand vous voulez, vous faites telle action. Sous électrode, Quand vous voulez, et on voit qu'en fait le cerveau, vous faites telle action. plusieurs millisecondes avant, envoie une impulsion électrique. Sous électrode, Et lorsque l'impulsion est à son maximum, et on voit qu'en fait, le cerveau, plusieurs millisecondes avant, envoie une impulsion électrique. et lorsque l'impulsion est à son maximum, là, la personne mystérieusement dit « je veux » . Là, la personne mystérieusement dit « je veux » . En réalité, tout a été préparé par le cerveau en amont. En réalité, Et à présent, les mesures ont évolué et jusqu'à 10 secondes avant, tout a été préparé par le cerveau en amont. dans certaines expériences, on peut anticiper ce que la personne va vouloir librement, Et à présent, ce qui est un énorme paradoxe. les mesures ont évolué, et jusqu'à 10 secondes avant, Et donc, face aux influences sociales, on sait que les influences sociales conditionnent les personnes. dans certaines expériences, on peut anticiper ce que la personne va vouloir librement, Rien que la façon avec laquelle on s'exprime, ce qui est un énorme paradoxe. Et donc, face aux influences sociales, on sait que les influences sociales conditionnent les personnes, toi et moi, rien que la façon avec laquelle on s'exprime, est conditionnée par notre environnement culturel, par le pays dans lequel on est, toi et moi, notre époque, est conditionnée par notre environnement culturel, etc. par le pays dans lequel on est. notre époque, etc., mais aussi l'influence biologique dans laquelle il y a tout le processus matériel de notre cerveau. mais aussi l'influence biologique dans laquelle il y a tout le processus matériel de notre cerveau. D'ailleurs, l'influence sociale n'est peut-être là que parce que le processus matériel a créé cet environnement, D'ailleurs, l'influence sociale n'est peut-être là que parce que le processus matériel a créé cet environnement et l'influence des gènes derrière tout ça. et l'influence des gènes, tout ça, et les travaux génétiques montrent que notre apparence physique, Les travaux en génétique montrent que notre apparence physique, certes, est génétiquement déterminée, mais aussi certaines facultés que l'on a, intellectuelles, certes, des traits de personnalité, est génétiquement déterminée, et donc finalement l'alliance environnement-gène. mais aussi certaines facultés que l'on a, intellectuelles, des traits de personnalité. Et donc, finalement, l'alliance environnement, gènes, C'est peut-être 100% c'est peut-être 100% et pas et pas 80%. Et dans le cadre d'un procès, si on schématise, on cherche la part entre les influences, les contraintes biologiques, 80%. Et dans le cadre d'un procès, si on a une schizophrénie, je ne sais pas, génétique, si on schématise, on cherche la part entre les influences, etc. Et les contraintes sociales et la part de libre-arbitre. les contraintes biologiques, si on a une schizophrénie, Est-ce que j'aurais pu faire autrement avec cette configuration ? je ne sais pas, génétique, etc., Eh bien, et les contraintes sociales, si on se rend compte que l'être humain ne peut pas faire autrement, et la part de libre-arbitre. Est-ce que j'aurais pu faire autrement avec cette configuration ? Eh bien, si on se rend compte que l'être humain ne peut pas faire autrement, y a-t-il encore une personne ? y a-t-il encore une personne ? Et la question c'est, et la question c'est y a-t-il un homme dans l'homme c'est à dire la personne humaine n'est-elle pas finalement qu'un ensemble de processus matériel qui ne laisse pas d'autre choix que ce qui est et donc quand j'agis je ne pouvais pas faire autrement c'est mon architecture matérielle qui produit ce genre de comportement alors là la question c'est pourquoi est-ce qu'on est quand même convaincu qu'il y a une liberté et dès l'antiquité Cicéron y a-t-il un homme dans l'homme ? C'est-à-dire, la personne humaine n'est-elle pas finalement qu'un ensemble de processus matériel qui ne laisse pas d'autre choix que ce qui est ? Et donc quand j'agis, je ne pouvais pas faire autrement. C'est mon architecture matérielle qui produit ce genre de comportement. Alors là la question c'est pourquoi est-ce qu'on est quand même convaincu qu'il y a une liberté ? Et dès l'Antiquité, Cicéron... se battaient en disant il faut préserver cette liberté sinon il n'y a plus de responsabilité et c'est le chaos social pourquoi ? parce que présumer que l'autre est libre c'est le responsabiliser et donc peut-être que c'est une fiction pourquoi pas mais une fiction très utile pour la vie parce que ça permet au groupe de se fédérer de mieux coopérer à partir du moment où on est responsabilisé mais aussi utile individuellement parce que ça permet de se donner un mais aussi utile individuellement parce que ça permet de se donner un sentiment d'emprise sur sa vie, ce qui est beaucoup moins angoissant, mais aussi de postuler que lorsqu'il y a un obstacle, sentiment d'emprise sur sa vie, ce qui est beaucoup moins angoissant, on peut le dépasser. mais aussi de postuler que lorsqu'il y a un obstacle, on peut le dépasser. Si on se dit, Si on se dit, mais non, mais je suis libre et quand je veux, mais non, mais je suis libre et quand je veux, je peux, je peux, tout ce genre de croyances... tout ce genre de croyances, finalement, finalement, si on est convaincu que tout est déterminé, si on est convaincu que tout est déterminé, on va se dire, ben non, cet obstacle est large, je ne peux pas, je ne le fais pas. on va se dire, Et donc il y a un ensemble de choses qui font que l'évolution nous a donné cette croyance dans le libre-arbitre qui permet de structurer des sociétés plus efficacement. ben non, cet obstacle est là, je ne peux pas, je ne le fais pas. Et donc, il y a un ensemble de choses qui font que l'évolution nous a donné cette croyance dans le libre-arbitre qui permet de structurer des sociétés plus efficacement. Cette croyance pourrait tenir, mais elle me semble de plus en plus difficile. Cette croyance pourrait tenir, Pourquoi ? mais elle me semble de plus en plus difficile. Pourquoi ? Parce que la science avance. Parce que la science avance. Donc déjà, face aux avancées des neurosciences, Donc déjà, c'est de plus en plus dur de tenir ce discours. face aux avancées des neurosciences, c'est de plus en plus dur de tenir ce discours. Mais aussi, l'IA nous apporte une preuve qu'on est beaucoup plus manipulable, Mais aussi l'IA nous apporte une preuve qu'on est beaucoup plus manipulable, influençable qu'on le croyait. Et l'IA permet également d'accomplir un certain nombre de tâches qu'on pensait réservées à la personne humaine. influençable qu'on le croyait. Et l'IA permet également d'accomplir un certain nombre de tâches qu'on pensait réservées à la personne humaine. C'est ça aussi qui est différent. C'est que, qu'est-ce que c'est que la personne ? Si on prend analytiquement, Beaucoup de points aujourd'hui sont pris par l'IA, donc que reste-t-il ? C'est ça aussi qui est différent, c'est que qu'est-ce que c'est que la personne ? Et là où on a peut-être un élément de réponse, Si on prend analytiquement, beaucoup de points aujourd'hui sont pris par l'IA. c'est que l'être humain pose ses buts premiers. Donc que reste-t-il ? Et là où on a peut-être un élément de réponse, c'est que l'être humain pose ses buts premiers. Peut-être que ses buts sont... peut-être que ces buts sont influencés par la génétique beaucoup de buts que l'on a de système moraux sont influencés par le fait qu'on préfère la survie à la mort et éviter la souffrance et chercher plutôt ce qui nous fait du bien, tout ça quand on prend ces deux unités basiques qui sont forgées par l'évolution la survie individuelle et la survie d'espèce et bien on voit que les valeurs morales que l'on essaie de mettre en place, bon an mal an cherchent toujours quand même à Merci. être dans cet ordre-là. Eh bien, Et bien, est-ce qu'on peut préserver la personne humaine derrière tout ça ? Je pense qu'individuellement, est-ce qu'on peut préserver la personne humaine derrière tout ça ? là c'est un peu de prospective, Je pense qu'individuellement, je m'accorde un peu de liberté, mais c'est qu'on ne va plus tellement pouvoir postuler un individu complètement autonome, là c'est un peu de prospective, je m'accorde un peu de liberté, mais c'est qu'on ne va plus tellement pouvoir postuler un individu complètement autonome, ça me paraît très dur à tenir. ça me paraît très dur à tenir. Et donc la responsabilité qui s'évince, qui s'enfuit, Et donc la responsabilité qui s'évince, qui part en courant... qui s'enfuit, qui part en courant, elle va être transférée, il faut bien qu'elle aille quelque part. Elle va être transférée, il faut bien qu'elle aille quelque part. Et je pense qu'elle va être transférée à l'échelle de la société en elle-même, Et je pense qu'elle va être transférée à l'échelle de la société en elle-même, qui devient elle responsable. Je te donne un exemple qui va peut-être parler. qui devient elle responsable. Je te donne un exemple qui va peut-être parler. Il y a des systèmes prédictifs en termes de justice, Il y a des systèmes prédictifs en termes de justice, donc prévision de crime, ou même d'aide pour les juges, donc prévision de crime, ou même d'aide pour les juges, pour établir une sanction, pour dire, pour établir une sanction, voilà, au regard du profit de cette personne, la récidive pourrait être importante. pour dire au regard du profit de cette personne, la récidive pourrait être importante et tout. Si on peut prédire la... Si on peut prédire la probabilité qu'une personne commette un crime, là on est un peu dans la sens-fiction mais on se rapproche parce que c'est des stats qui permettent déjà en tout cas d'essayer de faire ça, probabilité qu'une personne commette un crime, là on est un peu dans la science fiction mais on se rapproche parce que c'est des stats qui permettent déjà en tout cas d'essayer de faire ça est-ce que c'est l'individu qui est coupable finalement parce que si on peut le prédire ça montre bien que c'est pas de sa faute si on peut le prédire c'est que c'est pas son libre choix donc la responsabilité est telle chez est-ce que c'est l'individu qui est coupable finalement ? Parce que si on peut le prédire, ça montre bien que ce n'est pas de sa faute. Si on peut le prédire, c'est que ce n'est pas son libre choix. Donc la responsabilité est-elle chez lui ou dans la société qui se dit « je peux le prédire, donc je peux mettre en œuvre des moyens qui vont changer l'environnement » . lui ou dans la société qui se dit je peux le prédire donc je peux mettre en oeuvre des moyens qui vont changer l'environnement qui vont changer les déterminismes qui vont faire que cette personne qui vont changer les déterminismes qui vont faire que cette personne commettrait un crime. Et donc, imaginons qu'une personne commet un crime quand même, et commettrait un crime. Et donc, on va se dire, imaginons qu'une personne commet un crime quand même, en soi, elle ne pouvait pas faire autrement. on va se dire, en soi, elle ne pouvait pas faire autrement. Est-ce que ça détruit pour autant tout le système de justice ? Est-ce que ça détruit pour autant tout le système de justice ? Une personne qui commet un crime, bon, maintenant, Une personne qui commet un crime, on a compris que le cerveau prend des décisions à notre place, bon, maintenant on a compris que le cerveau prend des décisions à notre place, finalement, elle a fait tout ce qu'elle a pu au regard de sa cognition, finalement, elle a fait tout ce qu'elle a pu au regard de sa cognition, de sa génétique, de sa génétique, de son environnement. de son environnement. Et elle ne pouvait pas faire autrement. Et elle ne pouvait pas faire autrement. Si on ne met pas de sanctions, Si on ne met pas de sanctions, qu'est-ce qui se passe ? La personne peut être un danger pour la société. qu'est-ce qui se passe ? La personne peut être un danger pour la société. Recommencez. Recommencez. C'est un message envoyé qui dit ce crime n'est pas puni, C'est un message envoyé qui dit que ce crime n'est pas puni, donc ça encourage d'autres crimes. donc ça encourage d'autres crimes. Donc les gens sont déterminés à se dire bon, Donc les gens sont déterminés à se dire « bon, j'ai moins de pression sur moi » . j'ai moins de pression sur moi. En revanche, En revanche, si on met des sanctions, ça crée une pression environnementale qui détermine les personnes à se contraindre mécaniquement, si on met des sanctions, ça crée une pression environnementale qui détermine les personnes à se contraindre mécaniquement, alors ça vaut tirer le son de l'arbitrage entre plaisir, peine. alors ça vaut tirer le son de l'arbitrage entre plaisir, peine. Eh bien, je ne veux pas de peine, Eh bien, je vais chercher le plaisir, je ne veux pas de peine, je vais chercher le plaisir, je vais m'adapter et je vais faire un compromis. je vais m'adapter et je vais faire un compromis. Et on se dit, tout cet argent qui est dans le système du procès, Et on se dit, de l'avocat, tout cet argent qui est dans le système du procès, etc., on pourrait condamner la personne. de l'avocat, etc. On pourrait... Pas celui de l'avocat. Pas l'argent. condamner la personne. Je pense à ceux qui sont commis d'office, Je pense à ceux qui sont commis d'office, non ? Oui, non, en fait, c'est ça. Bon, d'accord, tu fais une pique. Dans le cas d'un procès, non ? Ah oui, non, tout l'argent qui est dedans, pas ceux qui sont commis d'office. du juge, etc., eh bien... Bon, d'accord, tu me fais une pique. En tout cas, tout le système, dans le cadre d'un procès, tout l'argent qui est dedans, du juge, etc., eh bien, Condamnons la personne, condamnons la personne, peut-être avec quelque chose qui est... peut-être avec quelque chose qui est forfaitaire, parce que c'est comme ça. Bon, En revanche, bah... tout l'argent sera mis sur la réinsertion. Imaginons peine de 20 ans pour tout le monde, néanmoins comme tout l'argent est mis sur la réinsertion, peut-être qu'au bout de 5 ans la personne va sortir. Et à ce moment-là, l'ensemble des moyens est mis sur la correction des déterminismes qui ont engendré l'acte. Il peut y avoir évidemment des dystopies avec ça, je pense au film Orange Mécanique, que tu connais peut-être de Stanley Kubrick, où la personne justement, on cherche à la réinsérer par le forceps du déterminisme et là on la conditionne biologiquement. mais il peut y avoir bien d'autres méthodes, et on voit qu'en prison, la question de la réinsertion, c'est extrêmement utile, le suivi psychologique, psychiatrique, retrouver du travail, tout ça fait que la personne prend sur elle certains déterministes, certaines influences, mais qui la remettent dans un chemin de réinsertion. Et c'est peut-être là qu'on pourrait maximiser, et donc on peut être responsable causalement, mais pas moralement, ce qui n'empêche pas d'avoir tout un système juridique, et c'est la société qui prend en charge davantage la chose, puisque... La culpabilité n'est pas sur l'épaule de l'individu, mais c'est à la société de la prendre en charge. Ce qui est déjà un peu le cas quand on voit certaines décisions de justice, mais qui en fait deviendraient un modèle. Au revoir. Voilà, et la justice, effectivement, va déjà en ce sens, parce qu'on est en transition aujourd'hui, et lorsqu'il y a des experts psychologiques, des médecins, etc., les déterministes sont évidents, et on finit par se dire, comment est-ce qu'on peut encore tenir ? Donc je pense qu'on va évoluer vers moins de libre arbitre individuel et une prise en charge dans le sens causal, matériel des personnes. Et donc l'individu, là, perd sa responsabilité individuelle, méthodologique, en se disant que l'individu est l'autocentre de toutes ses décisions. Mais ça ne veut pas dire qu'il y a une irresponsabilité collective. On peut toujours avoir un groupe qui a une cohésion parce que la responsabilité est transférée, elle n'est pas annulée. Merci parce que j'ai appris beaucoup de choses on va s'arrêter là parce que sinon on va faire encore une heure de débat vraiment je suis tentée donc plutôt que de faire une heure supplémentaire je vais t'inviter à un prochain podcast où on pourra poursuivre cette discussion si tu veux bien j'espère que les auditeurs auront passé un aussi bon moment que nous en tout cas merci beaucoup Merci. Ça me permet de voir la place de l'individu autrement. C'est un souci que je pense beaucoup se font sur l'influence des algorithmes sur les individus. Et d'ailleurs, c'est pour ça qu'on est en train de discuter le fait d'interdire l'accès au téléphone jusqu'à 15 ans. parce qu'on a bien conscience que peut-être qu'on veut préserver ce libre arbitre et cet esprit critique, etc. C'était encore très important dans nos sociétés, mais c'est aussi très intéressant de se projeter dans deux mains et ce à quoi va nous amener l'IA. C'est parfait. Oui, vas-y. Non, mais je suis tout à fait d'accord avec toi et mettre un petit message sur cet esprit critique qui est évidemment fondamental. Mais encore, faut-il être amené à l'exercer au quotidien. Et voilà, c'est ça qui est important. L'esprit critique ne nous tombe pas dessus. Ce n'est pas juste des méthodes comme ça. Il faut le pratiquer en permanence sans tomber dans l'excès d'un esprit critique hyperbolique qui viendrait à douter de tout en se disant je ne peux faire confiance à personne. Et parce que la société, c'est aussi se dire, il y a certaines personnes, je ne peux pas tout savoir, et certaines personnes sont garantes de certains savoirs, et je dois faire confiance. La collectivité, c'est aussi ça, c'est une mutualisation du savoir qui se répartit entre certaines personnes. Donc l'esprit critique à outrance conduit en fait à un isolement ou à des pièges de pensée, des radicalisations qui peuvent être aussi très néfastes. Merci beaucoup. Et alors, pour ceux qui voudraient continuer cette conversation avec Julien, il suffit de lire son ouvrage L'individu fin de parcours, le piège de l'intelligence artificielle, que j'ai apprécié, qui m'a par moments bousculé, mais qui a été très plaisant à lire. Voilà. Merci beaucoup, Julien. Merci à toi, Merci à toi, Safia. Safia. À très bientôt. Au revoir. à très bientôt À très bientôt.