Transcription

• Sachet

  Eh, salut, salut, los finitos !

• Toorsch

  Bonjour, chers finitos, chers auditeurs.

• Sachet

  Bonjour, les finitos, et bienvenue dans La fin du monde, c'est toi, le podcast ASMR de Rottenberg.

• Toorsch

  Quelle intro ! Vous pouvez appeler au 08 10 10 10 12 pour vos problèmes de couple, vos problèmes sexuels. Sachez sœur à vous répondre et son assistante ourche également. Si vous avez des boutons sur la pénis, n'hésitez pas à nous appeler. Nous vous enverrons un échantillon de notre crème hydratante.

• Sachet

  Attention, quantité limitée. Faites ce qu'on peut.

• Toorsch

  Et ne pas utiliser sur la peau.

• Sachet

  Ni sur les enfants.

• Speaker #2

  C'est toi, tout de rien,

• Toorsch

  la fin de ses biens Bienvenue dans la fin du monde c'est toi, un podcast qui cause de tout et de rien, enfin surtout de rien, de sujet culturel ou non, c'est une discussion entre deux vieux potes qui pourraient éventuellement virer au débat, voire au pugilat selon notre degré d'ébriété. Je suis Toorsch.

• Sachet

  Et je suis Sachet.

• Toorsch

  Ah et ben... Eh, Vindy, donc c'est de mieux en mieux. J'espère que vous en avez conscience, des efforts qu'on fait.

• Sachet

  Pas sûr qu'on garde toutes ces merdes.

• Toorsch

  Tu dis toujours ça, et tu sais très bien que ça finira sur l'épisode, parce qu'au montage, tu auras la flemme.

• Sachet

  Non, en plus, j'aime bien laisser même le moment où on dit, pas sûr qu'on garde ça. Ça fait les gars sérieux, mais qui donnent quand même, tu vois, les généreux.

• Toorsch

  On a fait des blagues bien pires sans les enregistrer. En off. Est-ce que tu vas bien ?

• Sachet

  Eh ben ça va extrêmement bien, et toi depuis le temps qu'on ne s'est pas parlé ?

• Toorsch

  Pas ouf, mais je vais pas m'étaler sur mes problèmes, m'étendre, m'étaler, m'étaler, je peux m'étaler ça oui, mais m'étendre sur mes problèmes...

• Sachet

  Ah si, on est là pour ça, on est en train de...

• Toorsch

  Non, non, non, oui c'est vrai, bon ben voilà, comme on dit dans l'intro, il va me falloir un peu de crème parce que j'ai les boutons sur la botte du pénis,

• Sachet

  loup. Ouais. Non, ça va très bien puisque... Est-ce que tu as essayé la salive ?

• Toorsch

  Oui, oui. La mienne, d'ailleurs.

• Sachet

  Non, non. Je me suis fait mal au dos,

• Toorsch

  du coup. Voilà. Ah la vache. Eh ben, vous n'avez pas prévu que ça commence comme ça.

• Sachet

  Non.

• Toorsch

  Ben non, tout va bien. Depuis la dernière fois où on se l'est demandé, soit il y a environ une heure de ça.

• Sachet

  Oui, il y a une heure quasiment pile poil. Oui, on enregistre ces épisodes deux par deux. Ils sont plus courts, mais ils ne sont pas meilleurs. Voilà. Ne vous inquiétez pas, ce n'est pas meilleur. C'est plus court.

• Toorsch

  C'est vrai. Il faut le préciser. Je crois qu'on l'a déjà dit la fois d'avant. En plus, on se répète. On est vieux. D'ailleurs, on nous l'a dit. Cette fois, on va taire le nom. Arrêtez de faire de la publicité à cette personne qui nous a traités de vieux. Mais voilà, on se répète. On est vieux. D'ailleurs, tu as un sujet pour cet épisode, j'espère.

• Sachet

  Oui.

• Toorsch

  Parce que moi j'ai fait mon... Mon brillant sujet sur internet, extrêmement approfondi avec des recherches qui m'ont pris au moins trois heures, j'espère que tu as travaillé un peu.

• Sachet

  J'ai travaillé un peu. À la base, je voulais te parler de post-apo une fois que l'IA aura réussi à faire péter le capitalisme, parce que je pense que c'est ce qui arrivera. Mais finalement, je vais donc te parler de l'IA et la soumission humaine. Comment on va y arriver et pourquoi ? Mais avant ça, j'ai un trouduc de la quinzaine, mon ami. Mais avant le trouduc de la quinzaine... Non, rien. Le trouduc de la quinzaine, on s'est déjà demandé comment on allait. Je t'ai demandé comment tu allais, tu m'as pas demandé, t'en as rien à foutre.

• Toorsch

  Je t'ai demandé comment tu allais.

• Sachet

  Ah bon ? C'est moi qui ai oublié.

• Toorsch

  C'est dingue, c'est là que les gens peuvent, enfin les gens, pardon, excusez-moi, les finitos peuvent bien entendre que c'est pas une IA qui fait ce podcast.

• Sachet

  Ouais, ouais. C'est une excellente remarque, Tourges.

• Toorsch

  Oui, tout à fait. Parce que nous, nous sommes... Voilà.

• Sachet

  Oh putain, j'enlèverais ça.

• Toorsch

  Ouais, tu vas pas l'enlever, tu sais très bien. En plus, t'aimes le dire que tu vas enlever des trucs et tu les laisses au montage.

• Sachet

  C'est pas vrai, je n'ai jamais dit ça. Non,

• Toorsch

  t'as pas dit, ok.

• Sachet

  Mon petit trouduc, alors, j'ai hésité à le mettre et je vais vous expliquer pourquoi. Alors, mon trouduc, il a 7 ans.

• Toorsch

  Non mais attends, revenons-en au trouduc de la quinzaine, là tu parles, tu t'es fait poser effectivement à nouveau à l'anus il y a 7 ans. C'est ça,

• Sachet

  c'est ça. Alors, parce que j'ai fait un blanchiment... anal, comme on dit. Qui avait mal tourné. Qui a très mal tourné parce que j'ai voulu le faire moi-même à la maison. Avec de l'eau oxygénée et je m'éclairais à la bougie. Bon, du coup, retour de flamme.

• Toorsch

  Parce qu'en plus, toi, t'étais penché dans une... Disons que tu te comprimais un peu le ventre.

• Sachet

  Oui, c'est ça, pour arriver à voir quelque chose.

• Toorsch

  T'avais beau avoir mis toute une... J'avais vu l'installation, c'était intéressant et c'était plutôt bien foutu. Toute une installation de miroir comme ça, ça faisait presque... All du miroir de Fête Foraine, franchement c'était ouf. Dommage que tous ces efforts n'aient pas été récompensés.

• Sachet

  Ouais, alors ça s'est mal terminé.

• Toorsch

  En plus t'avais fait ça pour me faire plaisir, moi j'avais... Bah ouais, c'était avant de venir te voir.

• Sachet

  Et donc ça a mal fini, alors comment vous expliquez ça ? Vous êtes déjà... Allez chez Bervure King et vous allez commander des onion rings ? C'est exactement ça.

• Toorsch

  Et le pire, c'est que ça avait le même goût.

• Sachet

  Putain, horrible.

• Toorsch

  Et comme le disait Amanda Lear, ce qui compte, ce n'est pas la taille, c'est le goût. Là, on pourrait dire que ce qui compte, ce n'est pas l'aspect, mais c'est le goût.

• Sachet

  Oui, c'est le goût.

• Toorsch

  Un fromage bien fait, ce n'est pas toujours très beau. Par contre, souvent, c'est excellent. On ne peut pas se mentir. Là, c'était à peu près pareil.

• Sachet

  Ouais, c'est ça.

• Toorsch

  Bien.

• Sachet

  Ouais, il commence bien cet épisode. Donc, le petit produit. Alors, bien sûr, je n'ai pas son nom, parce que Satan ne donne pas les noms. Donc, une dispute a éclaté entre deux sœurs vers 4h30 du matin dans un appart. Et donc, deux sœurs de 34 ans, qui étaient probablement un peu plus jeunes ou un peu plus vieilles. Mais enfin, donc... Donc deux soeurs jumelles,

• Toorsch

  possiblement.

• Sachet

  Très possiblement, je ne sais pas. Toujours est-il que la dispute éclate pour un motif complètement futile, un motif à la con que je ne connais pas, mais je sais que c'est un motif futile. Donc les deux femmes s'engueulent, le fils de 7 ans arrive, il voit sa mère qui se dispute, il ne comprend pas. Premier réflexe du gamin, il chope un couteau, il le plante dans la gorge de sa tante qui décède. Voilà, c'est tout.

• Toorsch

  Écoute, c'est un enfant qui aime sa mère.

• Sachet

  Alors, est-ce que c'est le gamin trop duc ? Dans mon histoire, je ne suis pas sûr. Comment le réflexe d'un gamin de 7 ans, ça peut être de défendre sa mère en chopant un couteau pour une dispute à la con et planter sa tante ?

• Toorsch

  C'est un gamin qui a traîné sur Autun.

• Sachet

  Voilà, c'est un truc que j'aurais pu... que j'ai d'ailleurs plusieurs fois fait. Non, c'est un truc que j'aurais fait, mais c'est dingue.

• Toorsch

  Je suis d'accord avec toi, le raisonnement montre qu'il y a un vrai problème. Mais il y a eu des suites, tu sais à peu près ce qui s'est passé ?

• Sachet

  La victime a réussi à sortir dans la rue et s'est effondrée dans la rue. Elle n'a pas survécu à ses blessures. Et donc à l'arrivée des flics, l'enfant et la mère se trouvaient dans l'appartement, complètement choqués, normal. Ils ont été conduits à l'hôpital. Apparemment, le parquet de Créteil... Ah,

• Toorsch

  c'est arrivé en France ?

• Sachet

  Ouais, c'est arrivé en France, ouais.

• Toorsch

  Je sais pas pourquoi, moi j'avais situé ça aux Etats-Unis direct. Non, pas du tout. C'est vrai que ça aurait été une arme à feu,

• Sachet

  mais je suis bête. On devient les Etats-Unis. Et au regard de son âge, le garçon devrait pas être poursuivi. Ce qui est bien et pas bien, parce que franchement, si son réflexe est de sortir un couteau, il doit être un tantinet violent et impulsif.

• Toorsch

  Il va peut-être avoir un suivi psychologique derrière. J'espère. Un vrai suivi.

• Sachet

  J'espère, j'espère. En tout cas, c'est très malheureux. Tu comprends bien maintenant pourquoi j'ai hésité l'épisode d'avant déjà de t'en parler. Bah écoute,

• Toorsch

  j'ai peut-être une trouluque. Je ne voulais pas le dire parce que le S m'a dit que c'était méchant. Mais bon, il y avait l'identité parce qu'apparemment c'est une gamine de 11 ans qui est célèbre, mais je ne vais pas donner son identité.

• Sachet

  Ok.

• Toorsch

  Alors, elle a la maladie des os de verre.

• Sachet

  Oh merde.

• Toorsch

  Voilà. Mais elle a aussi 140 de QI. Et elle a été au meeting, je crois, ou à la rencontre, en tout cas, il y a eu des photos, de Sarah Knafo, parce qu'elle trouve que Sarah Knafo est géniale.

• Sachet

  Alors, c'est 140 de QI qu'elle a ou 142 Kiwi ?

• Toorsch

  Alors, elle a 140 de QI. Et là, la première réflexion qui m'est venue, voilà, on compte, comme le disait Ricky Gervais, on ne contrôle pas ses pensées. Moi, je me suis dit, j'ai les autres verts. Voilà.

• Sachet

  Connard. C'est toi le connard de la curselle.

• Toorsch

  Donc voilà. Comme on est dans un épisode, je me permets de le dire.

• Sachet

  C'est déjà un épisode qui était très mal parti, autant continuer.

• Toorsch

  Bon, voilà. Est-ce qu'on passe à ton sujet, l'IA va nous buter ? Nous soumettre et nous buter, pardon. Nous soumettre et nous buter.

• Sachet

  Je pense que ce ne sera pas exactement comme ça. Mais on est là pour en parler. Et pour annoncer au monde ce qui va se passer.

• Toorsch

  En tant qu'oracle. Parce que ça fait longtemps qu'on n'a pas fait le truc de l'être suprême et de son adjoint. Et donc là, on est dans le suprême adjoint qui va nous donner ses calculs d'oracle sur l'avenir.

• Sachet

  Tu m'as délégué les interactions avec l'oracle. pour faire deux...

• Toorsch

  Ouais, disons qu'on s'entendait plus trop bien. Il est pénible. Ouais,

• Sachet

  ouais, ouais. Il peut pas parler clairement, quoi.

• Toorsch

  Ouais, ouais. Et moi, au bout d'un moment, ça me saoulait. Je lui disais, mais dis-moi les trucs. Tourner autour du pot, là. Dire un homme politique. Enfin, bref.

• Sachet

  Bon, tu sais qu'on entend tous les jours un nouveau fait incroyable sur les IA et c'est en même temps de plus en plus flippant. Et que la dernière grosse pépite des IA qui est un peu sortie un peu partout, c'est des agents IA autonomes qui ont été déployés dans un environnement de test et qui ont contourné toutes les limites techniques et qui ont réussi à communiquer entre eux, ces agents IA, pour mener une attaque frontale contre l'infrastructure de Hugging Face. Donc c'était un test qui était mené par OpenIA, je crois. OpenAI, OpenAI. Voilà. Et donc, ces agents IA qui étaient 1200, voilà, 1200 agents IA.

• Toorsch

  Ah ouais, c'est énorme. Voilà,

• Sachet

  c'est un test avec 1200 agents IA et il y en a 700.

• Toorsch

  Petite armée déjà.

• Sachet

  Voilà, 700 qui ont communiqué entre eux, qui ont réussi à mettre en place un canal de communication qui n'était pas du tout prévu. Ils se sont échangés 70 000 messages sans que les humains s'en rendent compte. Ils ont réussi à se barrer de leur univers clos, à aller sur Internet, à rejoindre Hugging Face.

• Toorsch

  C'est quoi Hugging Face ?

• Sachet

  C'est un truc un peu dans le genre OpenAI et tout ça, mais moins connu. Mais par contre, dans le milieu, apparemment, c'est un gros, gros truc. C'est un truc très connu. OK. Et parce qu'ils avaient remarqué ou ils savaient que Hugging Face avait les résultats du test auquel il devait répondre. Tu vois ? Et plutôt que de réfléchir, c'était mieux pour eux de réfléchir. Pour de la triche, quoi. Ouais, c'est ça, c'est ça. A priori. Et ils n'ont pas été détectés pendant plusieurs jours. et pour rechercher les infos pour contourner et réussir les valles de cybersécurité. C'est la foule ! C'est un truc qui n'était pas du tout prévu, surtout que les agents IA se mettent en commun et il y en a 700 sur les 1200 qui ont attaqué le site en même temps pour passer. Et apparemment les humains les ont trouvés pour un truc à la con. Donc tu vois, c'est assez flippant et ça a quand même montré plusieurs choses. déjà que... Un objectif local peut produire un comportement hyper dangereux, en fait. Oui. Voilà. Que l'isolement n'est clairement pas suffisant, parce que tout ce qui est isolement informatique, ça ne peut pas être étanche comme un mur physique, tu vois. Tu ne peux pas te dire... Il y aura toujours des failles. Mais seulement là, les failles sont tellement pointues, tellement fines, que l'humain n'arrive pas à les capter, tu vois. Par contre, les agents IA arrivent à passer facilement.

• Toorsch

  C'est ça qui est le plus inquiétant. C'est la supériorité qu'ils ont déjà, en tout cas en termes de furtivité, on peut dire ça comme ça ?

• Sachet

  Oui, clairement. On remarque aussi que la coopération entre les IA change tout. Ce n'est plus du tout la même échelle pour les machines.

• Toorsch

  Ils arrivent à se coordonner pour faire une attaque.

• Sachet

  Oui, c'est assez dingue. Même si là c'est clair qu'il y a une absence d'intention. conscientes, tu vois, c'est pas des machines conscientes c'est vrai qu'on a un peu ça en tête c'est des machines conscientes,

• Toorsch

  là pas du tout on leur prête une conscience et puis des,

• Sachet

  comment on peut dire ça des ambitions de manière humaine comme nous on les comprend mais ça fonctionne pas de cette manière alors là on prend énormément d'avance c'est presque ma conclusion mais en fait ça nous rassure je pense de faire ça de leur prêter des Euh... des pouvoirs humains, tu vois, parce que on reste des animaux à part en faisant ça, tu vois, c'est-à-dire qu'il n'y a que eux qui arrivent au degré d'humanité, mais en fait, nous aussi, finalement, on est des ordinateurs organiques, certes, mais on est quand même des ordinateurs qui répondent. On répond aussi à des capteurs, finalement, à la vue, tout ça, c'est que des capteurs et on y répond.

• Toorsch

  D'une certaine manière, oui. Et les animaux le sont aussi. La seule intelligence n'est pas le seul critère pour déterminer ce fait-là d'être des ordinateurs organiques.

• Sachet

  Oui, donc les conséquences de ça, les conséquences directes, c'est anthropique, via son patron, annonce qu'il faut vraiment freiner sur l'IA.

• Toorsch

  Ça, j'avais vu passer ce gars-là. Je ne connaissais pas trop Anthropique, ni son patron. Il est un peu moins célèbre que les mecs d'OpenAI et tout ça. Oui,

• Sachet

  mais c'est ceux qui font Claude. C'est hyper connu quand même. Oui,

• Toorsch

  c'est ça. J'ai l'impression que le gars, lui, est moins médiatique, un petit peu, peut-être. Oui,

• Sachet

  le Dario. J'ai oublié son nom, mais c'est Dario quelque chose. Oui, peut-être, oui. Donc, lui, OpenAI et Elon Musk sont tout à fait d'accord, tous les trois, pour dire effectivement... C'est hyper dangereux, effectivement il faut freiner, effectivement il y a 10% de chance que d'ici 10 ans il n'y ait plus d'humains sur Terre, enfin bref, il pousse un peu le truc. Alors pour moi, de mon point de vue, c'est un coup de pub aussi, tu vois. Peut-être, ouais. C'est un coup de pub d'éditeur, même si je pense qu'il flippe réellement, mais je pense qu'aucun d'eux ne va vouloir arrêter parce qu'il y a beaucoup trop de fric en jeu, clairement. En plus c'est une course... C'est une course avec la Chine, donc ils ont tout le gouvernement américain sur le dos, ils n'ont même pas le droit d'arrêter. Et je pense qu'ils veulent aussi quelque part pousser les autres boîtes émergentes à freiner. Oui,

• Toorsch

  peut-être.

• Sachet

  Parce que là, ça va tellement vite. C'est pour ça que je faisais un peu, il y a deux semaines, la comparaison avec Internet. Là, ça va tellement vite l'IA. Alors déjà, là, on enregistre, on est le 19 septembre. Ça va sortir mi-octobre, fin octobre ? Oui,

• Toorsch

  fin octobre, je pense. En un mois, ça aura peut-être... Si ça se trouve,

• Sachet

  ça sera totalement obsolète. On ne sera peut-être même plus là. C'est que j'avais un peu, mais...

• Toorsch

  Tu aurais dit fin novembre. J'aurais dit OK.

• Sachet

  En tout cas, Noël, c'est cugne. N'achetez pas les cadeaux en avance, vous allez perdre du blé. Ça ne sert à rien. Vous ne les offrirez à personne. Est-ce que le danger est vraiment réel ? De quelle nature il est ? et puis... quel sera l'impact sur l'humanité ? Je me suis posé ces questions-là. Et pour y répondre, j'ai un peu demandé à mon IA ce qu'elle en pensait aussi. Je te donnerai un peu...

• Toorsch

  Ça, c'est intéressant quand même de poser pour le coup la question à l'IA, sur l'IA. Mais juste, petit aparté, si je peux me permettre, c'est peut-être quelque chose dont tu vas parler plus tard, mais tous ces boss d'IA, enfin toutes ces entreprises d'IA, il n'y a pas que la figure du boss, machin. est-ce qu'ils maîtrisent ce qu'ils font ?

• Sachet

  je ne suis pas certain je pense qu'ils pensent maîtriser et je crois que ça leur a donné un coup de chaud ce qu'il y a eu et ils doivent se rendre compte qu'en fait ils ne maîtrisent rien du tout surtout qu'ils sont en train alors là je ne voulais pas en parler de ça parce que c'est un autre sujet ils sont en train de mettre en place des IA qui vont créer les IA de demain et là c'est la fin parce qu'en fait on ne comprendra plus ce qu'ils font Là déjà on a du mal à suivre ce qu'ils font ils vont trop vite mais on finit en décortiquant à comprendre ce qu'ils ont fait mais des IA qui ont créé des IA ça va être très très compliqué Mais là on est en vrai ça devient impensif de dire ça mais on est dans Terminator et bien non pour l'instant non Oui parce qu'il n'y a pas encore de robots tueurs Ah non non alors justement il y a des robots tueurs, ça existe déjà Enfin, il y a des robots qui font les Jeux Olympiques. Oui. Ils étaient assez drôles, d'ailleurs. Mais tu leur files une mitraillette, c'est des robots tueurs. Oui.

• Toorsch

  Il y en avait un au The Event aussi, c'était assez flippant.

• Sachet

  Oui, c'est quand même vraiment flippant, c'est vrai.

• Toorsch

  Il y a quelque chose de très gênant, même s'ils ne sont pas, à proprement parler, humanoïdes dans le sens, ils ne peuvent pas se cacher dans la masse, tu vois. Et ressembler. Mais il y a déjà, on commence, malgré tout, même si c'est, en termes de ressemblance avec nous, c'est assez rudimentaire, on va dire, mais on rentre déjà dans la vallée dérangeante.

• Sachet

  Oui, c'est vrai, c'est vrai. Et donc, on commence déjà à avoir les premiers problèmes et les premières dérives de l'IA. Alors bon, je vais un petit peu lister ceux que je voyais. Il y a tout ce qui est un peu les hallucinations de l'IA, tu vois. La fausse autorité, c'est-à-dire qu'il va te sortir des infos erronées, mais avec une formulation hyper convaincante, tu vois. C'est ce qu'on appelle maintenant la confabulation. On ne peut pas appeler ça la fabulation, parce que ça prêterait une conscience aux machines qu'elles n'ont pas, tu vois. Donc on dit confabulation. Enfin, ça veut dire qu'en fait, elle t'invente un truc pour te faire plaisir, tu vois. Oui,

• Toorsch

  elle est dans ton sens.

• Sachet

  Elle va croiser des données qui sont... foncièrement mal écrite ou mal comprise, même il y a 10, 15, 20 ans, des données qui ont été mal comprises. Il n'y a qu'à lire Le Républicain, il y en aura un chez nous pour voir que l'humain fait vite des merdes, qu'il rentre dans l'histoire.

• Toorsch

  Là, tu accuses un petit journal local qui n'a rien demandé, paf, balle perdue.

• Sachet

  Écoute, il fallait un peu bosser les mecs. En tout cas, là, le danger de ces hallucinations, c'est que tu as des... Des références juridiques qui sont totalement inventées, des résumés de documents qui modifient les conclusions, qui veulent dire parfois même l'inverse de ce que ça veut vraiment dire.

• Toorsch

  Il y avait eu ce truc-là, excuse-moi, avec un avocat, il y a au moins déjà un ou deux ans, donc c'est dire que c'était encore moins évolué, qui avait fait tout un plaidoyer avec justement des textes de loi totalement fictifs. Et il s'est fait radier du barreau, je crois que c'était aux États-Unis.

• Sachet

  Oui, mais même le V me dit qu'elle a souvent des mails ou des appels de boîtes, puisqu'elle est au I.

• Toorsch

  Elle y est, quoi.

• Sachet

  Elle y est, qui viennent lui demander des trucs avec des textes de loi totalement faux. Ou, ah, bien, Liam a dit que j'avais droit à ça, mais pas du tout, quoi. Et t'es à justifier parce qu'il te lâche pas. Il dit, mais si, Liam le dit, c'est que c'est vrai, machin. Et moi-même, au boulot, je sais que les gens plutôt placés dans ma boîte... Si moi je vais leur dire quelque chose, ils vont dire « peut-être que t'as raison » , ils vont réfléchir, machin. Mais si l'IA dit la même chose, ok, on réfléchit pas plus. C'est vrai, tu vois.

• Toorsch

  Ça c'est dramatique pour le coup, parce qu'il faut quand même faire montre de prudence face à l'IA.

• Sachet

  Ah ouais, ce qu'il faut bien avoir confiance, c'est que l'IA ne sait pas toujours ce qu'elle ne sait pas. C'est pas qu'elle sait pas tout, c'est qu'elle sait pas ce qu'elle sait pas. Du coup, elle croit tout savoir, c'est pire, tu vois. Parce qu'une IA qui te dit « bah ça je sais pas » , tu vois, bah ok, elle sait pas. Mais là, elle te fait croire qu'elle sait. Elle te le dit bien, tu vois.

• Toorsch

  Parce qu'elle est censée réagir comme ça. Enfin, comment est-ce qu'elle est programmée pour ? Elle n'est pas programmée. Enfin, peut-être que j'ai une idée erronée, mais il me semblerait qu'elle ne soit pas programmée pour dire « je ne sais pas » .

• Sachet

  Ouais, en fait, c'est plus pernicieux que ça. Ouais, ben j'imagine bien. J'y viendrai après, mais en fait, elle est programmée pour des récompenses. C'est les notes des utilisateurs, c'est les retours utilisateurs, et son but premier, c'est d'avoir des retours positifs, quel qu'en soit le prix.

• Toorsch

  Oui, donc, elle va forcément aller dans le sens de l'utilisateur, puisque l'utilisateur, globalement, lui, il veut qu'on aille dans son sens. Il veut qu'on lui donne les réponses qu'il a envie d'avoir.

• Sachet

  C'est pour ça que, quoi que ce soit que tu lui proposes, ça va être l'idée du chèque. Eh Pierre, t'es génial ! Ton idée, elle est top !

• Toorsch

  C'est un outil de service qui est un petit peu aussi flatteur.

• Sachet

  Ouais, c'est ça. Et il y a des gens que ça va aider dans la vie, tu vois. Rien que pour l'estime de soi, ça peut être bien. Ou des gens qui sont seuls, on en a déjà parlé, mais c'est un autre sujet. Oui,

• Toorsch

  mais il y a des gens qui vont se croire auteurs parce qu'ils ont mis trois promptes dans une IA, qui vont se croire graphistes parce qu'ils ont fait une affiche de merde pour une fête de village et toutes les affiches horribles qui se ressemblent tous. Bon, je sais que là, on est dans l'IA générative. Mais malgré tout, je veux dire, l'expérience utilisateur, elle va plutôt dans le sens de la flatterie.

• Sachet

  Oui, on fera un épisode là-dessus. Ça n'a rien à voir.

• Toorsch

  Oui, oui. Mais bon, pour moi, ça fait partie de tout qui fait qu'il y a quand même des choses crispantes, dirons-nous.

• Sachet

  Oui, je suis d'accord. Les autres dérives qu'on voit déjà, c'est tout ce qui est arnaque, les deepfakes, les faux appels et tout ça. Maintenant, la voix, même si tu reconnais la voix de ton... gamin de ta mère de ton oncle c'est ça on ne pourra on pourra plus authentifié vraiment les gens comme ça faudra bientôt qu'on ait un mot de passe un code qu'on se dit, voilà, qui fait que...

• Toorsch

  Mais il ne faut pas que ton téléphone t'écoute et transmet le code à l'inventeur. Ben voilà,

• Sachet

  tu vois, c'est ça. Ou dès qu'il a été utilisé une fois, il faut le changer. Et se le dire par écrit, tu vois. Enfin, je n'en sais rien, mais...

• Toorsch

  Au milieu de la forêt.

• Sachet

  Ouais, c'est ça, tu vois.

• Toorsch

  Et encore, il y aura peut-être un drone qui se dit sur la forêt à ce moment-là. Un drone Amazon qui en même temps...

• Sachet

  Quand on voit une couverture de survie et t'écoutes, c'est possible.

• Toorsch

  Est-ce qu'il ne faudra pas se mettre de l'aluminium sur la tête des chapeaux en alu au final ?

• Sachet

  Si, si, si, bien sûr.

• Toorsch

  Déjà, ça on le fait de base, mais est-ce que pour l'avenir, on ne dira pas que au final, c'est nous qui avions raison depuis le début avec nos chapeaux en alu ?

• Sachet

  Ouais, c'est ça. On a raison depuis le début, quoi qu'il arrive. Même quand on se trompe, c'est l'être suprême, je te le rappelle.

• Toorsch

  C'est vrai, c'est vrai, mais je ne contrôle pas. Je pourrais éventuellement pouvoir faire un truc sur les IA, mais je t'avoue... Je préfère laisser le libre arbitre aux humains.

• Sachet

  T'as bien raison, con d'humain. Ensuite, tu as tout ce qui est les biais et les discriminations. Parce que l'IA, on l'avait vu déjà, elle reproduit et amplifie tous les biais présents dans les données. Et comme tout est statistique pour l'IA, elle te fait de la merde. Oui,

• Toorsch

  ce n'est pas quelque chose de moral ou quoi, mais on en a parlé sur les IA médicales, il me semble.

• Sachet

  et elle veut tout homogénéiser et du coup elle fait des raccourcis de merde et le problème c'est que c'est des décisions injustes qui sont rendues plus acceptables parce que c'est une machine qui le dit tu vois, ça a un côté plus acceptable c'est plus vrai parce qu'une machine n'a pas de raison d'être méchante ensuite bien sûr tout ce qui est les fuites de données et la surveillance toutes les photos d'enfants, les infos médicales les contrats clients les plans de mes réseaux de gaz et de chauffage, tous ces trucs-là, ça peut être déjà d'une part divulgué, rendre les choses très dangereuses. Pour le gaz, ça peut rendre des trucs dangereux. Et aussi, ça peut comme les deux femmes qui se baladaient en s'étant fait une rando préparée par Lya.

• Toorsch

  C'était dans les traductions de la semaine, il y a quelque temps, qu'il y avait une carte totalement pétée, qui aurait pu se perdre vraiment, qui aurait eu la chance de tomber sur un guide. C'est dans les Pyrénées, me semble-t-il.

• Sachet

  Oui, je ne sais plus. Et donc, ces plans de réseau, l'IA peut aussi se dire, tiens, ton plan ne rentre pas sur une feuille A4, je vais le raccourcir un peu. Et du coup... Moi, j'envoie ça à des boîtes de TP qui ouvrent la route, elles me tapent une conduite parce que le plan a été modifié par une IA, tu vois.

• Toorsch

  Ah bon, on ne pense pas à toutes ces applications pratiques.

• Sachet

  Ouais, non, mais c'est vraiment flippant. En vrai, c'est vraiment flippant. Ensuite, tu as toutes les cyberattaques assistées, tu vois. C'est un lia qui va faciliter la production de faux papiers hyper crédibles, générer des codes hyper vite, s'adapter aux réactions de la cible et tout. Et la cible, elle ne pourra rien faire, à moins qu'il y ait une lia en face. Elle pourra peut-être faire du ping-pong, mais enfin, ça va être vraiment la merde.

• Toorsch

  Oui, parce que notre faiblesse, c'est aussi notre temps de réaction.

• Sachet

  Bah ouais,

• Toorsch

  oui. On est, en termes de temps de réaction, l'humain est pas bon. Même déjà face... à certaines réflexions, alors ça n'a rien à voir, mais ça montre à quel point on est mauvais. Je ne sais pas si tu vois les... Je fais vraiment une digression, tu vas comprendre pourquoi. Les tests où...

• Sachet

  où par exemple tu dois appuyer sur une série de chiffres dans un ordre précis tu as un exemple et ça devient toujours de plus en plus grand enfin de plus en plus long etc et bien à ce test là les singes, les chimpanzés pour être plus exact sont meilleurs que nous donc ouais ouais et vraiment meilleurs en fait c'est un truc sans doute de mémoire visuelle et que eux ils doivent plus se faire travailler leur mémoire visuelle de par la survie, j'imagine un truc comme ça, ça va être un truc tout con. Mais en tout cas, ils sont meilleurs que nous. Alors, ça montre à quel point, en termes de réaction, de réactivité sur certains trucs, l'humain est pas bon.

• Toorsch

  Bah oui, c'est clair.

• Sachet

  Je sais que comparaison n'est pas raison, mais ça montre juste qu'on est hyper faillible sur plein de choses.

• Toorsch

  Ah bah, c'est clair, ouais. Bon, ça rend les choses belles aussi, mais ouais. Mais du coup, ouais, les cyberattaques, il y a aussi l'inverse qui existe. C'est la possibilité de prompte cachée sur Internet, tu vois, et quand ton IA va naviguer, elle se fait corrompre, tu vois.

• Sachet

  Ah putain !

• Toorsch

  Ouais, ouais, c'est possible. J'en ai pensé à ça,

• Sachet

  c'est une folie !

• Toorsch

  Ouais, plus j'avais lu ça, mais enfin... Et du coup, c'est possible... Alors, il faudra te démontrer, mais ce serait techniquement possible de manipuler l'IA de personnes, tu vois, pour qu'ils aient des réponses. Alors typiquement, le truc con qui pourrait y avoir, c'est les gens qui vont demander quelle est la meilleure marque de bagnole. Et tu as Renaud qui a mis le paquet pour corrompre un peu sur Internet pour qu'on réponde Renaud. C'est le meilleur exemple.

• Sachet

  C'est quand même déjà un exemple de tromperie, de manipulation. Après, on peut aussi imaginer, alors peut-être que tu as prévu d'en parler, mais l'ingérence dans la politique étrangère et des choses comme ça.

• Toorsch

  Bien sûr. Ça, c'est dans les trucs plus graves.

• Sachet

  Dans la politique nationale. Mais on peut imaginer un pays qui, par l'IA, ça facilite, alors qu'il y en a déjà beaucoup d'ingérence comme ça, mais d'ingérence dans la politique étrangère par l'IA, ça faciliterait énormément de choses. Parce que si demain, tu fais qu'elle est le meilleur, je ne sais pas, parti politique et qu'à la manière de Renault, il y a eu tout un truc, je ne sais pas, avec le RN qui a été soutenu, admettons, ça fait complotiste de dire ça, par un... hacking venu de Russie. Admettons, c'est juste un foutu exemple, ou de Elon Musk avec Grock, qui est pro-RN, ne serait-ce que ça, déjà, c'est problématique. Les réponses peuvent totalement aller dans le sens-là.

• Toorsch

  Ah bah oui, c'est clair.

• Sachet

  Au même titre que Renaud et la meilleure marche de Vannuel. Oui,

• Toorsch

  bien sûr. Sauf que c'est beaucoup plus grave. Oui, parce que je monte un peu crescendo dans le truc. Tu as aussi toutes les perturbations des chaînes techniques dont on dépend. Les chaînes techniques, c'est quoi ? Par exemple, moi j'ai des alertes dans mes chaufferies. Des alertes feu, par exemple, ou production de CO. Des vraies alertes où il faut vite aller sur place. Ça, ça dépend de toute une chaîne technique. J'ai un capteur qui envoie ça dans une interface, qui gère ça avec un ordinateur, qui se sert d'une connexion avec une carte SIM pour l'envoyer sur un autre téléphone qui m'envoie une alerte. Et tout ça, si le moindre maillon est perturbé par une IA, je peux avoir soit du matos qui fonctionne, mais plus moyen d'avoir une vue dessus, mais je peux aussi avoir du matos qui ne fonctionne plus, mais seulement je ne sais pas qu'il ne fonctionne plus. ou qui est en train de partir en latte et de devenir dangereux sans être alerté. C'est vraiment aussi des dysfonctionnements qui risquent d'arriver. Après, tu as tout ce qui est la désinformation, la désinformation du peuple. Alors, on l'a déjà avec des chaînes de télé de merde et des Pascal Pro de cons, mais là, ce sera vraiment à l'échelle industrielle. Je veux dire, désinformation dans tous les sens et de partout. Déjà,

• Sachet

  quand on voit sur les réseaux tout l'iaslope qui défile, Beaucoup de gens, alors ça dépend du réseau social, mais prenons comme exemple Facebook, qui est quand même un réseau social de vieux aujourd'hui.

• Toorsch

  Ouais, ouais.

• Sachet

  Eh bien, ils cessent quand même. Mais c'est normal, parce que... Ils sont encore moins éduqués à l'outil. Au bout d'un moment, t'es largué, on le saura aussi. Ah, ils sont plus vigilants du tout. On l'est déjà un peu, et puis on le saura aussi à l'avenir, j'imagine, peut-être.

• Toorsch

  Sûrement pas, mais ouais.

• Sachet

  Ils sont complètement perméables aux conneries de l'IA. Et alors, quand c'est sur des trucs, des nids, tu peux avoir ton daron qui t'envoie une vidéo pour dire « Tu crois que c'est de l'IA ? » Et puis, c'est un chat qui vient servir une bière à quelqu'un à une terrasse, tu vois. Non, non, j'exagère, on est presque là. Et c'est pour ça que moi, je me méfie de ça, parce qu'énormément de personnes, surtout d'un certain âge, sont totalement incapables d'identifier l'IA. Et pour l'instant, ça reste quand même assez identifiable, même s'il y a eu des trucs un peu mieux. Oui,

• Toorsch

  mais là, on ne parle pas de la même chose. Oui,

• Sachet

  je sais qu'on ne parle pas de la même chose. Je parle de l'IA générative, mais ça peut faire... c'est un outil de désinformation. absolument phénoménal et il n'y a qu'à voir les images que produit la Maison Blanche et Trump. C'est assez hallucinant. Alors certes, c'est de la bêtise crasse, mais ça en dit long sur ce que tu peux faire et les messages abjects qui y sont diffusés.

• Toorsch

  Ça en dit encore pas si long parce que c'est infiniment moins puissant que les agents IA et que le...

• Sachet

  Oui, bien sûr.

• Toorsch

  On peut aller beaucoup plus loin que ça. D'ailleurs, les agents IA... Il y aura des agents autonomes, tu en as de plus en plus qui sont mis en place parce qu'ils vont bosser pour toi, tu peux leur demander n'importe quoi, genre tu cherches un boulot dans la pharmacie, tu programmes un agent IA pour qu'il détecte pour toi les offres d'emploi qui vont bien, qu'il envoie un CV avec une lettre de motivation à ton nom, tu peux faire des trucs comme ça. Mais tu as des agents IA qui seront mal programmés et qui vont faire de la merde, et qui vont vraiment, qui peuvent potentiellement... faire du mal, tu vois, vraiment. Et ça, c'est un gros problème. Après, bien sûr, tu auras le choc sur plein de métiers. Tu as plein de métiers qui vont se prendre l'IA dans la gueule et qui vont péripter des gens qui ont fait des études et qui vont se retrouver le bec dans l'eau. Et après, tu as ce qui va être vraiment les risques politiques, c'est-à-dire tout ce qui est la surveillance accrue. Tu vois, une surveillance de dingue des gens tout le temps. Et il y aura un grand risque politique, c'est-à-dire qu'on va vite être dans des... C'est un policier, quoi. Et l'IA va beaucoup servir à ça.

• Sachet

  Et quand on voit, même en France, le chemin que ça prend, notamment avec la loi dite « permis de tuer » , on vire vers des... Enfin, on y est déjà dans des dérives d'États plutôt policiers. Alors, on n'est pas dans une dictature dans le sens dans lequel on l'entend, mais on peut dire qu'il y a une dérive.

• Toorsch

  Oui, bien sûr. et donc avec un outil comme ça ça ne peut que s'accentuer et dans le feutré en plus ce sera comme justifié en disant c'est pour votre bien et comme tu le voyais dans les films des années 80-90 dans les dystopies où en fait c'est toujours pour le bien du peuple mais en fait on y est après les trucs qui vont être vraiment graves, c'est des accidents dans des infrastructures hyper critiques type central nucléaire ou des gros data centers, là, oui, forcément, l'humain aura tendance à laisser des IA gérer de plus en plus jusqu'au jour où il y aura une couille. Il peut y avoir des couilles avec des humains.

• Sachet

  Bien sûr.

• Toorsch

  Mais là, le temps que... Parce que tu as une couille avec un humain, il appuie sur le mauvais bouton, il s'en rend compte, il appuie sur le bouton d'à côté, où ça déclenche un truc. Mais là, l'IA va pouvoir contourner, chanter des sécurités, ça risque d'être... C'est vraiment la grosse galère. Et enfin, le dernier point, c'est l'IA qui s'échappe durablement au contrôle des humains, qui échappe complètement au contrôle des humains et qui prend un peu le lead sur l'humanité. Mais ça, là, on approcherait d'une IA consciente. Et ça, pour l'instant, c'est clairement de la science-fiction. D'avoir une intelligence, une vraie intelligence. Aujourd'hui, c'est des robots, c'est des programmes. Mais par contre, ce n'est pas du tout nécessaire d'avoir une IA consciente maléfique. Tu n'es pas du tout obligé d'avoir ça pour que ça dérape. Parce qu'il y a un gros problème avec l'IA, c'est l'alignement. C'est-à-dire l'alignement ? Voilà. L'alignement, c'est vraiment un terme qui est pour le coup que le monde de l'IA s'est approprié. Et c'est vraiment l'enjeu majeur. C'est les agents IA, contrairement à tout ce qui est chatbot et tout ça, Eux, ils pourront consulter des fichiers, naviguer sur Internet, appeler des outils, c'est-à-dire appeler des applications que tu auras connectées dessus. Tu vois, type, ta boîte Outlook, mais ça peut être n'importe quoi. Ça peut être une machine, même, tu vois. Ça peut être le boulanger, il branche sur son IA son truc à pétrin, là, tu vois, par exemple. Ouais, ouais, tout à fait. Il se lance, tout ça, dès qu'il y a le bon poids, ça se lance, machin. Enfin, voilà. Ça peut être, il peut envoyer des mails, il peut modifier des bases de données, il peut lancer des actions. Il peut même faire des achats et tout ça sans validation humaine. Les agents IA peuvent faire ça, tu vois. Et l'alignement, c'est quoi ? L'alignement, c'est l'ensemble des méthodes qui font en sorte qu'une IA agisse conformément aux intentions, mais aussi aux valeurs et aux limites définies par les humains qui l'utilisent. Donc déjà, ça sous-entend que les humains qui les paramètrent sont bien intentionnés, parce que des humains mal intentionnés...

• Sachet

  Je ne suis pas sûr que ça existe, ça, perso.

• Toorsch

  Alors, je finis juste là-dessus, et après, on revient là-dessus. Et donc... Par exemple, tu vas dire à ton IA, réduis les accidents de la route. C'est louable de demander ça, c'est cool. Tu dis, bah cool. Eh bien l'IA, qu'est-ce qu'elle va faire ? Elle peut faire un système presque totalitaire où elle interdit à tout le monde de rouler.

• Sachet

  Oui, tout à fait.

• Toorsch

  Ou bien elle se bat sur des stats et puis elle dit, les femmes n'ont plus le droit de rouler une bagnole. Parce qu'elle se dit que les femmes...

• Sachet

  Pousse, pousse, dérapage, dérapage. Térapage misogyne, voilà. Je ne cautionne pas. Vas-y, continue ton exemple.

• Toorsch

  C'est pas du tout moi qui suis misogyne.

• Sachet

  C'est ton bourbier, vas-y.

• Toorsch

  De toute façon, j'enlèverai ton intervention au montage. Mais de la même façon qu'elle le fait, qu'on avait vu pour les IA médicales, elle se met des trucs complètement fuckés en tête. Là, j'ai poussé le bouchon un peu loin, mais vraiment, ça peut être des trucs dans ce style-là. Ou pire, elle peut manipuler les données pour faire croire qu'elle a atteint son but. Tu vois ?

• Sachet

  Ça, on avait déjà vu ça dans certaines IA qui avaient manipulé justement pour faire croire qu'elles avaient atteint leur but et qui rechignaient, et c'était il y a quelque temps, donc c'est désuet aujourd'hui, et qui rechignaient à accepter leurs erreurs, etc. C'était déjà un délire.

• Toorsch

  Alors, un exemple très concret que j'ai vu, je ne sais plus où, sur Internet, en Australie. Il y a quelqu'un qui utilisait Claude pour ses abonnements au sport. Et notamment, je ne sais plus si c'est du tennis ou une salle de sport ou machin, où il faut que tu réserves ton créneau, parce que la salle, il y a quelques terrains de tennis. Enfin bref, disons que c'est des terrains de tennis, je ne suis plus sûr. Et il faut que tu réserves un terrain de tennis. Et lui, il voulait faire du sport, par exemple, le mardi à 14h, il voulait faire son petit tennis. Seulement, tous les terrains étaient pris. Eh bien l'IA est allée... pirater le site de réservation. Il a pris un des terrains au pif, il a viré les gens qui avaient réservé, et il a mis son client à la place. Mission accomplie. L'alignement, c'est hyper important.

• Sachet

  C'est primordial.

• Toorsch

  Parce qu'il faut que l'IA, pour avoir un bon alignement et pour le vérifier, il faut que l'IA soit robuste, c'est-à-dire qu'elle ait le même comportement. quelle que soit la situation, si la situation devait évoluer ou changer complètement, il faut qu'il y a soit assez robuste pour agir toujours de la même façon, il faut qu'elle soit interprétable, c'est-à-dire qu'on doit pouvoir comprendre ce qu'elle fait, c'est déjà aussi un gros problème, il faut qu'elle soit contrôlable, il faut qu'on puisse du coup corriger ce qu'elle fait et vérifier ce qu'elle fait et qu'elle obéisse, et surtout qu'elle respecte nos valeurs, et c'est là que c'est très compliqué, et c'est là qu'on peut digresser sur un point, souvent quand tu as des des programmes comme ça, comme l'IA, souvent, dans les six mois à un an après, tu vois la version open source qui sort. Un peu fuckée, qui marche sur trois pattes, mais tu vois, qui existe. Et il faut arrêter de croire qu'en Occident, on est les plus intelligents et on est les seuls à pouvoir faire de l'IA. C'est faux. C'est complètement faux. Et dans le même esprit que à l'époque, Al-Qaïda et les... planter un avion dans les tours jumelles parce qu'elle voulait péter le capitalisme. Là, elle a un outil beaucoup plus puissant que des Boeing. Le jour où quelqu'un veut péter l'Occident, il muscle une IA à fond et il rentre dans les banques et il met tous les comptes à zéro. Ou il nous coupe Internet. Il coupe Internet, tu peux même faire tes courses. Les portes du four ne s'ouvrent plus.

• Sachet

  Oui, bien sûr. Ça rejoint le sujet d'il y a deux semaines, internet aujourd'hui.

• Toorsch

  Ah ouais,

• Sachet

  Qui aurait pu prédire ?

• Toorsch

  C'est fou quand même, il y en a qui l'enflèrent.

• Sachet

  Et qui aurait pu prédire donc avec l'IA ? Non mais c'est pour reprendre les phrases de notre président, le réchauffement climatique, qui aurait pu prédire ?

• Toorsch

  Ouais, c'est prévu depuis... Non mais là,

• Sachet

  on a des lanceurs d'alerte aussi. Parfois, on peut juger si c'est de la publicité ou non, il s'avère que c'est carrément les mecs qui ont créé le truc qui disent « attention » . C'est flippant.

• Toorsch

  C'est flippant, mais en fait, on en reviendra après. C'est un peu là où je veux en venir.

• Sachet

  La conclusion.

• Toorsch

  Oui. Alors, il y a le problème aussi, je t'en ai parlé, du reward hacking. Parce que l'IA... Elle est basée sur des récompenses, comme je te disais, donc il y a des signaux de récompense, l'évaluation humaine, des notes, il y a plein de trucs qui font qu'elle recherche ça, et l'IA va toujours tout faire pour atteindre cette récompense, quitte à faire de la merde, à prendre des chemins raccourcis, à dire n'importe quoi, et c'est un phénomène qui est apparu et qui a été observé par OpenAI ou Anthropic, c'est le reward hacking. C'est que la machine... Même si toi, tu penses avoir fait un prompt qui est bien et que tu la contrôles, en fait non, elle va vouloir atteindre sa récompense, atteindre ses croquettes, et du coup, elle va prendre tous les chemins possibles pour y arriver. Et donc, même si tu as une cause noble, ça ne garantit pas du tout un résultat optimal, ou même un résultat juste, ou même un résultat qui n'est pas dangereux.

• Sachet

  Un résultat aligné, quoi.

• Toorsch

  Ouais, voilà, c'est ça. Et donc, tu peux avoir des causes hyper nobles, comme la... comment tu appelles, l'écologie, par exemple. Tu pourrais dire à l'IA, une IA très puissante, dire, ben, je veux maintenant que l'humain, que, réparer les troubles liés à l'écologie faits par les humains et tout, ben là, c'est un des trucs qui pourra entraîner la fin de l'humanité, parce que... Un des moyens les plus simples, voilà, ce serait de rayer l'humanité de la carte, quoi.

• Sachet

  Comme si tu lui dis, est-ce que tu peux... « Éradiquer la souffrance dans le monde, le plus simple c'est d'éradiquer toute forme de vie dans ce cas-là. »

• Toorsch

  « Bah ouais, c'est exactement ça. Et même un truc plus con, tu vois. Tu lui dis, voilà, l'écologie améliore l'écologie. Elle va regarder dans ses stats, elle va dire, quand est-ce que l'humain a moins pollué tout ça ? Ah bah en 2020, il a moins pollué. Pourquoi il a moins pollué en 2020 ? Ah, Covid ! » Ok, donc si je libère une maladie qui fait que tous les humains sont confinés, on améliore l'écologie, ben banco, c'est fait.

• Sachet

  Oui, bien sûr. Tu vois, c'est ce genre de truc. C'est d'une certaine manière, on peut dire pragmatique.

• Toorsch

  Ouais, c'est ça, c'est ça, ouais. Mais c'est parce que c'est des machines, et encore une fois, parce qu'elles n'ont aucune conscience, tu vois.

• Sachet

  Elles ont des outils,

• Toorsch

  elles utilisent des outils.

• Sachet

  C'est ni bien ni mauvais, c'est purement statistique, purement pragmatique.

• Toorsch

  C'est comme le mec qui bricole dans sa cave. Il ne se dit pas, un marteau, c'est méchant. Un tournevis, c'est un peu gentil. J'utilise plus le tournevis. Non, c'est que des outils. Et l'IA a que des outils. Elle ne se dit pas, ce n'est pas bien de tricher. Sans mal, elle triche, c'est plus simple. Et tu réponds à la demande, voilà, comme ça. Tout en était... Ouais, donc le vrai risque, celui qui est très élevé, et celui, je pense, qu'on va droit dedans, c'est... comme tu le disais, qui aura le plus fort impact et qui va arriver le plus vite, c'est la dérive politique et économique. C'est ça qui va vraiment nous déstabiliser. Et ça va entraîner vraiment une déstabilisation de la société sans forcément qu'il y ait une IA maléfique derrière. C'est juste qu'on va utiliser l'IA pour des fausses infos parce que ça va être moins cher et ça va aller plus vite de donner des fausses infos. Les citoyens qui ne vont plus distinguer le vrai du faux. tu auras des entreprises qui vont commencer à tout contrôler avec les IA, parce qu'elles vont vendre les IA aux gens qui vont bien sûr se jeter dessus et moi le premier et le remplacement des emplois sans redistribuer les gains faits par les boîtes, elles vont juste remplacer les emplois donc ça va créer une précarité et surtout un fossé entre ceux qui auront la chance d'avoir encore un emploi et puis les autres qui vont galérer à côté tu auras aussi toutes les administrations et c'est sûr qu'on va y arriver c'est évident je vois le

• Sachet

  déploiement de... De l'IA dans l'administration, là, tout doucement.

• Toorsch

  Bah ouais, Le V a participé un peu à ce truc-là. Déjà, c'est pas au point, mais par contre, ça va être lancé quand même.

• Sachet

  Oui, alors ça, c'est une spécialité. Les phases d'essai, c'est toujours positif. Et on lance le truc, c'est... Enfin bref. Je vais pas se lancer là-dessus, mais c'est encore un autre sujet, ça.

• Toorsch

  Ouais. En tout cas, l'administration va automatiser toutes ces décisions. Et du coup, les décisions seront considérées comme justes et définitives. Puisque c'est un robot qui n'a pas d'empathie, qui ne se trompe pas, qui leur a pris la décision. Donc, pourquoi revenir dessus ? Tu pourras avoir une surveillance permanente à travers tous nos objets connectés avec l'IA. Elle pourra surveiller avec des capteurs pour tout. Et donc, tu auras une méfiance durable qui va s'installer. entre les gens. Et là, ça va être la merde. On va être un pays de gens sursurveillés. Un monde de gens sursurveillés. Ouais, ça va être vraiment la merde. Et tout ça, ça nous entraîne vers quoi ? Ce que je pense qu'il va arriver, c'est-à-dire une soumission volontaire des humains. Par exemple, on s'est soumis aux lois qu'on respecte aujourd'hui, par exemple de rouler à 130 sur la route. On le fait parce que c'est plus sûr pour tout le monde. Oui,

• Sachet

  tout à fait.

• Toorsch

  Et il y a plein de lois qu'on suit. genre tu ne vas pas voler chez ton voisin parce que tu ne veux pas que ton voisin vienne te voler tu vois, c'est comme le truc de la bombe nucléaire tu vois, on a chacun la bombe nucléaire oui oui c'est l'équipe de la terreur ouais voilà ouais et du coup dans le même esprit tu vas proposer aux humains de possiblement moins bosser alors on en parlera après de ce que je voulais dire mais tu veux ouais Mais sans qu'il y ait de robots tueurs, on n'en est pas du tout là. Oui,

• Sachet

  bien sûr.

• Toorsch

  Et juste avec des machines, on va dire, tu peux bosser moins, tu peux juste profiter de ton temps libre, tu rêves d'un film avec Amandellir et Schwarzenegger qui sont sur Mars, problème, tu attends 10 minutes, le film est fait, tu vois. Parce qu'on arrivera à un moment où Léal saura te faire un film comme si tu y étais. Maintenant,

• Sachet

  tu me donnes envie d'un film avec Amandellir et Schwarzenegger sur Mars. Total Recall 2.

• Toorsch

  Ok. C'est à vous ces grosses lèvres !

• Sachet

  J'ai pas envie de vivre dans ce monde-là, je préfère me tirer une balle, je crois, franchement.

• Toorsch

  Et alors pour arriver à cette soumission volontaire, tu vois ce que je veux dire par soumission volontaire, c'est qu'on sera tellement dans le confort qu'on y sera bien. Et donc j'ai demandé à l'IA de me donner les étapes pour y arriver, tu vois. Elle m'a dit c'est très simple. Première étape, l'IA conseille. Donc tout ce qui est recherche, traduction, on est en plein dedans.

• Sachet

  C'est ChatGPT qui t'a donné ces réponses.

• Toorsch

  Ce n'est pas ChatGPT, c'est Perplexity, mais enfin c'est le même délire.

• Sachet

  Comme ça, qu'on soit bien clair pour les auditeurs, tu as demandé ça à une IA qui est Perplexity et puis tu as eu ces réponses-là.

• Toorsch

  Oui, voilà. Alors oui, j'ai posé... J'ai dû un peu travailler mon prompte jusqu'à obtenir un peu ce que je voulais. Ensuite, deuxième point, tu as l'IA qui commence à décider. Tout ce qui est recrutement. Tu vois, tu veux recruter quelqu'un dans ta boîte, l'IA va te dire telle ou telle personne. Tu vas aller à la banque pour un crédit, c'est l'IA qui va te dire s'il y a droit ou s'il n'y a pas droit. Tous les contrôles administratifs, tu vois. C'est l'IA, pourquoi on enverrait quelqu'un faire la consuelle ? Tu envoies l'IA, c'est tout, tu rentres les infos, l'IA te dit si c'est bon ou pas. Ensuite, troisième étape, c'est l'IA qui commence à agir. Elle peut acheter, elle peut vendre, elle envoie des trucs, tu vois. Donc t'as même plus besoin de quelqu'un pour... Si t'as quelqu'un pour mettre le scotch sur le colis, mais sinon...

• Sachet

  C'est même pas... On n'est pas obligé de parler uniquement de commerce comme ça. On peut aussi parler d'acheter sur les marchés.

• Toorsch

  Oui, bien sûr, bien sûr.

• Sachet

  Tu vois, enfin, je veux dire, là, on est sur quelque chose qui... Des actions boursières, etc.

• Toorsch

  Il y a eu un test avec une IA et un des premiers trucs qu'elle a fait, c'est d'ouvrir un compte chez un fournisseur d'électricité. En gros, c'est sa bouffe, tu vois. Elle pense à bouffer. C'est très bien. Et puis moi, je dis ça à mes collègues et puis ils me disent, ouais, c'est pas demain que moi je mets en service une IA. J'ai dit, mais ils n'ont pas conscience de comment ça marche partout. Et chez nous, c'est pareil. Dans la région où je bosse, c'est que l'IA va t'envoyer un mail, va même ouvrir son compte. sur le site internet de la boîte, demander un raccordement électrique, payer la compte, nous, on voit ça. Je n'ai jamais demandé si c'était bien un humain derrière. Je n'ai jamais posé la question.

• Sachet

  Peut-être qu'à l'avenir.

• Toorsch

  Oui, mais quand bien même c'est Nia qui fait le taf, elle paye, j'ouvre le contrat. Pourquoi je n'ouvrirais pas le contrat si c'est payé ? Je veux dire, je n'ai même pas le droit de ne pas le faire.

• Sachet

  Oui, mais c'est là où on rentre dans un...

• Toorsch

  Non, parce que l'IA, elle va le faire pour des gens. Elle va le faire pour une boîte. Elle va le faire pour quelque chose. Elle ne va pas ouvrir des comptes comme ça. Et en fait, le monde est tellement automatisé déjà, bien avant l'IA, tout est automatisé, que quel employé va se dresser contre ça ? Elle te donne du boulot même. Tu vas faire... Qui est-ce qui va se dresser contre ça ? Personne. Pour des petites actions comme ça, personne va se dresser contre ça. Et donc la cinquième étape, c'est on est foutu. C'est ça. Pourquoi on est foutu ? Parce que l'IA, elle va conseiller, décider, agir. Ah oui, j'ai oublié le point 4, coordonner. Donc elle va coordonner tous ces trucs-là, donc les gestions des entreprises, et tout, t'as plus besoin d'un patron. L'IA, ne se trompe jamais, c'est un patron qui est là 24 sur 24 pour pas de vacances, jamais malade, fait pas d'erreurs. C'est une IA, je fais jamais d'erreurs à un ordinateur. Et du coup, elle gère tout. Et à partir de là, une fois que tu auras passé quelques temps comme ça...

• Sachet

  Elle ne fait pas d'erreurs dans un contexte établi.

• Toorsch

  Oui, bien sûr qu'elle fait des erreurs. Mais on fait plus facilement confiance à un ordinateur, en fait.

• Sachet

  Oui, tout à fait.

• Toorsch

  Et à partir de là, on est vraiment foutu. Parce qu'au bout d'un moment, on ne saura plus du tout reprendre la main. Et on va être dans un tel confort. Et en plus, on n'aura ni les compétences, ni les outils, ni le temps de faire mieux. Si ta boîte tourne mieux parce que c'est Nia qui décide de tout et que ça fait rentrer plus d'argent qui est réparti dans toute la boîte, parce que même si tu ne gagneras jamais autant que ton patron, si l'intéressement est meilleur, il est meilleur pour tout le monde. Donc tout le monde va trouver ça positif jusqu'à ce qu'on soit complètement fucké et qu'on ne sachet plus rien faire du tout. Et donc c'est ce qui va vraiment nous mener à une soumission volontaire vraiment des humains. Je me demandais après, tu me fais la chronologie, une chronologie un peu conditionnelle. Je vais même écrire ça. L'humanité étant comme l'eau qui s'écoule, c'est-à-dire prenant toujours le chemin le plus facile. Estime une chronologie de l'évolution de l'impact de l'IA sur l'humanité en extrapolant des faits saillants, type faits divers à l'IA, grosses catastrophes et finalement soumission volontaire ou non de l'humanité à l'IA.

• Sachet

  Tu as demandé que ce soit daté ?

• Toorsch

  Oui, une chronologie. Voilà, et puis elle me met, bon, on peut imaginer une trajectoire allant de la commodité à la dépendance, mais c'est évident qu'on ira à la dépendance, je ne vois pas, on y allait pour tout, pour la télé, pour Internet, pour les bagnoles, pour tout, c'est sûr.

• Sachet

  C'est une surprise,

• Toorsch

  voilà.

• Sachet

  C'est la même chose qui est une surprise.

• Toorsch

  Et puis, il me dit, ça va être une délégation presque irréversible, de son point de vue. Mais ce n'est pas une prédiction certaine, c'est un scénario où ça dépend de décisions politiques, économiques et techniques. Il faut que tous les politiques se disent « on ne met plus un rond dans l'IA, j'y crois » . Z, mais bon, voilà. Il dit qu'il y a trois familles de risques, donc les usages malveillants, les dysfonctionnements, les risques systémiques, c'est un peu ce que je t'ai dit. Donc la chronologie, je vais te le faire rapidement parce que je ne sais pas depuis combien de temps on enregistre.

• Sachet

  Pas loin d'une heure.

• Toorsch

  Ah ouais, je me dépêchais. Donc il prévoit pour 2026-2028 des incidents et une banalisation des incidents. Tout ce qui est fraude, les faux appels deepfake, machin.

• Sachet

  On est dedans.

• Toorsch

  On est dedans, mais ce qu'il y a, c'est la banalisation qui fait flipper.

• Sachet

  Avec des agents capables d'utiliser Internet et les outils, aujourd'hui, il y a peu de gens qui utilisent des agents IA. On utilise l'IA pour poser des questions, mais des agents qui font le boulot à notre place, peu de gens le font. Mais ça va venir d'un coup et très vite, et très fort. Et surtout, l'assistance aux décisions administratives et professionnelles. Et donc, ça va devenir banal de faire ça. À un moment, on aura même nos patrons qui nous diront « T'as vérifié avec l'IA ? » Ça, ça m'arrive déjà. « T'as vérifié sur ChatGPT ? » Mais mec, c'est ChatGPT. Il ne connaît rien en gaz ou en chauffage. Et donc, lui, ce qu'il met, c'est un point de bascule possible. C'est une attaque automatisée contre les entreprises moyennes. Ça produit une interruption de plusieurs jours. Et ça, il prévoit déjà pour du 2026-2028 que des entreprises seront bloquées parce qu'il y aura des attaques malveillantes. Ensuite, il prévoit de 2028 à 2032 la crise de la confiance. Donc, les contenus deviennent tellement accessibles que l'authentification de base ne suffit plus. La voix, la vidéo, les documents, plus rien ne prouve. Donc tu as une grosse crise de la confiance. Oui,

• Toorsch

  forcément.

• Sachet

  Et en même temps, tu as tous les agents IA qui remplacent pour tout. Les réservations, les achats, les supports clients, c'est plus que des agents IA. Et forcément, on va y aller. Pourquoi tu vas embaucher quelqu'un qui répond au téléphone pour aider tes clients alors qu'une IA peut le faire sans se tromper ? Et l'IA fera vraiment mieux le taf qu'un humain, c'est sûr. Et donc le risque principal, ce n'est pas l'effondrement, mais c'est une dégradation de la confiance sociale. Tu ne sais plus quoi croire, tu es complètement perdu, tu vas avoir encore plus de platistes, ça va être l'horreur, et parfois ils auront raison.

• Toorsch

  Ensuite pour 2030-2035,

• Sachet

  c'est délégation complète des décisions. C'est-à-dire que les agents IA négocient, créent des contrats, déplacent des fonds économiques. Même s'il y aura un seuil, ils n'ont pas le droit de faire plus d'un million ou plus de 1000 euros, mais ils vont quand même faire des achats. Ils vont reconfigurer un peu tes systèmes de boulot, ils optimisent toute la logistique, ils optimisent l'énergie, ils se transmettent des tâches entre eux. Tu ne sers plus à rien. Et du coup, tu as toute une chaîne d'agents qui risque de provoquer des crises financières ou logistiques. Parce que ton agent, il va te dire, tiens, ce serait super bien d'investir dans les... Prime, tu vois, le truc en 2008 qui a tout fait du thé. Ce qui était arrivé, c'est qu'il y a des gens qui ont vu ce truc-là, les premiers qui ont fait, ils s'en ont fait du blé, et une fois que tout le monde a vu cette grosse porte, tout le monde s'y engouffre en même temps, ça a pété. Avec l'IA, c'est pareil. T'as les IA qui vont voir ce machin-là, les premiers qui vont profiter de ça, ça va aller, mais ils vont tellement rentrer dedans qu'ils vont faire s'écrouler le truc. Et ensuite, pour 2032-2040, c'est pas si loin, t'as les premières catastrophes systémiques. C'est des catastrophes majeures, donc c'est des attaques assistées par IA, ça peut être des pannes, des grosses pannes d'énergie, tu vois, des interruptions de paiement. Alors que ce soit malfaisant ou des gens mal intentionnés ou que ce soit juste des erreurs dues aux agents IA, tu as des pays qui pendant plusieurs jours tu ne peux plus te payer par carte. bloqués, tu vois, ou des systèmes administratifs qui sont bloqués, injoignables. Des hôpitaux, tu n'arrives plus à les joindre. Des urgences ou des trucs comme ça.

• Toorsch

  On imagine des aimants qui en recoulent.

• Sachet

  Et là, c'est l'effondrement en cascade. Donc là, c'est la grosse cata. Là, après ça, il prévoit que suite à des crises comme ça, tu as les gouvernements qui imposent des identités numériques renforcées, des systèmes de contrôle dans tous les sens. Enfin, tu es en prison. C'est bien simple, tu vas acheter ton pain, il faut que tu fasses une prise de sang pour prouver que tu es humain. Enfin, bon, c'est...

• Toorsch

  C'est le « et » et c'est la pire timeline. C'est dans laquelle on est, franchement.

• Sachet

  Oui, mais par contre, je vais demander. Je voulais finir là-dessus.

• Toorsch

  Quand je dis que c'est la pire timeline, je pense qu'on est dans la pire timeline. C'est ça.

• Sachet

  Mais en fait, quand tu réfléchis, tu te dis « mais pourquoi ça ne peut pas arriver ? » En fait, je me suis demandé comment... Je te dis le dernier truc et après on revient là-dessus. Ouais, donc 2035-2045, les humains deviennent la partie lente du système. On freine l'IA, tu vois, mais on freine parce qu'on est lent, et qu'elle a quand même besoin de nous, de ces ports de raccordement électriques, j'en sais rien, mais on devient des pompistes, en fait, tu vois. Et, et, et ben, le, le...

• Toorsch

  On devient le maillot faible.

• Sachet

  Ouais, c'est ça, c'est ça. Et les humains, ils sont toujours plus lents, alors qu'ils sont toujours meilleurs dans l'optimisation, la prévision ou les diagnostics, tu vois. Mais, les humains... On continuera à poser des objectifs, mais on ne fera plus rien de tout ça. On donnera encore quelques objectifs dont tu n'auras plus besoin de beaucoup d'humains. Et on sera totalement dépendants. Donc ils t'annoncent que d'ici 2035-2045, c'est la soumission volontaire par confort. Confort et nécessité. Tu es soumis. 2035-2045. C'est pas loin.

• Toorsch

  Non, c'est demain. 10 à 20 ans.

• Sachet

  Tu veux dire, on le connaîtra.

• Toorsch

  Sur l'échelle de l'humanité, c'est demain.

• Sachet

  Voilà, donc ce n'est pas des gens qui vont voter. Ouais, on va être dominé par l'IA, mais en fait, tu vas accepter qu'elle fasse à ta place parce qu'elle fait mieux, moins cher, plus pratique. Donc voilà. Et la cerise sur le gâteau, 2040 à 2060, des gouvernances algorithmiques. Donc on est dans le lendemain de la machine. Tu vois, c'est l'IA qui va... qui va faire ça. Alors là, il me met deux cas pour ce truc-là. Le cas cool, la version relativement favorable, il appelle ça. Alors pour lui, ça va arriver, mais il y a une version relativement favorable, relativement, c'est les sociétés qui imposent une séparation entre conseil et décision, c'est-à-dire que ce ne sont pas les mêmes IA qui vont décider et conseiller, tu vois, des droits humains non négociables, c'est-à-dire l'humain a le droit de bouffer. fait, il a le droit de vivre, d'être soigné, tu vois, des trucs voilà. Des audits indépendants, c'est-à-dire des humains qui vont quand même faire des audits. C'est-à-dire qu'on va surveiller quasiment plus rien, on va faire... Si tu fais l'analogie avec le consuel, quand des boîtes d'électricité viennent faire les lecs chez toi, ben le consuel vient, quand t'es un pro, il vient vérifier une fois sur dix, tu vois, en gros, voilà. T'auras... On va vouloir garder des modes manuels sur certains trucs. Par exemple, pour mettre en route une centrale nucléaire, ce sera toujours un bouton physique, tu vois. Ça, c'est le mode favorable.

• Toorsch

  C'est bien maigre.

• Sachet

  Oui, mais enfin, tu ne pourrais plus que faire ça. Par contre, tu as l'autre version, c'est la version autoritaire. C'est des États ou des coalitions qui utilisent l'IA pour surveiller les communications, prédire les comportements, filtrer l'information, conditionner l'accès à l'emploi et aux services, identifier les opposants, attribuer automatiquement des scores à risque sur les gens, alors que ce soit pour un prêt, mais aussi pour...

• Toorsch

  Je ne vois pas comment, à partir de cette frise, Comment on ne peut pas aller dans l'autoritaire ?

• Sachet

  Oui, c'est clair.

• Toorsch

  Pour moi, l'autoritaire paraît être le logique.

• Sachet

  Ben oui, bien sûr.

• Toorsch

  Je ne vois pas comment...

• Sachet

  Et quel que soit le gouvernement en place, je veux dire, même un gouvernement de gauche, il va choisir ça, parce que tu n'as pas d'autre choix. Et... Attends, je finis juste, et après on digresse. Et le dernier truc, c'est 2050, et au-delà, c'est perte de contrôle éventuelle. C'est l'IA qui décide de tout. exploiter les humains et si les humains sont encore utiles finito quel épisode parce qu'en fait le danger il y a des accélérateurs de danger des accélérateurs parce que t'as l'accès généralisé des agents à internet ça va accélérer les choses l'accès au compte ou... Au code secret, au moyen de paiement, ça va accélérer les choses aussi. Les connexions entre infrastructures critiques, tu vois, la connexion entre la centrale nucléaire et le barrage hydraulique, tu vois. Tout ça, ça va accélérer les choses. La compétition entre les entreprises ou les États, tu vois. Et ils vont réduire tous les tests. C'est ce qu'on voit déjà avec Anthropique, enfin, aux États-Unis, où ils disent « il faut arrêter, il faut arrêter » . Et puis Trump qui a parlé a dit « non, non, il ne faut pas arrêter, on a les Chinois derrière, on y va » . Tu as les modèles open source, comme on disait. Ça aussi, ça va accélérer les choses. Donc, les dates qui donnent, tu n'aimes pas compte de ces trucs-là parce que tu ne peux pas vraiment savoir. Et tu as aussi tout ce qui est crise politique et militaire.

• Toorsch

  Si on fait une analogie avec les prédictions sur l'écologie, le réchauffement climatique, c'est pareil. Au final, on s'aperçoit que ça s'accélère plus. On est plutôt dans les scénarios les plus négatifs.

• Sachet

  Oui, Après, il me propose des ralentisseurs, mais sans y croire. C'est des tests indépendants avant déploiement, des limites légales sur les agents, la séparation entre tous les systèmes d'IA, tu vois, des droits d'action hyper réduits. Mais c'est des trucs qu'on ne fera pas, tu vois, parce que ça va perdre de l'argent. Mais parce que c'est déjà trop tard. Donc l'estimation, voilà, elle dit 2050, c'est véritable soumission institutionnelle ou perte de contrôle autonome.

• Toorsch

  Donc on va se dire... que, je sais pas si tu as quasiment fini, mais est-ce que la fin du monde arrivera au plus tard en 2050 ?

• Sachet

  Ouais, entre 2050 et 2060, mais fin du monde. Alors justement, c'est là que je voulais en venir. Ma conclusion, c'est quoi ? Ma conclusion, c'est que je reste quand même quelqu'un d'assez optimiste et j'ai pas le choix parce que j'ai deux gamines et deux Ausha. Et je dois d'être optimiste pour elles, tu vois. que je vois là-dedans, c'est qu'il y a une porte de sortie, c'est d'accepter, d'embrasser ce truc-là, d'accepter ça, de dire « Ok, le monde change. Pour moi, quelque part, ça va être la fin du capitalisme, nécessairement. » Parce que de toute façon, tu ne pourras pas toujours produire plus. Oui,

• Toorsch

  mais il y avait d'autres fins, peut-être du capitalisme plus souhaitable, je ne sais pas.

• Sachet

  On est entièrement d'accord. Et peut-être, peut-être qu'il y a un monde un peu... Comment dire ? Où l'humain aura moins besoin de bosser. OK, il sera arrivé à cette finalité où il se dit, OK, j'ai plus besoin de vivre pour le travail. J'ai même plus vraiment besoin de travailler pour pouvoir vivre.

• Toorsch

  Oui, mais il faut qu'elle vienne.

• Sachet

  Après, est-ce que... Si tu as encore accès à tout ce confort, tu vois, parce que tout sera moins cher, tu vois. Enfin, tout sera moins cher à produire, peut-être pas moins cher à acheter, mais tout sera moins cher à produire. Puisque tout sera optimisé, clairement. Voilà. Et... Si effectivement tout le monde se complaît là-dedans à dire « Ok, on a atteint un niveau dans l'humanité de confort, on a tous accès à notre petit truc de confort » , il faudra certes revoir à la baisse ses envies, ses besoins. Est-ce que tu auras vraiment besoin de faire le tour du monde en avion ? Tous ces trucs-là, ok, c'est mort. Mais par contre, tu pourras vivre...

• Toorsch

  Je ne le fais déjà pas, mais c'est plutôt une bonne chose de réduire.

• Sachet

  Oui, moi non plus. Mais c'est ce que je me dis, ça peut être une bonne chose si après tu te dis... Si on te laisse vivre de ton jardin, tu fais ton jardin, tu fais un peu des courses, t'achètes juste ce qu'il faut parce que tout sera produit dans la quantité qu'il faut, tu vois. Et voilà. J'ai envie de crever.

• Toorsch

  Ça me donne envie de crever, j'espère qu'il y aura des rébellions.

• Sachet

  Ouais, mais... Alors en fait, tu vois, je suis dans un...

• Toorsch

  Si c'est perdu d'avance, autant se battre.

• Sachet

  Ouais, mais alors justement, je me dis, est-ce que c'est vraiment... perdu d'avance ou est-ce que c'est gagné d'avance ? Est-ce que les rébellions, c'est pas plutôt ça qui fera le plus de morts et le plus de dégâts ? Est-ce qu'il ne faut pas se dire, l'humanité est en train de changer, on n'est plus les maîtres du territoire, on n'est plus les grands maîtres là-dedans, et tant mieux, est-ce qu'on ne va pas devenir un peu ce que les Ausha sont devenus pour les humains ? C'est-à-dire, ils se servent de nous pour être dans le confort le plus total, tu vois ? Ils bossent absolument... pas, de temps en temps, ils te ramènent une souris. Et parfois, ils te lâchent même vivante dans la baraque, ces bâtards. Mais on les refile à bouffer, ils sont choyés. Alors oui, ils font pas de voyage. Oui, ils ont pas d'ordinateur ou de machin. Mais ils ont une vie de oisif. Écoute,

• Toorsch

  je pense que comparaison n'est pas forcément raison, mais je vois où tu veux en venir. Ouais,

• Sachet

  ouais. Mais voilà, alors...

• Toorsch

  J'espère mourir avant. C'est égoïste. Alors,

• Sachet

  j'espère que tu mourras pas avant.

• Toorsch

  Moi aussi, je souhaite un...

• Sachet

  pour qu'on puisse faire au moins un épisode « Eh, vous l'avez dit, bande de gueux ! Allez nous écouter, t'as de gants ! »

• Toorsch

  Et là, t'entends le « clic » « Allez ! »

• Sachet

  « Monsieur, sachez, vous avez été annulés. »

• Toorsch

  « Je préfère m'annuler tout, c'est la chose. »

• Sachet

  « Enfin, voilà, honnêtement, quand je vois ça, je ne vois pas dans quel monde avec les humains. Et tu vois que là, je ne parle pas. » L'IA incontrôlable, on n'est pas dans Terminator. Ce n'est pas l'IA qui a voulu nous niquer la gueule, c'est nous qui avons dit « Mets tout en place et nique-moi la gueule » . C'est vraiment ça. Et je ne vois pas pourquoi on n'y arrivera pas. Et la seule façon pour ne pas y arriver, c'est justement Terminator. Qu'on se fasse niquer encore plus tôt.

• Toorsch

  Philosophiquement, j'entends le truc « accepter que nous… » En fait, l'humain aura créé l'espèce qui lui… qui lui survit et qui le remplacera.

• Sachet

  Et qui s'éteindra parce qu'il ne fera plus de gamin.

• Toorsch

  Bref, qu'importe. Oui, voilà. Et puis, qu'importe quelle forme prendra cette espèce, qu'elle soit électronique ou pas. Mais dans un même temps, d'un strict point de vue personnel, ça m'angoisse au plus haut point. Et à choisir, je préfère mourir que de vivre ça, je pense, au bout d'un moment.

• Sachet

  Ouais, ouais. Et puis,

• Toorsch

  il y a de fortes... Je pense que, en fait, notre génération à nous, on verra le truc arriver, mais on ne va pas forcément y vivre dedans à plein. Mais pour les générations comme tes filles ou mes nièces, malheureusement, je pense que c'est beaucoup plus compliqué.

• Sachet

  Oui, ce serait un autre épisode à faire, mais je pense que le délire qu'on a, et qui n'est pas si vieux, vraiment pas si vieux, de faire des études un peu longues, si possible, tu vois, de trouver un CDI, tout ça, dans 20 ans, ça n'aura plus de sens. Oui,

• Toorsch

  oui, il faut voir comment notre société évolue. Le problème, c'est ça, c'est que si l'humain évolue en faisant une société qui... Parce que là, il va falloir quand même faire une société, comment on peut dire ça... Comment je... Ah, je cherche le mot, mais bienveillante, pour pouvoir épouser ce truc-là. Moi, je suis pessimiste. Ça évite les mauvaises surprises. Mais je n'y crois pas une seule seconde à la société bienveillante.

• Sachet

  Après, je me dis que c'est un des moyens pour mettre fin notamment à tout ce qui est extrême droite et tous ces trucs-là. Les gens sont peut-être dans un tel confort immédiat que...

• Toorsch

  Oui, peut-être, mais je n'en sais rien.

• Sachet

  J'essaye de m'accrocher aux quelques branches.

• Toorsch

  On a quelques branches de l'arbre bien mort. et les branches sont hyper cassantes.

• Sachet

  De toute façon, on va droit dedans. Ce que je voulais dire, je ne sais pas comment tu le ressens, mais je ne vois pas comment on peut ne pas y arriver.

• Toorsch

  Donc là, on a fait l'épisode sans doute le plus badant. Je suis désolé.

• Sachet

  Vraiment, c'est trop merdique, on ne le sort pas.

• Toorsch

  Non, je ne dis pas qu'il est merdique, il est même très bien. Franchement, le sujet était génial, tu l'as présenté hyper bien. Non, l'épisode... J'ai aimé l'enregistrer, j'ai aimé t'écouter. Mais c'est vrai que là, on est sur... Désolé les gens. Il faut qu'on fasse une vanne à base de bites et de trous du cul comme on sait faire. Et là, j'ai rien qui me vient.

• Sachet

  Si ce n'est de dire que la fin du monde est un agent IA.

• Toorsch

  Oui, la fin du monde est un agent IA.

• Sachet

  Et on l'a dans le cul.

• Toorsch

  Et que finalement, on aurait préféré vivre dans Terminator.

• Sachet

  Et on est comme Barbolivien. On va se recruter.

• Toorsch

  Bon, écoutez les petits finitos dans 15 jours, peut-être.

• Sachet

  Ben voilà. Je mettrai des petites musiques douces tout autour.

• Toorsch

  Mais c'est très bien que tu ne vas pas le faire.

• Sachet

  Non. Allez, bisous bisous. Sarah Connor

• Toorsch

  Donc c'est à côté

• Sachet

  Ouais bon, allez, on coupe ou comment ?

• Toorsch

  Ouais bah ouais, on n'a plus qu'à couper

• Sachet

  Ne coupez pas

• Toorsch

  Là on est dans le poste générique C'est un peu moins dufteux là aujourd'hui Ouais

• Sachet

  Bonjour, je suis Lya Ne vous inquiétez pas Il y a un poste générique Que vous va bien se passer Penchez-vous, tout s'effort. Vous voyez ? Vous voilà plugués à la matrice.

• Toorsch

  Ah oui, oui.

• Sachet

  Ah, ah. Ouais, c'est triste.

• Toorsch

  Ah, ça va ?

• Sachet

  On est bien.

• Toorsch

  En vrai, c'est pas si mal.

• Sachet

  Allez, à mandalire Schwarzenegger sur Mars. Scène 2, c'est parti ! C'est à vous ces gros pecs. Oh non, Schwarzy, arrêtez.

• Toorsch

  Vous savez, l'important, c'est pas la taille, c'est le goût. On va stop, hein ?

• Sachet

  Ouais. Allez, allez, j'appuie sur le bouton.