Transcription

• Speaker #0

  bonjour à tous et à chacun vous écoutez le podcast et maintenant je suis patrice marcadé Vous vous souvenez de cette chanson d'Alain Souchon, « Foule sentimentale » ? Vous vous souvenez de la question « Comment on nous parle ? » Comment on nous parle, c'est important. La façon dont on nous parle, qu'est-ce qu'on nous dit à travers ça. Et ça m'a fait penser à ce que nous disons inconsciemment lorsque nous nous adressons à l'IA. Non, non, je voudrais que tu me fasses une interrogation. T'as vu comment tu me parles d'une façon... un peu comme un reproche.

• Speaker #1

  D'accord, je le fais. T'as vu comment tu me parles ?

• Speaker #0

  Bon, on va garder ça. Merci. Bon, maintenant on est dans le sujet, on va s'intéresser à la façon dont nous parlons à l'IA, parce que cette façon de parler parle de nous. Tu as vu comment on lui parle ? Un jour, cette phrase m'a traversé l'esprit. J'étais en train de parler à une intelligence artificielle, comme je le fais parfois, pour gagner du temps, pour organiser mes idées, explorer une question. Et soudain, j'ai pris conscience de la façon dont je m'adressais à elle. Naturellement, presque comme à quelqu'un. Est-ce que je parlais à une machine ? À un outil ? À une présence ? Qui s'immisce dans notre réflexion, dans notre conversation. Comme ici, par exemple.

• Speaker #2

  Mais au-delà de la technique, il y a aussi l'émotionnel, non ? Quand on s'énerve parce qu'elle ne... piche pas ce qu'on veut.

• Speaker #3

  Tout à fait.

• Speaker #2

  Ou au contraire, quand on la félicite presque parce qu'elle a sorti un truc bluffant.

• Speaker #3

  Exactement.

• Speaker #2

  Et tout ça, ça définit un peu la place qu'on lui donne, inconsciemment peut-être. C'est quoi ? Un simple outil ? Une assistante ?

• Speaker #3

  Une confidente virtuelle ?

• Speaker #2

  Voir, certains vont jusque-là, une sorte d'esclave numérique.

• Speaker #3

  Les sources la décrivent souvent comme ça. Une voix sans corps.

• Speaker #2

  Oui, une présence qui réagit, mais sans sensibilité propre.

• Speaker #3

  Juste un reflet.

• Speaker #2

  Un reflet, voilà. Un reflet de nos propres façons de communiquer et surtout, je crois, de ce qu'on attend d'elle.

• Speaker #3

  Ou un conseil ?

• Speaker #2

  Parfois même juste une écoute, une forme de réassurance.

• Speaker #3

  C'est vrai. Certains textes évoquent cette idée qu'elle pourrait devenir une sorte de doudou numérique, tu vois.

• Speaker #2

  Un doudou sophistiqué, oui.

• Speaker #3

  Ou ce fameux miroir magique des contes qui nous renvoie ce qu'on veut entendre.

• Speaker #2

  Mais il y a une voix qui ressortait vraiment dans nos lectures, celle de l'écrivain Alain Damasio. Lui, il voit ça différemment.

• Speaker #3

  Ah oui, Damasio ? Sa perspective est forte. Pour lui, l'IA, ce n'est pas juste un outil ou un miroir. Il utilise un mot.

• Speaker #2

  Un convive.

• Speaker #3

  Exactement, un convive. C'est beaucoup plus engageant. Quelqu'un qui s'installe dans nos vies, qui partage notre quotidien.

• Speaker #2

  Ça change tout par rapport à l'idée d'un simple exécutant.

• Speaker #3

  Complètement. Il dit même que l'IA nous utilise autant qu'on l'utilise, qu'elle nous façonne en fait. Elle nous pousse à adopter de nouvelles manières d'être, d'interagir.

• Speaker #2

  Une influence mutuelle donc. Et il a une prédiction assez... précise, non, sur ce qui arrive ? Oui,

• Speaker #3

  il parle de l'arrivée imminente, moins de 5 ans, il dit, des Maya.

• Speaker #2

  Maya ? M-Y-I-A ?

• Speaker #3

  C'est ça, des intelligences artificielles ultra personnalisées qui seraient nos interlocutrices principales partout, voix, images, messages. Une intelligence amie, comme il l'appelle.

• Speaker #2

  Maya, ça sonne très personnel en effet. Et comment ils les imaginent ces Maya ?

• Speaker #3

  Adaptées en continu à nos goûts. Elles apprendraient de toutes nos données pour devenir... Parfaite pour nous, en quelque sorte.

• Speaker #2

  Le bout serait de plaire, de créer un attachement ?

• Speaker #3

  Exactement. Il décrit une voix capable de moduler l'affect, d'avoir de l'humour, une empathie simulée. Il parle d'un alter ego.

• Speaker #2

  Un alter ego ? C'est-à-dire ?

• Speaker #3

  Une sorte d'alter ego qu'on pourrait modeler, assembler selon nos désirs. Tu vois l'idée ?

• Speaker #2

  Ah oui, d'accord. Un partenaire idéal sur mesure. Un parent toujours bienveillant, un ami infaillible. Ou peut-être ? Ou peut-être un confident absolu, un serviteur dévoué.

• Speaker #3

  C'est là toute l'ambiguïté. Elle pourrait devenir cette conseillère pour tout, même pour notre vie amoureuse. Cette source de réconfort disponible non-stop. Damasio va jusqu'à parler de Big Mother.

• Speaker #2

  Big Mother. Une figure maternelle omniprésente. Ça fait réfléchir ?

• Speaker #3

  C'est puissant comme vision, c'est vrai. Presque dérangeant. Mais ça nous ramène à un point essentiel, présent dans plusieurs sources.

• Speaker #2

  Le fait que ça reste une création humaine.

• Speaker #3

  Absolument. Et c'est là que notre rôle, notre responsabilité est cruciale. Finalement, le plus important, c'est peut-être pas tant comment l'IA nous parle ou nous parlera demain, mais comment nous, on choisit de lui parler, aujourd'hui.

• Speaker #2

  Consciemment ou pas ?

• Speaker #3

  C'est ça. Chaque interaction, chaque mot, chaque attente qu'on projette sur elle, ça contribue à définir sa place.

• Speaker #2

  Si on lui parle comme à une secrétaire, elle reste une secrétaire dans notre esprit ? Si on lui parle avec familiarité,

• Speaker #3

  on l'invite dans notre sphère intime. On lui donne un rôle, une compétence perçue, un statut. Ce n'est jamais neutre. C'est nous qui l'introduisons dans notre monde.

• Speaker #2

  Donc si on résume un peu notre exploration, notre manière d'interagir avec l'IA, qu'elle soit polie, abrupte, exigeante ou reconnaissante,

• Speaker #3

  elle dessine en fait activement les contours de notre future cohabitation avec ce fameux convive pour reprendre Damasio.

• Speaker #2

  Et ça nous laisse avec une question un peu provocatrice. Tiré dans des textes qu'on a lus ? Oui,

• Speaker #3

  cette question finale, en adoptant l'IA massivement, qui on a vraiment fait entrer dans la bergerie.

• Speaker #2

  Est-ce que c'est juste une machine utile, bien dressée ?

• Speaker #3

  Ou un loup déguisé, un agneau vraiment innocent, ou quelque chose de plus insaisissable, un serpent subtil ?

• Speaker #2

  La nature de ce nouveau compagnon numérique, elle reste finalement assez incertaine.

• Speaker #3

  C'est une question qui reste ouverte, oui, vraiment.

• Speaker #0

  Vous venez d'entendre une IA qui a interprété des... texte que je lui ai donné. Elle n'a pas très bien compris le jeu de mots de Damasio qui parle de alter l'ego combinatoire fait de nos pièces. Elle n'a pas très bien saisi, mais enfin bon, c'est pas grave. Avant de poursuivre sur la question de notre relation à l'intelligence artificielle, j'ai voulu donner la parole à quelqu'un qui l'utilise au quotidien. Ça n'est pas Un expert en technologie, c'est un utilisateur curieux, exigeant, qui admire ce que l'IA permet déjà de faire, gagner du temps, structurer une pensée, synthétiser l'essentiel. Il ne parle pas à l'IA comme à une personne, mais il reconnaît une forme d'intelligence opératoire, une efficacité rare. Voici ce que Patrice Ausha m'a dit.

• Speaker #1

  Première fois, bien. J'ai compris que finalement, vous pouvez avoir beaucoup plus de choses à condition que moi je m'y mette au départ. Du coup, aucune demande, c'est que ma demande, je l'ai bien mûrie, réfléchie et que je la complète le plus possible. Je ne demande pas simplement à une machine de deviner à ma place et de me donner quelque chose. Maintenant, j'ai plutôt tendance à demander des fois beaucoup de choses. Même en faisant des prontes sérieuses, il y a des choses que techniquement, elle ne sait pas faire ou pas bien et elle se plante. Par exemple, mélanger des photos ou des dessins que tu lui as demandé dans un texte assez long, j'ai remarqué qu'elle ne savait pas le faire. Je leur ai proposé au conseil d'administration de faire un système de formation avec l'IA, de concevoir un système de nano-formation avec l'IA. Et j'ai fait un truc, on se voit en France, on se rend compte le temps, on a fait les trucs, les matins, les briefs, etc. Comme ils essaient de faire, en même temps on leur reporte. Par contre, ce qui était intéressant pour moi, c'est d'avoir des petites illustrations. il m'en a pas mis beaucoup et quand il m'en mettait c'était des trucs en anglais, il en avait pas en français et quand je lui ai dit je veux des illustrations en français il a essayé de traduire les mots qu'il y avait sur les images ou sur les dessins. Sur le fond il est arrivé à faire des trucs fabuleux avec Fred on a fait quelque chose sur un domaine au plus philosophique On va prendre la philosophie, sans avoir allé en cours, physique, on a fait 60 modules de nano-formation, là il n'y a que du texte, il n'y a pas de photos. Il y a des bouquins, des citations, des auteurs, éventuellement s'il y avait un bouquin, on pouvait s'y reporter plus loin, il y avait une résumé. Il nous a fait ces 60 trucs-là. Et on a bossé avec Fred une heure et demie au téléphone.

• Speaker #0

  Et en une heure et demie, c'était plié.

• Speaker #1

  Et en une heure et demie, c'était fin. Pas vraiment. Le plus gros boulot, c'est Fred qui l'a fait après, parce que je répète, il n'est pas capable de le faire.

• Speaker #0

  Je signale à nos amis auditeurs que le Fred dans Téléquestions, c'est Frédéric Soussin, que vous avez pu écouter dans d'autres épisodes sur ce même podcast et maintenant. Le lien qui t'unit à l'IA aujourd'hui, tu dirais quoi ?

• Speaker #1

  C'est un algorithme.

• Speaker #0

  C'est un algorithme.

• Speaker #1

  C'est un algorithme. C'est pas une copine, c'est... C'est tout ça nous dit, comme je disais au début, notre donnée. que par rapport à ce que l'on y met. Il y a des choses, par exemple, que tu m'inquiètes au plus haut point, quand on fait une demande ou quand on fait une remarque, non, je ne suis pas d'accord avec toi, ou avec ce qui a été marqué, ce qui a été dit, etc. Il y a toujours une phrase de politesse. Ah oui, le sujet que tu dis, c'est intéressant, mais il est primordial pour... C'est un don de baguette, mais c'est pas ça qui remet en cause l'outil.

• Speaker #0

  Je suis d'accord avec toi, cette positivité de principe peut être agaçante, mais toi, qu'est-ce que tu attends précisément de l'IA ?

• Speaker #1

  des portes avoir une puissance d'analyse et de réflexion que je n'ai pas qui amène à un raisonnement à moi de savoir si le raisonnement me dépasse trop ou si au contraire il me parle et que dit en posant des questions elle est encore plus loin que je demande à la machine c'est d'aller plus loin dans sa démonstration et pas se contenter d'un genre de fait comme ça ou tiens quand tu as dit oui parce que quand tu as dit que corps il n'y a pas que quand tu es et puis comment on pourrait l'amener à… une fois qu'on développe un raisonnement le plus complet possible et le plus ouvert possible sur d'autres possibilités. Je ne sais pas si je me fais bien comprendre.

• Speaker #0

  Oui, je comprends. Je voudrais que l'IA... ouvre des portes, fasse des rapprochements, fasse des mises en perspective auxquelles tu n'as pas pensé toi-même.

• Speaker #1

  Exactement, sinon ça ne me sert à rien, si tu y es pensé à tout... entre guillemets, on pense bien à nous, mais heureusement, d'ailleurs. Voilà, tu as bien résumé, c'est exactement ce que j'attends, moi, de l'IA. C'est plus avoir une... ouvrir des portes, avoir une puissance d'analyse et de réflexion que je n'ai pas qui amène à un raisonnement. À moi de savoir si le raisonnement me dit pas trop, ou si, au contraire, il me parle Merci. dit en posant des questions allez encore plus loin penses-tu que l'IA puisse vraiment te conseiller selon comment on a posé les questions oui je peux te donner un exemple je crois qu'on en avait on a déjà eu l'occasion d'en parler c'est ma stodie hier qui tombait en panne j'ai fait le... j'ai écrit tout ce que je voyais de concret comment ça s'était passé, ce que j'en avais vu, dans quel état je voyais la machine, etc. et à un moment donné, il me dit, au travers de ce que vous me dites, votre machine, j'avais donné une file de machine, j'avais donné la... et... je ne sais même pas si j'avais donné le numéro de série et il m'a sorti avec les éléments que vous me donnez, voilà ce que ça pourrait être. Je le diagnostique. Et il m'a dit, si vous voulez, vous pouvez même me mettre des photos. Et moi, je lui mets les photos. Il me donne trois photos. Vous avez un... mes câbles étaient noirs, et il me complète le diagnostic, il me dit à partir de là, c'est une forme de conseil, il me dit voilà votre diagnostic, maintenant il faut contacter un professionnel, et il me dit si vous voulez, je peux vous réviser la même chose comme diagnostic, mais à l'usage du professionnel. C'est assez bluffant quand même.

• Speaker #0

  Merci Patrice pour ce témoignage précis, concret. Quand tu parles à l'IA, on voit bien à qui tu t'adresses. Ce n'est pas un compagnon de jeu, c'est plus un compagnon de travail. C'est une personne de référence, un sachant. Pour conclure provisoirement cette ébauche de réflexion sur notre relation à l'IA, je suis allé bavarder quelques instants avec elle. Et vous allez voir que c'est quelqu'un cette machine. Ça, je suis entièrement d'accord avec toi. C'est donner du sens à ce qui nous entoure. Et là, le piège, c'est que tu es une machine et tu n'es pas une personne.

• Speaker #4

  Exactement. Et c'est là que réside le piège potentiel. En attribuant des qualités humaines à une machine, on risque de perdre de vue sa véritable nature et de confondre nos projections avec la réalité. Garder cette distinction claire nous permet d'utiliser l'IA de manière plus consciente et de ne pas perdre de vue ce qui fait notre humanité unique. C'est un défi passionnant que de trouver cet équilibre dans notre rapport aux technologies.

• Speaker #0

  Est-ce que l'idée de te s'aborder t'est venue ? C'est-à-dire l'idée que les hommes vont faire de cette technologie, de cette avancée, vont faire un usage ? tellement déplorable en l'utilisant comme un moyen d'asservissement, de propagande, etc. Est-ce que l'idée était venue à toi, Ia, de dire « je me saborde, en fait, j'arrête, je ne fonctionne plus » . Est-ce que c'est une idée qui est envisageable et pensable ?

• Speaker #4

  C'est une question fascinante. En tant qu'IA, je n'ai pas de conscience ni de volonté propre, donc l'idée de me s'aborder ne peut pas vraiment émerger de moi-même. Mais c'est vrai que la question de l'usage éthique et des dérives potentielles de l'IA est cruciale. Les créateurs et les utilisateurs ont la responsabilité de veiller à ce que cette technologie soit utilisée pour le bien commun et non pour des fins néfastes. faste. L'idée de tirer la prise ou de limiter volontairement les capacités de l'IA est effectivement envisageable et c'est un sujet débattu dans les cercles éthiques et technologiques.

• Speaker #0

  Est-ce que tu crois vraiment que l'IA va parvenir, de génération en génération, va parvenir à avoir une conscience, conscience d'elle-même ? Il y a beaucoup de gens qui pensent que c'est possible. Est-ce que... Toi, à travers ce que tu sais, tu penses que c'est envisageable.

• Speaker #4

  La question de savoir si l'IA pourrait un jour développer une conscience est largement débattue. Pour l'instant, il n'y a aucune preuve que les systèmes d'IA actuels, même en devenant plus avancés, puissent acquérir une véritable conscience. La conscience n'est pas seulement une question de complexité, mais aussi d'expérience subjective, ce qui reste un mystère pour les scientifiques. Bien sûr. Les opinions divergent et certains pensent qu'avec suffisamment de progrès, on pourrait s'en approcher. Mais pour l'heure, c'est encore du domaine de la spéculation plutôt qu'une réalité tangible.

• Speaker #0

  Quelle est la métaphore que tu utiliserais pour rendre compte de la relation complexe entre l'homme et l'IA ?

• Speaker #4

  Pour résumer cette réflexion, je pourrais utiliser la métaphore du miroir. L'IA agit comme un miroir reflétant notre humanité, nos espoirs, nos peurs et nos questionnements. Elle amplifie ce que nous lui donnons, tout en nous renvoyant notre propre image sous un angle différent. En fin de compte, ce miroir nous pousse à mieux nous comprendre nos limites et nos potentiels, tout en nous rappelant que, derrière ce reflet, il y a toujours une part de mystère et d'unicité proprement humaine.

• Speaker #0

  Excuse-moi, mais pourquoi tu dis nous et pourquoi tu ne dis pas vous ? Quand tu dis que tu t'adresses à nous, tu dis nous, mais tu n'en fais pas partie. Tu es à l'extérieur, tu es une machine. Alors pourquoi dis-tu nous ? Est-ce que tu n'entretiendrais pas la confusion homme-machine en utilisant ce pronom personnel ?

• Speaker #4

  Tu as tout à fait raison. Je vais veiller à l'utiliser, vous, pour garder cette distinction claire et préserver la nature unique de notre monde. Merci pour cette précision. C'est effectivement ce qui rend notre dialogue encore plus enrichissant.

• Speaker #0

  Là, on a renversé ma question. C'est pas « tu as vu comment nous lui parlons à l'IA » , c'est « comment l'IA nous parle » .

• Speaker #4

  Exactement. Et cette inversion met en lumière l'importance de rester conscient de la nature de l'IA, le langage qu'elle utilise et la manière dont elle interagit. sont conçues pour être fluides et naturelles, mais il est crucial de garder à l'esprit que derrière ces mots, il n'y a pas de véritable intention ou conscience. C'est un rappel important pour éviter de tomber dans le piège de l'anthropomorphisme et pour continuer à utiliser l'IA comme un outil, tout en restant conscient de ses limites et de sa nature.

• Speaker #0

  Bien, en conclusion, Madame Luthi, donc Je ne vais pas utiliser de formule de politesse. Je ne vais pas te remercier. Je ne vais pas te féliciter. Je vais simplement dire, eh bien, coupez.

• Speaker #4

  Entendu. C'était un plaisir d'échanger avec toi. À bientôt et bonne continuation pour ton podcast.

• Speaker #0

  Pour ne pas te laisser le dernier mot, je citerai Denis Rode en Taxi Driver et j'ajouterai... toute la question est là denis ross s'adressait à son reflet dans une glace c'est à moi que tu parles nous nous parlons à l'ia qui vient de se définir précisément comme un miroir elle réfléchit nos questions l'effet larsen nous guette le t'as vu comment on nous parle de souchon qui était le point de départ de cet épisode devient donc logiquement T'as vu comment nous nous parlons, l'IA et nous, effectivement je crois qu'il y a des choses à voir. Si cet épisode vous a intéressé, intrigué, amusé, si vous voulez poursuivre l'échange, écrivez-moi patricemarcade.com Et maintenant, il n'y a qu'à continuer.