Transcription

• Speaker #0

  Confidence de Dyn, saison 3, un podcast présenté par l'ISG.

• Speaker #1

  Bienvenue dans Confidence de Dyn, le podcast qui décrypte les tendances et les enjeux de l'enseignement supérieur. Dans cette saison 3, nous abordons les enjeux de l'intelligence artificielle et des nouvelles technologies. Comment transfère-t-elle la relation au monde, la relation entre les humains, la relation au travail ? Quels sont les grands sujets, les sujets de gouvernance ? les sujets de sécurité des données que génère l'intelligence artificielle. Aujourd'hui, nous avons la chance d'avoir sur le plateau un avocat, Maître Benjamin Pelousse. Bonjour. Maître, bonjour. Bonjour. Vous allez bien ?

• Speaker #2

  Super.

• Speaker #1

  À mes côtés, Chanel Seba. Chanel, bonjour. Bonjour. Vous allez bien ? Très bien. Vous êtes une étudiante ?

• Speaker #0

  De l'ISG, Institut supérieur de gestion, en deuxième année, programme grande école.

• Speaker #1

  Deuxième année, programme grande école. à l'ISG et Maître, tout d'abord, pour commencer, j'imagine que vous utilisez des IA, quel regard porte à la fois l'avocat et l'homme, peut-être le papa, l'oncle, sur ces nouvelles technologies ?

• Speaker #2

  Alors, je suis ravi de pouvoir échanger sur ce sujet qui est un sujet vivant, vivant parce qu'il est témoin et symbole du progrès, du progrès humain. Le citoyen que je suis porte un regard fasciné et amusé par les limites qui semblent ne pas exister, ou en tout cas très peu exister, dans la mise en mouvement des outils d'intelligence artificielle. J'écoutais pas plus tard que ce matin les progrès médicaux qui pouvaient être faits, notamment en matière d'intelligence artificielle, dans les techniques d'analyse de radio par exemple. Et donc je suis amusé et enthousiasmé. Et puis l'avocat que je suis a un regard qui est peut-être un petit peu inquiet, car je crains aussi que si c'est un outil qui facilitera le travail des juristes, pourrait rendre l'exercice intellectuel, disons, non pas laborieux, mais en tout cas pourrait inviter à une certaine forme peut-être de paresse, ou en tout état de cause. On a eu des expériences, en tout cas, qui étaient malheureuses, puisqu'on a eu des outils d'intelligence artificielle qui, pour plaire au maître... ont inventé des jurisprudences dans le cadre d'affaires qui avaient été soumises dans des contentieux. Et donc j'ai un double regard, amusé, inquiété, et puis aussi j'appréhende l'avenir à la lumière de ce très bel outil que va être l'intelligence artificielle.

• Speaker #0

  Les IA ça pousse comme des champignons, c'est très inquiétant. Est-ce que les IA de droit, de santé doivent inquiéter les avocats et les médecins ?

• Speaker #2

  La question de l'IA peut inquiéter parce que ce que l'IA interroge, c'est le rôle que nous, êtres humains, de chair et de sang, allons avoir dans les années à venir dans le cadre de l'exercice de notre profession en général et des conseils que nous allons protéger en particulier. Et donc, en l'espèce, effectivement, les professionnels de santé pourront peut-être être inquiétés. Je ne suis pas tout à fait sûr. Peut-être au contraire seront-ils rassurés dans les conseils, les analyses qu'ils pourront prodiguer. Et peut-être cela sera le moyen pour eux d'amoindrir leurs responsabilités, peut-être lorsque leur conseil sans IA aurait peut-être été défaillant. Quant aux avocats, effectivement, l'avocat entretient un rapport au temps, qui est un rapport au temps qui est à la fois intellectuel, mais aussi financier. Et donc, indirectement, pragmatiquement, effectivement, l'usage de l'IA pourra effectivement inquiéter une partie de la profession, à sa près, que l'intelligence artificielle ne pourra être correctement utilisée, administrée, si on saura correctement la piloter.

• Speaker #1

  Moi, je ne suis pas sûr que les IA auront le pouvoir de tout transformer et d'inquiéter tout le monde, et probablement pas les avocats, parce que... Derrière l'IA, il y a quand même aussi des sujets de responsabilité qui sont très forts. Absolument. Quand on pense aux IA, on se dit, on va avoir des voitures qui vont se conduire toutes seules, on va avoir des avions qui vont se piloter toutes seules, on va avoir des décisions dans des entreprises qui vont se prendre toutes seules. Et on se dit, derrière tout ça, finalement, où est la responsabilité ? Et comment est-ce que l'avocat que vous êtes, maître, voit la question de la responsabilité derrière l'IA ?

• Speaker #2

  Je vais vous répondre. Alors j'adore votre question pour une raison très simple. C'est qu'en fait, elle met en exergue un diptyque qui est celui de l'intelligence face à la sagesse. Et si je pense qu'effectivement, on peut parler d'intelligence artificielle, jusqu'à preuve du contraire, il n'y a pas de sagesse artificielle. Et ce qui fait la différence dans la gestion d'un dossier ou d'un contentieux, très souvent, ce n'est pas nécessairement la connaissance que l'on va avoir de la mécanique juridique, mais la sagesse qu'on va pouvoir incarner dans la prise de décision, dans la prise de décision contentieuse, dans le conseil prodigué au client. Et je pense que c'est ce qui fait fondamentalement et ce qui fera fondamentalement la différence entre un être humain sage et une machine savante.

• Speaker #0

  Justement, c'est un petit peu en lien, les lias... Elle s'est générée de plus en plus de choses, des créations, des peintures, des musiques. Est-ce que vous pensez qu'on peut protéger les créations générées par l'IA ?

• Speaker #2

  Le droit, de manière générale, protège ce que l'on qualifie d'être des œuvres de l'esprit. Donc effectivement, ça pose la question de quelle définition donne-t-on à l'esprit ? Car jusqu'alors, lorsqu'on parlait d'esprit, on parlait d'esprit humain. Et désormais, nous avons face à nous une machine. en capacité non pas d'incarner un esprit, mais en tout cas de générer de la donnée, de générer de la connaissance. Et bien entendu qu'il sera envisageable, alors je pense notamment, j'ai un exemple très concret, je vais faire un parallèle avec les NFT dans le domaine de l'art. Effectivement, alors que ces œuvres d'art qui sont qualifiées d'œuvres d'art sont protégeables aujourd'hui, on peut très bien se dire que demain la data qui sera générée par l'intelligence artificielle pourra également être protégé. Mais ce que l'on protégera plus encore, c'est la recette qui sera en amont, puisqu'il faut nourrir la machine d'intelligence artificielle, car il n'y a pas de génération spontanée, il faut la nourrir. Et c'est finalement le concepteur, en tout cas, ce qui sera en amont, qui sera protégé. En tout état de cause, ce que je peux vous dire, c'est que les limites du droit sont celles qui sont posées par l'humain lui-même et qu'en l'occurrence, l'Europe... L'Union européenne a mis en œuvre un règlement de protection qui est l'acte sur l'intelligence artificielle qui encadre, réglemente, punit d'ailleurs les usages éventuellement pervers qui pourront être faits de l'IA dans les années à venir.

• Speaker #1

  Vous parlez d'usages pervers, il y a un millier d'industriels, dont Elon Musk, des scientifiques, qui se sont prononcés en faveur d'un moratoire sur l'IA, un peu comme on aurait eu... Il y a quelques années de ça, un moratoire sur des pêcheries intensives. Quel est le regard de l'avocat sur cette idée de moratoire ? Est-ce qu'un moratoire, ça sert à quelque chose ?

• Speaker #2

  Quand on parle de moratoire, on parle de... Le moratoire recouvre recoupes de notions. Celle de freiner ou de stopper en tout état de cause. C'est une façon de mettre le temps en suspension pour se donner la capacité de méditer un sujet que l'on considère être important. Aujourd'hui, le moratoire se pose à l'heure de l'internationalisation. C'est presque la palissade parce qu'aujourd'hui, effectivement, tout est internationalisé et la donnée voyage. Et donc, la problématique que les juristes ont, c'est de faire une application universelle, en tout cas, ce qui est aujourd'hui inexistant, du droit. Et donc, en l'occurrence, ce n'est pas parce qu'au sein de l'Union européenne, on aura posé un cadre protecteur et encadreur. que ce cadre sera protecteur au fin fond de l'Asie, par exemple. Or, on sait très bien qu'on peut avoir une entreprise qui opère et pilote l'ensemble de ses opérations au fin fond de la Malaisie, par exemple, et qui propose des services en France, grâce à la magie d'Internet. Et donc, le moratoire se pose, parce que quand on entend moratoire, on parle aussi de coopération, de coopération politique, de coopération institutionnelle, de coopération internationale. et c'est peut-être l'énième problématique que l'on va avoir. C'est qu'aujourd'hui, la question de l'intelligence artificielle, c'est une problématique qui, pour le moment, est une problématique de pays dits du Nord, c'est-à-dire de pays développés, et qu'en l'occurrence, un certain nombre de pays du monde, que ce soit en Afrique ou en Asie par exemple, font face à des challenges économiques et sécuritaires qui ne mettent pas en première ligne et ne mettent pas en tension la question de l'intelligence artificielle. Cela viendra, bien entendu. Et donc, on voit bien que les différences qui existent entre les juridictions dans le monde font que la convergence institutionnelle et politique n'est pas forcément aisée.

• Speaker #1

  Maître, quand on vous entend, quand on vous écoute tout au long de cet entretien, moi, je ne peux pas m'empêcher de penser, il sait des choses. Il les a apprises, il les a mémorisées. Droit, ce n'est pas médecine. Même si une maman a envie que son fils devienne avocat ou médecin, ce sont des métiers qui nécessitent de la mémorisation. Ce sont des métiers dans lesquels les études sont des études compliquées. Aujourd'hui... L'éducation au sens large, l'enseignement supérieur, fait face à ces défis parce qu'on peut tout utiliser. Est-ce que vous trouvez qu'on perd quelque chose à l'utilisation des IA dans l'enseignement supérieur ?

• Speaker #2

  Écoutez, votre question a du charme parce qu'elle est aussi un peu régressive, parce que ça nous ramène aux difficultés qu'on a tous, à un moment donné, traversées dans l'apprentissage. C'est-à-dire ? dans la difficulté qu'on avait à assimiler un savoir et à le mettre en œuvre. Effectivement, l'intelligence artificielle, c'est un peu, je vais vous donner une image, c'est un peu comme si elle solutionnait la malédiction originelle du tu gagneras le pain à la sueur de ton front Et là, en l'espèce, on se retrouve avec moins de sueur. La question qu'il faut se poser, c'est quelle est la valorisation à donner au travail qui est fournie avec moins de sueur et donc avec l'aide de l'intelligence artificielle. Et maintenant, dans le rapport aux études, il y a un grand sujet qui traverse aujourd'hui le monde de l'éducation et de l'enseignement supérieur, c'est celle du plagiat, et plus particulièrement de la production de données, par exemple pour l'usage de dissertations ou de cas pratiques, etc. via l'intelligence artificielle. Et deuxième point, en quelque sorte, le rapport à l'effort. Et je pense que le danger majeur que représente l'intelligence artificielle, ce n'est non pas pour ce qu'elle est en capacité de générer, mais pour ce qu'elle est en capacité de ne pas nous faire générer nous en tant qu'être humain. Et donc c'est le rapport à l'effort, le rapport au travail, et peut-être que nous nous acheminons doucement, mais sûrement. vers un rapport au travail qui est peut-être plus paresseux qu'il ne l'était il fut un temps. Et je pense, en tout cas peut-être que je suis un dinosaure bien qu'étant jeune, que le rapport au travail se fait aussi d'une certaine manière dans la douleur, mais c'est aussi l'effort qui permet de récolter le fruit une fois qu'il a bien mûri. Et je pense en synthèse... que l'intelligence artificielle pourra aider, peut aider nos étudiants, mais ne doit pas être une solution de facilité, car comme toute chose, elle prouvera, elle arrivera à certaines limites, et il faudra à ce moment-là être en capacité de réagir avec sagesse pour pallier aux limites de cette intelligence artificielle.

• Speaker #1

  L'intelligence artificielle nous questionne sur notre rapport au travail, notre rapport à l'effort. Cela nous interroge sur notre relation au monde, tout simplement. C'était Confidence de Dine avec un invité de marque, avocat, maître Benjamin Félous, une étudiante, Chanel Seba. Maître, Chanel, nous vous remercions. Je vous remercie au nom de toute l'école pour cet épisode exceptionnel à nouveau de Confidence de Dine. Vous voulez plus de Confidence ? Retrouvez-nous sur LinkedIn.

• Speaker #0

  Confidence de Dine, saison 3. Un podcast présenté par l'ISG.