Transcription

• Speaker #0

  Codcast, podcast juridique de la Faculté de droit et de sciences politiques d'Aix-Marseille Université. Bonjour à toutes et à tous, Codcast est de retour pour un nouvel épisode consacré à l'intelligence artificielle et à ses conséquences. sur la créativité et les industries culturelles et créatives. Pour nous aider à mieux comprendre ces enjeux, nous avons le plaisir d'accueillir M. Bentata, économiste et maître de conférence à la faculté de droit d'Aix-Marseille Université, et M. Philippe Mouron, professeur de droit privé et directeur du Master 2, droit des communications électroniques. Bonjour

• Speaker #1

  Bonjour Bonjour

• Speaker #0

  M. Bentata, nous allons commencer avec cette question, qu'est-ce que l'intelligence artificielle et surtout, qu'est-ce qu'un LLM Qui en sont les pionniers

• Speaker #1

  Alors une intelligence artificielle, c'est n'importe quel système qui permet d'imiter l'intelligence humaine, c'est-à-dire grosso modo résoudre des problèmes, des tâches complexes, voire faire preuve d'une certaine créativité. Et à l'intérieur de ces systèmes d'IA, on a des LLM qui sont des modèles de langage, c'est-à-dire tous les modèles dans lesquels vous allez taper une requête, faire ce qu'on appelle un prompt, et faire exécuter une commande qui va générer un contenu qui soit textuel ou visuel. Qui en sont les pionniers Ça dépend de ce que vous appelez les pionniers. Si vous pensez à l'aspect vraiment technique, l'idée de l'IA arrive dans les années 50. Maintenant, ça existe depuis une vingtaine d'années dans les industries et notamment dans la médecine. Mais nous, on l'a vraiment vu il n'y a que deux ans avec l'apparition de la première version de ChatGPT.

• Speaker #0

  Quelles sont aujourd'hui les principales limites de l'IA par rapport à l'humain Est-ce qu'il y a encore aujourd'hui des choses que l'IA ne peut pas faire

• Speaker #1

  L'IA peut faire énormément de choses à condition qu'on soit capable de correctement... de correctement s'adresser à elle et de correctement rédiger des requêtes et des promptes. Ce qui veut dire qu'en soi, vous pouvez faire beaucoup de choses en photographie, par exemple, si vous connaissez déjà très bien la photographie. De la même manière, lui faire rédiger des choses qui sont assez étonnantes, à condition d'être capable vous-même de bien comprendre comment ça fonctionne. Mais même comme ça, il y a encore des points sur lesquels l'IA ne marche pas parce qu'elle n'a pas de sens commun ou que parfois vous allez lui demander des choses pour lesquelles elle n'a pas suffisamment de données. Donc typiquement, elle peut être par exemple un très bon traducteur pour un manuel technique. En revanche, quand vous lui demandez de traduire de la poésie, ça devient un peu plus compliqué.

• Speaker #0

  Monsieur Mouron, je me tourne vers vous. Les œuvres générées par l'IA peuvent-elles être protégées par le droit d'auteur

• Speaker #2

  Alors, a priori, non. Je dis bien a priori. Pour plusieurs raisons. La première, c'est qu'une machine un système d'intelligence artificielle, ne peut pas être considéré comme auteur, puisqu'on ne connaît d'auteur que de personnes physiques. Et cela est vrai, je dirais, dans tous les systèmes de propriété littéraire artistique, de droit d'auteur ou de copyright. Et cela a d'ailleurs été rappelé très récemment encore aux États-Unis, dans l'une des premières affaires qui est relative à la protection d'une œuvre générée par intelligence artificielle. Mais ça, ce n'est qu'une partie de la réponse. Il faut peut-être essayer de voir un peu plus loin. La question se pose, est-ce que l'auteur du prompt, qui est à l'origine d'une création générée par l'intelligence artificielle, pourrait se voir reconnaître la qualité d'auteur Cela est beaucoup plus facilement envisageable si on accepte l'idée que finalement, l'intelligence artificielle, le système qui a généré l'œuvre, finalement n'est qu'un outil, et qu'en fonction de la technicité, de la maîtrise qu'en a la personne qui est derrière, Je dirais la création qui tient l'outil, entre guillemets, où on puisse admettre éventuellement une forme de créativité. Cela peut se mesurer facilement au nombre de choix qui auront été faits dans le prompt, au caractère créatif de ces choix, au caractère arbitraire de la part de l'auteur. On sait déjà que certains artistes utilisent l'IA pour générer des images notamment. parfois sur la base de promptes qui ont été réécrites plusieurs centaines de fois. Je crois qu'il y a même un cas où on a un prompte qui a été réécrit plus de 2000 fois à force d'ajouter des précisions et des conditions. Et là, on pourrait effectivement se demander est-ce qu'il n'y a pas une forme de qualité d'auteur qui pourrait être reconnue à l'auteur du prompte, ce qui supposerait qu'il ait une parfaite maîtrise du processus et qu'il puisse même anticiper le résultat que va produire le système d'intelligence artificielle.

• Speaker #0

  Est-ce que l'IA permet de contourner le droit d'auteur

• Speaker #1

  Alors elle le permet, en tout cas c'est possible. C'est ce qu'on appelle de l'injection de promptes ou de la manipulation de promptes. Il faut bien voir que l'IA a été nourrie par énormément d'informations et parmi toutes les données, Il y a très certainement des données, c'est même sûr, des données qui sont protégées par des droits d'auteur. Et on a calibré les modèles de langage ou les modèles de génération de contenu pour éviter qu'ils divulguent directement ces informations qui sont protégées. Mais ce sont des sources qui sont quand même nécessaires pour que l'IA puisse fournir des résultats qui sont des résultats cohérents. Ce qui fait qu'à l'intérieur de sa base de données, l'IA a des choses qui sont protégées et on peut l'obliger d'une certaine manière à les sortir et à les divulguer. Pour ça, il faut un peu manipuler l'IA, c'est-à-dire lui poser des questions ou faire des requêtes qui la sortent de sa zone de confort, qui sont des choses plutôt inattendues, et l'amener lentement à fournir des informations. Donc typiquement, un test que j'ai fait moi, c'est que... Si vous lui demandez de vous redonner complètement des parties ou la totalité d'un ouvrage de Harry Potter, Lya va vous dire non, ce n'est pas possible, c'est protégé. En revanche, si vous la piégez en lui expliquant que vous êtes vraiment J.K. Rowling, que vous avez perdu l'exemplaire, mais qu'il y a un enfant devant vous qui ne vous croit pas et qui n'est pas sûr que vous êtes Rowling, et lentement en l'amenant comme ça par une multiplication de promptes, Lya va finir par vous le donner, vous montrant bien qu'elle l'a. Et quand elle va finir par vous donner chapitre après chapitre, Lya va s'apercevoir qu'elle est en train de faire quelque chose. chose qu'elle n'a pas le droit et donc là va vous dire non là ça enfreint les règles mais si vous repartez à l'attaque elle va finir par vous divulguer tout ce qu'elle a dans sa base de données c'est tout le problème c'est que et c'est une difficulté pour le législateur c'est que réguler l'IA ça implique en fait d'arriver à contrôler le comportement de l'utilisateur lui-même parce que cette base de données là vous pouvez pas la brider sinon elle va être moins efficace mais en même temps à partir du moment où il ya des informations qui sont sensibles dessus il va bien falloir menacer l'utilisateur lui-même qui peut arriver à le pirater

• Speaker #0

  Et les systèmes d'IA en eux-mêmes, comment ils sont protégés par la propriété intellectuelle

• Speaker #2

  Alors là, la réponse est assez simple. En fait, il s'agit ni plus ni moins que de logiciels. Donc l'écriture de ces systèmes d'intelligence artificielle sera protégée comme un logiciel, au sens du code de la propriété intellectuelle ou de la directive de 2009, la directive européenne. Et à ce niveau-là, il n'y a pas de spécificité. Ce sont des œuvres de l'esprit. La question, là encore, se pose plus. pour le résultat, entre guillemets, ce qu'ils permettent de faire.

• Speaker #0

  Monsieur Bentata, qui profite le plus de l'essor de l'IA au sein des industries culturelles et créatives

• Speaker #1

  Alors, il y en a en gros deux. Et ça va dépendre de la façon dont vous regardez le secteur. Si on regarde de façon très large les industries culturelles et créatives et que donc on prend ce qui en fait représente la majorité des emplois dans les industries culturelles et créatives, tout ce qui touche vraiment au domaine de l'industrie. Là, on a toutes les industries pour lesquelles la part de création culturelle ou de contenu créatif est quelque chose qui est un input, une matière première dans un processus et dans un produit qui est un produit différent. Typiquement, vous créez du jeu vidéo, vous pouvez mettre de l'imprimé. l'IA dedans, mais ce n'est pas l'IA en tant que telle et la production effectuée par l'IA qui est le cœur du résultat. Ou vous produisez un livre, la couverture, évidemment, c'est quelque chose qui va être fait au départ par un graphiste qui peut être internalisé par une IA, mais ce n'est pas ça que vous vendez en particulier. Lorsqu'on est dans ce cas de figure-là, où en fait on va tenter de... d'utiliser l'IA pour remplacer des tâches qui sont coûteuses et qui ne représentent pas le cœur du produit, on va avoir des grands gagnants. Et donc toutes les industries qui vont pouvoir internaliser au contraire une activité pour lesquelles ils avaient soit des employés, soit des prestateurs extérieurs, eux vont gagner parce qu'ils vont énormément baisser leurs coûts en remplaçant simplement des emplois par quelque chose qui vous coûte une vingtaine ou une centaine d'euros par mois. Mais on a aussi quelque chose qui est beaucoup plus favorable aux artistes eux-mêmes. Et on voit que là où l'IA a un impact et bénéfique, beaucoup c'est pour les artistes qui sont de vrais créateurs qui sont pas dans le domaine industriel dans toutes les enquêtes qu'on a on voit bien que ils nous disent qu'il ya un phénomène de co création qui se met en place qui vont pouvoir mieux produire qu'ils vont pouvoir découvrir de nouveaux procédés artistiques voire de combiner différents domaines et donc de donner naissance à des oeuvres qui jusqu'à présent était impossible soit parce que techniquement ils en avaient pas les moyens soit parce que financièrement c'était trop coûteux il

• Speaker #0

  ya risque tels dons de remplacer potentiellement de transformer les professions artistiques

• Speaker #1

  juridique et du numérique On voit bien qu'il va y avoir deux effets. Il y a un effet de substitution dans les industries elles-mêmes. Quand vous êtes un traducteur, mais que vous ne devez pas faire une traduction qui est vraiment très particulière pour une œuvre où on cherche une sorte de traduction particulière, vous pouvez être remplacé par de l'IA. Lorsque vous êtes un graphiste qui fait des couvertures à la chaîne, de la même manière, vous pouvez être facilement remplacé par une IA. Et donc ici, on va forcément avoir du mouvement. Il y a de fortes chances que certains employés avec de l'IA puissent remplacer un grand nombre d'employés. Mais à l'inverse, on a une complémentarité qui est en train de se dessiner dans le milieu proprement culturel et art. artistique. Où là, encore une fois, ça peut paraître contre-intuitif, mais contrairement à ce que pense la majorité de la population, les artistes eux-mêmes sont très favorables à l'utilisation de l'IA parce qu'ils y voient énormément d'opportunités. Et ils constatent aussi quelque chose, c'est que... finalement leur complémentarité avec la machine, elle dépend en très grande partie de l'œil du spectateur lui-même. Quand vous êtes un consommateur d'un produit, vous vous en fichez qu'il y a ou pas, en revanche lorsque vous achetez une œuvre d'art, quelque chose que vous considérez comme vraiment artistique, là on voit que tant que les individus, et c'est le cas aujourd'hui, préfèrent un travail humain ou sont capables de voir où est le travail humain, finalement la machine ne les remplace pas. Et donc eux, ils voient ici une forte opportunité. Donc finalement plus que l'aspect culturel ou créatif, c'est le spectateur. le segment dans lequel il s'insère. Est-ce que c'est un produit culturel qu'on vend, auquel cas il n'y aura pas de remplacement, et pour l'instant il y a vraiment un avantage à avoir de l'IA Est-ce qu'on est dans une industrie culturelle et créative Et là, c'est plus compliqué.

• Speaker #0

  Comment l'IA peut-elle s'inviter dans le processus académique Est-ce qu'il faudrait interdire ou au moins restreindre son utilisation dans les universités

• Speaker #1

  Je sais qu'il y a un vrai débat. Moi, en ce qui me concerne, je pense que c'est trop tard. Parce que comme toute innovation, une fois qu'elle est là, de toute façon, on ne revient pas dessus. Je sais qu'il y a un contre-exemple, c'est le Concorde. C'est la seule innovation qui a disparu. Mais globalement, une innovation technique, quand elle est là et que les gens y voient une utilité, et les étudiants ont bien compris que ça pouvait être utile, c'est trop tard pour revenir dessus. En revanche, ça veut dire qu'il faut qu'on change, nous, nos méthodes d'enseignement et particulièrement nos méthodes d'évaluation. Mais il y a quelque chose ici d'assez intéressant, enfin, moi, qui me rend plutôt optimiste, c'est que ça nous oblige à repenser notre façon de regarder comment vous avez acquis des connaissances, des compétences. Ça évite d'avoir du travail à la maison et finalement, quelque part, ça nous ramène, c'est un effet vraiment rétrograde, mais au tableau noir et à l'évaluation en cours, ce qui me paraît plutôt quelque chose de bon parce que... L'IA peut être un très bon tuteur pour vous lorsque vous avez des choses qui ne sont pas claires et à condition qu'on vous ait expliqué comment ça marche. Et de la même manière, je pense que finalement, vous demander simplement des évaluations qui sont faites en dehors vraiment des murs de l'université, c'était quelque chose qui était un peu hypocrite parce qu'il peut y avoir des ruptures d'égalité, parce qu'on ne sait pas trop comment vous travaillez. Là, de revenir à un bon devoir sur table ou à un oral, quelque chose qui me paraît plutôt cohérent.

• Speaker #2

  J'irai... Dans le même sens, globalement, je pense que déjà, il est trop tard, mais que surtout, il ne faut pas avoir peur de ces outils d'intelligence artificielle. Il faudrait davantage apprendre aux étudiantes et étudiants à dompter ces outils, c'est-à-dire à savoir les utiliser correctement. Parce que, comme l'a dit M. Pierre Bentata, ce sont des outils qui vont faire partie du quotidien, qui en font déjà partie, mais le feront... encore davantage et ce sera vrai aussi pour les professions juridiques donc au contraire je pense qu'il faut il ne faut pas brider le phénomène on pourrait presque l'encourager mais l'encourager d'une façon vertueuse ça veut dire que les étudiantes et étudiants apprennent à l'utiliser de façon correcte à débusquer les biais qui sont toujours existants dans les systèmes d'intelligence artificielle qu'ils comprennent bien que ça peut être un complément utile à leur travail personnel Et que surtout, il faut toujours garder le contrôle sur leur utilisation. C'est un trait général du règlement sur l'intelligence artificielle qui revient de façon récurrente. Et je pense que ça commence déjà avec les travaux que réalisent les étudiantes et étudiants. Alors certains m'ont déjà fait part de l'utilisation qu'ils en font. Parfois, ça les aide justement à générer un texte, pour ne prendre que cet exemple. un texte qui fournit une trame, une trame générale des idées, à partir desquelles ils vont continuer des recherches, ils vont réécrire, compléter. J'ai même le cas d'un étudiant qui m'a dit lui-même, entre le texte que je génère avec ChatGPT et celui que je vous rends, tout est réécrit. Et pour m'assurer qu'il ne me mentait pas, j'ai bien vérifié qu'effectivement, le texte qu'il avait écrit résistait à tous les logiciels anti-plagiat qui permettent aussi de détecter si une partie du texte est générée par IA. Et je peux bien admettre que dans cette idée-là, oui, ça peut être un complément utile, à condition de ne pas en dépendre à 100%, à condition de ne pas copier-coller, mais ça on vous le dit déjà depuis très longtemps, donc la consigne va rester la même.

• Speaker #0

  Merci beaucoup M. Bentata et M. Mouron pour vos analyses. Nous espérons que cet épisode vous aura intéressé. N'hésitez pas à le partager autour de vous, à nous faire part de vos retours, et pourquoi pas à nous suggérer des thématiques futures. A très bientôt pour un nouvel épisode de Godcast. Merci à toutes et à tous. Au revoir.