Description
La loi européenne sur l'intelligence artificielle va bientôt arriver, se mettre en place toussa toussa, même si ça va prendre du temps. Et donc on parle de tout ça avec Valérie. Et franchement, c'est quand même déjà beaucoup plus clair !
Hébergé par Ausha. Visitez ausha.co/politique-de-confidentialite pour plus d'informations.
Transcription
Bienvenue dans « J'ai pas compris » , le podcast qui parle de trucs qu'on n'a pas vraiment compris, avec des gens qui les ont quand même plus compris que nous, ou que moi en tout cas. Alors aujourd'hui, on va parler de l'IA Act. Encore un truc avec IA dedans, donc normalement c'est soit une révolution, soit une menace, soit les deux en même temps quoi. Et pour m'aider... Et à comprendre, je ne suis évidemment pas toute seule, puisque j'ai la chance d'avoir à mes côtés Valérie Mott, directrice légale, technologie et stratégie. Salut Valérie !
Salut Nalouen !
Alors, l'IA Act, de ce que j'ai compris, je ne vais pas aller très très loin, c'est une loi européenne qui vise à encadrer l'intelligence artificielle. Bon voilà, jusque là ça va. Sauf qu'en creusant un tout petit peu, on comprend que ce n'est pas juste une loi, c'est un truc, tu vas nous expliquer ça beaucoup mieux que moi. qui classent les IA par niveau de risque. Genre, certaines sont OK, certaines sont surveillées, certaines sont carrément interdites. Donc, en gros, des gens importants en Europe se sont dit « Bon, Michel, les machines deviennent de plus en plus puissantes. Peut-être qu'on va mettre deux, trois règles avant qu'on se retrouve dans un épisode de Black Mirror qu'on n'a pas signé pour. » Et ça, sur le papier, c'est plutôt rassurant. Mais du coup, ça pose pas mal de questions. Déjà, c'est quoi une IA à risque ? Qui décide sur quels critères ? Est-ce que ChatGPT, par exemple, c'est risqué ou pas ? Est-ce que ça va freiner l'innovation ou au contraire ? éviter qu'on fasse n'importe quoi ? Et surtout, est-ce que c'est vraiment applicable à des technologies qui évoluent tous les trois mois, alors que les lois mettent parfois des années à être votées ? Parce que là, sur le papier, en tout cas, j'ai un peu l'impression qu'on essaie de réguler un truc qui est déjà en train de nous dépasser. Donc, on va commencer par le début. Déjà, Valérie, c'est quoi exactement l'IA Act ?
Alors, l'IA Act, comme tu le disais, c'est le premier projet de réglementation... de l'intelligence artificielle. Je ne l'ai pas dit aussi bien que ça.
C'est le premier projet.
C'est une initiative européenne. C'est la première au monde. Elle vise effectivement à réguler l'intelligence artificielle, mais plus précisément, et c'est ça qu'il faut avoir en tête, c'est l'usage que l'on fait de l'intelligence artificielle. Ça vise à encadrer les usages possibles grâce à l'IA. en fonction du risque que ce système d'intelligence artificielle, au regard d'un usage donné, va pouvoir faire peser sur un individu ou sur la société.
Et tu dis que c'est le premier, mais pourtant il y a déjà eu par exemple des IAM qui ont été interdites dans des pays. Mais du coup, interdit ne veut pas dire régulier, et c'est là où tu dis que c'est plutôt la première fois qu'il y a ce truc-là de régulation ? Alors,
quand je dis le premier projet de régulation, c'est le premier projet de... de règlement qui est transverse et horizontal et qui vise à encadrer les usages qu'on peut faire d'une technologie de façon générale et horizontale, quel que soit le secteur, quel que soit l'usage. Quand tu dis horizontal, qu'est-ce que tu veux dire par là ? Horizontal, c'est justement quel que soit le secteur, quel que soit l'usage. Jusqu'à présent, les technologies, on a été emmené évidemment à encadrer des technologies, mais... Si on parle par exemple des télécoms, ce n'était pas la technologie des télécoms qu'on encadrait, c'était le secteur des télécoms qu'on régulait. Télécoms,
pour les vieilles personnes qui nous écoutent. Télécoms, c'était quoi ? Les premières communications par téléphone ? Oui,
où tu as, après si on vise Internet, tu n'as pas eu de réglementation générale sur Internet. Tu as aujourd'hui, au fur et à mesure, des réglementations qui se font sur des aspects spécifiques liés aux nouvelles technologies. Et puis, c'est en ça que c'était la première réglementation au monde et qui a commencé, l'Europe a commencé à se poser la question. En 2019, le premier projet a été publié en
2021. Mais il ne s'est rien passé. C'était des discussions,
c'était des projets, c'était en vue de l'élaboration de ce règlement. Là où la donne a été un peu chamboulée, c'est l'avènement de Tchadjébeté en novembre 2022 qui a présenté au grand public l'IA et qui a de ce fait entraîné la création d'un usage et d'une pratique avant même que la réglementation ne soit en place et même terminée. Voilà, je te dis, le premier projet de règlement, il a été publié en 2021, ce qui veut dire que les travaux ont commencé en 2019. Elle est entrée en vigueur en août 2024 et elle n'est pas encore complètement en application aujourd'hui. Le règlement a prévu une application progressive de ces dispositions pour permettre à toutes les parties prenantes de se mettre en conformité.
Mais du coup, ça va se traduire comment concrètement ? Quelle va être la différence ? Et est-ce que nous, même en tant qu'utilisateurs et utilisatrices, on va s'en rendre compte de ce truc-là ?
Alors, est-ce qu'on va s'en rendre compte ? Elle est faite pour... protéger les citoyens européens et la société et s'assurer que les systèmes d'intelligence artificielle qui vont être mis sur le marché, que tu vas pouvoir être amené et être utilisé, respectent et sont conformes aux droits fondamentaux et aux valeurs européennes. Donc, s'assurer que tu ne te retrouves pas avec l'intelligence artificielle. qui permettent une notation sociale. Tu parlais de Black Mirror tout à l'heure, je ne sais pas si un épisode où tu as une jeune femme, une notation sociale qui au fur et à mesure se voit refuser l'accès à un prêt, l'accès à un emploi.
Parce qu'elle est mal notée. Parce qu'elle est mal notée.
Voilà ce que ça change. C'est le fait d'être certain que l'intelligence artificielle ou en tout cas son usage ne permettent pas tout. La question de l'IA acte, ce n'est pas... qu'est-ce que peut faire l'IA ? C'est est-ce que l'on permet à l'IA de tout faire ?
Oui, mais là où j'ai du mal à comprendre, c'est comment est-ce que ça va se traduire ? Comment est-ce que ça va s'inscrire sur ChatGPT ?
Comment est-ce que ça va ? Le premier plan, ça va se traduire au niveau des gens qui vont développer des systèmes d'IA. Donc ce qu'on appelle dans l'IA Act le fournisseur d'un système, cet acteur-là, il ne peut pas développer n'importe quel IA comme il le veut, comme il l'entend et pour n'importe quel usage. C'est déjà la première barrière. Et après, pour les usages, tu vas avoir effectivement l'usage inacceptable qui va être interdit. On va interdire la notation sociale globale, on va interdire de mettre sur le marché des systèmes d'IA qui permettent une police prédictive. Tu vois la référence à Minority Report pour les années 90, ça. Ou de mettre en place des systèmes d'IA qui sont basés sur des techniques subliminales en dessous d'un seuil de conscience.
Oh là là, j'ai rien compris.
des techniques qui vont te faire prendre une décision sans que tu aies la conscience que tu prends cette décision. Donc ça, c'est la première chose. Donc ça, toi, tu ne vas pas le voir parce que ça n'arrivera pas jusqu'à toi, parce que justement, ça va être empêché par les GAACTS. Puis après, tu as les systèmes d'IA qui vont être autorisés, mais qui, dans leur usage, peuvent entraîner et faire peser un certain nombre de risques et qui, elles, vont être encadrées. Donc c'est les fameuses IA à haut risque.
Ah oui, alors c'est quoi ça du coup les IA à haut risque ?
Alors les IA à haut risque, ça va être celles qui traitent d'un sujet qui peut avoir un impact très fort et dangereux sur l'individu. C'est-à-dire un système d'IA qui serait dans le secteur de la santé ou qui interviendrait sur des secteurs primordiales comme l'énergie, l'éducation, l'octroi d'un prêt. l'octroi d'un emploi. Donc là, on est sur des IA qui ont un usage à fort risque et il faut les encadrer pour être sûr que leur utilisation, à la fin, ne porte pas préjudice à un droit fondamental qui est la liberté, la non-discrimination, le pluralisme, toutes ces valeurs sur lesquelles sont fondées l'Europe aujourd'hui.
Et donc, concrètement, encore une fois, c'est... Des nouveaux métiers, alors, qui vont vérifier tout ça ? Comment ça va se passer, en fait ? Tu sais un peu ou tu ne sais pas ?
Compliqué. Techniquement, comment ça va se passer ? C'est toute la difficulté entre la théorie, qui est un choix de société, qui est très important. plutôt belle, plutôt rassurante. Notamment quand tu regardes au niveau mondial les différentes manières d'aborder l'IA, celle de l'IA Act est plutôt très jolie.
C'est ça, mais plus difficile à mettre en place peut-être.
Après, tout l'enjeu c'est effectivement la mise en pratique, à l'échelle pratique, d'arriver à avoir une loi qui soit pertinente, qui soit praticable. Ça veut dire être capable pour les entreprises de la mettre en œuvre sans pour autant que c'est des coûts excessifs qui les mettent en danger, sans pour autant que ça freine l'innovation.
Mais c'est un peu, tiens, je fais un parallèle, mais parce qu'on avait déjà parlé aussi dans un podcast d'accessibilité, tu sais, avec les règlements sur les sites pour les rendre accessibles et tout ça, et que tu es obligée, je crois, de souvenir en tout cas. D'abord sur ton site, qu'est-ce qui est accessible, qu'est-ce qui n'est pas, et ton score d'accessibilité. Donc mine de rien, ils ont réussi. Je ne sais pas si c'était européen, je ne sais même pas d'où ça...
Tu as plusieurs référentiels, mais tu as un référentiel RDA. Oui, je crois qu'on a...
Ah oui, ça me dit quelque chose, on en avait parlé en effet. Et bon, ils avaient réussi. Après, c'est peut-être moins compliqué, mais en tout cas, ça va peut-être se traduire de la même manière. Peut-être que sur les sites, on aura un truc de savoir qu'est-ce qu'ils respectent, qu'est-ce qu'ils ne respectent pas, je ne sais pas quoi.
En tout cas, là pour le coup, tu touches à la notion de transparence.
Oui.
Cette fameuse notion dont on entend parler partout.
C'était tout à fait mon point. Je voulais absolument toucher à la notion de transparence.
La transparence, c'est le fait, pour ces systèmes, d'avoir un niveau d'explicabilité. On va dire ça comme ça. Oui, c'est très bien. Suffisant, je pense. Un niveau d'explication. suffisant pour permettre de comprendre quel est l'usage couvert par l'IA qu'on te propose, quel est son objectif, comment il fonctionne. Alors comment il fonctionne, pas d'un point de vue mathématique ou algorithmique, mais suffisamment pour comprendre la genèse et pouvoir encadrer les éventuelles dérives, pour pouvoir obliger les... les entreprises et les fournisseurs de systèmes à mettre des verrous pour encadrer ces éventuelles dérives et expliquer comment ça marche.
Et donc toi, tu penses que le temps que ça se mette en application, vraiment pour de vrai, ça sera encore dans longtemps ou ça devrait être là bientôt ? Ah oui, vas-y, sauf si tu as une réponse, mais j'avais déjà une autre question. tu vas vite vas-y sur l'autre question l'autre question c'était que j'ai vu passer il n'y a pas longtemps qu'on va devoir mettre sur tout ce qui est fait en IA une petite notion, je ne sais pas comment ça va se traduire un bandeau un petit label fait avec l'IA et tout, est-ce que ça c'est le fruit déjà de IA ou ça n'a rien à voir ?
c'est complètement le fruit de l'IA c'est l'article 50.4 pour être précise Elle est forte. C'est le seul article que je n'ai en tête. C'est déjà impressionnant. Enfin, la numérotation. Donc, c'est complètement issu de l'IACT, qui prévoit que toutes les personnes... Alors, quand on dit personnes, je ne parle pas des usages à destination privée personnelle. On parle de professionnels, d'activités professionnelles. Donc, toutes les personnes qui sont amenées à générer des contenus qui sont... soit générées, soit manipulées par l'IA, doivent être marquées et doivent révéler le fait qu'elles ont utilisé l'IA. Typiquement, c'est un article de l'IA Act. Une fois que ce principe est posé, il y a toute la problématique de sa mise en œuvre. En parallèle de l'IA Act, cette obligation va rentrer en vigueur le 2 août prochain. Donc là aujourd'hui, elle n'est pas encore en vigueur. Elle sera applicable à partir du mois d'août. En parallèle de ce principe... Au mois d'août là, cette année ? Oui, au mois d'août là, cette année.
2026 donc.
En parallèle de cette obligation, tu as donc l'Europe et la Commission européenne qui travaillent sur ce qu'on appelle des guides pratiques, de bonnes pratiques. Des lignes directrices pour aider... les entreprises à comprendre ce que ça veut dire et comprendre comment se mettre en conformité. Aujourd'hui, très clairement, on a un gros retard sur la documentation technique sur différents sujets, mais par exemple sur la transparence aujourd'hui. Tu as un projet de guide de bonne pratique qui a été publié en mars, mais qui est un projet. On attend une version définitive au mois de juin. Tu vois le laps de temps entre une version définitive au mois de juin pour une entrée en vigueur au mois d'août. Tout ça est... va très vite et va nécessiter une implémentation, d'anticiper cette implémentation et puis après de la façonner en fonction des dernières sorties, on va dire, de ce que donnera ce guide de bonne conduite qu'on attend au mois de juin.
Mais du coup, ça me fait penser que, est-ce que là, on n'est pas en train de créer comme une IA un peu européenne et qui n'a rien à voir avec le reste du monde ? Enfin, je ne sais pas exactement comment ça se passe aux États-Unis, en Chine, voilà.
Tu touches effectivement un point. L'Europe a décidé d'aborder l'IA selon un certain angle, qui est centré sur le respect des droits et des valeurs. C'est un choix de société et elle est différente. de la manière dont les États-Unis vont appréhender cette technologie, qui là, en tout cas dans les États-Unis et l'Amérique de Trump, a une vision quand même extrêmement axée marché, c'est-à-dire économique, et qui aurait tendance à moins réguler. Donc aujourd'hui, et puis il faut prendre aussi en considération... la manière dont est organisée l'État des États-Unis, à savoir un État fédéral. Donc tu vas avoir, selon les États, des initiatives différentes, plus ou moins contraignantes, des directives, des recommandations. Aujourd'hui, tu as un gouverneur démocrate en Californie qui, lui, travaille sur un projet qui peut, à certains égards, se rapprocher à l'IAC, alors que d'autres États, on va dire... moins démocrate, plus républicain, vont être beaucoup plus laxistes sur cet encadrement, même contre un encadrement, pour permettre une innovation et donc développer une économie de marché sur cette technologie. Versus la Chine, qui elle a... Alors j'adorerais avoir une vision de l'état de la réglementation dans le monde, mais pas à ce point-là. Elle a des avancées, mais là on a une vision chinoise très étatique, dans le contrôle étatique de ce qui se fait. Donc effectivement, on a... On a un panel très très différent, ce qui est là pour complexifier encore une situation déjà très complexe. Après, la volonté de l'Europe d'avoir été la première à plancher sur ce sujet, c'est aussi, comme elle l'a fait avec le règlement sur les données personnelles, d'essayer d'imposer un référent ou un standard qui puisse imprégner le reste du monde.
C'est par rapport à RGPD et tout ça ? Mais d'ailleurs, ça a peut-être mis autant de temps à se mettre en place. J'imagine que ça a été bien compliqué, ce truc de base de données. On en avait parlé d'ailleurs, je crois, dans un podcast.
Ça a été très long. On est encore en cours, on est affine encore, bien sûr. Et c'est d'ailleurs, tu demandais si c'était la première fois qu'on réglementait une technologie comme ça. Le RGPD, ce n'est pas une technologie puisque c'est la réglementation des données personnelles. Mais pour le coup, elle avait en commun d'être une réglementation générale et transverse. L'IAC, par contre, a en plus un truc très important, et ça c'est vraiment la première fois, c'est que c'est une gestion par les risques. Pour la première fois, on a un législateur qui a décidé de faire une loi au regard des risques pragmatiques que représentait un usage. Ça c'est la première fois.
Et en plus, là où nous on est peut-être plus... Je ne sais pas comment ça marche dans les autres pays, mais il y a quand même la loi, de manière générale, qui nous protège. Que ce soit même en IA ou sur Photoshop, mais tu ne peux pas mettre le visage de quelqu'un sur un corps nu sans être, par exemple, puni. Donc, je ne sais pas si aux Etats-Unis, par exemple, tu peux le faire sans que... Je ne sais pas s'il y a des lois qui...
En Europe, et en tout cas en France, on a ce qu'on appelle le respect à la vie privée, le droit à l'image. Donc, effectivement... Alors indépendamment de l'IA Act, l'IA Act autorise un générateur d'images. Pour autant, toi, tu n'as pas le droit d'utiliser cet générateur de toute façon. Aux États-Unis, ça peut être plus compliqué parce que ce droit au nom, ce droit à l'image, suivant les États, n'est pas tout à fait toujours reconnu comme étant un droit. Donc là, ça pose d'autres problématiques. Donc là, tu as effectivement des grands mouvements qui se... Qui se réveillent aux Etats-Unis, tu as certaines personnes qui enregistrent leur voix et leur image en tant que marque pour être sûre de pouvoir être protégée.
Parce que là, qu'elle serait justement, si tu ne respectes pas les sanctions ? Là pour le coup, sur la loi on sait que quelqu'un va porter plainte contre toi pour diffamation ou pour atteinte à l'image, j'imagine, je ne sais pas comment on dit. alors que là si c'est Une entreprise qui n'a pas respecté bien la réglementation IACT, qui va être très compliquée à mettre en place, j'imagine. Qui sanctionne ? Comment ça se passe ?
Alors, tu as des sanctions qui sont prévues et qui sont très lourdes. Aujourd'hui, les sanctions les plus lourdes qui existent, c'est au terme du RGPD. Ça allait jusqu'à 4% et 20 millions, 4% du chiffre d'affaires mondial. Là, l'IA acte si tu as une entreprise. qui met sur le marché un système d'intelligence artificielle qui est inacceptable ou qui ne respecte pas certaines des obligations, on peut aller jusqu'à une amende qui atteindrait 7% du chiffre d'affaires mondial de l'entreprise, ou plus de 20 millions, je ne sais pas si c'est 25 ou 30, en tout cas c'est supérieur au RGPD. Et alors après, qui est en charge de l'application ? Ça c'est notamment... La Commission européenne a délégué à chaque État le soin de choisir les institutions qui vont suivre. Et donc en France, tu as plusieurs institutions. Tu vas avoir la CNIL au regard des données personnelles, tu vas avoir l'ARCOM, tu vas avoir la DGCCRF pour les pratiques trompeuses. Tu vas avoir, pour le coup, selon les secteurs, différentes institutions. qui peuvent se saisir. Et puis après, tu as la plainte, toi, toi en tant que citoyen, qui estime que ce système t'a porté préjudice et qu'il ne respecte pas l'IA Act.
Mais si, par exemple, moi, j'ai des capacités de codage, notamment avec l'IA et tout, et je développe ma petite IA de notation personnelle. Tu peux te connecter, tu mets ton compte Google, et puis en fait, tu peux noter, tu peux te noter, les gens te notent. Enfin bref, un truc qui ne respecte pas du coup l'IA Act. et donc je ne me fais pas forcément d'argent par exemple dessus, mais je mets ça à disposition du monde, ce sera impossible ?
Non. Alors après, comment tu seras traqué ? À quel moment tu es sanctionnable ? À quel moment tu seras sanctionné et comment ? On va voir ça.
Oui, ça, ce n'est pas encore forcément mis en place du coup.
En tout cas, c'est pensé.
C'est écrit. Comme tu disais tout à l'heure, le temps que ça se mette en place, c'est pas tout de suite, tout de suite. Mais en fait, si je comprends bien aussi, c'est que c'est par chapitre un peu, entre guillemets, parce que de tout lié à actes, puisque tu disais que là, déjà en août, et on enregistre ensemble en mai, donc en août, il va y avoir déjà, donc dans quelques mois, cette première partie qui va sortir, qui dit, ah, voilà le petit label que vous devez mettre à chaque fois que vous utilisez l'IA. Ça, c'est une petite partie, donc ça va peut-être sortir aussi.
Et il y en a déjà eu auparavant, c'est-à-dire... C'est-à-dire que les premières, donc l'IAC est rentrée en vigueur en 2024, et en février 2025, les premières stipulations, dispositions qui sont rentrées en vigueur étaient celles relatives au système inacceptable. Donc depuis février 2025, toute une liste d'usages, et donc de systèmes, d'intelligence artificielle ont été interdits et c'est aujourd'hui en vigueur et c'est applicable, tu n'as pas le droit de mettre en place un usage qui permet une police prédictive comme on a déjà dit tout à l'heure.
Oui, ok. Et même peut-être ça va se réguler aussi directement par par exemple l'Apple Store, les Google Store et tout qui vont peut-être aussi checker qu'est-ce qui est mis à disposition. Sauf qu'eux aussi vont faire un filtre
Tu vas avoir aussi une chaîne de responsabilité en chaîne. C'est-à-dire que tu as celui qui est le fournisseur, qui doit respecter des réglementations, mais tu as l'utilisateur, le déployeur, l'entreprise qui va utiliser un système d'IA, qui lui doit, a une responsabilité, celle de s'assurer que le système qu'elle utilise est bien conforme. Donc tu as cette chaîne de responsabilité. Tu as le fournisseur, mais tu as celui qui va l'utiliser, qui doit aussi s'assurer que... que ce système est fait correctement, conformément aux règlements.
Et je reprends un peu le même exemple que l'accessibilité tout à l'heure, mais puisque aussi on a des gens qui se sont formés à l'accessibilité pour justement faire des sites accessibles et tout, là, ça risque d'être la même chose. J'imagine qu'il va falloir aussi former les gens qui vont développer les IA à être formés à l'IA Act, quoi.
Et notamment, effectivement, tout un pan qu'on appelle la compliance. qu'on a connu avec le RGPD, le système d'être responsable, accountable au sens anglais, c'est la blague quand même que je donne un mot en anglais, mais c'est-à-dire effectivement toute une partie de conformité, c'est-à-dire tu es responsable, toi, d'assurer la conformité du produit que tu mets sur le marché ou de celui que tu utilises.
On arrive déjà quasi à la fin, ma chère Valérie. On pourrait en parler des heures, j'ai l'impression. Et surtout, on pourrait en parler tous les deux mois, parce qu'il va y avoir plein de nouveaux...
On pourrait en parler régulièrement et très longtemps. Et très longtemps. Tellement le sujet est complexe, c'est faux.
Est-ce que quand même, avant qu'on raccroche, t'as des petites choses à rajouter, ou des trucs que tu t'es dit, tiens, ça on n'en a pas parlé, c'est peut-être dommage, voilà. C'est vrai qu'on n'a même pas évoqué, par exemple, tout ce qui est, je ne sais même pas si c'est lié à l'IACT et tout, mais tout ce qui est lié aux droits d'auteur, par exemple, tu vois, derrière les images. Bah ouais, c'est ça, on pourrait faire un... Votre question est-elle assumée ?
Complètement. L'IA Act ne parle pas, ne touche pas le système de droit d'auteur. Ce n'est pas son sujet. En revanche, c'est un véritable sujet. On touche là l'avenir des entreprises et de l'industrie culturelle, vu l'usage et ce qui peut être fait grâce à l'IA, et notamment le... la question du partage de valeurs et de l'entraînement de tous ces systèmes d'intelligence artificielle sur des bases de données qui, elles, donnent prise à une protection de droits d'auteur.
Des écrivains, des artistes, des photographes.
Et aujourd'hui, l'échelle que permet l'intelligence artificielle pose la question, effectivement, de comment on partage cette valeur. C'est-à-dire qu'on crée, le système d'intelligence artificielle crée une valeur À partir d'un entraînement, aujourd'hui, ou en tout cas au départ, beaucoup sont partis du principe que ça ne nécessitait aucune autorisation ni aucun paiement. On est aujourd'hui en voie de réflexion sur le fait de dire s'il faut qu'il y ait un partage économique de cette valeur pour préserver aussi ces entreprises culturelles et l'avenir de... de la culture, je pense très clairement.
Oui, ce serait important ça.
Oui, ça serait très important. Donc ça, c'est en parallèle de l'IA. Aujourd'hui en France, tu as des projets de loi qui touchent ce point précis pour protéger, mieux protéger ou permettre en tout cas aux auteurs ayant droit de négocier des licences auprès des grands fournisseurs d'IA qui se
nourrissent de tout ça.
donc t'as ce point et puis évidemment t'as un autre point qui est l'aspect environnemental et énergétique qui n'est pas traité par l'IA Act qui
est un sujet bon bah on a de quoi se reparler pour la prochaine fois alors ma chère Valérie merci beaucoup grâce à toi, j'ai compris beaucoup de choses je pense que la prochaine fois on se parlera de Vivatech à mon avis vu qu'on est là d'ici là prenez soin de vous et des bisous
Description
La loi européenne sur l'intelligence artificielle va bientôt arriver, se mettre en place toussa toussa, même si ça va prendre du temps. Et donc on parle de tout ça avec Valérie. Et franchement, c'est quand même déjà beaucoup plus clair !
Hébergé par Ausha. Visitez ausha.co/politique-de-confidentialite pour plus d'informations.
Transcription
Bienvenue dans « J'ai pas compris » , le podcast qui parle de trucs qu'on n'a pas vraiment compris, avec des gens qui les ont quand même plus compris que nous, ou que moi en tout cas. Alors aujourd'hui, on va parler de l'IA Act. Encore un truc avec IA dedans, donc normalement c'est soit une révolution, soit une menace, soit les deux en même temps quoi. Et pour m'aider... Et à comprendre, je ne suis évidemment pas toute seule, puisque j'ai la chance d'avoir à mes côtés Valérie Mott, directrice légale, technologie et stratégie. Salut Valérie !
Salut Nalouen !
Alors, l'IA Act, de ce que j'ai compris, je ne vais pas aller très très loin, c'est une loi européenne qui vise à encadrer l'intelligence artificielle. Bon voilà, jusque là ça va. Sauf qu'en creusant un tout petit peu, on comprend que ce n'est pas juste une loi, c'est un truc, tu vas nous expliquer ça beaucoup mieux que moi. qui classent les IA par niveau de risque. Genre, certaines sont OK, certaines sont surveillées, certaines sont carrément interdites. Donc, en gros, des gens importants en Europe se sont dit « Bon, Michel, les machines deviennent de plus en plus puissantes. Peut-être qu'on va mettre deux, trois règles avant qu'on se retrouve dans un épisode de Black Mirror qu'on n'a pas signé pour. » Et ça, sur le papier, c'est plutôt rassurant. Mais du coup, ça pose pas mal de questions. Déjà, c'est quoi une IA à risque ? Qui décide sur quels critères ? Est-ce que ChatGPT, par exemple, c'est risqué ou pas ? Est-ce que ça va freiner l'innovation ou au contraire ? éviter qu'on fasse n'importe quoi ? Et surtout, est-ce que c'est vraiment applicable à des technologies qui évoluent tous les trois mois, alors que les lois mettent parfois des années à être votées ? Parce que là, sur le papier, en tout cas, j'ai un peu l'impression qu'on essaie de réguler un truc qui est déjà en train de nous dépasser. Donc, on va commencer par le début. Déjà, Valérie, c'est quoi exactement l'IA Act ?
Alors, l'IA Act, comme tu le disais, c'est le premier projet de réglementation... de l'intelligence artificielle. Je ne l'ai pas dit aussi bien que ça.
C'est le premier projet.
C'est une initiative européenne. C'est la première au monde. Elle vise effectivement à réguler l'intelligence artificielle, mais plus précisément, et c'est ça qu'il faut avoir en tête, c'est l'usage que l'on fait de l'intelligence artificielle. Ça vise à encadrer les usages possibles grâce à l'IA. en fonction du risque que ce système d'intelligence artificielle, au regard d'un usage donné, va pouvoir faire peser sur un individu ou sur la société.
Et tu dis que c'est le premier, mais pourtant il y a déjà eu par exemple des IAM qui ont été interdites dans des pays. Mais du coup, interdit ne veut pas dire régulier, et c'est là où tu dis que c'est plutôt la première fois qu'il y a ce truc-là de régulation ? Alors,
quand je dis le premier projet de régulation, c'est le premier projet de... de règlement qui est transverse et horizontal et qui vise à encadrer les usages qu'on peut faire d'une technologie de façon générale et horizontale, quel que soit le secteur, quel que soit l'usage. Quand tu dis horizontal, qu'est-ce que tu veux dire par là ? Horizontal, c'est justement quel que soit le secteur, quel que soit l'usage. Jusqu'à présent, les technologies, on a été emmené évidemment à encadrer des technologies, mais... Si on parle par exemple des télécoms, ce n'était pas la technologie des télécoms qu'on encadrait, c'était le secteur des télécoms qu'on régulait. Télécoms,
pour les vieilles personnes qui nous écoutent. Télécoms, c'était quoi ? Les premières communications par téléphone ? Oui,
où tu as, après si on vise Internet, tu n'as pas eu de réglementation générale sur Internet. Tu as aujourd'hui, au fur et à mesure, des réglementations qui se font sur des aspects spécifiques liés aux nouvelles technologies. Et puis, c'est en ça que c'était la première réglementation au monde et qui a commencé, l'Europe a commencé à se poser la question. En 2019, le premier projet a été publié en
2021. Mais il ne s'est rien passé. C'était des discussions,
c'était des projets, c'était en vue de l'élaboration de ce règlement. Là où la donne a été un peu chamboulée, c'est l'avènement de Tchadjébeté en novembre 2022 qui a présenté au grand public l'IA et qui a de ce fait entraîné la création d'un usage et d'une pratique avant même que la réglementation ne soit en place et même terminée. Voilà, je te dis, le premier projet de règlement, il a été publié en 2021, ce qui veut dire que les travaux ont commencé en 2019. Elle est entrée en vigueur en août 2024 et elle n'est pas encore complètement en application aujourd'hui. Le règlement a prévu une application progressive de ces dispositions pour permettre à toutes les parties prenantes de se mettre en conformité.
Mais du coup, ça va se traduire comment concrètement ? Quelle va être la différence ? Et est-ce que nous, même en tant qu'utilisateurs et utilisatrices, on va s'en rendre compte de ce truc-là ?
Alors, est-ce qu'on va s'en rendre compte ? Elle est faite pour... protéger les citoyens européens et la société et s'assurer que les systèmes d'intelligence artificielle qui vont être mis sur le marché, que tu vas pouvoir être amené et être utilisé, respectent et sont conformes aux droits fondamentaux et aux valeurs européennes. Donc, s'assurer que tu ne te retrouves pas avec l'intelligence artificielle. qui permettent une notation sociale. Tu parlais de Black Mirror tout à l'heure, je ne sais pas si un épisode où tu as une jeune femme, une notation sociale qui au fur et à mesure se voit refuser l'accès à un prêt, l'accès à un emploi.
Parce qu'elle est mal notée. Parce qu'elle est mal notée.
Voilà ce que ça change. C'est le fait d'être certain que l'intelligence artificielle ou en tout cas son usage ne permettent pas tout. La question de l'IA acte, ce n'est pas... qu'est-ce que peut faire l'IA ? C'est est-ce que l'on permet à l'IA de tout faire ?
Oui, mais là où j'ai du mal à comprendre, c'est comment est-ce que ça va se traduire ? Comment est-ce que ça va s'inscrire sur ChatGPT ?
Comment est-ce que ça va ? Le premier plan, ça va se traduire au niveau des gens qui vont développer des systèmes d'IA. Donc ce qu'on appelle dans l'IA Act le fournisseur d'un système, cet acteur-là, il ne peut pas développer n'importe quel IA comme il le veut, comme il l'entend et pour n'importe quel usage. C'est déjà la première barrière. Et après, pour les usages, tu vas avoir effectivement l'usage inacceptable qui va être interdit. On va interdire la notation sociale globale, on va interdire de mettre sur le marché des systèmes d'IA qui permettent une police prédictive. Tu vois la référence à Minority Report pour les années 90, ça. Ou de mettre en place des systèmes d'IA qui sont basés sur des techniques subliminales en dessous d'un seuil de conscience.
Oh là là, j'ai rien compris.
des techniques qui vont te faire prendre une décision sans que tu aies la conscience que tu prends cette décision. Donc ça, c'est la première chose. Donc ça, toi, tu ne vas pas le voir parce que ça n'arrivera pas jusqu'à toi, parce que justement, ça va être empêché par les GAACTS. Puis après, tu as les systèmes d'IA qui vont être autorisés, mais qui, dans leur usage, peuvent entraîner et faire peser un certain nombre de risques et qui, elles, vont être encadrées. Donc c'est les fameuses IA à haut risque.
Ah oui, alors c'est quoi ça du coup les IA à haut risque ?
Alors les IA à haut risque, ça va être celles qui traitent d'un sujet qui peut avoir un impact très fort et dangereux sur l'individu. C'est-à-dire un système d'IA qui serait dans le secteur de la santé ou qui interviendrait sur des secteurs primordiales comme l'énergie, l'éducation, l'octroi d'un prêt. l'octroi d'un emploi. Donc là, on est sur des IA qui ont un usage à fort risque et il faut les encadrer pour être sûr que leur utilisation, à la fin, ne porte pas préjudice à un droit fondamental qui est la liberté, la non-discrimination, le pluralisme, toutes ces valeurs sur lesquelles sont fondées l'Europe aujourd'hui.
Et donc, concrètement, encore une fois, c'est... Des nouveaux métiers, alors, qui vont vérifier tout ça ? Comment ça va se passer, en fait ? Tu sais un peu ou tu ne sais pas ?
Compliqué. Techniquement, comment ça va se passer ? C'est toute la difficulté entre la théorie, qui est un choix de société, qui est très important. plutôt belle, plutôt rassurante. Notamment quand tu regardes au niveau mondial les différentes manières d'aborder l'IA, celle de l'IA Act est plutôt très jolie.
C'est ça, mais plus difficile à mettre en place peut-être.
Après, tout l'enjeu c'est effectivement la mise en pratique, à l'échelle pratique, d'arriver à avoir une loi qui soit pertinente, qui soit praticable. Ça veut dire être capable pour les entreprises de la mettre en œuvre sans pour autant que c'est des coûts excessifs qui les mettent en danger, sans pour autant que ça freine l'innovation.
Mais c'est un peu, tiens, je fais un parallèle, mais parce qu'on avait déjà parlé aussi dans un podcast d'accessibilité, tu sais, avec les règlements sur les sites pour les rendre accessibles et tout ça, et que tu es obligée, je crois, de souvenir en tout cas. D'abord sur ton site, qu'est-ce qui est accessible, qu'est-ce qui n'est pas, et ton score d'accessibilité. Donc mine de rien, ils ont réussi. Je ne sais pas si c'était européen, je ne sais même pas d'où ça...
Tu as plusieurs référentiels, mais tu as un référentiel RDA. Oui, je crois qu'on a...
Ah oui, ça me dit quelque chose, on en avait parlé en effet. Et bon, ils avaient réussi. Après, c'est peut-être moins compliqué, mais en tout cas, ça va peut-être se traduire de la même manière. Peut-être que sur les sites, on aura un truc de savoir qu'est-ce qu'ils respectent, qu'est-ce qu'ils ne respectent pas, je ne sais pas quoi.
En tout cas, là pour le coup, tu touches à la notion de transparence.
Oui.
Cette fameuse notion dont on entend parler partout.
C'était tout à fait mon point. Je voulais absolument toucher à la notion de transparence.
La transparence, c'est le fait, pour ces systèmes, d'avoir un niveau d'explicabilité. On va dire ça comme ça. Oui, c'est très bien. Suffisant, je pense. Un niveau d'explication. suffisant pour permettre de comprendre quel est l'usage couvert par l'IA qu'on te propose, quel est son objectif, comment il fonctionne. Alors comment il fonctionne, pas d'un point de vue mathématique ou algorithmique, mais suffisamment pour comprendre la genèse et pouvoir encadrer les éventuelles dérives, pour pouvoir obliger les... les entreprises et les fournisseurs de systèmes à mettre des verrous pour encadrer ces éventuelles dérives et expliquer comment ça marche.
Et donc toi, tu penses que le temps que ça se mette en application, vraiment pour de vrai, ça sera encore dans longtemps ou ça devrait être là bientôt ? Ah oui, vas-y, sauf si tu as une réponse, mais j'avais déjà une autre question. tu vas vite vas-y sur l'autre question l'autre question c'était que j'ai vu passer il n'y a pas longtemps qu'on va devoir mettre sur tout ce qui est fait en IA une petite notion, je ne sais pas comment ça va se traduire un bandeau un petit label fait avec l'IA et tout, est-ce que ça c'est le fruit déjà de IA ou ça n'a rien à voir ?
c'est complètement le fruit de l'IA c'est l'article 50.4 pour être précise Elle est forte. C'est le seul article que je n'ai en tête. C'est déjà impressionnant. Enfin, la numérotation. Donc, c'est complètement issu de l'IACT, qui prévoit que toutes les personnes... Alors, quand on dit personnes, je ne parle pas des usages à destination privée personnelle. On parle de professionnels, d'activités professionnelles. Donc, toutes les personnes qui sont amenées à générer des contenus qui sont... soit générées, soit manipulées par l'IA, doivent être marquées et doivent révéler le fait qu'elles ont utilisé l'IA. Typiquement, c'est un article de l'IA Act. Une fois que ce principe est posé, il y a toute la problématique de sa mise en œuvre. En parallèle de l'IA Act, cette obligation va rentrer en vigueur le 2 août prochain. Donc là aujourd'hui, elle n'est pas encore en vigueur. Elle sera applicable à partir du mois d'août. En parallèle de ce principe... Au mois d'août là, cette année ? Oui, au mois d'août là, cette année.
2026 donc.
En parallèle de cette obligation, tu as donc l'Europe et la Commission européenne qui travaillent sur ce qu'on appelle des guides pratiques, de bonnes pratiques. Des lignes directrices pour aider... les entreprises à comprendre ce que ça veut dire et comprendre comment se mettre en conformité. Aujourd'hui, très clairement, on a un gros retard sur la documentation technique sur différents sujets, mais par exemple sur la transparence aujourd'hui. Tu as un projet de guide de bonne pratique qui a été publié en mars, mais qui est un projet. On attend une version définitive au mois de juin. Tu vois le laps de temps entre une version définitive au mois de juin pour une entrée en vigueur au mois d'août. Tout ça est... va très vite et va nécessiter une implémentation, d'anticiper cette implémentation et puis après de la façonner en fonction des dernières sorties, on va dire, de ce que donnera ce guide de bonne conduite qu'on attend au mois de juin.
Mais du coup, ça me fait penser que, est-ce que là, on n'est pas en train de créer comme une IA un peu européenne et qui n'a rien à voir avec le reste du monde ? Enfin, je ne sais pas exactement comment ça se passe aux États-Unis, en Chine, voilà.
Tu touches effectivement un point. L'Europe a décidé d'aborder l'IA selon un certain angle, qui est centré sur le respect des droits et des valeurs. C'est un choix de société et elle est différente. de la manière dont les États-Unis vont appréhender cette technologie, qui là, en tout cas dans les États-Unis et l'Amérique de Trump, a une vision quand même extrêmement axée marché, c'est-à-dire économique, et qui aurait tendance à moins réguler. Donc aujourd'hui, et puis il faut prendre aussi en considération... la manière dont est organisée l'État des États-Unis, à savoir un État fédéral. Donc tu vas avoir, selon les États, des initiatives différentes, plus ou moins contraignantes, des directives, des recommandations. Aujourd'hui, tu as un gouverneur démocrate en Californie qui, lui, travaille sur un projet qui peut, à certains égards, se rapprocher à l'IAC, alors que d'autres États, on va dire... moins démocrate, plus républicain, vont être beaucoup plus laxistes sur cet encadrement, même contre un encadrement, pour permettre une innovation et donc développer une économie de marché sur cette technologie. Versus la Chine, qui elle a... Alors j'adorerais avoir une vision de l'état de la réglementation dans le monde, mais pas à ce point-là. Elle a des avancées, mais là on a une vision chinoise très étatique, dans le contrôle étatique de ce qui se fait. Donc effectivement, on a... On a un panel très très différent, ce qui est là pour complexifier encore une situation déjà très complexe. Après, la volonté de l'Europe d'avoir été la première à plancher sur ce sujet, c'est aussi, comme elle l'a fait avec le règlement sur les données personnelles, d'essayer d'imposer un référent ou un standard qui puisse imprégner le reste du monde.
C'est par rapport à RGPD et tout ça ? Mais d'ailleurs, ça a peut-être mis autant de temps à se mettre en place. J'imagine que ça a été bien compliqué, ce truc de base de données. On en avait parlé d'ailleurs, je crois, dans un podcast.
Ça a été très long. On est encore en cours, on est affine encore, bien sûr. Et c'est d'ailleurs, tu demandais si c'était la première fois qu'on réglementait une technologie comme ça. Le RGPD, ce n'est pas une technologie puisque c'est la réglementation des données personnelles. Mais pour le coup, elle avait en commun d'être une réglementation générale et transverse. L'IAC, par contre, a en plus un truc très important, et ça c'est vraiment la première fois, c'est que c'est une gestion par les risques. Pour la première fois, on a un législateur qui a décidé de faire une loi au regard des risques pragmatiques que représentait un usage. Ça c'est la première fois.
Et en plus, là où nous on est peut-être plus... Je ne sais pas comment ça marche dans les autres pays, mais il y a quand même la loi, de manière générale, qui nous protège. Que ce soit même en IA ou sur Photoshop, mais tu ne peux pas mettre le visage de quelqu'un sur un corps nu sans être, par exemple, puni. Donc, je ne sais pas si aux Etats-Unis, par exemple, tu peux le faire sans que... Je ne sais pas s'il y a des lois qui...
En Europe, et en tout cas en France, on a ce qu'on appelle le respect à la vie privée, le droit à l'image. Donc, effectivement... Alors indépendamment de l'IA Act, l'IA Act autorise un générateur d'images. Pour autant, toi, tu n'as pas le droit d'utiliser cet générateur de toute façon. Aux États-Unis, ça peut être plus compliqué parce que ce droit au nom, ce droit à l'image, suivant les États, n'est pas tout à fait toujours reconnu comme étant un droit. Donc là, ça pose d'autres problématiques. Donc là, tu as effectivement des grands mouvements qui se... Qui se réveillent aux Etats-Unis, tu as certaines personnes qui enregistrent leur voix et leur image en tant que marque pour être sûre de pouvoir être protégée.
Parce que là, qu'elle serait justement, si tu ne respectes pas les sanctions ? Là pour le coup, sur la loi on sait que quelqu'un va porter plainte contre toi pour diffamation ou pour atteinte à l'image, j'imagine, je ne sais pas comment on dit. alors que là si c'est Une entreprise qui n'a pas respecté bien la réglementation IACT, qui va être très compliquée à mettre en place, j'imagine. Qui sanctionne ? Comment ça se passe ?
Alors, tu as des sanctions qui sont prévues et qui sont très lourdes. Aujourd'hui, les sanctions les plus lourdes qui existent, c'est au terme du RGPD. Ça allait jusqu'à 4% et 20 millions, 4% du chiffre d'affaires mondial. Là, l'IA acte si tu as une entreprise. qui met sur le marché un système d'intelligence artificielle qui est inacceptable ou qui ne respecte pas certaines des obligations, on peut aller jusqu'à une amende qui atteindrait 7% du chiffre d'affaires mondial de l'entreprise, ou plus de 20 millions, je ne sais pas si c'est 25 ou 30, en tout cas c'est supérieur au RGPD. Et alors après, qui est en charge de l'application ? Ça c'est notamment... La Commission européenne a délégué à chaque État le soin de choisir les institutions qui vont suivre. Et donc en France, tu as plusieurs institutions. Tu vas avoir la CNIL au regard des données personnelles, tu vas avoir l'ARCOM, tu vas avoir la DGCCRF pour les pratiques trompeuses. Tu vas avoir, pour le coup, selon les secteurs, différentes institutions. qui peuvent se saisir. Et puis après, tu as la plainte, toi, toi en tant que citoyen, qui estime que ce système t'a porté préjudice et qu'il ne respecte pas l'IA Act.
Mais si, par exemple, moi, j'ai des capacités de codage, notamment avec l'IA et tout, et je développe ma petite IA de notation personnelle. Tu peux te connecter, tu mets ton compte Google, et puis en fait, tu peux noter, tu peux te noter, les gens te notent. Enfin bref, un truc qui ne respecte pas du coup l'IA Act. et donc je ne me fais pas forcément d'argent par exemple dessus, mais je mets ça à disposition du monde, ce sera impossible ?
Non. Alors après, comment tu seras traqué ? À quel moment tu es sanctionnable ? À quel moment tu seras sanctionné et comment ? On va voir ça.
Oui, ça, ce n'est pas encore forcément mis en place du coup.
En tout cas, c'est pensé.
C'est écrit. Comme tu disais tout à l'heure, le temps que ça se mette en place, c'est pas tout de suite, tout de suite. Mais en fait, si je comprends bien aussi, c'est que c'est par chapitre un peu, entre guillemets, parce que de tout lié à actes, puisque tu disais que là, déjà en août, et on enregistre ensemble en mai, donc en août, il va y avoir déjà, donc dans quelques mois, cette première partie qui va sortir, qui dit, ah, voilà le petit label que vous devez mettre à chaque fois que vous utilisez l'IA. Ça, c'est une petite partie, donc ça va peut-être sortir aussi.
Et il y en a déjà eu auparavant, c'est-à-dire... C'est-à-dire que les premières, donc l'IAC est rentrée en vigueur en 2024, et en février 2025, les premières stipulations, dispositions qui sont rentrées en vigueur étaient celles relatives au système inacceptable. Donc depuis février 2025, toute une liste d'usages, et donc de systèmes, d'intelligence artificielle ont été interdits et c'est aujourd'hui en vigueur et c'est applicable, tu n'as pas le droit de mettre en place un usage qui permet une police prédictive comme on a déjà dit tout à l'heure.
Oui, ok. Et même peut-être ça va se réguler aussi directement par par exemple l'Apple Store, les Google Store et tout qui vont peut-être aussi checker qu'est-ce qui est mis à disposition. Sauf qu'eux aussi vont faire un filtre
Tu vas avoir aussi une chaîne de responsabilité en chaîne. C'est-à-dire que tu as celui qui est le fournisseur, qui doit respecter des réglementations, mais tu as l'utilisateur, le déployeur, l'entreprise qui va utiliser un système d'IA, qui lui doit, a une responsabilité, celle de s'assurer que le système qu'elle utilise est bien conforme. Donc tu as cette chaîne de responsabilité. Tu as le fournisseur, mais tu as celui qui va l'utiliser, qui doit aussi s'assurer que... que ce système est fait correctement, conformément aux règlements.
Et je reprends un peu le même exemple que l'accessibilité tout à l'heure, mais puisque aussi on a des gens qui se sont formés à l'accessibilité pour justement faire des sites accessibles et tout, là, ça risque d'être la même chose. J'imagine qu'il va falloir aussi former les gens qui vont développer les IA à être formés à l'IA Act, quoi.
Et notamment, effectivement, tout un pan qu'on appelle la compliance. qu'on a connu avec le RGPD, le système d'être responsable, accountable au sens anglais, c'est la blague quand même que je donne un mot en anglais, mais c'est-à-dire effectivement toute une partie de conformité, c'est-à-dire tu es responsable, toi, d'assurer la conformité du produit que tu mets sur le marché ou de celui que tu utilises.
On arrive déjà quasi à la fin, ma chère Valérie. On pourrait en parler des heures, j'ai l'impression. Et surtout, on pourrait en parler tous les deux mois, parce qu'il va y avoir plein de nouveaux...
On pourrait en parler régulièrement et très longtemps. Et très longtemps. Tellement le sujet est complexe, c'est faux.
Est-ce que quand même, avant qu'on raccroche, t'as des petites choses à rajouter, ou des trucs que tu t'es dit, tiens, ça on n'en a pas parlé, c'est peut-être dommage, voilà. C'est vrai qu'on n'a même pas évoqué, par exemple, tout ce qui est, je ne sais même pas si c'est lié à l'IACT et tout, mais tout ce qui est lié aux droits d'auteur, par exemple, tu vois, derrière les images. Bah ouais, c'est ça, on pourrait faire un... Votre question est-elle assumée ?
Complètement. L'IA Act ne parle pas, ne touche pas le système de droit d'auteur. Ce n'est pas son sujet. En revanche, c'est un véritable sujet. On touche là l'avenir des entreprises et de l'industrie culturelle, vu l'usage et ce qui peut être fait grâce à l'IA, et notamment le... la question du partage de valeurs et de l'entraînement de tous ces systèmes d'intelligence artificielle sur des bases de données qui, elles, donnent prise à une protection de droits d'auteur.
Des écrivains, des artistes, des photographes.
Et aujourd'hui, l'échelle que permet l'intelligence artificielle pose la question, effectivement, de comment on partage cette valeur. C'est-à-dire qu'on crée, le système d'intelligence artificielle crée une valeur À partir d'un entraînement, aujourd'hui, ou en tout cas au départ, beaucoup sont partis du principe que ça ne nécessitait aucune autorisation ni aucun paiement. On est aujourd'hui en voie de réflexion sur le fait de dire s'il faut qu'il y ait un partage économique de cette valeur pour préserver aussi ces entreprises culturelles et l'avenir de... de la culture, je pense très clairement.
Oui, ce serait important ça.
Oui, ça serait très important. Donc ça, c'est en parallèle de l'IA. Aujourd'hui en France, tu as des projets de loi qui touchent ce point précis pour protéger, mieux protéger ou permettre en tout cas aux auteurs ayant droit de négocier des licences auprès des grands fournisseurs d'IA qui se
nourrissent de tout ça.
donc t'as ce point et puis évidemment t'as un autre point qui est l'aspect environnemental et énergétique qui n'est pas traité par l'IA Act qui
est un sujet bon bah on a de quoi se reparler pour la prochaine fois alors ma chère Valérie merci beaucoup grâce à toi, j'ai compris beaucoup de choses je pense que la prochaine fois on se parlera de Vivatech à mon avis vu qu'on est là d'ici là prenez soin de vous et des bisous
Share
Embed
You may also like
Description
La loi européenne sur l'intelligence artificielle va bientôt arriver, se mettre en place toussa toussa, même si ça va prendre du temps. Et donc on parle de tout ça avec Valérie. Et franchement, c'est quand même déjà beaucoup plus clair !
Hébergé par Ausha. Visitez ausha.co/politique-de-confidentialite pour plus d'informations.
Transcription
Bienvenue dans « J'ai pas compris » , le podcast qui parle de trucs qu'on n'a pas vraiment compris, avec des gens qui les ont quand même plus compris que nous, ou que moi en tout cas. Alors aujourd'hui, on va parler de l'IA Act. Encore un truc avec IA dedans, donc normalement c'est soit une révolution, soit une menace, soit les deux en même temps quoi. Et pour m'aider... Et à comprendre, je ne suis évidemment pas toute seule, puisque j'ai la chance d'avoir à mes côtés Valérie Mott, directrice légale, technologie et stratégie. Salut Valérie !
Salut Nalouen !
Alors, l'IA Act, de ce que j'ai compris, je ne vais pas aller très très loin, c'est une loi européenne qui vise à encadrer l'intelligence artificielle. Bon voilà, jusque là ça va. Sauf qu'en creusant un tout petit peu, on comprend que ce n'est pas juste une loi, c'est un truc, tu vas nous expliquer ça beaucoup mieux que moi. qui classent les IA par niveau de risque. Genre, certaines sont OK, certaines sont surveillées, certaines sont carrément interdites. Donc, en gros, des gens importants en Europe se sont dit « Bon, Michel, les machines deviennent de plus en plus puissantes. Peut-être qu'on va mettre deux, trois règles avant qu'on se retrouve dans un épisode de Black Mirror qu'on n'a pas signé pour. » Et ça, sur le papier, c'est plutôt rassurant. Mais du coup, ça pose pas mal de questions. Déjà, c'est quoi une IA à risque ? Qui décide sur quels critères ? Est-ce que ChatGPT, par exemple, c'est risqué ou pas ? Est-ce que ça va freiner l'innovation ou au contraire ? éviter qu'on fasse n'importe quoi ? Et surtout, est-ce que c'est vraiment applicable à des technologies qui évoluent tous les trois mois, alors que les lois mettent parfois des années à être votées ? Parce que là, sur le papier, en tout cas, j'ai un peu l'impression qu'on essaie de réguler un truc qui est déjà en train de nous dépasser. Donc, on va commencer par le début. Déjà, Valérie, c'est quoi exactement l'IA Act ?
Alors, l'IA Act, comme tu le disais, c'est le premier projet de réglementation... de l'intelligence artificielle. Je ne l'ai pas dit aussi bien que ça.
C'est le premier projet.
C'est une initiative européenne. C'est la première au monde. Elle vise effectivement à réguler l'intelligence artificielle, mais plus précisément, et c'est ça qu'il faut avoir en tête, c'est l'usage que l'on fait de l'intelligence artificielle. Ça vise à encadrer les usages possibles grâce à l'IA. en fonction du risque que ce système d'intelligence artificielle, au regard d'un usage donné, va pouvoir faire peser sur un individu ou sur la société.
Et tu dis que c'est le premier, mais pourtant il y a déjà eu par exemple des IAM qui ont été interdites dans des pays. Mais du coup, interdit ne veut pas dire régulier, et c'est là où tu dis que c'est plutôt la première fois qu'il y a ce truc-là de régulation ? Alors,
quand je dis le premier projet de régulation, c'est le premier projet de... de règlement qui est transverse et horizontal et qui vise à encadrer les usages qu'on peut faire d'une technologie de façon générale et horizontale, quel que soit le secteur, quel que soit l'usage. Quand tu dis horizontal, qu'est-ce que tu veux dire par là ? Horizontal, c'est justement quel que soit le secteur, quel que soit l'usage. Jusqu'à présent, les technologies, on a été emmené évidemment à encadrer des technologies, mais... Si on parle par exemple des télécoms, ce n'était pas la technologie des télécoms qu'on encadrait, c'était le secteur des télécoms qu'on régulait. Télécoms,
pour les vieilles personnes qui nous écoutent. Télécoms, c'était quoi ? Les premières communications par téléphone ? Oui,
où tu as, après si on vise Internet, tu n'as pas eu de réglementation générale sur Internet. Tu as aujourd'hui, au fur et à mesure, des réglementations qui se font sur des aspects spécifiques liés aux nouvelles technologies. Et puis, c'est en ça que c'était la première réglementation au monde et qui a commencé, l'Europe a commencé à se poser la question. En 2019, le premier projet a été publié en
2021. Mais il ne s'est rien passé. C'était des discussions,
c'était des projets, c'était en vue de l'élaboration de ce règlement. Là où la donne a été un peu chamboulée, c'est l'avènement de Tchadjébeté en novembre 2022 qui a présenté au grand public l'IA et qui a de ce fait entraîné la création d'un usage et d'une pratique avant même que la réglementation ne soit en place et même terminée. Voilà, je te dis, le premier projet de règlement, il a été publié en 2021, ce qui veut dire que les travaux ont commencé en 2019. Elle est entrée en vigueur en août 2024 et elle n'est pas encore complètement en application aujourd'hui. Le règlement a prévu une application progressive de ces dispositions pour permettre à toutes les parties prenantes de se mettre en conformité.
Mais du coup, ça va se traduire comment concrètement ? Quelle va être la différence ? Et est-ce que nous, même en tant qu'utilisateurs et utilisatrices, on va s'en rendre compte de ce truc-là ?
Alors, est-ce qu'on va s'en rendre compte ? Elle est faite pour... protéger les citoyens européens et la société et s'assurer que les systèmes d'intelligence artificielle qui vont être mis sur le marché, que tu vas pouvoir être amené et être utilisé, respectent et sont conformes aux droits fondamentaux et aux valeurs européennes. Donc, s'assurer que tu ne te retrouves pas avec l'intelligence artificielle. qui permettent une notation sociale. Tu parlais de Black Mirror tout à l'heure, je ne sais pas si un épisode où tu as une jeune femme, une notation sociale qui au fur et à mesure se voit refuser l'accès à un prêt, l'accès à un emploi.
Parce qu'elle est mal notée. Parce qu'elle est mal notée.
Voilà ce que ça change. C'est le fait d'être certain que l'intelligence artificielle ou en tout cas son usage ne permettent pas tout. La question de l'IA acte, ce n'est pas... qu'est-ce que peut faire l'IA ? C'est est-ce que l'on permet à l'IA de tout faire ?
Oui, mais là où j'ai du mal à comprendre, c'est comment est-ce que ça va se traduire ? Comment est-ce que ça va s'inscrire sur ChatGPT ?
Comment est-ce que ça va ? Le premier plan, ça va se traduire au niveau des gens qui vont développer des systèmes d'IA. Donc ce qu'on appelle dans l'IA Act le fournisseur d'un système, cet acteur-là, il ne peut pas développer n'importe quel IA comme il le veut, comme il l'entend et pour n'importe quel usage. C'est déjà la première barrière. Et après, pour les usages, tu vas avoir effectivement l'usage inacceptable qui va être interdit. On va interdire la notation sociale globale, on va interdire de mettre sur le marché des systèmes d'IA qui permettent une police prédictive. Tu vois la référence à Minority Report pour les années 90, ça. Ou de mettre en place des systèmes d'IA qui sont basés sur des techniques subliminales en dessous d'un seuil de conscience.
Oh là là, j'ai rien compris.
des techniques qui vont te faire prendre une décision sans que tu aies la conscience que tu prends cette décision. Donc ça, c'est la première chose. Donc ça, toi, tu ne vas pas le voir parce que ça n'arrivera pas jusqu'à toi, parce que justement, ça va être empêché par les GAACTS. Puis après, tu as les systèmes d'IA qui vont être autorisés, mais qui, dans leur usage, peuvent entraîner et faire peser un certain nombre de risques et qui, elles, vont être encadrées. Donc c'est les fameuses IA à haut risque.
Ah oui, alors c'est quoi ça du coup les IA à haut risque ?
Alors les IA à haut risque, ça va être celles qui traitent d'un sujet qui peut avoir un impact très fort et dangereux sur l'individu. C'est-à-dire un système d'IA qui serait dans le secteur de la santé ou qui interviendrait sur des secteurs primordiales comme l'énergie, l'éducation, l'octroi d'un prêt. l'octroi d'un emploi. Donc là, on est sur des IA qui ont un usage à fort risque et il faut les encadrer pour être sûr que leur utilisation, à la fin, ne porte pas préjudice à un droit fondamental qui est la liberté, la non-discrimination, le pluralisme, toutes ces valeurs sur lesquelles sont fondées l'Europe aujourd'hui.
Et donc, concrètement, encore une fois, c'est... Des nouveaux métiers, alors, qui vont vérifier tout ça ? Comment ça va se passer, en fait ? Tu sais un peu ou tu ne sais pas ?
Compliqué. Techniquement, comment ça va se passer ? C'est toute la difficulté entre la théorie, qui est un choix de société, qui est très important. plutôt belle, plutôt rassurante. Notamment quand tu regardes au niveau mondial les différentes manières d'aborder l'IA, celle de l'IA Act est plutôt très jolie.
C'est ça, mais plus difficile à mettre en place peut-être.
Après, tout l'enjeu c'est effectivement la mise en pratique, à l'échelle pratique, d'arriver à avoir une loi qui soit pertinente, qui soit praticable. Ça veut dire être capable pour les entreprises de la mettre en œuvre sans pour autant que c'est des coûts excessifs qui les mettent en danger, sans pour autant que ça freine l'innovation.
Mais c'est un peu, tiens, je fais un parallèle, mais parce qu'on avait déjà parlé aussi dans un podcast d'accessibilité, tu sais, avec les règlements sur les sites pour les rendre accessibles et tout ça, et que tu es obligée, je crois, de souvenir en tout cas. D'abord sur ton site, qu'est-ce qui est accessible, qu'est-ce qui n'est pas, et ton score d'accessibilité. Donc mine de rien, ils ont réussi. Je ne sais pas si c'était européen, je ne sais même pas d'où ça...
Tu as plusieurs référentiels, mais tu as un référentiel RDA. Oui, je crois qu'on a...
Ah oui, ça me dit quelque chose, on en avait parlé en effet. Et bon, ils avaient réussi. Après, c'est peut-être moins compliqué, mais en tout cas, ça va peut-être se traduire de la même manière. Peut-être que sur les sites, on aura un truc de savoir qu'est-ce qu'ils respectent, qu'est-ce qu'ils ne respectent pas, je ne sais pas quoi.
En tout cas, là pour le coup, tu touches à la notion de transparence.
Oui.
Cette fameuse notion dont on entend parler partout.
C'était tout à fait mon point. Je voulais absolument toucher à la notion de transparence.
La transparence, c'est le fait, pour ces systèmes, d'avoir un niveau d'explicabilité. On va dire ça comme ça. Oui, c'est très bien. Suffisant, je pense. Un niveau d'explication. suffisant pour permettre de comprendre quel est l'usage couvert par l'IA qu'on te propose, quel est son objectif, comment il fonctionne. Alors comment il fonctionne, pas d'un point de vue mathématique ou algorithmique, mais suffisamment pour comprendre la genèse et pouvoir encadrer les éventuelles dérives, pour pouvoir obliger les... les entreprises et les fournisseurs de systèmes à mettre des verrous pour encadrer ces éventuelles dérives et expliquer comment ça marche.
Et donc toi, tu penses que le temps que ça se mette en application, vraiment pour de vrai, ça sera encore dans longtemps ou ça devrait être là bientôt ? Ah oui, vas-y, sauf si tu as une réponse, mais j'avais déjà une autre question. tu vas vite vas-y sur l'autre question l'autre question c'était que j'ai vu passer il n'y a pas longtemps qu'on va devoir mettre sur tout ce qui est fait en IA une petite notion, je ne sais pas comment ça va se traduire un bandeau un petit label fait avec l'IA et tout, est-ce que ça c'est le fruit déjà de IA ou ça n'a rien à voir ?
c'est complètement le fruit de l'IA c'est l'article 50.4 pour être précise Elle est forte. C'est le seul article que je n'ai en tête. C'est déjà impressionnant. Enfin, la numérotation. Donc, c'est complètement issu de l'IACT, qui prévoit que toutes les personnes... Alors, quand on dit personnes, je ne parle pas des usages à destination privée personnelle. On parle de professionnels, d'activités professionnelles. Donc, toutes les personnes qui sont amenées à générer des contenus qui sont... soit générées, soit manipulées par l'IA, doivent être marquées et doivent révéler le fait qu'elles ont utilisé l'IA. Typiquement, c'est un article de l'IA Act. Une fois que ce principe est posé, il y a toute la problématique de sa mise en œuvre. En parallèle de l'IA Act, cette obligation va rentrer en vigueur le 2 août prochain. Donc là aujourd'hui, elle n'est pas encore en vigueur. Elle sera applicable à partir du mois d'août. En parallèle de ce principe... Au mois d'août là, cette année ? Oui, au mois d'août là, cette année.
2026 donc.
En parallèle de cette obligation, tu as donc l'Europe et la Commission européenne qui travaillent sur ce qu'on appelle des guides pratiques, de bonnes pratiques. Des lignes directrices pour aider... les entreprises à comprendre ce que ça veut dire et comprendre comment se mettre en conformité. Aujourd'hui, très clairement, on a un gros retard sur la documentation technique sur différents sujets, mais par exemple sur la transparence aujourd'hui. Tu as un projet de guide de bonne pratique qui a été publié en mars, mais qui est un projet. On attend une version définitive au mois de juin. Tu vois le laps de temps entre une version définitive au mois de juin pour une entrée en vigueur au mois d'août. Tout ça est... va très vite et va nécessiter une implémentation, d'anticiper cette implémentation et puis après de la façonner en fonction des dernières sorties, on va dire, de ce que donnera ce guide de bonne conduite qu'on attend au mois de juin.
Mais du coup, ça me fait penser que, est-ce que là, on n'est pas en train de créer comme une IA un peu européenne et qui n'a rien à voir avec le reste du monde ? Enfin, je ne sais pas exactement comment ça se passe aux États-Unis, en Chine, voilà.
Tu touches effectivement un point. L'Europe a décidé d'aborder l'IA selon un certain angle, qui est centré sur le respect des droits et des valeurs. C'est un choix de société et elle est différente. de la manière dont les États-Unis vont appréhender cette technologie, qui là, en tout cas dans les États-Unis et l'Amérique de Trump, a une vision quand même extrêmement axée marché, c'est-à-dire économique, et qui aurait tendance à moins réguler. Donc aujourd'hui, et puis il faut prendre aussi en considération... la manière dont est organisée l'État des États-Unis, à savoir un État fédéral. Donc tu vas avoir, selon les États, des initiatives différentes, plus ou moins contraignantes, des directives, des recommandations. Aujourd'hui, tu as un gouverneur démocrate en Californie qui, lui, travaille sur un projet qui peut, à certains égards, se rapprocher à l'IAC, alors que d'autres États, on va dire... moins démocrate, plus républicain, vont être beaucoup plus laxistes sur cet encadrement, même contre un encadrement, pour permettre une innovation et donc développer une économie de marché sur cette technologie. Versus la Chine, qui elle a... Alors j'adorerais avoir une vision de l'état de la réglementation dans le monde, mais pas à ce point-là. Elle a des avancées, mais là on a une vision chinoise très étatique, dans le contrôle étatique de ce qui se fait. Donc effectivement, on a... On a un panel très très différent, ce qui est là pour complexifier encore une situation déjà très complexe. Après, la volonté de l'Europe d'avoir été la première à plancher sur ce sujet, c'est aussi, comme elle l'a fait avec le règlement sur les données personnelles, d'essayer d'imposer un référent ou un standard qui puisse imprégner le reste du monde.
C'est par rapport à RGPD et tout ça ? Mais d'ailleurs, ça a peut-être mis autant de temps à se mettre en place. J'imagine que ça a été bien compliqué, ce truc de base de données. On en avait parlé d'ailleurs, je crois, dans un podcast.
Ça a été très long. On est encore en cours, on est affine encore, bien sûr. Et c'est d'ailleurs, tu demandais si c'était la première fois qu'on réglementait une technologie comme ça. Le RGPD, ce n'est pas une technologie puisque c'est la réglementation des données personnelles. Mais pour le coup, elle avait en commun d'être une réglementation générale et transverse. L'IAC, par contre, a en plus un truc très important, et ça c'est vraiment la première fois, c'est que c'est une gestion par les risques. Pour la première fois, on a un législateur qui a décidé de faire une loi au regard des risques pragmatiques que représentait un usage. Ça c'est la première fois.
Et en plus, là où nous on est peut-être plus... Je ne sais pas comment ça marche dans les autres pays, mais il y a quand même la loi, de manière générale, qui nous protège. Que ce soit même en IA ou sur Photoshop, mais tu ne peux pas mettre le visage de quelqu'un sur un corps nu sans être, par exemple, puni. Donc, je ne sais pas si aux Etats-Unis, par exemple, tu peux le faire sans que... Je ne sais pas s'il y a des lois qui...
En Europe, et en tout cas en France, on a ce qu'on appelle le respect à la vie privée, le droit à l'image. Donc, effectivement... Alors indépendamment de l'IA Act, l'IA Act autorise un générateur d'images. Pour autant, toi, tu n'as pas le droit d'utiliser cet générateur de toute façon. Aux États-Unis, ça peut être plus compliqué parce que ce droit au nom, ce droit à l'image, suivant les États, n'est pas tout à fait toujours reconnu comme étant un droit. Donc là, ça pose d'autres problématiques. Donc là, tu as effectivement des grands mouvements qui se... Qui se réveillent aux Etats-Unis, tu as certaines personnes qui enregistrent leur voix et leur image en tant que marque pour être sûre de pouvoir être protégée.
Parce que là, qu'elle serait justement, si tu ne respectes pas les sanctions ? Là pour le coup, sur la loi on sait que quelqu'un va porter plainte contre toi pour diffamation ou pour atteinte à l'image, j'imagine, je ne sais pas comment on dit. alors que là si c'est Une entreprise qui n'a pas respecté bien la réglementation IACT, qui va être très compliquée à mettre en place, j'imagine. Qui sanctionne ? Comment ça se passe ?
Alors, tu as des sanctions qui sont prévues et qui sont très lourdes. Aujourd'hui, les sanctions les plus lourdes qui existent, c'est au terme du RGPD. Ça allait jusqu'à 4% et 20 millions, 4% du chiffre d'affaires mondial. Là, l'IA acte si tu as une entreprise. qui met sur le marché un système d'intelligence artificielle qui est inacceptable ou qui ne respecte pas certaines des obligations, on peut aller jusqu'à une amende qui atteindrait 7% du chiffre d'affaires mondial de l'entreprise, ou plus de 20 millions, je ne sais pas si c'est 25 ou 30, en tout cas c'est supérieur au RGPD. Et alors après, qui est en charge de l'application ? Ça c'est notamment... La Commission européenne a délégué à chaque État le soin de choisir les institutions qui vont suivre. Et donc en France, tu as plusieurs institutions. Tu vas avoir la CNIL au regard des données personnelles, tu vas avoir l'ARCOM, tu vas avoir la DGCCRF pour les pratiques trompeuses. Tu vas avoir, pour le coup, selon les secteurs, différentes institutions. qui peuvent se saisir. Et puis après, tu as la plainte, toi, toi en tant que citoyen, qui estime que ce système t'a porté préjudice et qu'il ne respecte pas l'IA Act.
Mais si, par exemple, moi, j'ai des capacités de codage, notamment avec l'IA et tout, et je développe ma petite IA de notation personnelle. Tu peux te connecter, tu mets ton compte Google, et puis en fait, tu peux noter, tu peux te noter, les gens te notent. Enfin bref, un truc qui ne respecte pas du coup l'IA Act. et donc je ne me fais pas forcément d'argent par exemple dessus, mais je mets ça à disposition du monde, ce sera impossible ?
Non. Alors après, comment tu seras traqué ? À quel moment tu es sanctionnable ? À quel moment tu seras sanctionné et comment ? On va voir ça.
Oui, ça, ce n'est pas encore forcément mis en place du coup.
En tout cas, c'est pensé.
C'est écrit. Comme tu disais tout à l'heure, le temps que ça se mette en place, c'est pas tout de suite, tout de suite. Mais en fait, si je comprends bien aussi, c'est que c'est par chapitre un peu, entre guillemets, parce que de tout lié à actes, puisque tu disais que là, déjà en août, et on enregistre ensemble en mai, donc en août, il va y avoir déjà, donc dans quelques mois, cette première partie qui va sortir, qui dit, ah, voilà le petit label que vous devez mettre à chaque fois que vous utilisez l'IA. Ça, c'est une petite partie, donc ça va peut-être sortir aussi.
Et il y en a déjà eu auparavant, c'est-à-dire... C'est-à-dire que les premières, donc l'IAC est rentrée en vigueur en 2024, et en février 2025, les premières stipulations, dispositions qui sont rentrées en vigueur étaient celles relatives au système inacceptable. Donc depuis février 2025, toute une liste d'usages, et donc de systèmes, d'intelligence artificielle ont été interdits et c'est aujourd'hui en vigueur et c'est applicable, tu n'as pas le droit de mettre en place un usage qui permet une police prédictive comme on a déjà dit tout à l'heure.
Oui, ok. Et même peut-être ça va se réguler aussi directement par par exemple l'Apple Store, les Google Store et tout qui vont peut-être aussi checker qu'est-ce qui est mis à disposition. Sauf qu'eux aussi vont faire un filtre
Tu vas avoir aussi une chaîne de responsabilité en chaîne. C'est-à-dire que tu as celui qui est le fournisseur, qui doit respecter des réglementations, mais tu as l'utilisateur, le déployeur, l'entreprise qui va utiliser un système d'IA, qui lui doit, a une responsabilité, celle de s'assurer que le système qu'elle utilise est bien conforme. Donc tu as cette chaîne de responsabilité. Tu as le fournisseur, mais tu as celui qui va l'utiliser, qui doit aussi s'assurer que... que ce système est fait correctement, conformément aux règlements.
Et je reprends un peu le même exemple que l'accessibilité tout à l'heure, mais puisque aussi on a des gens qui se sont formés à l'accessibilité pour justement faire des sites accessibles et tout, là, ça risque d'être la même chose. J'imagine qu'il va falloir aussi former les gens qui vont développer les IA à être formés à l'IA Act, quoi.
Et notamment, effectivement, tout un pan qu'on appelle la compliance. qu'on a connu avec le RGPD, le système d'être responsable, accountable au sens anglais, c'est la blague quand même que je donne un mot en anglais, mais c'est-à-dire effectivement toute une partie de conformité, c'est-à-dire tu es responsable, toi, d'assurer la conformité du produit que tu mets sur le marché ou de celui que tu utilises.
On arrive déjà quasi à la fin, ma chère Valérie. On pourrait en parler des heures, j'ai l'impression. Et surtout, on pourrait en parler tous les deux mois, parce qu'il va y avoir plein de nouveaux...
On pourrait en parler régulièrement et très longtemps. Et très longtemps. Tellement le sujet est complexe, c'est faux.
Est-ce que quand même, avant qu'on raccroche, t'as des petites choses à rajouter, ou des trucs que tu t'es dit, tiens, ça on n'en a pas parlé, c'est peut-être dommage, voilà. C'est vrai qu'on n'a même pas évoqué, par exemple, tout ce qui est, je ne sais même pas si c'est lié à l'IACT et tout, mais tout ce qui est lié aux droits d'auteur, par exemple, tu vois, derrière les images. Bah ouais, c'est ça, on pourrait faire un... Votre question est-elle assumée ?
Complètement. L'IA Act ne parle pas, ne touche pas le système de droit d'auteur. Ce n'est pas son sujet. En revanche, c'est un véritable sujet. On touche là l'avenir des entreprises et de l'industrie culturelle, vu l'usage et ce qui peut être fait grâce à l'IA, et notamment le... la question du partage de valeurs et de l'entraînement de tous ces systèmes d'intelligence artificielle sur des bases de données qui, elles, donnent prise à une protection de droits d'auteur.
Des écrivains, des artistes, des photographes.
Et aujourd'hui, l'échelle que permet l'intelligence artificielle pose la question, effectivement, de comment on partage cette valeur. C'est-à-dire qu'on crée, le système d'intelligence artificielle crée une valeur À partir d'un entraînement, aujourd'hui, ou en tout cas au départ, beaucoup sont partis du principe que ça ne nécessitait aucune autorisation ni aucun paiement. On est aujourd'hui en voie de réflexion sur le fait de dire s'il faut qu'il y ait un partage économique de cette valeur pour préserver aussi ces entreprises culturelles et l'avenir de... de la culture, je pense très clairement.
Oui, ce serait important ça.
Oui, ça serait très important. Donc ça, c'est en parallèle de l'IA. Aujourd'hui en France, tu as des projets de loi qui touchent ce point précis pour protéger, mieux protéger ou permettre en tout cas aux auteurs ayant droit de négocier des licences auprès des grands fournisseurs d'IA qui se
nourrissent de tout ça.
donc t'as ce point et puis évidemment t'as un autre point qui est l'aspect environnemental et énergétique qui n'est pas traité par l'IA Act qui
est un sujet bon bah on a de quoi se reparler pour la prochaine fois alors ma chère Valérie merci beaucoup grâce à toi, j'ai compris beaucoup de choses je pense que la prochaine fois on se parlera de Vivatech à mon avis vu qu'on est là d'ici là prenez soin de vous et des bisous
Description
La loi européenne sur l'intelligence artificielle va bientôt arriver, se mettre en place toussa toussa, même si ça va prendre du temps. Et donc on parle de tout ça avec Valérie. Et franchement, c'est quand même déjà beaucoup plus clair !
Hébergé par Ausha. Visitez ausha.co/politique-de-confidentialite pour plus d'informations.
Transcription
Bienvenue dans « J'ai pas compris » , le podcast qui parle de trucs qu'on n'a pas vraiment compris, avec des gens qui les ont quand même plus compris que nous, ou que moi en tout cas. Alors aujourd'hui, on va parler de l'IA Act. Encore un truc avec IA dedans, donc normalement c'est soit une révolution, soit une menace, soit les deux en même temps quoi. Et pour m'aider... Et à comprendre, je ne suis évidemment pas toute seule, puisque j'ai la chance d'avoir à mes côtés Valérie Mott, directrice légale, technologie et stratégie. Salut Valérie !
Salut Nalouen !
Alors, l'IA Act, de ce que j'ai compris, je ne vais pas aller très très loin, c'est une loi européenne qui vise à encadrer l'intelligence artificielle. Bon voilà, jusque là ça va. Sauf qu'en creusant un tout petit peu, on comprend que ce n'est pas juste une loi, c'est un truc, tu vas nous expliquer ça beaucoup mieux que moi. qui classent les IA par niveau de risque. Genre, certaines sont OK, certaines sont surveillées, certaines sont carrément interdites. Donc, en gros, des gens importants en Europe se sont dit « Bon, Michel, les machines deviennent de plus en plus puissantes. Peut-être qu'on va mettre deux, trois règles avant qu'on se retrouve dans un épisode de Black Mirror qu'on n'a pas signé pour. » Et ça, sur le papier, c'est plutôt rassurant. Mais du coup, ça pose pas mal de questions. Déjà, c'est quoi une IA à risque ? Qui décide sur quels critères ? Est-ce que ChatGPT, par exemple, c'est risqué ou pas ? Est-ce que ça va freiner l'innovation ou au contraire ? éviter qu'on fasse n'importe quoi ? Et surtout, est-ce que c'est vraiment applicable à des technologies qui évoluent tous les trois mois, alors que les lois mettent parfois des années à être votées ? Parce que là, sur le papier, en tout cas, j'ai un peu l'impression qu'on essaie de réguler un truc qui est déjà en train de nous dépasser. Donc, on va commencer par le début. Déjà, Valérie, c'est quoi exactement l'IA Act ?
Alors, l'IA Act, comme tu le disais, c'est le premier projet de réglementation... de l'intelligence artificielle. Je ne l'ai pas dit aussi bien que ça.
C'est le premier projet.
C'est une initiative européenne. C'est la première au monde. Elle vise effectivement à réguler l'intelligence artificielle, mais plus précisément, et c'est ça qu'il faut avoir en tête, c'est l'usage que l'on fait de l'intelligence artificielle. Ça vise à encadrer les usages possibles grâce à l'IA. en fonction du risque que ce système d'intelligence artificielle, au regard d'un usage donné, va pouvoir faire peser sur un individu ou sur la société.
Et tu dis que c'est le premier, mais pourtant il y a déjà eu par exemple des IAM qui ont été interdites dans des pays. Mais du coup, interdit ne veut pas dire régulier, et c'est là où tu dis que c'est plutôt la première fois qu'il y a ce truc-là de régulation ? Alors,
quand je dis le premier projet de régulation, c'est le premier projet de... de règlement qui est transverse et horizontal et qui vise à encadrer les usages qu'on peut faire d'une technologie de façon générale et horizontale, quel que soit le secteur, quel que soit l'usage. Quand tu dis horizontal, qu'est-ce que tu veux dire par là ? Horizontal, c'est justement quel que soit le secteur, quel que soit l'usage. Jusqu'à présent, les technologies, on a été emmené évidemment à encadrer des technologies, mais... Si on parle par exemple des télécoms, ce n'était pas la technologie des télécoms qu'on encadrait, c'était le secteur des télécoms qu'on régulait. Télécoms,
pour les vieilles personnes qui nous écoutent. Télécoms, c'était quoi ? Les premières communications par téléphone ? Oui,
où tu as, après si on vise Internet, tu n'as pas eu de réglementation générale sur Internet. Tu as aujourd'hui, au fur et à mesure, des réglementations qui se font sur des aspects spécifiques liés aux nouvelles technologies. Et puis, c'est en ça que c'était la première réglementation au monde et qui a commencé, l'Europe a commencé à se poser la question. En 2019, le premier projet a été publié en
2021. Mais il ne s'est rien passé. C'était des discussions,
c'était des projets, c'était en vue de l'élaboration de ce règlement. Là où la donne a été un peu chamboulée, c'est l'avènement de Tchadjébeté en novembre 2022 qui a présenté au grand public l'IA et qui a de ce fait entraîné la création d'un usage et d'une pratique avant même que la réglementation ne soit en place et même terminée. Voilà, je te dis, le premier projet de règlement, il a été publié en 2021, ce qui veut dire que les travaux ont commencé en 2019. Elle est entrée en vigueur en août 2024 et elle n'est pas encore complètement en application aujourd'hui. Le règlement a prévu une application progressive de ces dispositions pour permettre à toutes les parties prenantes de se mettre en conformité.
Mais du coup, ça va se traduire comment concrètement ? Quelle va être la différence ? Et est-ce que nous, même en tant qu'utilisateurs et utilisatrices, on va s'en rendre compte de ce truc-là ?
Alors, est-ce qu'on va s'en rendre compte ? Elle est faite pour... protéger les citoyens européens et la société et s'assurer que les systèmes d'intelligence artificielle qui vont être mis sur le marché, que tu vas pouvoir être amené et être utilisé, respectent et sont conformes aux droits fondamentaux et aux valeurs européennes. Donc, s'assurer que tu ne te retrouves pas avec l'intelligence artificielle. qui permettent une notation sociale. Tu parlais de Black Mirror tout à l'heure, je ne sais pas si un épisode où tu as une jeune femme, une notation sociale qui au fur et à mesure se voit refuser l'accès à un prêt, l'accès à un emploi.
Parce qu'elle est mal notée. Parce qu'elle est mal notée.
Voilà ce que ça change. C'est le fait d'être certain que l'intelligence artificielle ou en tout cas son usage ne permettent pas tout. La question de l'IA acte, ce n'est pas... qu'est-ce que peut faire l'IA ? C'est est-ce que l'on permet à l'IA de tout faire ?
Oui, mais là où j'ai du mal à comprendre, c'est comment est-ce que ça va se traduire ? Comment est-ce que ça va s'inscrire sur ChatGPT ?
Comment est-ce que ça va ? Le premier plan, ça va se traduire au niveau des gens qui vont développer des systèmes d'IA. Donc ce qu'on appelle dans l'IA Act le fournisseur d'un système, cet acteur-là, il ne peut pas développer n'importe quel IA comme il le veut, comme il l'entend et pour n'importe quel usage. C'est déjà la première barrière. Et après, pour les usages, tu vas avoir effectivement l'usage inacceptable qui va être interdit. On va interdire la notation sociale globale, on va interdire de mettre sur le marché des systèmes d'IA qui permettent une police prédictive. Tu vois la référence à Minority Report pour les années 90, ça. Ou de mettre en place des systèmes d'IA qui sont basés sur des techniques subliminales en dessous d'un seuil de conscience.
Oh là là, j'ai rien compris.
des techniques qui vont te faire prendre une décision sans que tu aies la conscience que tu prends cette décision. Donc ça, c'est la première chose. Donc ça, toi, tu ne vas pas le voir parce que ça n'arrivera pas jusqu'à toi, parce que justement, ça va être empêché par les GAACTS. Puis après, tu as les systèmes d'IA qui vont être autorisés, mais qui, dans leur usage, peuvent entraîner et faire peser un certain nombre de risques et qui, elles, vont être encadrées. Donc c'est les fameuses IA à haut risque.
Ah oui, alors c'est quoi ça du coup les IA à haut risque ?
Alors les IA à haut risque, ça va être celles qui traitent d'un sujet qui peut avoir un impact très fort et dangereux sur l'individu. C'est-à-dire un système d'IA qui serait dans le secteur de la santé ou qui interviendrait sur des secteurs primordiales comme l'énergie, l'éducation, l'octroi d'un prêt. l'octroi d'un emploi. Donc là, on est sur des IA qui ont un usage à fort risque et il faut les encadrer pour être sûr que leur utilisation, à la fin, ne porte pas préjudice à un droit fondamental qui est la liberté, la non-discrimination, le pluralisme, toutes ces valeurs sur lesquelles sont fondées l'Europe aujourd'hui.
Et donc, concrètement, encore une fois, c'est... Des nouveaux métiers, alors, qui vont vérifier tout ça ? Comment ça va se passer, en fait ? Tu sais un peu ou tu ne sais pas ?
Compliqué. Techniquement, comment ça va se passer ? C'est toute la difficulté entre la théorie, qui est un choix de société, qui est très important. plutôt belle, plutôt rassurante. Notamment quand tu regardes au niveau mondial les différentes manières d'aborder l'IA, celle de l'IA Act est plutôt très jolie.
C'est ça, mais plus difficile à mettre en place peut-être.
Après, tout l'enjeu c'est effectivement la mise en pratique, à l'échelle pratique, d'arriver à avoir une loi qui soit pertinente, qui soit praticable. Ça veut dire être capable pour les entreprises de la mettre en œuvre sans pour autant que c'est des coûts excessifs qui les mettent en danger, sans pour autant que ça freine l'innovation.
Mais c'est un peu, tiens, je fais un parallèle, mais parce qu'on avait déjà parlé aussi dans un podcast d'accessibilité, tu sais, avec les règlements sur les sites pour les rendre accessibles et tout ça, et que tu es obligée, je crois, de souvenir en tout cas. D'abord sur ton site, qu'est-ce qui est accessible, qu'est-ce qui n'est pas, et ton score d'accessibilité. Donc mine de rien, ils ont réussi. Je ne sais pas si c'était européen, je ne sais même pas d'où ça...
Tu as plusieurs référentiels, mais tu as un référentiel RDA. Oui, je crois qu'on a...
Ah oui, ça me dit quelque chose, on en avait parlé en effet. Et bon, ils avaient réussi. Après, c'est peut-être moins compliqué, mais en tout cas, ça va peut-être se traduire de la même manière. Peut-être que sur les sites, on aura un truc de savoir qu'est-ce qu'ils respectent, qu'est-ce qu'ils ne respectent pas, je ne sais pas quoi.
En tout cas, là pour le coup, tu touches à la notion de transparence.
Oui.
Cette fameuse notion dont on entend parler partout.
C'était tout à fait mon point. Je voulais absolument toucher à la notion de transparence.
La transparence, c'est le fait, pour ces systèmes, d'avoir un niveau d'explicabilité. On va dire ça comme ça. Oui, c'est très bien. Suffisant, je pense. Un niveau d'explication. suffisant pour permettre de comprendre quel est l'usage couvert par l'IA qu'on te propose, quel est son objectif, comment il fonctionne. Alors comment il fonctionne, pas d'un point de vue mathématique ou algorithmique, mais suffisamment pour comprendre la genèse et pouvoir encadrer les éventuelles dérives, pour pouvoir obliger les... les entreprises et les fournisseurs de systèmes à mettre des verrous pour encadrer ces éventuelles dérives et expliquer comment ça marche.
Et donc toi, tu penses que le temps que ça se mette en application, vraiment pour de vrai, ça sera encore dans longtemps ou ça devrait être là bientôt ? Ah oui, vas-y, sauf si tu as une réponse, mais j'avais déjà une autre question. tu vas vite vas-y sur l'autre question l'autre question c'était que j'ai vu passer il n'y a pas longtemps qu'on va devoir mettre sur tout ce qui est fait en IA une petite notion, je ne sais pas comment ça va se traduire un bandeau un petit label fait avec l'IA et tout, est-ce que ça c'est le fruit déjà de IA ou ça n'a rien à voir ?
c'est complètement le fruit de l'IA c'est l'article 50.4 pour être précise Elle est forte. C'est le seul article que je n'ai en tête. C'est déjà impressionnant. Enfin, la numérotation. Donc, c'est complètement issu de l'IACT, qui prévoit que toutes les personnes... Alors, quand on dit personnes, je ne parle pas des usages à destination privée personnelle. On parle de professionnels, d'activités professionnelles. Donc, toutes les personnes qui sont amenées à générer des contenus qui sont... soit générées, soit manipulées par l'IA, doivent être marquées et doivent révéler le fait qu'elles ont utilisé l'IA. Typiquement, c'est un article de l'IA Act. Une fois que ce principe est posé, il y a toute la problématique de sa mise en œuvre. En parallèle de l'IA Act, cette obligation va rentrer en vigueur le 2 août prochain. Donc là aujourd'hui, elle n'est pas encore en vigueur. Elle sera applicable à partir du mois d'août. En parallèle de ce principe... Au mois d'août là, cette année ? Oui, au mois d'août là, cette année.
2026 donc.
En parallèle de cette obligation, tu as donc l'Europe et la Commission européenne qui travaillent sur ce qu'on appelle des guides pratiques, de bonnes pratiques. Des lignes directrices pour aider... les entreprises à comprendre ce que ça veut dire et comprendre comment se mettre en conformité. Aujourd'hui, très clairement, on a un gros retard sur la documentation technique sur différents sujets, mais par exemple sur la transparence aujourd'hui. Tu as un projet de guide de bonne pratique qui a été publié en mars, mais qui est un projet. On attend une version définitive au mois de juin. Tu vois le laps de temps entre une version définitive au mois de juin pour une entrée en vigueur au mois d'août. Tout ça est... va très vite et va nécessiter une implémentation, d'anticiper cette implémentation et puis après de la façonner en fonction des dernières sorties, on va dire, de ce que donnera ce guide de bonne conduite qu'on attend au mois de juin.
Mais du coup, ça me fait penser que, est-ce que là, on n'est pas en train de créer comme une IA un peu européenne et qui n'a rien à voir avec le reste du monde ? Enfin, je ne sais pas exactement comment ça se passe aux États-Unis, en Chine, voilà.
Tu touches effectivement un point. L'Europe a décidé d'aborder l'IA selon un certain angle, qui est centré sur le respect des droits et des valeurs. C'est un choix de société et elle est différente. de la manière dont les États-Unis vont appréhender cette technologie, qui là, en tout cas dans les États-Unis et l'Amérique de Trump, a une vision quand même extrêmement axée marché, c'est-à-dire économique, et qui aurait tendance à moins réguler. Donc aujourd'hui, et puis il faut prendre aussi en considération... la manière dont est organisée l'État des États-Unis, à savoir un État fédéral. Donc tu vas avoir, selon les États, des initiatives différentes, plus ou moins contraignantes, des directives, des recommandations. Aujourd'hui, tu as un gouverneur démocrate en Californie qui, lui, travaille sur un projet qui peut, à certains égards, se rapprocher à l'IAC, alors que d'autres États, on va dire... moins démocrate, plus républicain, vont être beaucoup plus laxistes sur cet encadrement, même contre un encadrement, pour permettre une innovation et donc développer une économie de marché sur cette technologie. Versus la Chine, qui elle a... Alors j'adorerais avoir une vision de l'état de la réglementation dans le monde, mais pas à ce point-là. Elle a des avancées, mais là on a une vision chinoise très étatique, dans le contrôle étatique de ce qui se fait. Donc effectivement, on a... On a un panel très très différent, ce qui est là pour complexifier encore une situation déjà très complexe. Après, la volonté de l'Europe d'avoir été la première à plancher sur ce sujet, c'est aussi, comme elle l'a fait avec le règlement sur les données personnelles, d'essayer d'imposer un référent ou un standard qui puisse imprégner le reste du monde.
C'est par rapport à RGPD et tout ça ? Mais d'ailleurs, ça a peut-être mis autant de temps à se mettre en place. J'imagine que ça a été bien compliqué, ce truc de base de données. On en avait parlé d'ailleurs, je crois, dans un podcast.
Ça a été très long. On est encore en cours, on est affine encore, bien sûr. Et c'est d'ailleurs, tu demandais si c'était la première fois qu'on réglementait une technologie comme ça. Le RGPD, ce n'est pas une technologie puisque c'est la réglementation des données personnelles. Mais pour le coup, elle avait en commun d'être une réglementation générale et transverse. L'IAC, par contre, a en plus un truc très important, et ça c'est vraiment la première fois, c'est que c'est une gestion par les risques. Pour la première fois, on a un législateur qui a décidé de faire une loi au regard des risques pragmatiques que représentait un usage. Ça c'est la première fois.
Et en plus, là où nous on est peut-être plus... Je ne sais pas comment ça marche dans les autres pays, mais il y a quand même la loi, de manière générale, qui nous protège. Que ce soit même en IA ou sur Photoshop, mais tu ne peux pas mettre le visage de quelqu'un sur un corps nu sans être, par exemple, puni. Donc, je ne sais pas si aux Etats-Unis, par exemple, tu peux le faire sans que... Je ne sais pas s'il y a des lois qui...
En Europe, et en tout cas en France, on a ce qu'on appelle le respect à la vie privée, le droit à l'image. Donc, effectivement... Alors indépendamment de l'IA Act, l'IA Act autorise un générateur d'images. Pour autant, toi, tu n'as pas le droit d'utiliser cet générateur de toute façon. Aux États-Unis, ça peut être plus compliqué parce que ce droit au nom, ce droit à l'image, suivant les États, n'est pas tout à fait toujours reconnu comme étant un droit. Donc là, ça pose d'autres problématiques. Donc là, tu as effectivement des grands mouvements qui se... Qui se réveillent aux Etats-Unis, tu as certaines personnes qui enregistrent leur voix et leur image en tant que marque pour être sûre de pouvoir être protégée.
Parce que là, qu'elle serait justement, si tu ne respectes pas les sanctions ? Là pour le coup, sur la loi on sait que quelqu'un va porter plainte contre toi pour diffamation ou pour atteinte à l'image, j'imagine, je ne sais pas comment on dit. alors que là si c'est Une entreprise qui n'a pas respecté bien la réglementation IACT, qui va être très compliquée à mettre en place, j'imagine. Qui sanctionne ? Comment ça se passe ?
Alors, tu as des sanctions qui sont prévues et qui sont très lourdes. Aujourd'hui, les sanctions les plus lourdes qui existent, c'est au terme du RGPD. Ça allait jusqu'à 4% et 20 millions, 4% du chiffre d'affaires mondial. Là, l'IA acte si tu as une entreprise. qui met sur le marché un système d'intelligence artificielle qui est inacceptable ou qui ne respecte pas certaines des obligations, on peut aller jusqu'à une amende qui atteindrait 7% du chiffre d'affaires mondial de l'entreprise, ou plus de 20 millions, je ne sais pas si c'est 25 ou 30, en tout cas c'est supérieur au RGPD. Et alors après, qui est en charge de l'application ? Ça c'est notamment... La Commission européenne a délégué à chaque État le soin de choisir les institutions qui vont suivre. Et donc en France, tu as plusieurs institutions. Tu vas avoir la CNIL au regard des données personnelles, tu vas avoir l'ARCOM, tu vas avoir la DGCCRF pour les pratiques trompeuses. Tu vas avoir, pour le coup, selon les secteurs, différentes institutions. qui peuvent se saisir. Et puis après, tu as la plainte, toi, toi en tant que citoyen, qui estime que ce système t'a porté préjudice et qu'il ne respecte pas l'IA Act.
Mais si, par exemple, moi, j'ai des capacités de codage, notamment avec l'IA et tout, et je développe ma petite IA de notation personnelle. Tu peux te connecter, tu mets ton compte Google, et puis en fait, tu peux noter, tu peux te noter, les gens te notent. Enfin bref, un truc qui ne respecte pas du coup l'IA Act. et donc je ne me fais pas forcément d'argent par exemple dessus, mais je mets ça à disposition du monde, ce sera impossible ?
Non. Alors après, comment tu seras traqué ? À quel moment tu es sanctionnable ? À quel moment tu seras sanctionné et comment ? On va voir ça.
Oui, ça, ce n'est pas encore forcément mis en place du coup.
En tout cas, c'est pensé.
C'est écrit. Comme tu disais tout à l'heure, le temps que ça se mette en place, c'est pas tout de suite, tout de suite. Mais en fait, si je comprends bien aussi, c'est que c'est par chapitre un peu, entre guillemets, parce que de tout lié à actes, puisque tu disais que là, déjà en août, et on enregistre ensemble en mai, donc en août, il va y avoir déjà, donc dans quelques mois, cette première partie qui va sortir, qui dit, ah, voilà le petit label que vous devez mettre à chaque fois que vous utilisez l'IA. Ça, c'est une petite partie, donc ça va peut-être sortir aussi.
Et il y en a déjà eu auparavant, c'est-à-dire... C'est-à-dire que les premières, donc l'IAC est rentrée en vigueur en 2024, et en février 2025, les premières stipulations, dispositions qui sont rentrées en vigueur étaient celles relatives au système inacceptable. Donc depuis février 2025, toute une liste d'usages, et donc de systèmes, d'intelligence artificielle ont été interdits et c'est aujourd'hui en vigueur et c'est applicable, tu n'as pas le droit de mettre en place un usage qui permet une police prédictive comme on a déjà dit tout à l'heure.
Oui, ok. Et même peut-être ça va se réguler aussi directement par par exemple l'Apple Store, les Google Store et tout qui vont peut-être aussi checker qu'est-ce qui est mis à disposition. Sauf qu'eux aussi vont faire un filtre
Tu vas avoir aussi une chaîne de responsabilité en chaîne. C'est-à-dire que tu as celui qui est le fournisseur, qui doit respecter des réglementations, mais tu as l'utilisateur, le déployeur, l'entreprise qui va utiliser un système d'IA, qui lui doit, a une responsabilité, celle de s'assurer que le système qu'elle utilise est bien conforme. Donc tu as cette chaîne de responsabilité. Tu as le fournisseur, mais tu as celui qui va l'utiliser, qui doit aussi s'assurer que... que ce système est fait correctement, conformément aux règlements.
Et je reprends un peu le même exemple que l'accessibilité tout à l'heure, mais puisque aussi on a des gens qui se sont formés à l'accessibilité pour justement faire des sites accessibles et tout, là, ça risque d'être la même chose. J'imagine qu'il va falloir aussi former les gens qui vont développer les IA à être formés à l'IA Act, quoi.
Et notamment, effectivement, tout un pan qu'on appelle la compliance. qu'on a connu avec le RGPD, le système d'être responsable, accountable au sens anglais, c'est la blague quand même que je donne un mot en anglais, mais c'est-à-dire effectivement toute une partie de conformité, c'est-à-dire tu es responsable, toi, d'assurer la conformité du produit que tu mets sur le marché ou de celui que tu utilises.
On arrive déjà quasi à la fin, ma chère Valérie. On pourrait en parler des heures, j'ai l'impression. Et surtout, on pourrait en parler tous les deux mois, parce qu'il va y avoir plein de nouveaux...
On pourrait en parler régulièrement et très longtemps. Et très longtemps. Tellement le sujet est complexe, c'est faux.
Est-ce que quand même, avant qu'on raccroche, t'as des petites choses à rajouter, ou des trucs que tu t'es dit, tiens, ça on n'en a pas parlé, c'est peut-être dommage, voilà. C'est vrai qu'on n'a même pas évoqué, par exemple, tout ce qui est, je ne sais même pas si c'est lié à l'IACT et tout, mais tout ce qui est lié aux droits d'auteur, par exemple, tu vois, derrière les images. Bah ouais, c'est ça, on pourrait faire un... Votre question est-elle assumée ?
Complètement. L'IA Act ne parle pas, ne touche pas le système de droit d'auteur. Ce n'est pas son sujet. En revanche, c'est un véritable sujet. On touche là l'avenir des entreprises et de l'industrie culturelle, vu l'usage et ce qui peut être fait grâce à l'IA, et notamment le... la question du partage de valeurs et de l'entraînement de tous ces systèmes d'intelligence artificielle sur des bases de données qui, elles, donnent prise à une protection de droits d'auteur.
Des écrivains, des artistes, des photographes.
Et aujourd'hui, l'échelle que permet l'intelligence artificielle pose la question, effectivement, de comment on partage cette valeur. C'est-à-dire qu'on crée, le système d'intelligence artificielle crée une valeur À partir d'un entraînement, aujourd'hui, ou en tout cas au départ, beaucoup sont partis du principe que ça ne nécessitait aucune autorisation ni aucun paiement. On est aujourd'hui en voie de réflexion sur le fait de dire s'il faut qu'il y ait un partage économique de cette valeur pour préserver aussi ces entreprises culturelles et l'avenir de... de la culture, je pense très clairement.
Oui, ce serait important ça.
Oui, ça serait très important. Donc ça, c'est en parallèle de l'IA. Aujourd'hui en France, tu as des projets de loi qui touchent ce point précis pour protéger, mieux protéger ou permettre en tout cas aux auteurs ayant droit de négocier des licences auprès des grands fournisseurs d'IA qui se
nourrissent de tout ça.
donc t'as ce point et puis évidemment t'as un autre point qui est l'aspect environnemental et énergétique qui n'est pas traité par l'IA Act qui
est un sujet bon bah on a de quoi se reparler pour la prochaine fois alors ma chère Valérie merci beaucoup grâce à toi, j'ai compris beaucoup de choses je pense que la prochaine fois on se parlera de Vivatech à mon avis vu qu'on est là d'ici là prenez soin de vous et des bisous
Share
Embed
You may also like
