Transcription

• Speaker #0

  Bonjour à toutes et à tous et bienvenue dans SAF IA, le podcast qui explore la relation entre l'intelligence artificielle et le droit sous tous les angles, avec clarté et simplicité, mais surtout sans artifice. L'IA est déjà partout, notre quotidien, nos choix, nos métiers et même nos pensées. Mais devons-nous la laisser transformer notre réalité sans nous poser les bonnes questions, sans saisir pleinement ses conséquences sur nos vies ? Je suis Safia qui rebouche. avocate et passionnée par les enjeux du numérique. A chaque épisode, j'ai le plaisir de tendre le micro à un expert d'une discipline différente pour qu'il partage avec nous ses éclairages sur cette révolution technologique. On décrypte ensemble les grands enjeux de l'intelligence artificielle pour comprendre aujourd'hui ce qui dessinera demain. Alors installez-vous confortablement et je vous présente notre invité.

• Speaker #1

  Bonjour, j'ai le plaisir aujourd'hui de recevoir ma consoeur Christine Mille, avocate au Barreau de Paris depuis 13 ans, mais installée, alors depuis plus longtemps que ça, mais installée en Chine, à Pékin, depuis 13 ans. Bonjour Christine,

• Speaker #2

  bienvenue. Bonjour Safia, merci.

• Speaker #1

  Merci à toi d'avoir accepté l'invitation. Alors là, nous sommes dans la saison 2, qui a pour vocation de... d'expliquer aux auditeurs et à moi-même ce qui se passe vu d'ailleurs. Donc là, c'est l'épisode Lya vu de Chine. Et donc, tu vas nous faire visiter un petit peu les us et coutumes par rapport à Lya en Chine.

• Speaker #2

  Avec plaisir.

• Speaker #1

  Super. Déjà, petite question. Pourquoi n'es-tu pas avocate à Pékin ?

• Speaker #2

  Alors parce que la profession d'avocat est très réglementée en Chine et un étranger n'a pas le droit tout simplement de passer le barreau, un barreau chinois. Donc les avocats étrangers qui exercent en Chine ont un statut en général de foreign counsel et ne peuvent pas tout simplement être inscrits au barreau.

• Speaker #1

  Ok. Est-ce que tu te sens limitée dans ton exercice ou est-ce que tu fais à peu près tout ce que fait un avocat chinois ?

• Speaker #2

  Alors, moi je travaille dans un cabinet d'avocats chinois qui a la pleine capacité, donc je ne ressens pas vraiment de limite. En fait, un cabinet d'avocats étrangers ne va pas pouvoir exercer dans les domaines de contentieux et propriété intellectuelle, alors qu'un cabinet d'avocats chinois le peut. Et donc sur ces sujets, surtout le contentieux, je travaille en coopération avec mes collègues chinois directement sur les dossiers. Donc je ne ressens pas réellement de limite, on travaille en équipe en fait.

• Speaker #1

  Ah super, donc tu peux tout faire, impeccable. Bon du coup là, on a commencé par une digression, c'est pas grave, j'essaierai de ne pas en faire trop. Alors on a vu qu'il y avait une différence déjà par rapport aux avocats, mais par rapport à l'IA, quelles sont les différences culturelles ? que tu notes entre la Chine et l'Europe ou la Chine et la France ?

• Speaker #2

  Je dirais peut-être l'attrait des Chinois pour les nouvelles technologies en général et du coup pour l'IA mais pour les applications et tout ce que ça leur permet de faire, d'expérimenter. Je pense qu'il y a beaucoup plus peut-être d'ouverture des Chinois sur ces sujets-là. que des européens.

• Speaker #1

  Ok. On n'a peut-être pas assez le goût du risque pour aller tester plus de choses ? Ou est-ce que tu nous sens plus dans la protection que dans l'innovation ?

• Speaker #2

  Oui, tout à fait. Ça commence déjà sur le sujet des données. Finalement, un Chinois, quand ces données étaient utilisées par une entreprise, il disait « mais bon, qu'est-ce que je vais avoir comme service ? » qui vont m'être rendues par cette entreprise, si elle utilise mes données, qu'est-ce que je vais avoir en retour ? Et si le service m'intéresse, moi je veux bien qu'elle utilise mes données. Je pense qu'un Européen va être beaucoup plus sensible à la façon dont vont être utilisées ces données et effectivement plus sensible à une protection de ces données alors qu'un Chinois le sera moins.

• Speaker #1

  Ok, alors ça c'est peut-être notre déformation par rapport au RGPD. Donc le règlement de protection des données personnelles en Europe. Je suppose qu'il y a quand même un équivalent en Chine qui protège les données des Chinois,

• Speaker #2

  ou pas ? Oui, tout à fait. Il y a eu un gros travail qui a été fait sur ces sujets-là à partir du moment où... où les technologies numériques se sont commencées à se développer en Chine et qu'il y a eu une grosse captation des données personnelles des Chinois. Avec ces énormes captations, il faut imaginer à l'échelle du pays ce que ça peut donner déjà à l'époque, alors que c'était des technologies naissantes. Toutes ces données qui étaient collectées, c'était assez faramineux en termes de volume. et en même temps que la de ces données, des abus ont commencé à émerger. Par exemple, il y a eu des ventes sauvages de bases de données, de données personnelles. Il y a eu des utilisations de données pour des usages que les Chinois ne comprenaient pas trop. Par exemple, un immeuble a commencé à utiliser la reconnaissance faciale juste pour permettre aux résidents d'entrer. et ça or à l'époque de tout cadre, il n'y avait pas encore de cadre juridique réglementaire là-dessus. Et donc ils conservaient toutes les données biométriques un peu n'importe comment. Donc là les citoyens se sont vraiment rebellés. Et en fait ça a attiré l'attention des autorités chinoises qui ont commencé réellement à réglementer. Auparavant il y avait quelques petites lois mais très peu. Et c'est à partir de là qu'elles ont vraiment commencé à... à réglementer ces sujets sur les données et donc à sortir une loi sur les données personnelles en 2021 et également des lois sur la cybersécurité et sur la sécurité des données. Donc effectivement, il y a eu de plus en plus une sensibilité à la fois des citoyens et des autorités chinoises sur ces sujets-là.

• Speaker #1

  Ok, mais finalement 2021 c'est récent quand on met en perspective par rapport au RGPD. Est-ce que du coup il y a dû y avoir... énormément d'avancées sans régulation. Est-ce que ce n'est pas pour ça que tu sens la Chine plus avancée que l'Europe d'un point de vue techno sur l'IA ?

• Speaker #2

  Oui, tout à fait. Ça a clairement eu une influence. Les entreprises ont pu quand même avancer beaucoup plus dans la collecte et la façon d'utiliser les données personnelles que dans des usages d'IA. D'ailleurs, au début, la Chine a préféré commencer par la réglementation sur les données avant de passer à l'IA. Elle se rendait bien compte qu'il y avait des développements dans l'IA et elle se rendait compte qu'il allait falloir réglementer, qu'il y allait y avoir certains risques. Mais elle a préféré mettre le sujet des données d'abord derrière elle, avant de commencer à réglementer l'IA. Et donc, dans cette période... Il n'y a pas eu de réglementation obligatoire sur l'IA, il y a eu des guides, des normes non contraignantes qui ont été mises en place. Il y a eu aussi les entreprises elles-mêmes qui se sont auto-disciplinées, auto-régulées. Elles ont créé des comités consultatifs, elles ont créé des systèmes internes de gestion de l'IA. Elle voyait ça un petit peu comme une façon de continuer à faire prospérer l'industrie de l'IA, hors de tout cadre réglementaire.

• Speaker #1

  Donc sans y être obligée, il y avait des...

• Speaker #2

  Sans y être obligée, oui. Alors il y a eu aussi... Bon, les autorités ont commencé à mettre en place des normes non obligatoires, mais plutôt à titre expérimental. Ça, c'est quelque chose que la Chine fait beaucoup. à expérimenter via des normes, des réglementations non contraignantes, ou alors dans certaines zones pilotes et non pas au plan national. Elle va mettre en place certaines règles, voir ce que ça donne, expérimenter, avant éventuellement de généraliser ces règles. Donc le test and learn, en fait, c'est un principe très important en Chine. Ça suit une maxime dont on entend quelques fois parler en Europe, qui est de traverser la rivière en testant, en tâtonnant pierre à pierre. Ok,

• Speaker #1

  c'est joli. Ok, et du coup, quel est l'élément qui fait passer le cap entre je teste et j'y terre à j'applique à tout un pays ?

• Speaker #2

  Alors c'est des nouvelles innovations en matière d'IA qui ont déclenché aussi le besoin de la Chine de réglementer. C'est l'apparition des deepfakes, c'est l'apparition des chatbots et c'est l'apparition des algorithmes de recommandation. En fait, ces trois sujets ont fait successivement. l'objet de réglementations par la Chine en 2022, 2023, 2024.

• Speaker #1

  Donc ils ont été nommément, enfin ils ont été visés directement par la réglementation. On a eu une loi pour traiter de la question des deepfakes, une loi pour traiter de la question des chatbots, et une loi pour traiter de, pardon ?

• Speaker #2

  Des algorithmes de recommandations.

• Speaker #1

  Très bien, ok. Exactement,

• Speaker #2

  une pour chaque. Parfait. Du coup, elle a réglementé une technologie, l'algorithme de réglementation et deux usages, Deepfake et IA générative. En fait, ce n'est pas les chatbots, pardon, c'est plus largement l'IA générative.

• Speaker #1

  OK. Et est-ce que ça s'impose aux... Quel est sa visée ? Est-ce que ça s'impose aux entreprises ? Est-ce que ça protège les particuliers ? Est-ce que c'est autant les institutions que les entreprises privées ? ... Comment ça s'articule ?

• Speaker #2

  Alors, ça s'impose aux entreprises et institutions, si elles développent des applications ou des technologies d'innovation dans ces domaines-là. C'est destiné à protéger autant les individus que plus largement la stabilité, les principes. de stabilité de l'ordre politique, la stabilité sociale. Tous ces principes sont vraiment des principes importants en Chine. Par rapport à la réglementation européenne sur l'IA, qui était destinée principalement à protéger les libertés publiques, à réglementer les risques, en fait la réglementation chinoise vise à protéger... les citoyens chinois, mais il y a une dimension complémentaire qui est la stabilité de l'ordre politique, de l'ordre social.

• Speaker #1

  Ok, qui va être un peu un principe supérieur par rapport aux libertés publiques.

• Speaker #2

  Oui, et qui va avoir une influence. Tu vois, par exemple, la réglementation en matière de deepfake, on imagine bien que le moment où ce type de technologie est sorti, ou Des célébrités, des personnalités publiques ont vu leurs vidéos, leurs photos modifiées comme ça par la technologie. On imagine bien que le président, s'il ne peut pas envisager d'avoir des vidéos de lui ou des photos de lui modifiées par Dick Fahy. Donc c'est clair que c'est à ce moment-là que ce type de réglementation est sorti pour limiter les usages dans ces domaines.

• Speaker #1

  Et là aussi, je suppose que c'est de l'ordre de l'infraction pénale.

• Speaker #2

  En fait, il y a eu tout simplement... La façon de faire, c'est que des entreprises qui sortiraient des applications dans ces domaines-là, en Chine, seraient tout simplement interdites de le faire. Donc, voilà, on leur demanderait... de supprimer ce type d'usage immédiatement. C'est ce qui est arrivé d'ailleurs par le passé. Quand ChatGPT est sorti, dans les deux mois, la Chine sortait sa réglementation sur l'IA générative et demandait à l'Apple Store de supprimer ChatGPT de l'Apple Store. Donc c'est plutôt comme ça. Alors évidemment, il y a des sanctions. Mais tu vois, au préalable, il y a une interdiction presque immédiate d'exercer.

• Speaker #1

  C'est plutôt dissuasif. Comme ça, quelqu'un qui voudrait développer une application pour la Chine s'assurerait d'abord qu'il est impossible de faire des deepfakes avec son application pour ne pas se voir retiré de l'Apple Store chinois en réalité.

• Speaker #2

  Exactement. Oui,

• Speaker #1

  ok. Ça doit être très efficace. Et je pense que les US ne sont pas loin. Alors, je pense que même les développeurs d'applications aux US doivent faire en sorte de supprimer la possibilité dans les 48 heures. Sinon, ils sont retirés également de l'Apple Store. Donc, tu vois, il y a quand même une harmonisation dans les sanctions. Enfin, même s'ils aiment être dissociés, finalement, ils se ressemblent un peu dans... Alors... dans les manières de faire.

• Speaker #2

  Oui, je pense qu'à un moment, ça peut atteindre des extrêmes aussi. Oui,

• Speaker #1

  tout à fait.

• Speaker #2

  On découvre tous ce type d'application et je pense que ce type de réglementation aussi est important.

• Speaker #1

  Oui, tout à fait. Et donc, du coup, on a parlé des applications qui allaient être développées. Si demain une entreprise française qui œuvre dans l'IA ou qui utilise l'IA souhaitait s'implanter en Chine, est-ce que c'est possible ?

• Speaker #2

  Alors, il n'y a pas dans la réglementation chinoise, donc il y a trois types d'usages aux technologies qui sont réglementés, il n'y a pas de définition générale de l'IA. Dans la réglementation européenne sur l'IA, on a... toute une définition de ce qu'est l'IA au terme de cette réglementation. En Chine, il n'y en a pas. Il y a quelques normes qui évoquent une définition de l'IA, mais en fait, il n'y a pas de définition générale adoptée par la Chine. Et donc, on va plutôt regarder quel type de service la société va proposer. Parce que tous ces types de services dans le domaine numérique, au sens large, on va dire, En Chine, c'est appréhendé par la réglementation sur les télécommunications, qui est assez ancienne puisque ça date du début des années 2000, et qui classe les services de télécommunications, les services numériques, en différentes catégories. Il y en a qui sont totalement interdits aux sociétés étrangères, il y en a qui sont partiellement autorisées, c'est-à-dire qu'elles peuvent les rendre en partenariat avec une entreprise chinoise. et d'autres services qui sont complètement autorisés et ouverts aux sociétés étrangères. Et donc, une entreprise européenne qui voudrait proposer un service en matière d'IA, il va falloir regarder si c'est seulement un service IA ou si c'est un service télécom dans lequel il y a une partie d'IA. Regarder en fait si ce service télécom, dans quelle catégorie il entre.

• Speaker #1

  Ok, et donc ces trois grosses catégories, comment est-ce que tu... les définis finalement si j'ai envie de savoir si c'est interdit. Déjà, est-ce que c'est simple de définir ces trois grosses catégories pour savoir si on rentre dedans ou pas ?

• Speaker #2

  Oui, maintenant, c'est assez simple. Oui, c'est assez clair. Auparavant, c'était un peu plus compliqué, mais depuis quelques temps, c'est assez clair. Il y a aussi eu une ouverture récemment plus large pour certains services, par exemple les data centers, les fournisseurs d'accès Internet, etc. peuvent maintenant être rendus par des sociétés étrangères à 100%. D'accord. Donc, il y a une ouverture qui commence sur les services télécoms qui était vraiment un domaine très restreint auparavant. Donc, c'est assez encourageant pour les entreprises étrangères. Et donc, après, si au sein de ce qu'elles veulent rendre comme service, leurs produits, il y a de l'IA, soit une techno, un service IA. On va regarder si elle s'insère dans une des trois réglementations dont je parlais au début et voir les règles applicables à ces réglementations. Par exemple, si c'est un algorithme de recommandation, l'autorité de contrôle de l'IA impose aux sociétés de révéler comment fonctionne l'algorithme. de recommandations sur la base de quelles données il est entraîné, etc. Et elle impose de le révéler à l'autorité, mais également elle le publie.

• Speaker #1

  Ah, wow, ok.

• Speaker #2

  Donc il y a énormément d'informations qui sont rendues publiques sur la façon dont fonctionne cet algorithme.

• Speaker #1

  Ah, mais ok, c'est très intéressant. On aimerait autant de transparence de la part de certains déployeurs ici en Europe. Ok. Très bien. Et donc, pardon, je reviens juste parce que sinon ça va me rester en tête. Les trois catégories dont tu parlais, donc ce qui fait l'objet d'un monopole national, ce qui fait l'objet d'une coopération avec une entreprise chinoise et ce qui est libre par les étrangers, est-ce que tu peux rapidement nous définir ces trois catégories ? Est-ce que, par exemple, le monopole national, c'est sur de la défense ? C'est... Comment... Comment on illustre les trois catégories ?

• Speaker #2

  Il y a différentes... En fait, il y a vraiment une liste par catégorie. Par exemple, dans la catégorie interdite d'accès aux sociétés étrangères, il y a tout ce qui est services d'information, les news. D'accord. Parce qu'évidemment, l'information est une donnée sensible.

• Speaker #1

  Oui, donc...

• Speaker #2

  La Chine souhaite avoir le contrôle là-dessus.

• Speaker #1

  Mais ça revient...

• Speaker #2

  Voilà, par exemple. Ok.

• Speaker #1

  Pardon, ça revient sur ce que tu disais tout à l'heure sur le fait que l'unité nationale et la protection du maintien de la Chine, qu'il ne soit pas porté atteinte. À la Chine, via les médias notamment, ça peut être un accès ? Oui, tout à fait. Ok, d'accord, je comprends la vision.

• Speaker #2

  Alors, je ne l'ai pas rappelé, mais l'Internet chinois est fermé. On le sait, il y a la grande muraille chinoise de l'Internet. Donc, voilà, il y a certains sites étrangers auxquels on ne peut pas avoir accès quand on est en Chine.

• Speaker #1

  Ok.

• Speaker #2

  Effectivement, ça vise à protéger la stabilité politique.

• Speaker #1

  Ok, donc sont interdites celles qui pourraient influer sur la stabilité politique, celles qui font l'objet de coopération ? Est-ce que c'est par rapport à des technos ?

• Speaker #2

  Non, c'est toujours certains types de services. Avant, par exemple, les data centers, il y avait beaucoup plus de services dans cette catégorie qui devaient faire l'objet d'un partenariat. Ça a été ouvert. récemment. Donc auparavant, par exemple, les data centers, les fournisseurs d'accès Internet étaient dans cette catégorie qui devait faire l'objet d'un partenariat avec une entreprise chinoise. Donc en fait, concrètement, c'était constituer une joint venture, une société, une entreprise commune, avec là aussi d'autres règles en termes de détention de capital, de détention du pouvoir de contrôle de la société. Donc avec des seuils en capital soit 25%, soit 49%, soit possibilité d'être à 50%. Voilà. Et tout ce qui est data center, fournisseurs d'accès Internet, ça a été ouvert dans certaines zones récemment. Et ça peut faire l'objet d'une détention à 100%. Alors il faut savoir que ça, c'est la réglementation nationale. Après, il y a un système de licence par les autorités. Donc elles regardent au cas par cas. Les sociétés auxquelles elles veulent bien accorder une licence, il y a aussi d'autres critères en termes d'expérience, d'expérience et même sur la durée, d'expérience dans le domaine d'activité, mais aussi sur la durée avec un nombre d'années d'existence prérequis, avec un capital minimum parfois qui est requis.

• Speaker #1

  Ok, d'accord. En fait, ils font un certif. il vérifie que la société est en bonne santé et compétente avant de fournir le service seul, finalement, sans être chaperonné. Ok, très bien.

• Speaker #2

  Parfait.

• Speaker #1

  C'est super intéressant. Merci beaucoup. Et bon, alors revenons un peu, du coup, sur l'entreprise européenne qui voudra s'implanter en Chine, devra d'abord répondre, voir dans quelle catégorie elle se place, puis ensuite répondre à la réglementation en faisant bien attention ... aux trois lois, les deux usages que tu m'as évoqués. Est-ce qu'il y a d'autres choses que tu vois qui diffèrent vraiment de l'Europe, dont on pourrait notamment s'inspirer ou au contraire tirer une leçon pour ne pas faire ?

• Speaker #2

  Oui, il y a un autre aspect qui est... très important en Chine et je trouve qu'il diffère vraiment de l'Europe, c'est le fait que l'IA, en fait, pour la Chine, c'est une politique industrielle. Pour elle, c'est quelque chose de stratégique pour la sécurité nationale et la sécurité économique. C'est quelque chose, c'est une technologie, une innovation qu'elle a identifiée depuis longtemps comme devant faire l'objet d'une souveraineté et d'une autonomie. Donc elle veut être autonome et souveraine dans ces domaines. Et du coup, ça l'a conduit à avoir une approche à la fois top-down, entre guillemets, et bottom-up, comme on dit. C'est-à-dire top-down, c'est les autorités imposent à certains acteurs de développer l'IA dans une certaine industrie, un secteur particulier. Par exemple, les tribunaux, la robotique, la santé, enfin, dans énormément de secteurs, ça va irriguer la vie des entreprises, la vie des Chinois. Et en même temps, l'approche bottom-up, c'est-à-dire que les entreprises vont décider elles-mêmes de développer certains secteurs de l'IA.

• Speaker #1

  OK. Donc ça...

• Speaker #2

  Et en même temps, il y a la mise en place d'une coordination entre tous ces acteurs, aussi bien les autorités... que les universités et les entreprises pour développer des projets communs dans l'IA, coordonner leurs efforts, voir ce qui doit être modifié dans telle innovation, telle technologie, ou alors ce qui va devoir être réglementé. Il y a aussi une réflexion sur ces sujets-là.

• Speaker #1

  Qui coordonne cette marche entre entreprises, institutions, etc. ?

• Speaker #2

  C'est une autorité qui s'appelle l'administration du cyberespace de la Chine, la CAC, la Cyberspace Administration of China. C'est l'autorité principale de gouvernance de l'IA. Et donc c'est elle qui élabore les réglementations, c'est l'autorité de contrôle, c'est elle qui est à l'origine des trois réglementations dont je parlais. Et par exemple, c'est elle qui oblige les entreprises à publier leur algorithme de recommandations qu'elles utilisent, c'est elle qui les oblige à dévoiler les sources qu'elles utilisent pour entraîner leur modèle. dévoiler aussi quel type de données personnelles elles vont utiliser et puis évidemment les mesures de sécurité qu'elles ont mis en place pour protéger.

• Speaker #1

  Ok, donc alors ici en France, on pourrait penser à la CNIL, mais ta description me fait dire que son rôle est bien plus large.

• Speaker #2

  Oui, tout à fait. La CNIL, c'est une autorité indépendante. Elle suggère, elle vérifie, elle suggère des réglementations, mais voilà, c'est pas elle qui va les sortir. Là, c'est vraiment, bon, c'est un système juridique pour l'émission de règles qui est un peu différent d'une autre. Voilà, elle cumule plusieurs rôles.

• Speaker #1

  D'accord. Est-ce que lorsque tu lis les textes, tu as l'impression qu'il y a un... Un peu d'inspiration sur... Est-ce qu'elle s'est un peu inspirée de la réglementation RGPD ? Ou est-ce que c'est tout à fait ab initio ? C'est tout à fait créé de zéro ?

• Speaker #0

  C'était vraiment créé de zéro pour le coup. Autant la réglementation sur les données, on peut vraiment penser que la Chine s'est inspirée du RGPD ainsi que de la réglementation américaine sur les données. Ça c'est clair, les systèmes sont assez proches avec l'importance du consentement. Par contre en matière d'IA, non, elle ne s'est pas du tout inspirée de la réglementation européenne. Là, c'est complètement à bignition.

• Speaker #1

  D'accord. Bon, après, il y a également beaucoup de travaux de collaboration entre les universités européennes et chinoises, de travaux entre les chercheurs, donc je suppose que les unes inspirent les autres. C'est... Ok, parfait.

• Speaker #0

  Oui, tout à fait. Globalement, la Chine s'est pas mal inspirée pour toutes ces réglementations qui se développent depuis... On va dire une dizaine, une quinzaine d'années à la suite de son adhésion à l'OMC, elle a vraiment commencé à développer sa réglementation qui devient, là je parle de tout sujet confondu, qui devient de plus en plus sophistiquée. Et on voit qu'elle s'inspire beaucoup des règles de droit continental, donc beaucoup des règles européennes, de la France, de l'Allemagne, pour construire ces réglementations.

• Speaker #1

  Ok, c'est très intéressant. J'ai une question. Tu as parlé très brièvement du besoin, notamment, de développer l'IA dans le domaine judiciaire. Bon, tu te doutes bien que c'est un sujet qui m'intéresse et qui devrait, je pense, s'intéresser tout justiciable. Est-ce que la Chine utilise l'IA pour rendre ses décisions de justice ?

• Speaker #0

  Absolument. Ça fait justement partie des politiques publiques qui ont été mises en place à partir de 2022, qui a fait l'objet de beaucoup d'écrits des autorités pour expliquer comment ça devait être mis en place. Et donc concrètement, dans certains tribunaux et pour certains types de litiges, il y a... Une IA qui va intervenir aux côtés du juge, mais finalement avoir réellement un pouvoir de décision. Alors, pour l'instant, les domaines sont limités à des domaines simples, les contrats de prêts simples, les comportements dangereux au volant, et puis des procédures administratives non contentieuses. Ce sont les trois domaines simples. il est voulu comme tel par la Chine dans lesquelles cette expérimentation est menée. Et donc concrètement, en Chine, beaucoup de procès se tiennent maintenant par visioconférence. Ça s'est énormément développé. Ça existait avant le Covid, mais ça s'est énormément développé pendant le Covid. Donc, lors de l'audience et avant l'audience, tout les éléments du dossier vont être injectés dans l'IA. Également ce qu'on peut présenter comme précédent. Alors en Chine, la notion de jurisprudence n'existe pas réellement. Il y a maintenant progressivement des décisions de la Cour suprême auxquelles les juges doivent se référer, mais c'est encore assez naissant. Mais donc les éléments du dossier vont être injectés dans l'IA, les décisions de la Cour suprême. qui peuvent exister vont être également injectés, tous les éléments de la procédure. Et lors de l'audience, à côté du juge physique, il sera à côté d'un ordinateur qui va dérouler tous ces éléments les uns après les autres, devant les justiciables, les personnes parties au litige. Et assez rapidement, l'IA va donner sa conclusion sous le contrôle du juge sur l'affaire en cours.

• Speaker #1

  Ok, alors une question me brûle, tu n'as pas parlé d'avocat.

• Speaker #0

  Alors pardon, oui, les parties sont assistées par leur avocat, même en vidéoconférence et pas nécessairement au même endroit.

• Speaker #1

  D'accord, ok. très bien donc on a les parties et leur avocat ok donc on a toujours même en Chine on n'a pas encore mis l'avocat de côté dans les non c'est c'est juste pour pour un petit pied de nez à toutes les personnes qui veulent hanter la profession un peu trop vite avec l'IA qui arrive.

• Speaker #0

  D'ailleurs, cette expérimentation est menée aussi sous forme de tests et de concours. Les avocats, les juges sont mis dans des grandes pièces, un nombre important d'avocats sont dans des grandes pièces avec des ordinateurs et vont tester justement ces systèmes d'IA pour vérifier la façon dont c'est mis en œuvre. et vérifier qu'il n'y a pas de problème.

• Speaker #1

  Notamment de biais, etc.

• Speaker #0

  Exactement. Alors, on n'a pas accès à la façon dont les modèles sont entraînés. Ce serait très intéressant de savoir exactement comment sont entraînés ces IA. On n'a pas accès à ces données, mais en tout cas, c'est testé vraiment par des avocats et des juges à assez grande échelle.

• Speaker #1

  Ok, parfait. Donc, et là, on est encore en mode test and learn. C'est pas... Tout à fait. Il n'y a pas encore de décision pour...

• Speaker #0

  L'objectif, c'est que ce soit mis en place et généralisé en 2030.

• Speaker #1

  OK. Super. Très bien. OK. Donc, il va s'en passer des choses en cinq ans. Pas qu'en Europe. OK. Ici, donc, est-ce que tu as l'occasion de travailler souvent avec l'Europe ?

• Speaker #0

  Oui.

• Speaker #1

  Oui ? Sur des questions d'IA déjà ou pas encore ?

• Speaker #0

  Alors pas encore, si tu veux dire dans le sens d'entreprises chinoises qui s'implanteraient en Europe dans ce domaine-là, pas encore.

• Speaker #1

  D'accord, ok. Mais alors à ton sens, est-ce que ce serait aujourd'hui au regard de la réglementation à laquelle une entreprise chinoise est confrontée, Est-ce que ce serait compliqué pour elle de se... pliée à la réglementation européenne pour s'implanter en Europe ?

• Speaker #0

  Alors, ce sont quand même des règles assez différentes, très différentes même, puisque finalement, une entreprise chinoise, elle va devoir, dans ce domaine-là, elle va devoir à la fois mettre en place un système pour se conformer aux règles chinoises, et puis un système vraiment différent pour se conformer à la réglementation européenne, parce que l'approche par les risques... tout le système mis en place par l'acte européen est quand même très très différent de ce qui existe actuellement en Chine. Par contre ça pourrait peut-être évoluer dans l'avenir parce que la Chine a prévu depuis quelques années qu'elle sortirait une loi générale sur l'IA. Alors on l'attendait pour cette année. ou en tout cas un premier projet, parce qu'après on fonctionne par projet, par itération, avant que le texte final sorte. Elles font appel d'ailleurs aux commentaires de divers acteurs de la vie économique sur les projets de loi. Donc elle a prévu de sortir une loi globale sur l'IA, pour l'instant on ne l'a pas encore vue. Mais la grande question, est-ce qu'elle s'inspirera justement du système européen ? ce qu'elle créera. vraiment un autre système ? Ça, c'est la grande question.

• Speaker #1

  OK. On a parlé de réglementation. Alors, il y a un mois ou deux, il y a eu beaucoup d'actualités en France sur la réglementation portée par la ministre en charge du numérique pour protéger les jeunes avant 15 ans et l'interdiction de... l'interdiction d'avoir des smartphones et un accès au réseau, etc. Est-ce qu'il existe quelque chose de similaire en Chine ? Parce que je suppose que ce problème n'est pas propre à la France. Comment il est réglé ou quelles sont les solutions trouvées ?

• Speaker #0

  Oui, tout à fait. Tu as tout à fait raison. C'est une préoccupation mondiale. La Chine a pris des mesures au printemps. Elle a imposé un couvre-feu internet, que l'utilisation d'internet est interdite entre 22h et 6h dans une certaine limite d'âge. Des limites d'âge en fonction de diverses utilisations. Les moins de 8 ans sont limités à 40 minutes d'écran par jour. Les adolescents sont soumis à des limites variables qui peuvent aller jusqu'à 2h. et pour Pour contrôler cela, en fait, elles demandent aux entreprises qui sont dans ce domaine-là, de fournisseurs d'applications, de fournisseurs de téléphones. de mobile ou de plateforme, de vérifier l'âge des enfants, des adolescents et pour ce faire, de mettre en place des systèmes de reconnaissance faciale. Je ne sais pas si ce serait une inspiration pour notre ministre en France et notre système français.

• Speaker #1

  Alors, je ne pense pas.

• Speaker #0

  J'anticipe des difficultés en France. Bon, après... En Europe en général. Oui.

• Speaker #1

  Voilà,

• Speaker #0

  c'est effectivement une mesure qu'elle a prise. Et voilà, son idée, en fait, est de limiter, évidemment, les risques d'addiction, dont, évidemment, elle se rend compte aussi en Chine.

• Speaker #1

  Oui, OK. Et la question de l'éducation, alors je sais, on dévie un petit peu, mais on a beaucoup parlé de... de droits et de réglementations, mais sur la question de l'éducation par rapport à l'IA, parce que les deepfakes, les chatbots sont un véritable danger pour les non-initiés, parce que les technologies sont de plus en mieux faites, et du coup, il y a énormément de personnes qui sont en situation de faiblesse par rapport à ça, que ce soit les personnes âgées, les personnes déconnectées du numérique, les jeunes. Est-ce qu'il y a une solution par l'éducation qui a été trouvée en Chine ou pas ?

• Speaker #0

  Oui, en fait la Chine va effectivement insérer des programmes à partir de la rentrée, des programmes en matière d'IA, des programmes d'éducation à l'IA dans les écoles primaires, à hauteur de 8 heures si je ne me trompe par an. Ce qui est assez conséquent. Après, en termes de programme exactement, ça reste encore à être défini. Ça pourrait être à la fois des programmes décrivant ce qu'est l'IA et visant à promouvoir ce type d'activité dans l'avenir, et puis promouvoir les sciences, être intégré dans un programme plus en lien avec l'innovation en général, et intégrer également des... des aspects relatifs à la sécurité, alerter sur les risques, évidemment de façon adaptée au public des enfants. Mais en tout cas, effectivement, c'est mis en place à partir de la rentrée.

• Speaker #1

  Ok, très très bien. Alors, merci beaucoup. Une dernière petite question, parce que j'aime bien ouvrir sur une touche d'optimisme. Est-ce qu'il y a quelque chose que tu vois comme techno, lié à l'IA en Chine ? que tu adorerais voir en Europe ou qui te semble être une véritable innovation de rupture ? Une rupture ? Tu baignes dedans, donc peut-être que c'est déjà naturel pour toi de les utiliser.

• Speaker #0

  Ça, c'est clair que je me rends compte qu'on baigne tellement dedans. En fait, c'est moins... C'est mon relatif à l'IA que d'une manière générale, tout ce qui a été développé au plan numérique, mais déjà depuis quelques années, via WeChat par exemple, qui est un petit peu l'équivalent de WhatsApp, mais beaucoup plus développé, qui permet le paiement par voie numérique. Maintenant, il n'y a presque plus personne qui a des billets en Chine. Tout le monde, même dans les provinces reculées, tout le monde utilise WeChat ou Alipay pour payer. Il y a également toutes les plateformes de livraison qui sont, j'avoue, d'un confort absolu. Quand on vit en Chine, on peut se faire livrer tout ce qu'on veut à toute heure. C'est assez impressionnant et à une vitesse aussi très impressionnante. Donc moi je dirais que c'est l'agilité de ces innovations qui sont vraiment, qui collent aux besoins et aux envies de la population. Il y a vraiment des analyses très poussées qui sont faites sur les envies de la population pour adapter ces innovations. Et c'est vraiment quelque chose, on voit quand même la différence avec ce qui se fait en Europe. La rapidité aussi du test de marché sur les innovations, il crée assez rapidement, il teste surtout très rapidement, beaucoup plus que ce qu'on fait par exemple en France. Le débat entre français et chinois, où on sait que la recherche en France met pas mal de temps, est très très approfondie. Et avant de mettre sur le marché, on va approfondir, approfondir, s'assurer que c'est conforme à tel et tel aspect, alors qu'en Chine, on va tester très rapidement. Et ça, c'est, je pense, aussi une grande force de la Chine.

• Speaker #1

  Ok. Christine, merci beaucoup. Pour ce voyage en Chine, ravie de savoir que... Alors j'ai l'impression de ce que j'entends, qu'en termes de régulation, on est à peu près dans les temps, que tout se décide un peu en même temps, que ce soit en Chine ou en Europe, que d'un point de vue des technos, la Chine prend de l'avance sur la partie industrielle. qu'il faudrait peut-être regarder un peu plus en détail ici en Europe, mais qu'en revanche, certaines solutions, notamment pour les jeunes de moins de 15 ans, ont des approches controversées sur le contrôle qu'on va devoir y mettre pour mettre en application. J'espère qu'on n'arrivera pas à cette finalité-là en Europe et qu'on trouvera autre chose. Voilà. Merci infiniment. Je le répète, on peut facilement te suivre sur LinkedIn pour entendre parler de la Chine et de sa régulation. Et tu accompagnes les entreprises dans leur installation en Chine notamment. C'est bien ça ? Absolument. Parfait. Merci beaucoup. J'espère que vous aurez aimé cet échange, que nous n'aurons pas eu trop de jargon d'avocat. Et n'hésitez pas à vous abonner. Au revoir.