Description
🎙️ Dans ce second épisode, j’ai décidé de recevoir le Professeur Amine BENYAMINA, spécialiste en addictologie et chef du service de psychiatrie et d'addictologie de l'hôpital AP-HP, également professeur à l'Université Paris-Saclay
Bonne écoute !
Hébergé par Ausha. Visitez ausha.co/politique-de-confidentialite pour plus d'informations.
Transcription
Déclic, de la prise de conscience à l'engagement. Pour cette année 2026, j'ai choisi un format différent. Prendre le temps, échanger sans filtre, donner la parole à des voix diverses pour éclairer les enjeux du numérique autrement. Dans ce deuxième épisode, j'ai choisi d'échanger avec le professeur Amine Benyamina, spécialiste en addictologie et chef de service psychiatrie de l'hôpital... Paul Brousse, pour échanger ensemble sur un combat qui nous anime tous les deux, la protection des mineurs en ligne. Bonne écoute. Professeur Amine Beniamina, merci d'être là, de venir discuter avec moi dans une série de podcasts. J'ai souhaité vous inviter parce qu'en plus, évidemment, des communications que je peux faire, Des mesures que nous prenons, que ce soit législatives, réglementaires, sur le numérique, l'IA, il me paraît important à travers ces podcasts de pouvoir discuter en profondeur sur des sujets qui me tiennent à cœur. En l'occurrence, la protection des mineurs sur le net, dans l'environnement du numérique. Vous êtes un spécialiste de ces sujets-là. Je vais vous laisser vous présenter. Avant qu'on puisse avoir une discussion, je vous poserai plein de questions. J'en profiterai également pour vous dire la vision que j'ai de la protection des mineurs en ligne, de ce qu'on a déjà fait, de ce qu'on compte faire. Et on va avoir bien sûr besoin des expertises, dont celle de la médecine, des scientifiques, et puis plus d'autres projets qui vont nous concerner, vous et moi, dans les semaines à venir.
Avec plaisir.
Alors qui êtes-vous, professeur ?
Alors moi je suis psychiatre et addictologue, donc j'ai la double casquette. Je suis également professeur à l'Université Paris-Saclay. Et je dirige un grand département dans lequel je m'occupe à la fois de psychiatrie et d'addictologie. Et tous les produits, tout ce qui est en lien, et tout ce qui peut affecter finalement la privation de la liberté. Alors dans les addictions, il y a ce qu'on appelle les addictions avec et sans produit. Et le sujet qui nous concerne, Madame la Ministre, c'est les addictions sans produit. Et les écrans et tout ce qui est numérique, il y a, est venu faire effraction dans notre pratique, qui nous a amené à parfaire. notre expertise, puisqu'on était confrontés à des jeunes qui venaient dans nos services avec des problématiques de produits classiques, alcool, tabac, extasie, cannabis, tout ce que les jeunes consomment en ce moment, protoxyde d'azote. Mais à côté de ça, on a vu monter de plus en plus ce rapport aux écrans, ce rapport à l'IA, à l'Internet, qui devenait problématique. Et donc du coup, on a commencé à s'y intéresser. Et c'est comme ça que, s'intéressant à ces jeunes, Avec un service qui est très exposé, les pouvoirs publics se sont intéressés à nous pour partager notre savoir.
C'est important que nous, avant d'avancer sur des réglementations, sur des lois, que ce soit au Parlement, que ce soit le gouvernement, on ait cette vision de scientifique. Vous êtes un expert dans le domaine. Est-ce que je peux vous dire, finalement, puisque vous étiez spécialiste de l'addiction, je dirais, avec substance... que vous avez appris en marchant, puisque c'est un environnement nouveau. Et comment ça se traduit ? Est-ce que c'est la même chose que finalement de fumer du cannabis ou de prendre de la cocaïne ?
Alors c'est la même chose dans le mécanisme qui est à l'origine finalement de la perte de la liberté. Vous savez quand on consomme un produit, on vient bousculer un système qu'on appelle le système de récompense dans le cerveau. Je ne veux pas être très compliqué mais c'est assez simple. On a des zones dans le cerveau qui sont stimulées lorsqu'on prend de l'alcool, qu'on prend un psychostimulant. On vient du cannabis, et bien lorsqu'on a du... ça procure du plaisir et ensuite ça entraîne une modification de l'équilibre dans ce cerveau. Et ça produit une cascade neurobiologique dans le cerveau. Lorsqu'on est face à un écran, avec du plaisir à scroller ou bien du plaisir à jouer, on a la même modification dans le cerveau qui s'opère, mais... Au lieu d'avoir un produit qui est à l'origine de cette modification, ce sont des stimuli par le regard, par l'attente finalement de ce qu'on a sous les yeux. Évidemment, ce qui est utile à dire très vite, ce n'est pas n'importe quel objet, n'importe quel comportement qui est à l'origine de ce plaisir. C'est quelque chose qui nous parle, c'est quelque chose de plaisant. Et donc petit à petit, on vient modifier finalement de la même manière qu'avec un produit l'équilibre et globalement. Notre système est pris en otage. Ce système de récompense est pris en otage. Et c'est la raison pour laquelle il y a les mêmes mécanismes et qui entraînent finalement les mêmes standards de prise en charge et les mêmes alertes finalement épidémiologiques qu'on devrait finalement mettre en avant. Pareil.
En avril 2024, vous remettez un rapport au président de la République, le rapport Écran, une trentaine de recommandations. Vous abordiez déjà ce sujet-là. Ça m'a fortement d'ailleurs inspirée à la demande du président et du Premier ministre de finalement mettre en place en France une majorité numérique. Une majorité numérique qui est là pour protéger finalement aussi les mineurs. réguler les plateformes de telle sorte qu'elles empêchent à partir d'un certain âge, 15 ans en l'occurrence, d'accéder à certains contenus, à certains réseaux sociaux, et qui contribuent justement à cette addiction également. Donc ça a été déjà une première action très forte du gouvernement. Il y en aura d'autres. Une sénatrice, Catherine Morin de Sailly, travaille également, et l'OTEX sera étudiée à l'Assemblée nationale très prochainement, d'accompagnement autour de la santé. de l'accompagnement autour de l'éducation également à l'école. Alors ça, c'était une première étape. L'IA générative, c'est un autre sujet qui va finalement beaucoup plus vite que la régulation. C'est pourquoi la majorité numérique est déjà un garde-fou. Nous vous avons confié notamment, j'ai eu le plaisir de vous confier une commission, la coprésidence d'une commission avec Raphaël Gaillard et Serena Villata. Donc un psychiatre et une chercheuse de l'INRIA et du CNRS sur finalement l'IA générative, l'impact de l'IA générative et les vulnérabilités que cela provoque. Pourquoi les jeunes finalement sont plus fragiles par rapport aux IA génératives ?
Alors c'est un sujet fantastique, c'est un sujet qui monte et lorsqu'on a remis le rapport, C'était le sujet qui nous semblait devoir... succéder au rapport écran. Et vous avez absolument raison. Il y avait les éléments comme ça que l'on pouvait sentir, et vous avez lu, je le sais, parce que vous me l'avez dit, avec... Vous avez dévoré notre rapport, je reprends vos mots. Tout à fait.
Dans un TGV,
on ne trouvait pas les paroles. Dans un TGV, je ne dis que ce que j'ai entendu de votre bouche, Madame la Ministre. Et dans ce rapport, il y avait des éléments qui, clairement, étaient en lien avec ce qui est en train de monter. Alors, lien génératif. À ça de particulier, c'est qu'en gros, c'est l'ADN à partir duquel on a construit tout ça. C'est dans cette IA qu'on a, avec cette IA, qu'on a petit à petit construit les algorithmes, les algorithmes très complexes qui maintiennent finalement l'attention. On a le sentiment, et ce n'est pas le sentiment, c'est la réalité, que dans les IA génératifs, on produit ce que la personne et les jeunes en particulier attendent. Alors évidemment, c'est d'autant plus... C'est important qu'on est jeune parce que le cerveau est en maturation et le cerveau est très sensible aux stimuli et à tous ces éléments quand il n'est pas totalement maturé. Il mature jusqu'à 22-23 ans. Quand on parle de jeune, ce n'est pas 18 ans, ce n'est pas 15 ans. Ça va au-delà. Et donc là-dessus, les concepteurs finalement, je ne sais pas s'ils l'ont fait exprès. Au départ, ce n'est pas le cas. J'ai entendu un des pionniers de l'IA qui expliquait que Il était très inquiet parce qu'il ne pensait pas que ça allait prendre cette tournure, pas en tout. Il ne voyait que l'avancée pour l'humanité. Et l'effet pervers et l'effet compliqué est en train d'arriver. C'est cet enfermement, c'est ce colloque singulier qui va s'opérer entre une personne vulnérable, désarmée, face à quelque chose qui est fantastique, qui devient d'une certaine manière un accompagnateur, un couple. qui peut à un moment ou à un autre devenir encore plus important pour lui que sa famille, ses amis, sa propre personne. C'est là où très clairement il est utile d'éclairer les politiques que vous êtes sur les risques liés à cette IA générative. Alors peut-être qu'on ne va rien trouver, mais d'après ce que l'on voit, d'après les cas cliniques, d'après les alertes que l'on voit là maintenant, je pense que c'est un rapport qui à mon avis sera d'une grande utilité pour vous comme vous l'avez fait pour les écrans, probablement vous le ferez pour eux. pour les IA génératives en matière de protection.
Vous avez dit que certains créateurs d'IA n'étaient pas forcément conscients des effets. A contrario, pensez-vous que des facteurs d'IA sont pleinement conscients de ce qu'ils font ?
Hélas oui. Je pense que j'entendais pas plus tard que ce matin, je ne me rappelle plus de son nom, un grand chercheur canadien, et puis un autre aussi, qui expliquait la première des choses qui les inquiète maintenant. Et on le vit tout simplement, c'est par exemple un péril démocratique, c'est-à-dire une IH1 sur des jeunes qui sont en capacité d'aller voter, et ils ont le sentiment de voter en propre. de manière très autonome, très réfléchie, alors qu'ils ont été amenés par une forme d'intelligence imposée vers un scrutin particulier. Et là, c'est quelque chose qui n'arrivera pas demain. On y est en pleine dent. Donc là-dessus, je pense qu'il faut vraiment, à un moment ou à un autre, essayer d'inverser ce phénomène de privation de la liberté ou alors d'une liberté dirigée.
D'ailleurs, c'est un sujet... que le président de la République Emmanuel Macron prend vraiment très très au sérieux. Les risques d'ingérence étrangère, de manipulation pendant des élections. Il y a les municipales d'ici quelques semaines, il y aura les présidentielles en 2027. Il ne faut pas être naïf et il y a des puissances, des plateformes qui ont l'intention de peser dans les élections. On est tout à fait conscient de cela. Après il faut faire de la prévention. Et donc autour du président il y a effectivement des experts également. Et nous, mon ministère y contribue. le ministère de l'Intérieur, pour prévenir ce genre de risque et accompagner les élus locaux, que ce soit des maires sortants, des candidats, à détecter quand ils sont victimes de portes et plaintes. Et nous, en tout cas, on sera aux côtés des élus à chaque fois pour les défendre et de casser ces désinformations. Pour revenir à la jeunesse, finalement... Les risques auxquels ils sont confrontés, on l'a abordé un petit peu. Il y a les deepfakes, donc vraiment de la désinformation. Il y a également l'IA générative, des nouvelles vulnérabilités qui sont assez angoissantes, je dois dire, en tant que parent, grand-parent. Et c'est finalement que l'IA générative devienne le meilleur ami de nos adolescents et de nos enfants.
Ça, c'est un sujet capital qui, très clairement, occupera beaucoup. Beaucoup le rapport qu'on va vous remettre. On a commencé à regarder la littérature, on parle de sycophantisme. Alors là c'est un terme un peu compliqué, mais j'ai appris ce que c'était parce que l'université à laquelle j'appartiens, Paris-Saclay, a une fondation qui a été approchée par la Fondation du risque et qui m'a demandé de faire un travail là-dessus sur trois ans pour remettre un rapport là-dessus. C'est-à-dire cette capacité à produire du contenu par une lueur générative et qui est à l'origine des décompensations psychiatriques. et des manifestations liées à une forme de confusion entre la réalité et le virtuel. On voit à travers finalement les incitations à des actes violents, à retourner contre soi ou contre les personnes extérieures. Il y a aussi, on a identifié des troubles psychiatriques que tout le monde connaît, des troubles anxieux, des troubles dépressifs, des hallucinations parfois même, des phénomènes délirants avec des cas cliniques. disséminés dans le monde à la faveur d'une relation liée, virtuelle. On a aussi des commerces actuellement de l'IA. Pour ceux qui habitent à Paris, moi j'ai été étonné de voir un collier...
Friends,
vous savez. Oui, voilà, donc je l'ai découvert moi, je me posais la question naïvement, et puis j'ai des alliés à la maison qui m'ont expliqué ça. C'est le nouveau ami que tu as autour du cou. On ne le connaît pas encore, mais je pense que... on arrive déjà à un niveau d'intrusion dans l'intimité des personnes qui pose question. Donc là-dessus, on va vraiment aller à la recherche de production scientifique et de déménage de collègues et de scientifiques pour vraiment avoir une vision très claire de ce qui est en train de se mettre en place. Et cette IA générative, à laquelle je n'étais pas, personnellement, je continue à ne pas être opposé. En revanche, je reprends les mots du président, il faut réguler et je demande aux experts de converger et on va essayer de faire ça.
Oui, ça va être très très utile pour nous, pour le gouvernement, pour mon ministère, pour les parlementaires qui s'approprient beaucoup ces sujets-là également. C'est que le résultat du rapport que vous allez faire de la commission sur l'IA générative et les vulnérabilités vont nous permettre de savoir s'il faut réglementer. s'il faut encadrer, s'il faut prévenir, si ça se passe à l'école, si ça se passe... Enfin voilà, ça nous permet de faire des politiques publiques qui collent à la réalité. L'idée n'est pas de tout réglementer. Nous sommes attachés aussi à la liberté, bien sûr, mais aussi d'un juste équilibre entre l'innovation. On a besoin d'une filière IA performante en France, en Europe. On a des champions, il faut qu'on les accompagne, tout en préservant les populations. Il faut trouver ce juste équilibre. Et c'est vrai que la... La vision scientifique, c'est le postulat, pour moi, de départ. Et après, je dirais que la machine va se mettre en route pour savoir comment l'accompagner au mieux.
Alors, peut-être que je me trompe, madame la ministre, mais évidemment, je baigne dans ce domaine. Depuis peu, en étant médecin, psychiatre, ma pratique de tous les jours, c'est de voir des gens en souffrance à qui je prescris des médicaments, où je l'écoute et j'accompagne. Mais avec l'intrusion dans ma vie de ce domaine, je me suis rendu compte qu'il y avait finalement deux populations d'industriels. Les premiers, c'est ceux qui ont les inventeurs, les créateurs de Satyra, qui sont, j'ai envie de dire, des génies réels et qui sont animés. Pour beaucoup, peut-être que je suis naïf, d'une bonne intention. Et puis ceux qui utilisent cette IA à des fins commerciales, je crois qu'on a affaire à deux catégories différentes. Je ne dis pas qu'il y a les bons d'un côté et les méchants de l'autre, mais je me rends compte que beaucoup de ceux qui sont à l'origine de cette révolution, qui travaillent depuis des années, ils sont sous la lumière depuis peu, sont tous plus ou moins inquiets de ce qui peut advenir, de ce qu'ils ont créé. Ça me rappelle un peu Funeste Histoire. les concepteurs théoriques de la bombe atomique et ceux qui l'ont utilisée derrière. Donc en gros, c'est un peu le sentiment que j'ai. Je ne sais pas si j'ai tort ou pas.
Je pense que vous avez raison, mais je voudrais vous dire que d'abord, nous ne sommes plus naïfs. On a finalement un peu subi ce développement de l'IA et des technologies qui vont très très vite, les réseaux sociaux qui sont des puissances financières énormes. Et donc on regardait un petit peu cela. passer devant nous en se disant comment ça va atterrir tout ça. Cette période d'observation, elle est terminée. C'est-à-dire que la naïveté qu'on a pu avoir, si on a eu, mais en tout cas, nous sommes des gens intelligents, on regarde, on ne régule pas avant d'avoir mal, entre guillemets. On ne fait pas de procès d'intention. On ne fait pas de procès d'intention, on est plutôt ouvert et on dit, je suis comme vous, plutôt convaincu que ça va nous apporter aussi beaucoup de bonnes choses. Mais il y a un moment où il faut quand même encadrer. C'est ce que nous souhaitons faire dorénavant. Mais je souhaiterais quand même vous rassurer. C'est que contrairement à certains grands opérateurs d'IA qui sont sans foi ni loi et qui ne sont guidés que par l'argent et qui finalement, comme dit le Président de la République, achètent le cerveau de nos enfants, nous ne souhaitons plus tolérer cela. La majorité numérique a 15 ans en France que nous avons commencé à mettre en œuvre déjà à l'Assemblée nationale et dans quelques semaines, je l'espère. je compte sur la sagesse des sénateurs également. En gros, ça veut dire quoi ? Ça veut dire, vous les plateformes, eh bien, on vous donne des règles. Parce que, grâce justement à l'expertise scientifique, grâce au fait qu'on n'est quand même pas naïf de ce que vous voulez faire, que finalement, il n'y a pas de valeur derrière votre technologie. Nous, en Europe, on a des valeurs. Et au sein de notre IA, nous, l'IA que nous voulons pour la France et l'Europe, eh bien derrière, c'est l'humain au cœur. C'est la liberté. C'est la transparence des algorithmes. C'est un IA respectueux de l'environnement, donc durable. Si on respecte ces règles-là, on va pouvoir discuter avec les opérateurs. Si vous ne respectez pas ces règles-là, nous mettons des règles qui vont vous contraindre. C'est exactement le contexte dans lequel on est actuellement. Et là où on était un peu impressionnés, il faut dire, par les grands... Aujourd'hui, on a des très bons chez nous. On veut les pousser. Et surtout, on leur dit dorénavant, vous respectez nos règles, parce que les règles qu'on fixe, on les fixe en européen. Depuis l'Europe et pour l'Europe, vous vous y conformez, sinon on ne vous ouvrira pas nos marchés. Voilà, c'est aussi simple que ça. Donc en fait, là, cette discussion entre vous, les précautions et les interrogations, les craintes que vous avez, et finalement qui sont les mêmes que nous, on a des moyens de réponse. Vous, vous devez finalement nous éclairer ce que vous faites, et puis nous, après, on prend les décisions pour encadrer tout ça. Donc on fait une très belle équipe entre la science, les experts de l'écosystème. Plus nous, les régulateurs, la politique publique, on est en train de construire quelque chose, donc moi personnellement je suis fière, et qui commence à faire bouger les lignes. La majorité numérique, je l'ai vu en Inde au sommet sur l'IA, et bien tous les interlocuteurs que j'ai rencontrés, mes homologues européens, canadiens, indiens, australiens, tous m'ont parlé de la majorité numérique en France.
C'est super ! J'ai l'impression qu'on ouvre la voie. Alors vous avez dit, les opérateurs achètent le cerveau de nos enfants. Alors moi j'ai eu l'occasion de faire un débat avec des gens qui connaissent le sujet, qui en font le commerce, et puis une discussion nourrie et plutôt intéressante. Et puis quelqu'un a dit, on achète le cerveau, mais en vérité on vend le cerveau de nos enfants. Et quand c'est gratuit, le produit, c'est vous. Donc c'est souvent comme ça que... Et donc là c'est extrêmement important d'avoir ça en tête. Ça n'est jamais gratuit. C'est nous qui sommes finalement le produit. Et c'est là où très clairement... Votre regard et le regard aiguisé des politiques qui savent ce qui est derrière le rideau, contrairement à nous scientifiques qui décortiquons finalement les mécanismes, il est extrêmement utile et qui nous permet finalement de comprendre et finalement de mettre à disposition ce qu'on a compris pour mettre en action des choses comme ça. Ils vendent, ils vendent, parce qu'ils sont gagnants.
Et tant qu'on ne dit rien, qui ne dit mot consent ? Le quino-dimoconsens, c'est sur ce sujet-là, on souhaite maîtriser et protéger notre population. Le curseur ensuite,
c'est une question du curseur. C'est ça.
Après, il ne faut pas tout interdire. Le message que je passe aux jeunes quand je les rencontre, on ne veut pas vous priver de votre liberté, on veut vous protéger. Et les parents qui parfois sont démunis, parce que tous les parents ne sont pas égaux face à la technologie non plus, il y a des fractures numériques, il y a des parents qui suivent ça très bien. qui interdisent à leurs enfants le téléphone portable dans leur chambre le soir et on laisse ça en bas sur la table du salon. Il y en a d'autres qui ne passent pas parce qu'ils ne sont pas là, ils sont au travail. D'autres, il y a des sources multiples de discussions tendues avec les jeunes. Rajouter le numérique, c'est un sujet de plus.
Vous savez, Madame la Ministre, vous étiez venue dans mon service.
Oui, j'ai eu la chance de visiter le service à l'hôpital Paul-Brus.
Merci de nous avoir fait cet honneur. Et lorsque le texte est passé... Moi j'ai des critiques de la part d'un certain collègue qui me disait « Oui mais c'est liberticide, vous aussi. »
Oui.
J'ai même entendu un expert qui parlait d'un état totalitaire. Oui. Il y a quelque chose qui ne va pas dans votre raisonnement. Est-ce que vous accepteriez que l'on serve de l'alcool à des moins de 18 ans ? Est-ce qu'on est en capacité d'aller acheter du tabac chez un débiteur de tabac chez les moins de 18 ans ? Pourquoi quand il s'agit de virtuels ou de réseaux sociaux, Votre raisonnement s'arrête ici. Et puis le texte ne dit pas qu'on va mettre un policier dans chaque famille, dans chaque foyer. On envoie un signal fort de protection et de nocivité et parfois de dommage lorsque l'on n'a pas encore 15 ans. C'est tout ça qui est important. L'esprit de la loi en ce qui concerne cette mesure que vous avez fait voter est aussi voire plus important que la loi elle-même en quelque sorte. Ça a été l'esprit avec lequel... Le Premier ministre australien, qui nous a précédé très peu, a expliqué pourquoi il faisait passer cette mesure.
Et en plus, ça passe des messages aux plateformes. Et les plateformes, globalement, à part celles qui sont effectivement pas très honnêtes et qui ont des finalités très mercantiles, et uniquement mercantiles, les grandes plateformes sont responsables. Quand on entend le discours du patron de Google en Inde par exemple, quand je vois des demandes de rendez-vous d'opérateurs qui veulent me rencontrer pour voir comment des gens anticipaient la mise en œuvre, ça veut dire qu'elles sont finalement à l'écoute et qu'on commence à faire passer les messages et qu'elles sont elles-mêmes conscientes. Donc moi j'apprécie ces démarches. Par contre, on a des parents qui nous regardent là. Est-ce que vous pourriez nous dire comment on détecte un ado ou un jeune qui est en situation d'addiction ? aux écrans, à l'IA générative, voire même qu'il y a une intrusion dans sa vie qui fait qu'il a perdu le contrôle.
Alors, avant qu'il ne perde le contrôle, ce qui est important c'est d'avoir quelques signes pour pouvoir anticiper finalement les dommages qui s'installent rentrer vite. Les dommages sont évidemment le fait d'avoir de petites nuits, d'être fatigué, d'avoir des mauvais résultats scolaires et d'être finalement un peu à la marge de la famille. Il est dans sa chambre, il ne vient pas à table lorsqu'on l'appelle, ou il faut l'appeler plusieurs fois, et que dès lors qu'il a du temps, il est face à son écran, que ce soit son smartphone, ou bien sa tablette, ou bien l'ordinateur. Et donc là-dessus, on se rend compte assez vite qu'il est plus intéressé par se mettre devant l'écran que d'échanger avec ses parents, ou bien ses frères et soeurs. Et lorsque, pire que tout, il préfère... rester derrière l'écran et ne plus fréquenter ses amis ou ses copains de classe, on est un degré au-dessus. Et puis, ça c'est les éléments sur lesquels les parents peuvent tout de suite réagir. Je vous dirais, l'idée ce n'est pas d'être dans une confrontation, c'est d'avoir de la patience et de rappeler les choses. Et ensuite, on a des pathologies qui s'installent, du sommeil, de l'obésité, c'est ce qu'on a mis dans notre rapport, des problématiques qui peuvent être majorées, comme les troubles anxieux. parfois quelques symptômes dépressifs. Et alors il y a le contenu aussi. Lorsqu'on a un contenu qui est malveillant, on commence à avoir quelques éléments en lien avec ce contenu qui peut nous entraîner vers autre chose. Donc là, là-dessus, les parents assez vite s'en rendent compte. Mais avant les parents, il y a les enseignants, il y a le corps. L'éducation nationale joue un rôle fantastique. D'ailleurs,
c'est ce que j'ai beaucoup retenu de votre rapport sur l'écran. C'est que vous avez, vous, une vision très globale et que ce n'est pas que de la régulation.
Non.
Ça passe par d'autres choses.
C'est un système. Et l'IA génératif, ça sera pareil. C'est un système dans lequel on évolue. On n'a pas l'IA parce qu'on est à la maison et qu'on va aller sur les grands opérateurs de l'IA. Il va être partout. Il commence à être partout. Vous voyez. Je vais vous faire une petite confidence. J'ai écouté un morceau de musique qui, à tout point de vue... Me ravisser parce que c'est ce que j'aime. Puis je l'ai envoyé à mon fils qui est un peu plus jeune, un peu plus dynamique et plus alerte que moi. Il m'a envoyé, mais papa c'est de l'IA.
Fait par l'IA ?
Oui.
Vous n'en étiez pas rendu compte ? Non,
pas du tout. Sur une plateforme très célèbre suédoise, pour ne pas la citer. J'ai dit, tu es sûr de toi ? Il m'a dit, essaie de Shazam. Il me dit, tu n'auras rien du tout. C'est comme ça que tu sais que c'est de l'IA. J'ai beau être alerte, baigné dans ça depuis trois ans, je ne dis pas qu'il ne faut pas les emmener. Écoutez ça. Mais je dis que là-dessus...
Alors ça nous amène à un autre sujet, et ça donnera peut-être mieux un autre podcast, c'est la protection des endroits culturels, de protéger les acteurs de la culture dans un environnement IA où on ne sera plus trop détecté.
Complètement. Moi, je suis rentré avec toute ma bonne foi carrément dans un... Pas dans le piège, parce que c'était très joli ce que vous entendez.
Après tout, c'était agréable à écouter. Oui,
voilà. Je veux dire par là, voilà.
Est-ce que ça peut aller, d'après vous, jusqu'à une situation extrême de dépression profonde, de suicide, d'isolement ? Écoutez,
moi, je suis très inquiet. D'abord, j'étais stupéfait. Et ensuite, inquiet sur des IA affectives. C'est-à-dire la relation affective dans l'intimité. Je dis, il n'y a plus de limite dans ces cas-là. Une rupture sentimentale, ça fait mal. Qui vous dit que votre bien-aimé IA, un jour, ne vous, par un mécanisme quelconque, ne va pas vous quitter ou bien se retourner contre vous ? Il y a de véritables dépendances affectives qui peuvent probablement... C'est peut-être le cas des gens, on le verra, parce qu'on va commencer à travailler là-dessus. ne peut pas entraîner un vrai chagrin au point où...
Ou à l'inverse, vous dominez en étant pervers narcissique. Complètement, vous dominez.
Tout est possible dans la relation. Tout est possible dans la relation.
Alors théoriquement, l'humain maîtrise quand même l'IA. Donc ce que vous me dites, c'est là, on perdrait le contrôle de l'IA.
Je ne parle pas des entrepreneurs ou bien des concepteurs. Je parle de monsieur et madame tout le monde, le kidam. à qui on remet cet objet et qui finalement dans sa grande solitude se retrouve à être accompagné par quelque chose qu'il pense maîtriser, qui finalement peut se retourner contre lui.
C'est vrai qu'on a vu des applications qui permettent d'avoir une petite amie virtuelle. J'ai été marquée par une rencontre lors d'une intervention que j'ai faite aux côtés de la présidente de l'Assemblée nationale. Yael Brompivet m'avait invité dans sa circonscription et le sujet c'était l'impact du numérique sur la société, sur l'humain, etc. Et dans la salle, il y avait un jeune homme de moins de 15 ans qui est venu me voir à la fin et je lui ai dit « On va réguler, on va mettre une majorité numérique » . Il est venu me voir à la fin et ça m'a vraiment marqué. Je me suis dit « Waouh, il faut vraiment qu'on mette une majorité numérique » . Il m'a dit « Si vous mettez une majorité numérique, je ne pourrai plus aller sur les réseaux sociaux puisque j'ai 14 ans et je n'aurai donc plus d'amis » .
C'est fou.
C'est terrible.
Et c'est la réalité. Parce que finalement, les amis sont à portée de main, ils sont virtuels.
Ils sont virtuels. Et ça veut dire qu'il n'a pas d'amis au sport, à l'école, dans son village. Et ça, c'est quand même inquiétant.
On commence à avoir des premiers résultats de l'interdiction des réseaux sociaux des moins de 15 ans en Australie, avec un vrai satisfait signal des gens qui retrouvent un certain nombre de choses. Un peu à la manière du Covid, lorsqu'on était tous enfermés, on a retrouvé des animaux en zone urbaine et de la végétation qui est repoussée. On peut toujours espérer, et je pense que c'est comme ça. On s'adapte.
C'est une excellente transition pour une autre question que je voulais vous poser. C'est qu'évidemment, ça s'accompagne de mesures éducatives. Quel conseil vous donneriez aux parents ? Est-ce que vous pensez que l'éducation nationale peut jouer un rôle également ? Oui, beaucoup. On a un ministre, Édouard Geffray, qui est très, très... impliqué sur ces sujets. Il a envie vraiment que finalement, de réduire déjà la présence des écrans à l'école. En dessous, ils ont interdit. Donc plus de tablettes, plus d'écrans en dessous du CP. Et ensuite, de bien contrôler la présence des écrans. Parce qu'il n'est pas avéré, Mathilde dit, que ça a permis toutes ces générations qui ont... ou qui ont eu des écrans à l'école, financés par les collectivités locales, d'ailleurs de manière très forte, a rendu les enfants plus intelligents ou plus performants. Par contre, il est d'accord avec moi que l'école s'appelle le lieu où on apprend l'esprit critique, où l'enfant arrive à détecter, est-ce que ça c'est du réel, du virtuel, est-ce qu'il faut que j'aille sur ce terrain-là ou pas ? Vous y croyez qu'à l'école ?
Alors moi ce que je crois, c'est que l'écran a sa place à l'école à condition que... Que l'enfant soit accompagné par l'adulte et qu'il l'analyse avec lui, qu'il lui explique ce qui sort de l'écran. La passivité est la paire des choses. L'accélération et la vitesse des images rendent finalement stuporeux et passifs les enfants. La pédagogie n'a de sens que lorsqu'elle est expliquée. Que ce soit un tableau ou un écran, il faut qu'un adulte soit à côté, soit les parents, soit l'enseignant. Et ça c'est important. Vous voyez, je ne suis pas contre, ni vous d'ailleurs, on n'est pas contre. Il faut qu'il y ait de la pédagogie, de l'explication. Et lorsqu'il n'y a pas l'écran, on réinvestit des espaces qui ont été finalement laissés en jachère ou à l'abandon. L'extérieur, le sport, la culture, l'écriture, la littérature. Vous m'avez posé la question sur les parents. Les parents, j'ai un conseil à leur donner. Tenez bon, on arrive sur une période de transition. C'est une période floue dans laquelle on se dit, tiens, on a lâché les écrans, on a été soutenus, il s'ennuie, qu'est-ce que je vais faire ? Pendant cette période, il faut tenir parce que l'esprit d'un enfant et d'un adolescent ne peut pas rester oisif. Il va de nouveau réinvestir. Quand un enfant n'a pas d'amis, il se trouve finalement à être inventif. Vous voyez, je parle toujours du syndrome d'un enfant unique. Il ne s'ennuie pas. Ils trouvent toujours moyen d'inventer un jeu. C'est la même chose. Lorsqu'on n'a plus ces écrans, on va retrouver finalement, de manière instinctive, autre chose à faire. On va contacter, on va sortir. Avant, on pensait que l'extérieur était dangereux. On enfermait nos enfants dans nos appartements bien au chaud, alors qu'on leur a offert les écrans. Le danger s'est retrouvé assez souvent derrière les écrans, alors qu'on pensait qu'il était à l'extérieur. C'est tout ça qu'il faut réinventer. Il faut accompagner les parents dans cet espace.
Et il faut peut-être aussi que les parents se décrochent de leurs propres écrans.
Oh si !
Ils sont peut-être très dépendants eux également. Absolument. Nous sommes tous dépendants finalement. Ce qui m'a marqué quand j'ai visité votre service à l'hôpital Paul Brousse, c'est que les jeunes que j'ai rencontrés avec ma collègue Stéphanie Rist, ils étaient plutôt favorables finalement à ce qu'on régule.
Complètement. Et ça, dans le rapport, vous savez, on a fait un hackathon. On avait rencontré 150 jeunes, pratiquement tous disaient, écoutez, de nous à décrocher.
Ils disent même, c'est votre responsabilité, j'ai entendu un jeune dans votre service dire, c'est à vous de...
Voilà, et de nous à décrocher. Et ça m'amène à une réflexion, nous avons eu une discussion là-dessus, c'est finalement on a évincé les jeunes de notre espace d'adultes.
C'est vrai.
On les a évincés, et donc ils se retrouvent dans le virtuel. Alors moi je dis, je répète, mais je n'ai rien contre. Les trains pour adultes, les avions pour adultes, les hôtels pour adultes, les vacances adultes only, je le dis, je le répète, vous m'offrez, Madame la Ministre, encore l'occasion de le dire, j'étais en train de chercher un voyage, je le dis, l'été dernier, je me suis retrouvé sur un hôtel dans lequel vous avez un hôtel pour adultes et un hôtel avec les enfants. Évidemment, l'hôtel pour adultes était plein, l'hôtel pour les enfants était moins, parce qu'il y avait du bruit dans la piscine, on est là-dessus. Il faut qu'on se pose cette question aussi, c'est extrêmement important. Retrouvons un espace dans lequel il existe pour tout le monde, un espace.
C'est très très important, et évidemment, sur le rôle de l'État. Donc on a parlé du rôle des parents, les jeunes, nous, les régulateurs, vous, les scientifiques, l'école. Et l'État ? Comment vous voyez le rôle de l'État ? Finalement, nous avons mis la majorité numérique à 15 ans. On va attendre les retours que vous allez faire de la commission sur l'IA, les génératives et les vulnérabilités. Si on faisait une projection, vous qui êtes un scientifique, qui imaginez l'avenir, vous pensez que ça va tendre vers quoi ?
Je pense que l'État, en tout cas la France, a bien réagi. On est tout le temps en train de demander à l'État d'être partout. Sur ce coup-là, l'État est au rendez-vous, par la voix du président de la République et par la vôtre. Donc l'État est au rendez-vous. Alors ce qu'il faut être maintenant peut-être... Il faut être proactif et essayer de se projeter sur ce que va être notre vie avec cet outil fantastique et comment l'appréhender sans qu'il prenne le dessus sur nous, qu'il nous retire notre liberté. C'est ça, c'est une question de liberté et c'est une question d'autonomie vis-à-vis d'un service qui ne doit pas prendre nos vies en otage. Et l'État doit se poser ce type de questions et faire des projections. Je pense que les Français sont tout à fait aptes à le comprendre. Et il ne s'agit pas de liberticide, ni rien de tout ça. Au contraire. La liberté n'est pas confisquée par l'État, elle est confisquée par un outil que l'on ne maîtrise pas.
Oui. Il ne faut pas se tromper de privation de liberté.
C'est un faux procès qu'on vous a fait sur cette histoire de liberticide. Moi, je me suis défendu en disant « mais ça ne va pas » . Pardonnez-moi de cette expression, c'est pas comme ça qu'il faut aborder le sujet.
À partir du moment où un enfant est complètement dépendant d'un écran de scrolling, c'est-à-dire quand il y a tout plein de stories qui arrivent et il est capté, il ne peut pas détacher le regard, elle est où la privation de liberté ? Elle est là ou elle est dans la majorité numérique ?
C'est exactement ce que je disais.
Je pense plutôt que nous on est dans une émergence de protection et de santé mentale aussi.
Et puis,
de faire porter la responsabilité sur les plateformes. Les plateformes, vous avez des responsabilités. Vous ne pouvez pas faire n'importe quoi. Il faut que vous ayez conscience des risques et que vous rectifiez le tir. Alors que jusqu'à présent,
il faisait porter la responsabilité sur les parents en disant « Nous avons mis dans la responsabilité parentale la belle affaire » .
Euh... Il y a évidemment la position internationale que nous avons, la France sur l'IA. C'est un sujet qu'on abordera parce qu'on a la présidence du G7 à la France en 2026. Et il existe un G7 numérique, donc la protection des mineurs, l'IA de manière globale. C'est un sujet qui sera abordé sous la présidence française de 2026, avec l'accord de tous les pays du G7. C'est un sujet qu'on a abordé en Inde. aussi. On est très, très alignés de beaucoup, beaucoup de pays sur la position que nous avons de protéger les populations et notamment les mineurs. Et à cette occasion, en Inde, j'ai fait un appel à contribution internationale scientifique. J'ai demandé à tous les scientifiques du monde qui travaillent sur ces sujets, vos homologues partout, de contribuer aux travaux que fait la France sur le sujet parce qu'on souhaite être moteur, comme on l'a été sur la majorité numérique. Et je dirais que les pays sont reconnaissants du courage qu'on a eu de ne pas lâcher. Il y a également besoin d'avoir une expertise scientifique très élargie. Et donc, il y aura vos travaux, bien sûr, mais il y aura aussi ceux qu'on a fait un appel à New Delhi pour que tous les scientifiques du monde puissent converger. Et puis, finalement, d'une manière non contestable, de dire voilà la réalité.
La science est têtue.
Exactement.
C'est la posture des preuves.
Donc la commission que nous vous avons confiée avec deux autres personnalités qualifiées, vous serez accompagné notamment du support et de l'expertise aussi du conseil sur l'IA et le numérique porté par Anne Bouvraud et Guillaume Poupard. De quelle manière vous allez travailler ?
On a eu une première réunion pour un peu caler les choses. Je pense qu'on va travailler, comme on l'a fait pour la commission Écran, avec des auditions. On va, si j'ai bien compris, être accueillis chez vous, physiquement, avec votre aide, l'aide du ministère du Numérique. Et puis, on va essayer de serrer d'abord, parce qu'il faut quand même, pour faire un joli mur, il faut d'abord un bon périmètre, établir un certain nombre de questions en fonction des profils que l'on va auditionner. et faire rédiger pour pouvoir vous remettre un rapport digeste, parce que c'est quand même un grand sujet, la vulnérabilité. Et là-dessus, je pense que le choix des personnes que l'on va auditionner est capital. Il y a très peu de littérature, il y en a, donc on va travailler comme sur la commission à l'écran sur des éléments qui existent, mais aussi on va se mouiller en quelque sorte en fonction des tendances pour essayer de vous montrer un peu vers quoi on risque d'aller. Et ça, ça me semble vraiment très important. Et donc ça sera probablement en deux ou trois, on vous remettra ce rapport qui va vous éclairer.
Rapport qui devrait nous arriver avant l'été 2026. Absolument. Donc en tout cas, moi, je suis vraiment très en attente. J'ai vraiment hâte d'avoir ce rapport. Parce que c'est de là, évidemment, que la politique publique derrière et les engagements que le président va prendre, la République ou le gouvernement agiront. donc Merci par avance, bon travail et puis avec impatience pour recevoir ce rapport. Merci beaucoup, professeur Benhamina. Merci pour votre confiance. Et puis à très très bientôt.
Description
🎙️ Dans ce second épisode, j’ai décidé de recevoir le Professeur Amine BENYAMINA, spécialiste en addictologie et chef du service de psychiatrie et d'addictologie de l'hôpital AP-HP, également professeur à l'Université Paris-Saclay
Bonne écoute !
Hébergé par Ausha. Visitez ausha.co/politique-de-confidentialite pour plus d'informations.
Transcription
Déclic, de la prise de conscience à l'engagement. Pour cette année 2026, j'ai choisi un format différent. Prendre le temps, échanger sans filtre, donner la parole à des voix diverses pour éclairer les enjeux du numérique autrement. Dans ce deuxième épisode, j'ai choisi d'échanger avec le professeur Amine Benyamina, spécialiste en addictologie et chef de service psychiatrie de l'hôpital... Paul Brousse, pour échanger ensemble sur un combat qui nous anime tous les deux, la protection des mineurs en ligne. Bonne écoute. Professeur Amine Beniamina, merci d'être là, de venir discuter avec moi dans une série de podcasts. J'ai souhaité vous inviter parce qu'en plus, évidemment, des communications que je peux faire, Des mesures que nous prenons, que ce soit législatives, réglementaires, sur le numérique, l'IA, il me paraît important à travers ces podcasts de pouvoir discuter en profondeur sur des sujets qui me tiennent à cœur. En l'occurrence, la protection des mineurs sur le net, dans l'environnement du numérique. Vous êtes un spécialiste de ces sujets-là. Je vais vous laisser vous présenter. Avant qu'on puisse avoir une discussion, je vous poserai plein de questions. J'en profiterai également pour vous dire la vision que j'ai de la protection des mineurs en ligne, de ce qu'on a déjà fait, de ce qu'on compte faire. Et on va avoir bien sûr besoin des expertises, dont celle de la médecine, des scientifiques, et puis plus d'autres projets qui vont nous concerner, vous et moi, dans les semaines à venir.
Avec plaisir.
Alors qui êtes-vous, professeur ?
Alors moi je suis psychiatre et addictologue, donc j'ai la double casquette. Je suis également professeur à l'Université Paris-Saclay. Et je dirige un grand département dans lequel je m'occupe à la fois de psychiatrie et d'addictologie. Et tous les produits, tout ce qui est en lien, et tout ce qui peut affecter finalement la privation de la liberté. Alors dans les addictions, il y a ce qu'on appelle les addictions avec et sans produit. Et le sujet qui nous concerne, Madame la Ministre, c'est les addictions sans produit. Et les écrans et tout ce qui est numérique, il y a, est venu faire effraction dans notre pratique, qui nous a amené à parfaire. notre expertise, puisqu'on était confrontés à des jeunes qui venaient dans nos services avec des problématiques de produits classiques, alcool, tabac, extasie, cannabis, tout ce que les jeunes consomment en ce moment, protoxyde d'azote. Mais à côté de ça, on a vu monter de plus en plus ce rapport aux écrans, ce rapport à l'IA, à l'Internet, qui devenait problématique. Et donc du coup, on a commencé à s'y intéresser. Et c'est comme ça que, s'intéressant à ces jeunes, Avec un service qui est très exposé, les pouvoirs publics se sont intéressés à nous pour partager notre savoir.
C'est important que nous, avant d'avancer sur des réglementations, sur des lois, que ce soit au Parlement, que ce soit le gouvernement, on ait cette vision de scientifique. Vous êtes un expert dans le domaine. Est-ce que je peux vous dire, finalement, puisque vous étiez spécialiste de l'addiction, je dirais, avec substance... que vous avez appris en marchant, puisque c'est un environnement nouveau. Et comment ça se traduit ? Est-ce que c'est la même chose que finalement de fumer du cannabis ou de prendre de la cocaïne ?
Alors c'est la même chose dans le mécanisme qui est à l'origine finalement de la perte de la liberté. Vous savez quand on consomme un produit, on vient bousculer un système qu'on appelle le système de récompense dans le cerveau. Je ne veux pas être très compliqué mais c'est assez simple. On a des zones dans le cerveau qui sont stimulées lorsqu'on prend de l'alcool, qu'on prend un psychostimulant. On vient du cannabis, et bien lorsqu'on a du... ça procure du plaisir et ensuite ça entraîne une modification de l'équilibre dans ce cerveau. Et ça produit une cascade neurobiologique dans le cerveau. Lorsqu'on est face à un écran, avec du plaisir à scroller ou bien du plaisir à jouer, on a la même modification dans le cerveau qui s'opère, mais... Au lieu d'avoir un produit qui est à l'origine de cette modification, ce sont des stimuli par le regard, par l'attente finalement de ce qu'on a sous les yeux. Évidemment, ce qui est utile à dire très vite, ce n'est pas n'importe quel objet, n'importe quel comportement qui est à l'origine de ce plaisir. C'est quelque chose qui nous parle, c'est quelque chose de plaisant. Et donc petit à petit, on vient modifier finalement de la même manière qu'avec un produit l'équilibre et globalement. Notre système est pris en otage. Ce système de récompense est pris en otage. Et c'est la raison pour laquelle il y a les mêmes mécanismes et qui entraînent finalement les mêmes standards de prise en charge et les mêmes alertes finalement épidémiologiques qu'on devrait finalement mettre en avant. Pareil.
En avril 2024, vous remettez un rapport au président de la République, le rapport Écran, une trentaine de recommandations. Vous abordiez déjà ce sujet-là. Ça m'a fortement d'ailleurs inspirée à la demande du président et du Premier ministre de finalement mettre en place en France une majorité numérique. Une majorité numérique qui est là pour protéger finalement aussi les mineurs. réguler les plateformes de telle sorte qu'elles empêchent à partir d'un certain âge, 15 ans en l'occurrence, d'accéder à certains contenus, à certains réseaux sociaux, et qui contribuent justement à cette addiction également. Donc ça a été déjà une première action très forte du gouvernement. Il y en aura d'autres. Une sénatrice, Catherine Morin de Sailly, travaille également, et l'OTEX sera étudiée à l'Assemblée nationale très prochainement, d'accompagnement autour de la santé. de l'accompagnement autour de l'éducation également à l'école. Alors ça, c'était une première étape. L'IA générative, c'est un autre sujet qui va finalement beaucoup plus vite que la régulation. C'est pourquoi la majorité numérique est déjà un garde-fou. Nous vous avons confié notamment, j'ai eu le plaisir de vous confier une commission, la coprésidence d'une commission avec Raphaël Gaillard et Serena Villata. Donc un psychiatre et une chercheuse de l'INRIA et du CNRS sur finalement l'IA générative, l'impact de l'IA générative et les vulnérabilités que cela provoque. Pourquoi les jeunes finalement sont plus fragiles par rapport aux IA génératives ?
Alors c'est un sujet fantastique, c'est un sujet qui monte et lorsqu'on a remis le rapport, C'était le sujet qui nous semblait devoir... succéder au rapport écran. Et vous avez absolument raison. Il y avait les éléments comme ça que l'on pouvait sentir, et vous avez lu, je le sais, parce que vous me l'avez dit, avec... Vous avez dévoré notre rapport, je reprends vos mots. Tout à fait.
Dans un TGV,
on ne trouvait pas les paroles. Dans un TGV, je ne dis que ce que j'ai entendu de votre bouche, Madame la Ministre. Et dans ce rapport, il y avait des éléments qui, clairement, étaient en lien avec ce qui est en train de monter. Alors, lien génératif. À ça de particulier, c'est qu'en gros, c'est l'ADN à partir duquel on a construit tout ça. C'est dans cette IA qu'on a, avec cette IA, qu'on a petit à petit construit les algorithmes, les algorithmes très complexes qui maintiennent finalement l'attention. On a le sentiment, et ce n'est pas le sentiment, c'est la réalité, que dans les IA génératifs, on produit ce que la personne et les jeunes en particulier attendent. Alors évidemment, c'est d'autant plus... C'est important qu'on est jeune parce que le cerveau est en maturation et le cerveau est très sensible aux stimuli et à tous ces éléments quand il n'est pas totalement maturé. Il mature jusqu'à 22-23 ans. Quand on parle de jeune, ce n'est pas 18 ans, ce n'est pas 15 ans. Ça va au-delà. Et donc là-dessus, les concepteurs finalement, je ne sais pas s'ils l'ont fait exprès. Au départ, ce n'est pas le cas. J'ai entendu un des pionniers de l'IA qui expliquait que Il était très inquiet parce qu'il ne pensait pas que ça allait prendre cette tournure, pas en tout. Il ne voyait que l'avancée pour l'humanité. Et l'effet pervers et l'effet compliqué est en train d'arriver. C'est cet enfermement, c'est ce colloque singulier qui va s'opérer entre une personne vulnérable, désarmée, face à quelque chose qui est fantastique, qui devient d'une certaine manière un accompagnateur, un couple. qui peut à un moment ou à un autre devenir encore plus important pour lui que sa famille, ses amis, sa propre personne. C'est là où très clairement il est utile d'éclairer les politiques que vous êtes sur les risques liés à cette IA générative. Alors peut-être qu'on ne va rien trouver, mais d'après ce que l'on voit, d'après les cas cliniques, d'après les alertes que l'on voit là maintenant, je pense que c'est un rapport qui à mon avis sera d'une grande utilité pour vous comme vous l'avez fait pour les écrans, probablement vous le ferez pour eux. pour les IA génératives en matière de protection.
Vous avez dit que certains créateurs d'IA n'étaient pas forcément conscients des effets. A contrario, pensez-vous que des facteurs d'IA sont pleinement conscients de ce qu'ils font ?
Hélas oui. Je pense que j'entendais pas plus tard que ce matin, je ne me rappelle plus de son nom, un grand chercheur canadien, et puis un autre aussi, qui expliquait la première des choses qui les inquiète maintenant. Et on le vit tout simplement, c'est par exemple un péril démocratique, c'est-à-dire une IH1 sur des jeunes qui sont en capacité d'aller voter, et ils ont le sentiment de voter en propre. de manière très autonome, très réfléchie, alors qu'ils ont été amenés par une forme d'intelligence imposée vers un scrutin particulier. Et là, c'est quelque chose qui n'arrivera pas demain. On y est en pleine dent. Donc là-dessus, je pense qu'il faut vraiment, à un moment ou à un autre, essayer d'inverser ce phénomène de privation de la liberté ou alors d'une liberté dirigée.
D'ailleurs, c'est un sujet... que le président de la République Emmanuel Macron prend vraiment très très au sérieux. Les risques d'ingérence étrangère, de manipulation pendant des élections. Il y a les municipales d'ici quelques semaines, il y aura les présidentielles en 2027. Il ne faut pas être naïf et il y a des puissances, des plateformes qui ont l'intention de peser dans les élections. On est tout à fait conscient de cela. Après il faut faire de la prévention. Et donc autour du président il y a effectivement des experts également. Et nous, mon ministère y contribue. le ministère de l'Intérieur, pour prévenir ce genre de risque et accompagner les élus locaux, que ce soit des maires sortants, des candidats, à détecter quand ils sont victimes de portes et plaintes. Et nous, en tout cas, on sera aux côtés des élus à chaque fois pour les défendre et de casser ces désinformations. Pour revenir à la jeunesse, finalement... Les risques auxquels ils sont confrontés, on l'a abordé un petit peu. Il y a les deepfakes, donc vraiment de la désinformation. Il y a également l'IA générative, des nouvelles vulnérabilités qui sont assez angoissantes, je dois dire, en tant que parent, grand-parent. Et c'est finalement que l'IA générative devienne le meilleur ami de nos adolescents et de nos enfants.
Ça, c'est un sujet capital qui, très clairement, occupera beaucoup. Beaucoup le rapport qu'on va vous remettre. On a commencé à regarder la littérature, on parle de sycophantisme. Alors là c'est un terme un peu compliqué, mais j'ai appris ce que c'était parce que l'université à laquelle j'appartiens, Paris-Saclay, a une fondation qui a été approchée par la Fondation du risque et qui m'a demandé de faire un travail là-dessus sur trois ans pour remettre un rapport là-dessus. C'est-à-dire cette capacité à produire du contenu par une lueur générative et qui est à l'origine des décompensations psychiatriques. et des manifestations liées à une forme de confusion entre la réalité et le virtuel. On voit à travers finalement les incitations à des actes violents, à retourner contre soi ou contre les personnes extérieures. Il y a aussi, on a identifié des troubles psychiatriques que tout le monde connaît, des troubles anxieux, des troubles dépressifs, des hallucinations parfois même, des phénomènes délirants avec des cas cliniques. disséminés dans le monde à la faveur d'une relation liée, virtuelle. On a aussi des commerces actuellement de l'IA. Pour ceux qui habitent à Paris, moi j'ai été étonné de voir un collier...
Friends,
vous savez. Oui, voilà, donc je l'ai découvert moi, je me posais la question naïvement, et puis j'ai des alliés à la maison qui m'ont expliqué ça. C'est le nouveau ami que tu as autour du cou. On ne le connaît pas encore, mais je pense que... on arrive déjà à un niveau d'intrusion dans l'intimité des personnes qui pose question. Donc là-dessus, on va vraiment aller à la recherche de production scientifique et de déménage de collègues et de scientifiques pour vraiment avoir une vision très claire de ce qui est en train de se mettre en place. Et cette IA générative, à laquelle je n'étais pas, personnellement, je continue à ne pas être opposé. En revanche, je reprends les mots du président, il faut réguler et je demande aux experts de converger et on va essayer de faire ça.
Oui, ça va être très très utile pour nous, pour le gouvernement, pour mon ministère, pour les parlementaires qui s'approprient beaucoup ces sujets-là également. C'est que le résultat du rapport que vous allez faire de la commission sur l'IA générative et les vulnérabilités vont nous permettre de savoir s'il faut réglementer. s'il faut encadrer, s'il faut prévenir, si ça se passe à l'école, si ça se passe... Enfin voilà, ça nous permet de faire des politiques publiques qui collent à la réalité. L'idée n'est pas de tout réglementer. Nous sommes attachés aussi à la liberté, bien sûr, mais aussi d'un juste équilibre entre l'innovation. On a besoin d'une filière IA performante en France, en Europe. On a des champions, il faut qu'on les accompagne, tout en préservant les populations. Il faut trouver ce juste équilibre. Et c'est vrai que la... La vision scientifique, c'est le postulat, pour moi, de départ. Et après, je dirais que la machine va se mettre en route pour savoir comment l'accompagner au mieux.
Alors, peut-être que je me trompe, madame la ministre, mais évidemment, je baigne dans ce domaine. Depuis peu, en étant médecin, psychiatre, ma pratique de tous les jours, c'est de voir des gens en souffrance à qui je prescris des médicaments, où je l'écoute et j'accompagne. Mais avec l'intrusion dans ma vie de ce domaine, je me suis rendu compte qu'il y avait finalement deux populations d'industriels. Les premiers, c'est ceux qui ont les inventeurs, les créateurs de Satyra, qui sont, j'ai envie de dire, des génies réels et qui sont animés. Pour beaucoup, peut-être que je suis naïf, d'une bonne intention. Et puis ceux qui utilisent cette IA à des fins commerciales, je crois qu'on a affaire à deux catégories différentes. Je ne dis pas qu'il y a les bons d'un côté et les méchants de l'autre, mais je me rends compte que beaucoup de ceux qui sont à l'origine de cette révolution, qui travaillent depuis des années, ils sont sous la lumière depuis peu, sont tous plus ou moins inquiets de ce qui peut advenir, de ce qu'ils ont créé. Ça me rappelle un peu Funeste Histoire. les concepteurs théoriques de la bombe atomique et ceux qui l'ont utilisée derrière. Donc en gros, c'est un peu le sentiment que j'ai. Je ne sais pas si j'ai tort ou pas.
Je pense que vous avez raison, mais je voudrais vous dire que d'abord, nous ne sommes plus naïfs. On a finalement un peu subi ce développement de l'IA et des technologies qui vont très très vite, les réseaux sociaux qui sont des puissances financières énormes. Et donc on regardait un petit peu cela. passer devant nous en se disant comment ça va atterrir tout ça. Cette période d'observation, elle est terminée. C'est-à-dire que la naïveté qu'on a pu avoir, si on a eu, mais en tout cas, nous sommes des gens intelligents, on regarde, on ne régule pas avant d'avoir mal, entre guillemets. On ne fait pas de procès d'intention. On ne fait pas de procès d'intention, on est plutôt ouvert et on dit, je suis comme vous, plutôt convaincu que ça va nous apporter aussi beaucoup de bonnes choses. Mais il y a un moment où il faut quand même encadrer. C'est ce que nous souhaitons faire dorénavant. Mais je souhaiterais quand même vous rassurer. C'est que contrairement à certains grands opérateurs d'IA qui sont sans foi ni loi et qui ne sont guidés que par l'argent et qui finalement, comme dit le Président de la République, achètent le cerveau de nos enfants, nous ne souhaitons plus tolérer cela. La majorité numérique a 15 ans en France que nous avons commencé à mettre en œuvre déjà à l'Assemblée nationale et dans quelques semaines, je l'espère. je compte sur la sagesse des sénateurs également. En gros, ça veut dire quoi ? Ça veut dire, vous les plateformes, eh bien, on vous donne des règles. Parce que, grâce justement à l'expertise scientifique, grâce au fait qu'on n'est quand même pas naïf de ce que vous voulez faire, que finalement, il n'y a pas de valeur derrière votre technologie. Nous, en Europe, on a des valeurs. Et au sein de notre IA, nous, l'IA que nous voulons pour la France et l'Europe, eh bien derrière, c'est l'humain au cœur. C'est la liberté. C'est la transparence des algorithmes. C'est un IA respectueux de l'environnement, donc durable. Si on respecte ces règles-là, on va pouvoir discuter avec les opérateurs. Si vous ne respectez pas ces règles-là, nous mettons des règles qui vont vous contraindre. C'est exactement le contexte dans lequel on est actuellement. Et là où on était un peu impressionnés, il faut dire, par les grands... Aujourd'hui, on a des très bons chez nous. On veut les pousser. Et surtout, on leur dit dorénavant, vous respectez nos règles, parce que les règles qu'on fixe, on les fixe en européen. Depuis l'Europe et pour l'Europe, vous vous y conformez, sinon on ne vous ouvrira pas nos marchés. Voilà, c'est aussi simple que ça. Donc en fait, là, cette discussion entre vous, les précautions et les interrogations, les craintes que vous avez, et finalement qui sont les mêmes que nous, on a des moyens de réponse. Vous, vous devez finalement nous éclairer ce que vous faites, et puis nous, après, on prend les décisions pour encadrer tout ça. Donc on fait une très belle équipe entre la science, les experts de l'écosystème. Plus nous, les régulateurs, la politique publique, on est en train de construire quelque chose, donc moi personnellement je suis fière, et qui commence à faire bouger les lignes. La majorité numérique, je l'ai vu en Inde au sommet sur l'IA, et bien tous les interlocuteurs que j'ai rencontrés, mes homologues européens, canadiens, indiens, australiens, tous m'ont parlé de la majorité numérique en France.
C'est super ! J'ai l'impression qu'on ouvre la voie. Alors vous avez dit, les opérateurs achètent le cerveau de nos enfants. Alors moi j'ai eu l'occasion de faire un débat avec des gens qui connaissent le sujet, qui en font le commerce, et puis une discussion nourrie et plutôt intéressante. Et puis quelqu'un a dit, on achète le cerveau, mais en vérité on vend le cerveau de nos enfants. Et quand c'est gratuit, le produit, c'est vous. Donc c'est souvent comme ça que... Et donc là c'est extrêmement important d'avoir ça en tête. Ça n'est jamais gratuit. C'est nous qui sommes finalement le produit. Et c'est là où très clairement... Votre regard et le regard aiguisé des politiques qui savent ce qui est derrière le rideau, contrairement à nous scientifiques qui décortiquons finalement les mécanismes, il est extrêmement utile et qui nous permet finalement de comprendre et finalement de mettre à disposition ce qu'on a compris pour mettre en action des choses comme ça. Ils vendent, ils vendent, parce qu'ils sont gagnants.
Et tant qu'on ne dit rien, qui ne dit mot consent ? Le quino-dimoconsens, c'est sur ce sujet-là, on souhaite maîtriser et protéger notre population. Le curseur ensuite,
c'est une question du curseur. C'est ça.
Après, il ne faut pas tout interdire. Le message que je passe aux jeunes quand je les rencontre, on ne veut pas vous priver de votre liberté, on veut vous protéger. Et les parents qui parfois sont démunis, parce que tous les parents ne sont pas égaux face à la technologie non plus, il y a des fractures numériques, il y a des parents qui suivent ça très bien. qui interdisent à leurs enfants le téléphone portable dans leur chambre le soir et on laisse ça en bas sur la table du salon. Il y en a d'autres qui ne passent pas parce qu'ils ne sont pas là, ils sont au travail. D'autres, il y a des sources multiples de discussions tendues avec les jeunes. Rajouter le numérique, c'est un sujet de plus.
Vous savez, Madame la Ministre, vous étiez venue dans mon service.
Oui, j'ai eu la chance de visiter le service à l'hôpital Paul-Brus.
Merci de nous avoir fait cet honneur. Et lorsque le texte est passé... Moi j'ai des critiques de la part d'un certain collègue qui me disait « Oui mais c'est liberticide, vous aussi. »
Oui.
J'ai même entendu un expert qui parlait d'un état totalitaire. Oui. Il y a quelque chose qui ne va pas dans votre raisonnement. Est-ce que vous accepteriez que l'on serve de l'alcool à des moins de 18 ans ? Est-ce qu'on est en capacité d'aller acheter du tabac chez un débiteur de tabac chez les moins de 18 ans ? Pourquoi quand il s'agit de virtuels ou de réseaux sociaux, Votre raisonnement s'arrête ici. Et puis le texte ne dit pas qu'on va mettre un policier dans chaque famille, dans chaque foyer. On envoie un signal fort de protection et de nocivité et parfois de dommage lorsque l'on n'a pas encore 15 ans. C'est tout ça qui est important. L'esprit de la loi en ce qui concerne cette mesure que vous avez fait voter est aussi voire plus important que la loi elle-même en quelque sorte. Ça a été l'esprit avec lequel... Le Premier ministre australien, qui nous a précédé très peu, a expliqué pourquoi il faisait passer cette mesure.
Et en plus, ça passe des messages aux plateformes. Et les plateformes, globalement, à part celles qui sont effectivement pas très honnêtes et qui ont des finalités très mercantiles, et uniquement mercantiles, les grandes plateformes sont responsables. Quand on entend le discours du patron de Google en Inde par exemple, quand je vois des demandes de rendez-vous d'opérateurs qui veulent me rencontrer pour voir comment des gens anticipaient la mise en œuvre, ça veut dire qu'elles sont finalement à l'écoute et qu'on commence à faire passer les messages et qu'elles sont elles-mêmes conscientes. Donc moi j'apprécie ces démarches. Par contre, on a des parents qui nous regardent là. Est-ce que vous pourriez nous dire comment on détecte un ado ou un jeune qui est en situation d'addiction ? aux écrans, à l'IA générative, voire même qu'il y a une intrusion dans sa vie qui fait qu'il a perdu le contrôle.
Alors, avant qu'il ne perde le contrôle, ce qui est important c'est d'avoir quelques signes pour pouvoir anticiper finalement les dommages qui s'installent rentrer vite. Les dommages sont évidemment le fait d'avoir de petites nuits, d'être fatigué, d'avoir des mauvais résultats scolaires et d'être finalement un peu à la marge de la famille. Il est dans sa chambre, il ne vient pas à table lorsqu'on l'appelle, ou il faut l'appeler plusieurs fois, et que dès lors qu'il a du temps, il est face à son écran, que ce soit son smartphone, ou bien sa tablette, ou bien l'ordinateur. Et donc là-dessus, on se rend compte assez vite qu'il est plus intéressé par se mettre devant l'écran que d'échanger avec ses parents, ou bien ses frères et soeurs. Et lorsque, pire que tout, il préfère... rester derrière l'écran et ne plus fréquenter ses amis ou ses copains de classe, on est un degré au-dessus. Et puis, ça c'est les éléments sur lesquels les parents peuvent tout de suite réagir. Je vous dirais, l'idée ce n'est pas d'être dans une confrontation, c'est d'avoir de la patience et de rappeler les choses. Et ensuite, on a des pathologies qui s'installent, du sommeil, de l'obésité, c'est ce qu'on a mis dans notre rapport, des problématiques qui peuvent être majorées, comme les troubles anxieux. parfois quelques symptômes dépressifs. Et alors il y a le contenu aussi. Lorsqu'on a un contenu qui est malveillant, on commence à avoir quelques éléments en lien avec ce contenu qui peut nous entraîner vers autre chose. Donc là, là-dessus, les parents assez vite s'en rendent compte. Mais avant les parents, il y a les enseignants, il y a le corps. L'éducation nationale joue un rôle fantastique. D'ailleurs,
c'est ce que j'ai beaucoup retenu de votre rapport sur l'écran. C'est que vous avez, vous, une vision très globale et que ce n'est pas que de la régulation.
Non.
Ça passe par d'autres choses.
C'est un système. Et l'IA génératif, ça sera pareil. C'est un système dans lequel on évolue. On n'a pas l'IA parce qu'on est à la maison et qu'on va aller sur les grands opérateurs de l'IA. Il va être partout. Il commence à être partout. Vous voyez. Je vais vous faire une petite confidence. J'ai écouté un morceau de musique qui, à tout point de vue... Me ravisser parce que c'est ce que j'aime. Puis je l'ai envoyé à mon fils qui est un peu plus jeune, un peu plus dynamique et plus alerte que moi. Il m'a envoyé, mais papa c'est de l'IA.
Fait par l'IA ?
Oui.
Vous n'en étiez pas rendu compte ? Non,
pas du tout. Sur une plateforme très célèbre suédoise, pour ne pas la citer. J'ai dit, tu es sûr de toi ? Il m'a dit, essaie de Shazam. Il me dit, tu n'auras rien du tout. C'est comme ça que tu sais que c'est de l'IA. J'ai beau être alerte, baigné dans ça depuis trois ans, je ne dis pas qu'il ne faut pas les emmener. Écoutez ça. Mais je dis que là-dessus...
Alors ça nous amène à un autre sujet, et ça donnera peut-être mieux un autre podcast, c'est la protection des endroits culturels, de protéger les acteurs de la culture dans un environnement IA où on ne sera plus trop détecté.
Complètement. Moi, je suis rentré avec toute ma bonne foi carrément dans un... Pas dans le piège, parce que c'était très joli ce que vous entendez.
Après tout, c'était agréable à écouter. Oui,
voilà. Je veux dire par là, voilà.
Est-ce que ça peut aller, d'après vous, jusqu'à une situation extrême de dépression profonde, de suicide, d'isolement ? Écoutez,
moi, je suis très inquiet. D'abord, j'étais stupéfait. Et ensuite, inquiet sur des IA affectives. C'est-à-dire la relation affective dans l'intimité. Je dis, il n'y a plus de limite dans ces cas-là. Une rupture sentimentale, ça fait mal. Qui vous dit que votre bien-aimé IA, un jour, ne vous, par un mécanisme quelconque, ne va pas vous quitter ou bien se retourner contre vous ? Il y a de véritables dépendances affectives qui peuvent probablement... C'est peut-être le cas des gens, on le verra, parce qu'on va commencer à travailler là-dessus. ne peut pas entraîner un vrai chagrin au point où...
Ou à l'inverse, vous dominez en étant pervers narcissique. Complètement, vous dominez.
Tout est possible dans la relation. Tout est possible dans la relation.
Alors théoriquement, l'humain maîtrise quand même l'IA. Donc ce que vous me dites, c'est là, on perdrait le contrôle de l'IA.
Je ne parle pas des entrepreneurs ou bien des concepteurs. Je parle de monsieur et madame tout le monde, le kidam. à qui on remet cet objet et qui finalement dans sa grande solitude se retrouve à être accompagné par quelque chose qu'il pense maîtriser, qui finalement peut se retourner contre lui.
C'est vrai qu'on a vu des applications qui permettent d'avoir une petite amie virtuelle. J'ai été marquée par une rencontre lors d'une intervention que j'ai faite aux côtés de la présidente de l'Assemblée nationale. Yael Brompivet m'avait invité dans sa circonscription et le sujet c'était l'impact du numérique sur la société, sur l'humain, etc. Et dans la salle, il y avait un jeune homme de moins de 15 ans qui est venu me voir à la fin et je lui ai dit « On va réguler, on va mettre une majorité numérique » . Il est venu me voir à la fin et ça m'a vraiment marqué. Je me suis dit « Waouh, il faut vraiment qu'on mette une majorité numérique » . Il m'a dit « Si vous mettez une majorité numérique, je ne pourrai plus aller sur les réseaux sociaux puisque j'ai 14 ans et je n'aurai donc plus d'amis » .
C'est fou.
C'est terrible.
Et c'est la réalité. Parce que finalement, les amis sont à portée de main, ils sont virtuels.
Ils sont virtuels. Et ça veut dire qu'il n'a pas d'amis au sport, à l'école, dans son village. Et ça, c'est quand même inquiétant.
On commence à avoir des premiers résultats de l'interdiction des réseaux sociaux des moins de 15 ans en Australie, avec un vrai satisfait signal des gens qui retrouvent un certain nombre de choses. Un peu à la manière du Covid, lorsqu'on était tous enfermés, on a retrouvé des animaux en zone urbaine et de la végétation qui est repoussée. On peut toujours espérer, et je pense que c'est comme ça. On s'adapte.
C'est une excellente transition pour une autre question que je voulais vous poser. C'est qu'évidemment, ça s'accompagne de mesures éducatives. Quel conseil vous donneriez aux parents ? Est-ce que vous pensez que l'éducation nationale peut jouer un rôle également ? Oui, beaucoup. On a un ministre, Édouard Geffray, qui est très, très... impliqué sur ces sujets. Il a envie vraiment que finalement, de réduire déjà la présence des écrans à l'école. En dessous, ils ont interdit. Donc plus de tablettes, plus d'écrans en dessous du CP. Et ensuite, de bien contrôler la présence des écrans. Parce qu'il n'est pas avéré, Mathilde dit, que ça a permis toutes ces générations qui ont... ou qui ont eu des écrans à l'école, financés par les collectivités locales, d'ailleurs de manière très forte, a rendu les enfants plus intelligents ou plus performants. Par contre, il est d'accord avec moi que l'école s'appelle le lieu où on apprend l'esprit critique, où l'enfant arrive à détecter, est-ce que ça c'est du réel, du virtuel, est-ce qu'il faut que j'aille sur ce terrain-là ou pas ? Vous y croyez qu'à l'école ?
Alors moi ce que je crois, c'est que l'écran a sa place à l'école à condition que... Que l'enfant soit accompagné par l'adulte et qu'il l'analyse avec lui, qu'il lui explique ce qui sort de l'écran. La passivité est la paire des choses. L'accélération et la vitesse des images rendent finalement stuporeux et passifs les enfants. La pédagogie n'a de sens que lorsqu'elle est expliquée. Que ce soit un tableau ou un écran, il faut qu'un adulte soit à côté, soit les parents, soit l'enseignant. Et ça c'est important. Vous voyez, je ne suis pas contre, ni vous d'ailleurs, on n'est pas contre. Il faut qu'il y ait de la pédagogie, de l'explication. Et lorsqu'il n'y a pas l'écran, on réinvestit des espaces qui ont été finalement laissés en jachère ou à l'abandon. L'extérieur, le sport, la culture, l'écriture, la littérature. Vous m'avez posé la question sur les parents. Les parents, j'ai un conseil à leur donner. Tenez bon, on arrive sur une période de transition. C'est une période floue dans laquelle on se dit, tiens, on a lâché les écrans, on a été soutenus, il s'ennuie, qu'est-ce que je vais faire ? Pendant cette période, il faut tenir parce que l'esprit d'un enfant et d'un adolescent ne peut pas rester oisif. Il va de nouveau réinvestir. Quand un enfant n'a pas d'amis, il se trouve finalement à être inventif. Vous voyez, je parle toujours du syndrome d'un enfant unique. Il ne s'ennuie pas. Ils trouvent toujours moyen d'inventer un jeu. C'est la même chose. Lorsqu'on n'a plus ces écrans, on va retrouver finalement, de manière instinctive, autre chose à faire. On va contacter, on va sortir. Avant, on pensait que l'extérieur était dangereux. On enfermait nos enfants dans nos appartements bien au chaud, alors qu'on leur a offert les écrans. Le danger s'est retrouvé assez souvent derrière les écrans, alors qu'on pensait qu'il était à l'extérieur. C'est tout ça qu'il faut réinventer. Il faut accompagner les parents dans cet espace.
Et il faut peut-être aussi que les parents se décrochent de leurs propres écrans.
Oh si !
Ils sont peut-être très dépendants eux également. Absolument. Nous sommes tous dépendants finalement. Ce qui m'a marqué quand j'ai visité votre service à l'hôpital Paul Brousse, c'est que les jeunes que j'ai rencontrés avec ma collègue Stéphanie Rist, ils étaient plutôt favorables finalement à ce qu'on régule.
Complètement. Et ça, dans le rapport, vous savez, on a fait un hackathon. On avait rencontré 150 jeunes, pratiquement tous disaient, écoutez, de nous à décrocher.
Ils disent même, c'est votre responsabilité, j'ai entendu un jeune dans votre service dire, c'est à vous de...
Voilà, et de nous à décrocher. Et ça m'amène à une réflexion, nous avons eu une discussion là-dessus, c'est finalement on a évincé les jeunes de notre espace d'adultes.
C'est vrai.
On les a évincés, et donc ils se retrouvent dans le virtuel. Alors moi je dis, je répète, mais je n'ai rien contre. Les trains pour adultes, les avions pour adultes, les hôtels pour adultes, les vacances adultes only, je le dis, je le répète, vous m'offrez, Madame la Ministre, encore l'occasion de le dire, j'étais en train de chercher un voyage, je le dis, l'été dernier, je me suis retrouvé sur un hôtel dans lequel vous avez un hôtel pour adultes et un hôtel avec les enfants. Évidemment, l'hôtel pour adultes était plein, l'hôtel pour les enfants était moins, parce qu'il y avait du bruit dans la piscine, on est là-dessus. Il faut qu'on se pose cette question aussi, c'est extrêmement important. Retrouvons un espace dans lequel il existe pour tout le monde, un espace.
C'est très très important, et évidemment, sur le rôle de l'État. Donc on a parlé du rôle des parents, les jeunes, nous, les régulateurs, vous, les scientifiques, l'école. Et l'État ? Comment vous voyez le rôle de l'État ? Finalement, nous avons mis la majorité numérique à 15 ans. On va attendre les retours que vous allez faire de la commission sur l'IA, les génératives et les vulnérabilités. Si on faisait une projection, vous qui êtes un scientifique, qui imaginez l'avenir, vous pensez que ça va tendre vers quoi ?
Je pense que l'État, en tout cas la France, a bien réagi. On est tout le temps en train de demander à l'État d'être partout. Sur ce coup-là, l'État est au rendez-vous, par la voix du président de la République et par la vôtre. Donc l'État est au rendez-vous. Alors ce qu'il faut être maintenant peut-être... Il faut être proactif et essayer de se projeter sur ce que va être notre vie avec cet outil fantastique et comment l'appréhender sans qu'il prenne le dessus sur nous, qu'il nous retire notre liberté. C'est ça, c'est une question de liberté et c'est une question d'autonomie vis-à-vis d'un service qui ne doit pas prendre nos vies en otage. Et l'État doit se poser ce type de questions et faire des projections. Je pense que les Français sont tout à fait aptes à le comprendre. Et il ne s'agit pas de liberticide, ni rien de tout ça. Au contraire. La liberté n'est pas confisquée par l'État, elle est confisquée par un outil que l'on ne maîtrise pas.
Oui. Il ne faut pas se tromper de privation de liberté.
C'est un faux procès qu'on vous a fait sur cette histoire de liberticide. Moi, je me suis défendu en disant « mais ça ne va pas » . Pardonnez-moi de cette expression, c'est pas comme ça qu'il faut aborder le sujet.
À partir du moment où un enfant est complètement dépendant d'un écran de scrolling, c'est-à-dire quand il y a tout plein de stories qui arrivent et il est capté, il ne peut pas détacher le regard, elle est où la privation de liberté ? Elle est là ou elle est dans la majorité numérique ?
C'est exactement ce que je disais.
Je pense plutôt que nous on est dans une émergence de protection et de santé mentale aussi.
Et puis,
de faire porter la responsabilité sur les plateformes. Les plateformes, vous avez des responsabilités. Vous ne pouvez pas faire n'importe quoi. Il faut que vous ayez conscience des risques et que vous rectifiez le tir. Alors que jusqu'à présent,
il faisait porter la responsabilité sur les parents en disant « Nous avons mis dans la responsabilité parentale la belle affaire » .
Euh... Il y a évidemment la position internationale que nous avons, la France sur l'IA. C'est un sujet qu'on abordera parce qu'on a la présidence du G7 à la France en 2026. Et il existe un G7 numérique, donc la protection des mineurs, l'IA de manière globale. C'est un sujet qui sera abordé sous la présidence française de 2026, avec l'accord de tous les pays du G7. C'est un sujet qu'on a abordé en Inde. aussi. On est très, très alignés de beaucoup, beaucoup de pays sur la position que nous avons de protéger les populations et notamment les mineurs. Et à cette occasion, en Inde, j'ai fait un appel à contribution internationale scientifique. J'ai demandé à tous les scientifiques du monde qui travaillent sur ces sujets, vos homologues partout, de contribuer aux travaux que fait la France sur le sujet parce qu'on souhaite être moteur, comme on l'a été sur la majorité numérique. Et je dirais que les pays sont reconnaissants du courage qu'on a eu de ne pas lâcher. Il y a également besoin d'avoir une expertise scientifique très élargie. Et donc, il y aura vos travaux, bien sûr, mais il y aura aussi ceux qu'on a fait un appel à New Delhi pour que tous les scientifiques du monde puissent converger. Et puis, finalement, d'une manière non contestable, de dire voilà la réalité.
La science est têtue.
Exactement.
C'est la posture des preuves.
Donc la commission que nous vous avons confiée avec deux autres personnalités qualifiées, vous serez accompagné notamment du support et de l'expertise aussi du conseil sur l'IA et le numérique porté par Anne Bouvraud et Guillaume Poupard. De quelle manière vous allez travailler ?
On a eu une première réunion pour un peu caler les choses. Je pense qu'on va travailler, comme on l'a fait pour la commission Écran, avec des auditions. On va, si j'ai bien compris, être accueillis chez vous, physiquement, avec votre aide, l'aide du ministère du Numérique. Et puis, on va essayer de serrer d'abord, parce qu'il faut quand même, pour faire un joli mur, il faut d'abord un bon périmètre, établir un certain nombre de questions en fonction des profils que l'on va auditionner. et faire rédiger pour pouvoir vous remettre un rapport digeste, parce que c'est quand même un grand sujet, la vulnérabilité. Et là-dessus, je pense que le choix des personnes que l'on va auditionner est capital. Il y a très peu de littérature, il y en a, donc on va travailler comme sur la commission à l'écran sur des éléments qui existent, mais aussi on va se mouiller en quelque sorte en fonction des tendances pour essayer de vous montrer un peu vers quoi on risque d'aller. Et ça, ça me semble vraiment très important. Et donc ça sera probablement en deux ou trois, on vous remettra ce rapport qui va vous éclairer.
Rapport qui devrait nous arriver avant l'été 2026. Absolument. Donc en tout cas, moi, je suis vraiment très en attente. J'ai vraiment hâte d'avoir ce rapport. Parce que c'est de là, évidemment, que la politique publique derrière et les engagements que le président va prendre, la République ou le gouvernement agiront. donc Merci par avance, bon travail et puis avec impatience pour recevoir ce rapport. Merci beaucoup, professeur Benhamina. Merci pour votre confiance. Et puis à très très bientôt.
Share
Embed
Description
🎙️ Dans ce second épisode, j’ai décidé de recevoir le Professeur Amine BENYAMINA, spécialiste en addictologie et chef du service de psychiatrie et d'addictologie de l'hôpital AP-HP, également professeur à l'Université Paris-Saclay
Bonne écoute !
Hébergé par Ausha. Visitez ausha.co/politique-de-confidentialite pour plus d'informations.
Transcription
Déclic, de la prise de conscience à l'engagement. Pour cette année 2026, j'ai choisi un format différent. Prendre le temps, échanger sans filtre, donner la parole à des voix diverses pour éclairer les enjeux du numérique autrement. Dans ce deuxième épisode, j'ai choisi d'échanger avec le professeur Amine Benyamina, spécialiste en addictologie et chef de service psychiatrie de l'hôpital... Paul Brousse, pour échanger ensemble sur un combat qui nous anime tous les deux, la protection des mineurs en ligne. Bonne écoute. Professeur Amine Beniamina, merci d'être là, de venir discuter avec moi dans une série de podcasts. J'ai souhaité vous inviter parce qu'en plus, évidemment, des communications que je peux faire, Des mesures que nous prenons, que ce soit législatives, réglementaires, sur le numérique, l'IA, il me paraît important à travers ces podcasts de pouvoir discuter en profondeur sur des sujets qui me tiennent à cœur. En l'occurrence, la protection des mineurs sur le net, dans l'environnement du numérique. Vous êtes un spécialiste de ces sujets-là. Je vais vous laisser vous présenter. Avant qu'on puisse avoir une discussion, je vous poserai plein de questions. J'en profiterai également pour vous dire la vision que j'ai de la protection des mineurs en ligne, de ce qu'on a déjà fait, de ce qu'on compte faire. Et on va avoir bien sûr besoin des expertises, dont celle de la médecine, des scientifiques, et puis plus d'autres projets qui vont nous concerner, vous et moi, dans les semaines à venir.
Avec plaisir.
Alors qui êtes-vous, professeur ?
Alors moi je suis psychiatre et addictologue, donc j'ai la double casquette. Je suis également professeur à l'Université Paris-Saclay. Et je dirige un grand département dans lequel je m'occupe à la fois de psychiatrie et d'addictologie. Et tous les produits, tout ce qui est en lien, et tout ce qui peut affecter finalement la privation de la liberté. Alors dans les addictions, il y a ce qu'on appelle les addictions avec et sans produit. Et le sujet qui nous concerne, Madame la Ministre, c'est les addictions sans produit. Et les écrans et tout ce qui est numérique, il y a, est venu faire effraction dans notre pratique, qui nous a amené à parfaire. notre expertise, puisqu'on était confrontés à des jeunes qui venaient dans nos services avec des problématiques de produits classiques, alcool, tabac, extasie, cannabis, tout ce que les jeunes consomment en ce moment, protoxyde d'azote. Mais à côté de ça, on a vu monter de plus en plus ce rapport aux écrans, ce rapport à l'IA, à l'Internet, qui devenait problématique. Et donc du coup, on a commencé à s'y intéresser. Et c'est comme ça que, s'intéressant à ces jeunes, Avec un service qui est très exposé, les pouvoirs publics se sont intéressés à nous pour partager notre savoir.
C'est important que nous, avant d'avancer sur des réglementations, sur des lois, que ce soit au Parlement, que ce soit le gouvernement, on ait cette vision de scientifique. Vous êtes un expert dans le domaine. Est-ce que je peux vous dire, finalement, puisque vous étiez spécialiste de l'addiction, je dirais, avec substance... que vous avez appris en marchant, puisque c'est un environnement nouveau. Et comment ça se traduit ? Est-ce que c'est la même chose que finalement de fumer du cannabis ou de prendre de la cocaïne ?
Alors c'est la même chose dans le mécanisme qui est à l'origine finalement de la perte de la liberté. Vous savez quand on consomme un produit, on vient bousculer un système qu'on appelle le système de récompense dans le cerveau. Je ne veux pas être très compliqué mais c'est assez simple. On a des zones dans le cerveau qui sont stimulées lorsqu'on prend de l'alcool, qu'on prend un psychostimulant. On vient du cannabis, et bien lorsqu'on a du... ça procure du plaisir et ensuite ça entraîne une modification de l'équilibre dans ce cerveau. Et ça produit une cascade neurobiologique dans le cerveau. Lorsqu'on est face à un écran, avec du plaisir à scroller ou bien du plaisir à jouer, on a la même modification dans le cerveau qui s'opère, mais... Au lieu d'avoir un produit qui est à l'origine de cette modification, ce sont des stimuli par le regard, par l'attente finalement de ce qu'on a sous les yeux. Évidemment, ce qui est utile à dire très vite, ce n'est pas n'importe quel objet, n'importe quel comportement qui est à l'origine de ce plaisir. C'est quelque chose qui nous parle, c'est quelque chose de plaisant. Et donc petit à petit, on vient modifier finalement de la même manière qu'avec un produit l'équilibre et globalement. Notre système est pris en otage. Ce système de récompense est pris en otage. Et c'est la raison pour laquelle il y a les mêmes mécanismes et qui entraînent finalement les mêmes standards de prise en charge et les mêmes alertes finalement épidémiologiques qu'on devrait finalement mettre en avant. Pareil.
En avril 2024, vous remettez un rapport au président de la République, le rapport Écran, une trentaine de recommandations. Vous abordiez déjà ce sujet-là. Ça m'a fortement d'ailleurs inspirée à la demande du président et du Premier ministre de finalement mettre en place en France une majorité numérique. Une majorité numérique qui est là pour protéger finalement aussi les mineurs. réguler les plateformes de telle sorte qu'elles empêchent à partir d'un certain âge, 15 ans en l'occurrence, d'accéder à certains contenus, à certains réseaux sociaux, et qui contribuent justement à cette addiction également. Donc ça a été déjà une première action très forte du gouvernement. Il y en aura d'autres. Une sénatrice, Catherine Morin de Sailly, travaille également, et l'OTEX sera étudiée à l'Assemblée nationale très prochainement, d'accompagnement autour de la santé. de l'accompagnement autour de l'éducation également à l'école. Alors ça, c'était une première étape. L'IA générative, c'est un autre sujet qui va finalement beaucoup plus vite que la régulation. C'est pourquoi la majorité numérique est déjà un garde-fou. Nous vous avons confié notamment, j'ai eu le plaisir de vous confier une commission, la coprésidence d'une commission avec Raphaël Gaillard et Serena Villata. Donc un psychiatre et une chercheuse de l'INRIA et du CNRS sur finalement l'IA générative, l'impact de l'IA générative et les vulnérabilités que cela provoque. Pourquoi les jeunes finalement sont plus fragiles par rapport aux IA génératives ?
Alors c'est un sujet fantastique, c'est un sujet qui monte et lorsqu'on a remis le rapport, C'était le sujet qui nous semblait devoir... succéder au rapport écran. Et vous avez absolument raison. Il y avait les éléments comme ça que l'on pouvait sentir, et vous avez lu, je le sais, parce que vous me l'avez dit, avec... Vous avez dévoré notre rapport, je reprends vos mots. Tout à fait.
Dans un TGV,
on ne trouvait pas les paroles. Dans un TGV, je ne dis que ce que j'ai entendu de votre bouche, Madame la Ministre. Et dans ce rapport, il y avait des éléments qui, clairement, étaient en lien avec ce qui est en train de monter. Alors, lien génératif. À ça de particulier, c'est qu'en gros, c'est l'ADN à partir duquel on a construit tout ça. C'est dans cette IA qu'on a, avec cette IA, qu'on a petit à petit construit les algorithmes, les algorithmes très complexes qui maintiennent finalement l'attention. On a le sentiment, et ce n'est pas le sentiment, c'est la réalité, que dans les IA génératifs, on produit ce que la personne et les jeunes en particulier attendent. Alors évidemment, c'est d'autant plus... C'est important qu'on est jeune parce que le cerveau est en maturation et le cerveau est très sensible aux stimuli et à tous ces éléments quand il n'est pas totalement maturé. Il mature jusqu'à 22-23 ans. Quand on parle de jeune, ce n'est pas 18 ans, ce n'est pas 15 ans. Ça va au-delà. Et donc là-dessus, les concepteurs finalement, je ne sais pas s'ils l'ont fait exprès. Au départ, ce n'est pas le cas. J'ai entendu un des pionniers de l'IA qui expliquait que Il était très inquiet parce qu'il ne pensait pas que ça allait prendre cette tournure, pas en tout. Il ne voyait que l'avancée pour l'humanité. Et l'effet pervers et l'effet compliqué est en train d'arriver. C'est cet enfermement, c'est ce colloque singulier qui va s'opérer entre une personne vulnérable, désarmée, face à quelque chose qui est fantastique, qui devient d'une certaine manière un accompagnateur, un couple. qui peut à un moment ou à un autre devenir encore plus important pour lui que sa famille, ses amis, sa propre personne. C'est là où très clairement il est utile d'éclairer les politiques que vous êtes sur les risques liés à cette IA générative. Alors peut-être qu'on ne va rien trouver, mais d'après ce que l'on voit, d'après les cas cliniques, d'après les alertes que l'on voit là maintenant, je pense que c'est un rapport qui à mon avis sera d'une grande utilité pour vous comme vous l'avez fait pour les écrans, probablement vous le ferez pour eux. pour les IA génératives en matière de protection.
Vous avez dit que certains créateurs d'IA n'étaient pas forcément conscients des effets. A contrario, pensez-vous que des facteurs d'IA sont pleinement conscients de ce qu'ils font ?
Hélas oui. Je pense que j'entendais pas plus tard que ce matin, je ne me rappelle plus de son nom, un grand chercheur canadien, et puis un autre aussi, qui expliquait la première des choses qui les inquiète maintenant. Et on le vit tout simplement, c'est par exemple un péril démocratique, c'est-à-dire une IH1 sur des jeunes qui sont en capacité d'aller voter, et ils ont le sentiment de voter en propre. de manière très autonome, très réfléchie, alors qu'ils ont été amenés par une forme d'intelligence imposée vers un scrutin particulier. Et là, c'est quelque chose qui n'arrivera pas demain. On y est en pleine dent. Donc là-dessus, je pense qu'il faut vraiment, à un moment ou à un autre, essayer d'inverser ce phénomène de privation de la liberté ou alors d'une liberté dirigée.
D'ailleurs, c'est un sujet... que le président de la République Emmanuel Macron prend vraiment très très au sérieux. Les risques d'ingérence étrangère, de manipulation pendant des élections. Il y a les municipales d'ici quelques semaines, il y aura les présidentielles en 2027. Il ne faut pas être naïf et il y a des puissances, des plateformes qui ont l'intention de peser dans les élections. On est tout à fait conscient de cela. Après il faut faire de la prévention. Et donc autour du président il y a effectivement des experts également. Et nous, mon ministère y contribue. le ministère de l'Intérieur, pour prévenir ce genre de risque et accompagner les élus locaux, que ce soit des maires sortants, des candidats, à détecter quand ils sont victimes de portes et plaintes. Et nous, en tout cas, on sera aux côtés des élus à chaque fois pour les défendre et de casser ces désinformations. Pour revenir à la jeunesse, finalement... Les risques auxquels ils sont confrontés, on l'a abordé un petit peu. Il y a les deepfakes, donc vraiment de la désinformation. Il y a également l'IA générative, des nouvelles vulnérabilités qui sont assez angoissantes, je dois dire, en tant que parent, grand-parent. Et c'est finalement que l'IA générative devienne le meilleur ami de nos adolescents et de nos enfants.
Ça, c'est un sujet capital qui, très clairement, occupera beaucoup. Beaucoup le rapport qu'on va vous remettre. On a commencé à regarder la littérature, on parle de sycophantisme. Alors là c'est un terme un peu compliqué, mais j'ai appris ce que c'était parce que l'université à laquelle j'appartiens, Paris-Saclay, a une fondation qui a été approchée par la Fondation du risque et qui m'a demandé de faire un travail là-dessus sur trois ans pour remettre un rapport là-dessus. C'est-à-dire cette capacité à produire du contenu par une lueur générative et qui est à l'origine des décompensations psychiatriques. et des manifestations liées à une forme de confusion entre la réalité et le virtuel. On voit à travers finalement les incitations à des actes violents, à retourner contre soi ou contre les personnes extérieures. Il y a aussi, on a identifié des troubles psychiatriques que tout le monde connaît, des troubles anxieux, des troubles dépressifs, des hallucinations parfois même, des phénomènes délirants avec des cas cliniques. disséminés dans le monde à la faveur d'une relation liée, virtuelle. On a aussi des commerces actuellement de l'IA. Pour ceux qui habitent à Paris, moi j'ai été étonné de voir un collier...
Friends,
vous savez. Oui, voilà, donc je l'ai découvert moi, je me posais la question naïvement, et puis j'ai des alliés à la maison qui m'ont expliqué ça. C'est le nouveau ami que tu as autour du cou. On ne le connaît pas encore, mais je pense que... on arrive déjà à un niveau d'intrusion dans l'intimité des personnes qui pose question. Donc là-dessus, on va vraiment aller à la recherche de production scientifique et de déménage de collègues et de scientifiques pour vraiment avoir une vision très claire de ce qui est en train de se mettre en place. Et cette IA générative, à laquelle je n'étais pas, personnellement, je continue à ne pas être opposé. En revanche, je reprends les mots du président, il faut réguler et je demande aux experts de converger et on va essayer de faire ça.
Oui, ça va être très très utile pour nous, pour le gouvernement, pour mon ministère, pour les parlementaires qui s'approprient beaucoup ces sujets-là également. C'est que le résultat du rapport que vous allez faire de la commission sur l'IA générative et les vulnérabilités vont nous permettre de savoir s'il faut réglementer. s'il faut encadrer, s'il faut prévenir, si ça se passe à l'école, si ça se passe... Enfin voilà, ça nous permet de faire des politiques publiques qui collent à la réalité. L'idée n'est pas de tout réglementer. Nous sommes attachés aussi à la liberté, bien sûr, mais aussi d'un juste équilibre entre l'innovation. On a besoin d'une filière IA performante en France, en Europe. On a des champions, il faut qu'on les accompagne, tout en préservant les populations. Il faut trouver ce juste équilibre. Et c'est vrai que la... La vision scientifique, c'est le postulat, pour moi, de départ. Et après, je dirais que la machine va se mettre en route pour savoir comment l'accompagner au mieux.
Alors, peut-être que je me trompe, madame la ministre, mais évidemment, je baigne dans ce domaine. Depuis peu, en étant médecin, psychiatre, ma pratique de tous les jours, c'est de voir des gens en souffrance à qui je prescris des médicaments, où je l'écoute et j'accompagne. Mais avec l'intrusion dans ma vie de ce domaine, je me suis rendu compte qu'il y avait finalement deux populations d'industriels. Les premiers, c'est ceux qui ont les inventeurs, les créateurs de Satyra, qui sont, j'ai envie de dire, des génies réels et qui sont animés. Pour beaucoup, peut-être que je suis naïf, d'une bonne intention. Et puis ceux qui utilisent cette IA à des fins commerciales, je crois qu'on a affaire à deux catégories différentes. Je ne dis pas qu'il y a les bons d'un côté et les méchants de l'autre, mais je me rends compte que beaucoup de ceux qui sont à l'origine de cette révolution, qui travaillent depuis des années, ils sont sous la lumière depuis peu, sont tous plus ou moins inquiets de ce qui peut advenir, de ce qu'ils ont créé. Ça me rappelle un peu Funeste Histoire. les concepteurs théoriques de la bombe atomique et ceux qui l'ont utilisée derrière. Donc en gros, c'est un peu le sentiment que j'ai. Je ne sais pas si j'ai tort ou pas.
Je pense que vous avez raison, mais je voudrais vous dire que d'abord, nous ne sommes plus naïfs. On a finalement un peu subi ce développement de l'IA et des technologies qui vont très très vite, les réseaux sociaux qui sont des puissances financières énormes. Et donc on regardait un petit peu cela. passer devant nous en se disant comment ça va atterrir tout ça. Cette période d'observation, elle est terminée. C'est-à-dire que la naïveté qu'on a pu avoir, si on a eu, mais en tout cas, nous sommes des gens intelligents, on regarde, on ne régule pas avant d'avoir mal, entre guillemets. On ne fait pas de procès d'intention. On ne fait pas de procès d'intention, on est plutôt ouvert et on dit, je suis comme vous, plutôt convaincu que ça va nous apporter aussi beaucoup de bonnes choses. Mais il y a un moment où il faut quand même encadrer. C'est ce que nous souhaitons faire dorénavant. Mais je souhaiterais quand même vous rassurer. C'est que contrairement à certains grands opérateurs d'IA qui sont sans foi ni loi et qui ne sont guidés que par l'argent et qui finalement, comme dit le Président de la République, achètent le cerveau de nos enfants, nous ne souhaitons plus tolérer cela. La majorité numérique a 15 ans en France que nous avons commencé à mettre en œuvre déjà à l'Assemblée nationale et dans quelques semaines, je l'espère. je compte sur la sagesse des sénateurs également. En gros, ça veut dire quoi ? Ça veut dire, vous les plateformes, eh bien, on vous donne des règles. Parce que, grâce justement à l'expertise scientifique, grâce au fait qu'on n'est quand même pas naïf de ce que vous voulez faire, que finalement, il n'y a pas de valeur derrière votre technologie. Nous, en Europe, on a des valeurs. Et au sein de notre IA, nous, l'IA que nous voulons pour la France et l'Europe, eh bien derrière, c'est l'humain au cœur. C'est la liberté. C'est la transparence des algorithmes. C'est un IA respectueux de l'environnement, donc durable. Si on respecte ces règles-là, on va pouvoir discuter avec les opérateurs. Si vous ne respectez pas ces règles-là, nous mettons des règles qui vont vous contraindre. C'est exactement le contexte dans lequel on est actuellement. Et là où on était un peu impressionnés, il faut dire, par les grands... Aujourd'hui, on a des très bons chez nous. On veut les pousser. Et surtout, on leur dit dorénavant, vous respectez nos règles, parce que les règles qu'on fixe, on les fixe en européen. Depuis l'Europe et pour l'Europe, vous vous y conformez, sinon on ne vous ouvrira pas nos marchés. Voilà, c'est aussi simple que ça. Donc en fait, là, cette discussion entre vous, les précautions et les interrogations, les craintes que vous avez, et finalement qui sont les mêmes que nous, on a des moyens de réponse. Vous, vous devez finalement nous éclairer ce que vous faites, et puis nous, après, on prend les décisions pour encadrer tout ça. Donc on fait une très belle équipe entre la science, les experts de l'écosystème. Plus nous, les régulateurs, la politique publique, on est en train de construire quelque chose, donc moi personnellement je suis fière, et qui commence à faire bouger les lignes. La majorité numérique, je l'ai vu en Inde au sommet sur l'IA, et bien tous les interlocuteurs que j'ai rencontrés, mes homologues européens, canadiens, indiens, australiens, tous m'ont parlé de la majorité numérique en France.
C'est super ! J'ai l'impression qu'on ouvre la voie. Alors vous avez dit, les opérateurs achètent le cerveau de nos enfants. Alors moi j'ai eu l'occasion de faire un débat avec des gens qui connaissent le sujet, qui en font le commerce, et puis une discussion nourrie et plutôt intéressante. Et puis quelqu'un a dit, on achète le cerveau, mais en vérité on vend le cerveau de nos enfants. Et quand c'est gratuit, le produit, c'est vous. Donc c'est souvent comme ça que... Et donc là c'est extrêmement important d'avoir ça en tête. Ça n'est jamais gratuit. C'est nous qui sommes finalement le produit. Et c'est là où très clairement... Votre regard et le regard aiguisé des politiques qui savent ce qui est derrière le rideau, contrairement à nous scientifiques qui décortiquons finalement les mécanismes, il est extrêmement utile et qui nous permet finalement de comprendre et finalement de mettre à disposition ce qu'on a compris pour mettre en action des choses comme ça. Ils vendent, ils vendent, parce qu'ils sont gagnants.
Et tant qu'on ne dit rien, qui ne dit mot consent ? Le quino-dimoconsens, c'est sur ce sujet-là, on souhaite maîtriser et protéger notre population. Le curseur ensuite,
c'est une question du curseur. C'est ça.
Après, il ne faut pas tout interdire. Le message que je passe aux jeunes quand je les rencontre, on ne veut pas vous priver de votre liberté, on veut vous protéger. Et les parents qui parfois sont démunis, parce que tous les parents ne sont pas égaux face à la technologie non plus, il y a des fractures numériques, il y a des parents qui suivent ça très bien. qui interdisent à leurs enfants le téléphone portable dans leur chambre le soir et on laisse ça en bas sur la table du salon. Il y en a d'autres qui ne passent pas parce qu'ils ne sont pas là, ils sont au travail. D'autres, il y a des sources multiples de discussions tendues avec les jeunes. Rajouter le numérique, c'est un sujet de plus.
Vous savez, Madame la Ministre, vous étiez venue dans mon service.
Oui, j'ai eu la chance de visiter le service à l'hôpital Paul-Brus.
Merci de nous avoir fait cet honneur. Et lorsque le texte est passé... Moi j'ai des critiques de la part d'un certain collègue qui me disait « Oui mais c'est liberticide, vous aussi. »
Oui.
J'ai même entendu un expert qui parlait d'un état totalitaire. Oui. Il y a quelque chose qui ne va pas dans votre raisonnement. Est-ce que vous accepteriez que l'on serve de l'alcool à des moins de 18 ans ? Est-ce qu'on est en capacité d'aller acheter du tabac chez un débiteur de tabac chez les moins de 18 ans ? Pourquoi quand il s'agit de virtuels ou de réseaux sociaux, Votre raisonnement s'arrête ici. Et puis le texte ne dit pas qu'on va mettre un policier dans chaque famille, dans chaque foyer. On envoie un signal fort de protection et de nocivité et parfois de dommage lorsque l'on n'a pas encore 15 ans. C'est tout ça qui est important. L'esprit de la loi en ce qui concerne cette mesure que vous avez fait voter est aussi voire plus important que la loi elle-même en quelque sorte. Ça a été l'esprit avec lequel... Le Premier ministre australien, qui nous a précédé très peu, a expliqué pourquoi il faisait passer cette mesure.
Et en plus, ça passe des messages aux plateformes. Et les plateformes, globalement, à part celles qui sont effectivement pas très honnêtes et qui ont des finalités très mercantiles, et uniquement mercantiles, les grandes plateformes sont responsables. Quand on entend le discours du patron de Google en Inde par exemple, quand je vois des demandes de rendez-vous d'opérateurs qui veulent me rencontrer pour voir comment des gens anticipaient la mise en œuvre, ça veut dire qu'elles sont finalement à l'écoute et qu'on commence à faire passer les messages et qu'elles sont elles-mêmes conscientes. Donc moi j'apprécie ces démarches. Par contre, on a des parents qui nous regardent là. Est-ce que vous pourriez nous dire comment on détecte un ado ou un jeune qui est en situation d'addiction ? aux écrans, à l'IA générative, voire même qu'il y a une intrusion dans sa vie qui fait qu'il a perdu le contrôle.
Alors, avant qu'il ne perde le contrôle, ce qui est important c'est d'avoir quelques signes pour pouvoir anticiper finalement les dommages qui s'installent rentrer vite. Les dommages sont évidemment le fait d'avoir de petites nuits, d'être fatigué, d'avoir des mauvais résultats scolaires et d'être finalement un peu à la marge de la famille. Il est dans sa chambre, il ne vient pas à table lorsqu'on l'appelle, ou il faut l'appeler plusieurs fois, et que dès lors qu'il a du temps, il est face à son écran, que ce soit son smartphone, ou bien sa tablette, ou bien l'ordinateur. Et donc là-dessus, on se rend compte assez vite qu'il est plus intéressé par se mettre devant l'écran que d'échanger avec ses parents, ou bien ses frères et soeurs. Et lorsque, pire que tout, il préfère... rester derrière l'écran et ne plus fréquenter ses amis ou ses copains de classe, on est un degré au-dessus. Et puis, ça c'est les éléments sur lesquels les parents peuvent tout de suite réagir. Je vous dirais, l'idée ce n'est pas d'être dans une confrontation, c'est d'avoir de la patience et de rappeler les choses. Et ensuite, on a des pathologies qui s'installent, du sommeil, de l'obésité, c'est ce qu'on a mis dans notre rapport, des problématiques qui peuvent être majorées, comme les troubles anxieux. parfois quelques symptômes dépressifs. Et alors il y a le contenu aussi. Lorsqu'on a un contenu qui est malveillant, on commence à avoir quelques éléments en lien avec ce contenu qui peut nous entraîner vers autre chose. Donc là, là-dessus, les parents assez vite s'en rendent compte. Mais avant les parents, il y a les enseignants, il y a le corps. L'éducation nationale joue un rôle fantastique. D'ailleurs,
c'est ce que j'ai beaucoup retenu de votre rapport sur l'écran. C'est que vous avez, vous, une vision très globale et que ce n'est pas que de la régulation.
Non.
Ça passe par d'autres choses.
C'est un système. Et l'IA génératif, ça sera pareil. C'est un système dans lequel on évolue. On n'a pas l'IA parce qu'on est à la maison et qu'on va aller sur les grands opérateurs de l'IA. Il va être partout. Il commence à être partout. Vous voyez. Je vais vous faire une petite confidence. J'ai écouté un morceau de musique qui, à tout point de vue... Me ravisser parce que c'est ce que j'aime. Puis je l'ai envoyé à mon fils qui est un peu plus jeune, un peu plus dynamique et plus alerte que moi. Il m'a envoyé, mais papa c'est de l'IA.
Fait par l'IA ?
Oui.
Vous n'en étiez pas rendu compte ? Non,
pas du tout. Sur une plateforme très célèbre suédoise, pour ne pas la citer. J'ai dit, tu es sûr de toi ? Il m'a dit, essaie de Shazam. Il me dit, tu n'auras rien du tout. C'est comme ça que tu sais que c'est de l'IA. J'ai beau être alerte, baigné dans ça depuis trois ans, je ne dis pas qu'il ne faut pas les emmener. Écoutez ça. Mais je dis que là-dessus...
Alors ça nous amène à un autre sujet, et ça donnera peut-être mieux un autre podcast, c'est la protection des endroits culturels, de protéger les acteurs de la culture dans un environnement IA où on ne sera plus trop détecté.
Complètement. Moi, je suis rentré avec toute ma bonne foi carrément dans un... Pas dans le piège, parce que c'était très joli ce que vous entendez.
Après tout, c'était agréable à écouter. Oui,
voilà. Je veux dire par là, voilà.
Est-ce que ça peut aller, d'après vous, jusqu'à une situation extrême de dépression profonde, de suicide, d'isolement ? Écoutez,
moi, je suis très inquiet. D'abord, j'étais stupéfait. Et ensuite, inquiet sur des IA affectives. C'est-à-dire la relation affective dans l'intimité. Je dis, il n'y a plus de limite dans ces cas-là. Une rupture sentimentale, ça fait mal. Qui vous dit que votre bien-aimé IA, un jour, ne vous, par un mécanisme quelconque, ne va pas vous quitter ou bien se retourner contre vous ? Il y a de véritables dépendances affectives qui peuvent probablement... C'est peut-être le cas des gens, on le verra, parce qu'on va commencer à travailler là-dessus. ne peut pas entraîner un vrai chagrin au point où...
Ou à l'inverse, vous dominez en étant pervers narcissique. Complètement, vous dominez.
Tout est possible dans la relation. Tout est possible dans la relation.
Alors théoriquement, l'humain maîtrise quand même l'IA. Donc ce que vous me dites, c'est là, on perdrait le contrôle de l'IA.
Je ne parle pas des entrepreneurs ou bien des concepteurs. Je parle de monsieur et madame tout le monde, le kidam. à qui on remet cet objet et qui finalement dans sa grande solitude se retrouve à être accompagné par quelque chose qu'il pense maîtriser, qui finalement peut se retourner contre lui.
C'est vrai qu'on a vu des applications qui permettent d'avoir une petite amie virtuelle. J'ai été marquée par une rencontre lors d'une intervention que j'ai faite aux côtés de la présidente de l'Assemblée nationale. Yael Brompivet m'avait invité dans sa circonscription et le sujet c'était l'impact du numérique sur la société, sur l'humain, etc. Et dans la salle, il y avait un jeune homme de moins de 15 ans qui est venu me voir à la fin et je lui ai dit « On va réguler, on va mettre une majorité numérique » . Il est venu me voir à la fin et ça m'a vraiment marqué. Je me suis dit « Waouh, il faut vraiment qu'on mette une majorité numérique » . Il m'a dit « Si vous mettez une majorité numérique, je ne pourrai plus aller sur les réseaux sociaux puisque j'ai 14 ans et je n'aurai donc plus d'amis » .
C'est fou.
C'est terrible.
Et c'est la réalité. Parce que finalement, les amis sont à portée de main, ils sont virtuels.
Ils sont virtuels. Et ça veut dire qu'il n'a pas d'amis au sport, à l'école, dans son village. Et ça, c'est quand même inquiétant.
On commence à avoir des premiers résultats de l'interdiction des réseaux sociaux des moins de 15 ans en Australie, avec un vrai satisfait signal des gens qui retrouvent un certain nombre de choses. Un peu à la manière du Covid, lorsqu'on était tous enfermés, on a retrouvé des animaux en zone urbaine et de la végétation qui est repoussée. On peut toujours espérer, et je pense que c'est comme ça. On s'adapte.
C'est une excellente transition pour une autre question que je voulais vous poser. C'est qu'évidemment, ça s'accompagne de mesures éducatives. Quel conseil vous donneriez aux parents ? Est-ce que vous pensez que l'éducation nationale peut jouer un rôle également ? Oui, beaucoup. On a un ministre, Édouard Geffray, qui est très, très... impliqué sur ces sujets. Il a envie vraiment que finalement, de réduire déjà la présence des écrans à l'école. En dessous, ils ont interdit. Donc plus de tablettes, plus d'écrans en dessous du CP. Et ensuite, de bien contrôler la présence des écrans. Parce qu'il n'est pas avéré, Mathilde dit, que ça a permis toutes ces générations qui ont... ou qui ont eu des écrans à l'école, financés par les collectivités locales, d'ailleurs de manière très forte, a rendu les enfants plus intelligents ou plus performants. Par contre, il est d'accord avec moi que l'école s'appelle le lieu où on apprend l'esprit critique, où l'enfant arrive à détecter, est-ce que ça c'est du réel, du virtuel, est-ce qu'il faut que j'aille sur ce terrain-là ou pas ? Vous y croyez qu'à l'école ?
Alors moi ce que je crois, c'est que l'écran a sa place à l'école à condition que... Que l'enfant soit accompagné par l'adulte et qu'il l'analyse avec lui, qu'il lui explique ce qui sort de l'écran. La passivité est la paire des choses. L'accélération et la vitesse des images rendent finalement stuporeux et passifs les enfants. La pédagogie n'a de sens que lorsqu'elle est expliquée. Que ce soit un tableau ou un écran, il faut qu'un adulte soit à côté, soit les parents, soit l'enseignant. Et ça c'est important. Vous voyez, je ne suis pas contre, ni vous d'ailleurs, on n'est pas contre. Il faut qu'il y ait de la pédagogie, de l'explication. Et lorsqu'il n'y a pas l'écran, on réinvestit des espaces qui ont été finalement laissés en jachère ou à l'abandon. L'extérieur, le sport, la culture, l'écriture, la littérature. Vous m'avez posé la question sur les parents. Les parents, j'ai un conseil à leur donner. Tenez bon, on arrive sur une période de transition. C'est une période floue dans laquelle on se dit, tiens, on a lâché les écrans, on a été soutenus, il s'ennuie, qu'est-ce que je vais faire ? Pendant cette période, il faut tenir parce que l'esprit d'un enfant et d'un adolescent ne peut pas rester oisif. Il va de nouveau réinvestir. Quand un enfant n'a pas d'amis, il se trouve finalement à être inventif. Vous voyez, je parle toujours du syndrome d'un enfant unique. Il ne s'ennuie pas. Ils trouvent toujours moyen d'inventer un jeu. C'est la même chose. Lorsqu'on n'a plus ces écrans, on va retrouver finalement, de manière instinctive, autre chose à faire. On va contacter, on va sortir. Avant, on pensait que l'extérieur était dangereux. On enfermait nos enfants dans nos appartements bien au chaud, alors qu'on leur a offert les écrans. Le danger s'est retrouvé assez souvent derrière les écrans, alors qu'on pensait qu'il était à l'extérieur. C'est tout ça qu'il faut réinventer. Il faut accompagner les parents dans cet espace.
Et il faut peut-être aussi que les parents se décrochent de leurs propres écrans.
Oh si !
Ils sont peut-être très dépendants eux également. Absolument. Nous sommes tous dépendants finalement. Ce qui m'a marqué quand j'ai visité votre service à l'hôpital Paul Brousse, c'est que les jeunes que j'ai rencontrés avec ma collègue Stéphanie Rist, ils étaient plutôt favorables finalement à ce qu'on régule.
Complètement. Et ça, dans le rapport, vous savez, on a fait un hackathon. On avait rencontré 150 jeunes, pratiquement tous disaient, écoutez, de nous à décrocher.
Ils disent même, c'est votre responsabilité, j'ai entendu un jeune dans votre service dire, c'est à vous de...
Voilà, et de nous à décrocher. Et ça m'amène à une réflexion, nous avons eu une discussion là-dessus, c'est finalement on a évincé les jeunes de notre espace d'adultes.
C'est vrai.
On les a évincés, et donc ils se retrouvent dans le virtuel. Alors moi je dis, je répète, mais je n'ai rien contre. Les trains pour adultes, les avions pour adultes, les hôtels pour adultes, les vacances adultes only, je le dis, je le répète, vous m'offrez, Madame la Ministre, encore l'occasion de le dire, j'étais en train de chercher un voyage, je le dis, l'été dernier, je me suis retrouvé sur un hôtel dans lequel vous avez un hôtel pour adultes et un hôtel avec les enfants. Évidemment, l'hôtel pour adultes était plein, l'hôtel pour les enfants était moins, parce qu'il y avait du bruit dans la piscine, on est là-dessus. Il faut qu'on se pose cette question aussi, c'est extrêmement important. Retrouvons un espace dans lequel il existe pour tout le monde, un espace.
C'est très très important, et évidemment, sur le rôle de l'État. Donc on a parlé du rôle des parents, les jeunes, nous, les régulateurs, vous, les scientifiques, l'école. Et l'État ? Comment vous voyez le rôle de l'État ? Finalement, nous avons mis la majorité numérique à 15 ans. On va attendre les retours que vous allez faire de la commission sur l'IA, les génératives et les vulnérabilités. Si on faisait une projection, vous qui êtes un scientifique, qui imaginez l'avenir, vous pensez que ça va tendre vers quoi ?
Je pense que l'État, en tout cas la France, a bien réagi. On est tout le temps en train de demander à l'État d'être partout. Sur ce coup-là, l'État est au rendez-vous, par la voix du président de la République et par la vôtre. Donc l'État est au rendez-vous. Alors ce qu'il faut être maintenant peut-être... Il faut être proactif et essayer de se projeter sur ce que va être notre vie avec cet outil fantastique et comment l'appréhender sans qu'il prenne le dessus sur nous, qu'il nous retire notre liberté. C'est ça, c'est une question de liberté et c'est une question d'autonomie vis-à-vis d'un service qui ne doit pas prendre nos vies en otage. Et l'État doit se poser ce type de questions et faire des projections. Je pense que les Français sont tout à fait aptes à le comprendre. Et il ne s'agit pas de liberticide, ni rien de tout ça. Au contraire. La liberté n'est pas confisquée par l'État, elle est confisquée par un outil que l'on ne maîtrise pas.
Oui. Il ne faut pas se tromper de privation de liberté.
C'est un faux procès qu'on vous a fait sur cette histoire de liberticide. Moi, je me suis défendu en disant « mais ça ne va pas » . Pardonnez-moi de cette expression, c'est pas comme ça qu'il faut aborder le sujet.
À partir du moment où un enfant est complètement dépendant d'un écran de scrolling, c'est-à-dire quand il y a tout plein de stories qui arrivent et il est capté, il ne peut pas détacher le regard, elle est où la privation de liberté ? Elle est là ou elle est dans la majorité numérique ?
C'est exactement ce que je disais.
Je pense plutôt que nous on est dans une émergence de protection et de santé mentale aussi.
Et puis,
de faire porter la responsabilité sur les plateformes. Les plateformes, vous avez des responsabilités. Vous ne pouvez pas faire n'importe quoi. Il faut que vous ayez conscience des risques et que vous rectifiez le tir. Alors que jusqu'à présent,
il faisait porter la responsabilité sur les parents en disant « Nous avons mis dans la responsabilité parentale la belle affaire » .
Euh... Il y a évidemment la position internationale que nous avons, la France sur l'IA. C'est un sujet qu'on abordera parce qu'on a la présidence du G7 à la France en 2026. Et il existe un G7 numérique, donc la protection des mineurs, l'IA de manière globale. C'est un sujet qui sera abordé sous la présidence française de 2026, avec l'accord de tous les pays du G7. C'est un sujet qu'on a abordé en Inde. aussi. On est très, très alignés de beaucoup, beaucoup de pays sur la position que nous avons de protéger les populations et notamment les mineurs. Et à cette occasion, en Inde, j'ai fait un appel à contribution internationale scientifique. J'ai demandé à tous les scientifiques du monde qui travaillent sur ces sujets, vos homologues partout, de contribuer aux travaux que fait la France sur le sujet parce qu'on souhaite être moteur, comme on l'a été sur la majorité numérique. Et je dirais que les pays sont reconnaissants du courage qu'on a eu de ne pas lâcher. Il y a également besoin d'avoir une expertise scientifique très élargie. Et donc, il y aura vos travaux, bien sûr, mais il y aura aussi ceux qu'on a fait un appel à New Delhi pour que tous les scientifiques du monde puissent converger. Et puis, finalement, d'une manière non contestable, de dire voilà la réalité.
La science est têtue.
Exactement.
C'est la posture des preuves.
Donc la commission que nous vous avons confiée avec deux autres personnalités qualifiées, vous serez accompagné notamment du support et de l'expertise aussi du conseil sur l'IA et le numérique porté par Anne Bouvraud et Guillaume Poupard. De quelle manière vous allez travailler ?
On a eu une première réunion pour un peu caler les choses. Je pense qu'on va travailler, comme on l'a fait pour la commission Écran, avec des auditions. On va, si j'ai bien compris, être accueillis chez vous, physiquement, avec votre aide, l'aide du ministère du Numérique. Et puis, on va essayer de serrer d'abord, parce qu'il faut quand même, pour faire un joli mur, il faut d'abord un bon périmètre, établir un certain nombre de questions en fonction des profils que l'on va auditionner. et faire rédiger pour pouvoir vous remettre un rapport digeste, parce que c'est quand même un grand sujet, la vulnérabilité. Et là-dessus, je pense que le choix des personnes que l'on va auditionner est capital. Il y a très peu de littérature, il y en a, donc on va travailler comme sur la commission à l'écran sur des éléments qui existent, mais aussi on va se mouiller en quelque sorte en fonction des tendances pour essayer de vous montrer un peu vers quoi on risque d'aller. Et ça, ça me semble vraiment très important. Et donc ça sera probablement en deux ou trois, on vous remettra ce rapport qui va vous éclairer.
Rapport qui devrait nous arriver avant l'été 2026. Absolument. Donc en tout cas, moi, je suis vraiment très en attente. J'ai vraiment hâte d'avoir ce rapport. Parce que c'est de là, évidemment, que la politique publique derrière et les engagements que le président va prendre, la République ou le gouvernement agiront. donc Merci par avance, bon travail et puis avec impatience pour recevoir ce rapport. Merci beaucoup, professeur Benhamina. Merci pour votre confiance. Et puis à très très bientôt.
Description
🎙️ Dans ce second épisode, j’ai décidé de recevoir le Professeur Amine BENYAMINA, spécialiste en addictologie et chef du service de psychiatrie et d'addictologie de l'hôpital AP-HP, également professeur à l'Université Paris-Saclay
Bonne écoute !
Hébergé par Ausha. Visitez ausha.co/politique-de-confidentialite pour plus d'informations.
Transcription
Déclic, de la prise de conscience à l'engagement. Pour cette année 2026, j'ai choisi un format différent. Prendre le temps, échanger sans filtre, donner la parole à des voix diverses pour éclairer les enjeux du numérique autrement. Dans ce deuxième épisode, j'ai choisi d'échanger avec le professeur Amine Benyamina, spécialiste en addictologie et chef de service psychiatrie de l'hôpital... Paul Brousse, pour échanger ensemble sur un combat qui nous anime tous les deux, la protection des mineurs en ligne. Bonne écoute. Professeur Amine Beniamina, merci d'être là, de venir discuter avec moi dans une série de podcasts. J'ai souhaité vous inviter parce qu'en plus, évidemment, des communications que je peux faire, Des mesures que nous prenons, que ce soit législatives, réglementaires, sur le numérique, l'IA, il me paraît important à travers ces podcasts de pouvoir discuter en profondeur sur des sujets qui me tiennent à cœur. En l'occurrence, la protection des mineurs sur le net, dans l'environnement du numérique. Vous êtes un spécialiste de ces sujets-là. Je vais vous laisser vous présenter. Avant qu'on puisse avoir une discussion, je vous poserai plein de questions. J'en profiterai également pour vous dire la vision que j'ai de la protection des mineurs en ligne, de ce qu'on a déjà fait, de ce qu'on compte faire. Et on va avoir bien sûr besoin des expertises, dont celle de la médecine, des scientifiques, et puis plus d'autres projets qui vont nous concerner, vous et moi, dans les semaines à venir.
Avec plaisir.
Alors qui êtes-vous, professeur ?
Alors moi je suis psychiatre et addictologue, donc j'ai la double casquette. Je suis également professeur à l'Université Paris-Saclay. Et je dirige un grand département dans lequel je m'occupe à la fois de psychiatrie et d'addictologie. Et tous les produits, tout ce qui est en lien, et tout ce qui peut affecter finalement la privation de la liberté. Alors dans les addictions, il y a ce qu'on appelle les addictions avec et sans produit. Et le sujet qui nous concerne, Madame la Ministre, c'est les addictions sans produit. Et les écrans et tout ce qui est numérique, il y a, est venu faire effraction dans notre pratique, qui nous a amené à parfaire. notre expertise, puisqu'on était confrontés à des jeunes qui venaient dans nos services avec des problématiques de produits classiques, alcool, tabac, extasie, cannabis, tout ce que les jeunes consomment en ce moment, protoxyde d'azote. Mais à côté de ça, on a vu monter de plus en plus ce rapport aux écrans, ce rapport à l'IA, à l'Internet, qui devenait problématique. Et donc du coup, on a commencé à s'y intéresser. Et c'est comme ça que, s'intéressant à ces jeunes, Avec un service qui est très exposé, les pouvoirs publics se sont intéressés à nous pour partager notre savoir.
C'est important que nous, avant d'avancer sur des réglementations, sur des lois, que ce soit au Parlement, que ce soit le gouvernement, on ait cette vision de scientifique. Vous êtes un expert dans le domaine. Est-ce que je peux vous dire, finalement, puisque vous étiez spécialiste de l'addiction, je dirais, avec substance... que vous avez appris en marchant, puisque c'est un environnement nouveau. Et comment ça se traduit ? Est-ce que c'est la même chose que finalement de fumer du cannabis ou de prendre de la cocaïne ?
Alors c'est la même chose dans le mécanisme qui est à l'origine finalement de la perte de la liberté. Vous savez quand on consomme un produit, on vient bousculer un système qu'on appelle le système de récompense dans le cerveau. Je ne veux pas être très compliqué mais c'est assez simple. On a des zones dans le cerveau qui sont stimulées lorsqu'on prend de l'alcool, qu'on prend un psychostimulant. On vient du cannabis, et bien lorsqu'on a du... ça procure du plaisir et ensuite ça entraîne une modification de l'équilibre dans ce cerveau. Et ça produit une cascade neurobiologique dans le cerveau. Lorsqu'on est face à un écran, avec du plaisir à scroller ou bien du plaisir à jouer, on a la même modification dans le cerveau qui s'opère, mais... Au lieu d'avoir un produit qui est à l'origine de cette modification, ce sont des stimuli par le regard, par l'attente finalement de ce qu'on a sous les yeux. Évidemment, ce qui est utile à dire très vite, ce n'est pas n'importe quel objet, n'importe quel comportement qui est à l'origine de ce plaisir. C'est quelque chose qui nous parle, c'est quelque chose de plaisant. Et donc petit à petit, on vient modifier finalement de la même manière qu'avec un produit l'équilibre et globalement. Notre système est pris en otage. Ce système de récompense est pris en otage. Et c'est la raison pour laquelle il y a les mêmes mécanismes et qui entraînent finalement les mêmes standards de prise en charge et les mêmes alertes finalement épidémiologiques qu'on devrait finalement mettre en avant. Pareil.
En avril 2024, vous remettez un rapport au président de la République, le rapport Écran, une trentaine de recommandations. Vous abordiez déjà ce sujet-là. Ça m'a fortement d'ailleurs inspirée à la demande du président et du Premier ministre de finalement mettre en place en France une majorité numérique. Une majorité numérique qui est là pour protéger finalement aussi les mineurs. réguler les plateformes de telle sorte qu'elles empêchent à partir d'un certain âge, 15 ans en l'occurrence, d'accéder à certains contenus, à certains réseaux sociaux, et qui contribuent justement à cette addiction également. Donc ça a été déjà une première action très forte du gouvernement. Il y en aura d'autres. Une sénatrice, Catherine Morin de Sailly, travaille également, et l'OTEX sera étudiée à l'Assemblée nationale très prochainement, d'accompagnement autour de la santé. de l'accompagnement autour de l'éducation également à l'école. Alors ça, c'était une première étape. L'IA générative, c'est un autre sujet qui va finalement beaucoup plus vite que la régulation. C'est pourquoi la majorité numérique est déjà un garde-fou. Nous vous avons confié notamment, j'ai eu le plaisir de vous confier une commission, la coprésidence d'une commission avec Raphaël Gaillard et Serena Villata. Donc un psychiatre et une chercheuse de l'INRIA et du CNRS sur finalement l'IA générative, l'impact de l'IA générative et les vulnérabilités que cela provoque. Pourquoi les jeunes finalement sont plus fragiles par rapport aux IA génératives ?
Alors c'est un sujet fantastique, c'est un sujet qui monte et lorsqu'on a remis le rapport, C'était le sujet qui nous semblait devoir... succéder au rapport écran. Et vous avez absolument raison. Il y avait les éléments comme ça que l'on pouvait sentir, et vous avez lu, je le sais, parce que vous me l'avez dit, avec... Vous avez dévoré notre rapport, je reprends vos mots. Tout à fait.
Dans un TGV,
on ne trouvait pas les paroles. Dans un TGV, je ne dis que ce que j'ai entendu de votre bouche, Madame la Ministre. Et dans ce rapport, il y avait des éléments qui, clairement, étaient en lien avec ce qui est en train de monter. Alors, lien génératif. À ça de particulier, c'est qu'en gros, c'est l'ADN à partir duquel on a construit tout ça. C'est dans cette IA qu'on a, avec cette IA, qu'on a petit à petit construit les algorithmes, les algorithmes très complexes qui maintiennent finalement l'attention. On a le sentiment, et ce n'est pas le sentiment, c'est la réalité, que dans les IA génératifs, on produit ce que la personne et les jeunes en particulier attendent. Alors évidemment, c'est d'autant plus... C'est important qu'on est jeune parce que le cerveau est en maturation et le cerveau est très sensible aux stimuli et à tous ces éléments quand il n'est pas totalement maturé. Il mature jusqu'à 22-23 ans. Quand on parle de jeune, ce n'est pas 18 ans, ce n'est pas 15 ans. Ça va au-delà. Et donc là-dessus, les concepteurs finalement, je ne sais pas s'ils l'ont fait exprès. Au départ, ce n'est pas le cas. J'ai entendu un des pionniers de l'IA qui expliquait que Il était très inquiet parce qu'il ne pensait pas que ça allait prendre cette tournure, pas en tout. Il ne voyait que l'avancée pour l'humanité. Et l'effet pervers et l'effet compliqué est en train d'arriver. C'est cet enfermement, c'est ce colloque singulier qui va s'opérer entre une personne vulnérable, désarmée, face à quelque chose qui est fantastique, qui devient d'une certaine manière un accompagnateur, un couple. qui peut à un moment ou à un autre devenir encore plus important pour lui que sa famille, ses amis, sa propre personne. C'est là où très clairement il est utile d'éclairer les politiques que vous êtes sur les risques liés à cette IA générative. Alors peut-être qu'on ne va rien trouver, mais d'après ce que l'on voit, d'après les cas cliniques, d'après les alertes que l'on voit là maintenant, je pense que c'est un rapport qui à mon avis sera d'une grande utilité pour vous comme vous l'avez fait pour les écrans, probablement vous le ferez pour eux. pour les IA génératives en matière de protection.
Vous avez dit que certains créateurs d'IA n'étaient pas forcément conscients des effets. A contrario, pensez-vous que des facteurs d'IA sont pleinement conscients de ce qu'ils font ?
Hélas oui. Je pense que j'entendais pas plus tard que ce matin, je ne me rappelle plus de son nom, un grand chercheur canadien, et puis un autre aussi, qui expliquait la première des choses qui les inquiète maintenant. Et on le vit tout simplement, c'est par exemple un péril démocratique, c'est-à-dire une IH1 sur des jeunes qui sont en capacité d'aller voter, et ils ont le sentiment de voter en propre. de manière très autonome, très réfléchie, alors qu'ils ont été amenés par une forme d'intelligence imposée vers un scrutin particulier. Et là, c'est quelque chose qui n'arrivera pas demain. On y est en pleine dent. Donc là-dessus, je pense qu'il faut vraiment, à un moment ou à un autre, essayer d'inverser ce phénomène de privation de la liberté ou alors d'une liberté dirigée.
D'ailleurs, c'est un sujet... que le président de la République Emmanuel Macron prend vraiment très très au sérieux. Les risques d'ingérence étrangère, de manipulation pendant des élections. Il y a les municipales d'ici quelques semaines, il y aura les présidentielles en 2027. Il ne faut pas être naïf et il y a des puissances, des plateformes qui ont l'intention de peser dans les élections. On est tout à fait conscient de cela. Après il faut faire de la prévention. Et donc autour du président il y a effectivement des experts également. Et nous, mon ministère y contribue. le ministère de l'Intérieur, pour prévenir ce genre de risque et accompagner les élus locaux, que ce soit des maires sortants, des candidats, à détecter quand ils sont victimes de portes et plaintes. Et nous, en tout cas, on sera aux côtés des élus à chaque fois pour les défendre et de casser ces désinformations. Pour revenir à la jeunesse, finalement... Les risques auxquels ils sont confrontés, on l'a abordé un petit peu. Il y a les deepfakes, donc vraiment de la désinformation. Il y a également l'IA générative, des nouvelles vulnérabilités qui sont assez angoissantes, je dois dire, en tant que parent, grand-parent. Et c'est finalement que l'IA générative devienne le meilleur ami de nos adolescents et de nos enfants.
Ça, c'est un sujet capital qui, très clairement, occupera beaucoup. Beaucoup le rapport qu'on va vous remettre. On a commencé à regarder la littérature, on parle de sycophantisme. Alors là c'est un terme un peu compliqué, mais j'ai appris ce que c'était parce que l'université à laquelle j'appartiens, Paris-Saclay, a une fondation qui a été approchée par la Fondation du risque et qui m'a demandé de faire un travail là-dessus sur trois ans pour remettre un rapport là-dessus. C'est-à-dire cette capacité à produire du contenu par une lueur générative et qui est à l'origine des décompensations psychiatriques. et des manifestations liées à une forme de confusion entre la réalité et le virtuel. On voit à travers finalement les incitations à des actes violents, à retourner contre soi ou contre les personnes extérieures. Il y a aussi, on a identifié des troubles psychiatriques que tout le monde connaît, des troubles anxieux, des troubles dépressifs, des hallucinations parfois même, des phénomènes délirants avec des cas cliniques. disséminés dans le monde à la faveur d'une relation liée, virtuelle. On a aussi des commerces actuellement de l'IA. Pour ceux qui habitent à Paris, moi j'ai été étonné de voir un collier...
Friends,
vous savez. Oui, voilà, donc je l'ai découvert moi, je me posais la question naïvement, et puis j'ai des alliés à la maison qui m'ont expliqué ça. C'est le nouveau ami que tu as autour du cou. On ne le connaît pas encore, mais je pense que... on arrive déjà à un niveau d'intrusion dans l'intimité des personnes qui pose question. Donc là-dessus, on va vraiment aller à la recherche de production scientifique et de déménage de collègues et de scientifiques pour vraiment avoir une vision très claire de ce qui est en train de se mettre en place. Et cette IA générative, à laquelle je n'étais pas, personnellement, je continue à ne pas être opposé. En revanche, je reprends les mots du président, il faut réguler et je demande aux experts de converger et on va essayer de faire ça.
Oui, ça va être très très utile pour nous, pour le gouvernement, pour mon ministère, pour les parlementaires qui s'approprient beaucoup ces sujets-là également. C'est que le résultat du rapport que vous allez faire de la commission sur l'IA générative et les vulnérabilités vont nous permettre de savoir s'il faut réglementer. s'il faut encadrer, s'il faut prévenir, si ça se passe à l'école, si ça se passe... Enfin voilà, ça nous permet de faire des politiques publiques qui collent à la réalité. L'idée n'est pas de tout réglementer. Nous sommes attachés aussi à la liberté, bien sûr, mais aussi d'un juste équilibre entre l'innovation. On a besoin d'une filière IA performante en France, en Europe. On a des champions, il faut qu'on les accompagne, tout en préservant les populations. Il faut trouver ce juste équilibre. Et c'est vrai que la... La vision scientifique, c'est le postulat, pour moi, de départ. Et après, je dirais que la machine va se mettre en route pour savoir comment l'accompagner au mieux.
Alors, peut-être que je me trompe, madame la ministre, mais évidemment, je baigne dans ce domaine. Depuis peu, en étant médecin, psychiatre, ma pratique de tous les jours, c'est de voir des gens en souffrance à qui je prescris des médicaments, où je l'écoute et j'accompagne. Mais avec l'intrusion dans ma vie de ce domaine, je me suis rendu compte qu'il y avait finalement deux populations d'industriels. Les premiers, c'est ceux qui ont les inventeurs, les créateurs de Satyra, qui sont, j'ai envie de dire, des génies réels et qui sont animés. Pour beaucoup, peut-être que je suis naïf, d'une bonne intention. Et puis ceux qui utilisent cette IA à des fins commerciales, je crois qu'on a affaire à deux catégories différentes. Je ne dis pas qu'il y a les bons d'un côté et les méchants de l'autre, mais je me rends compte que beaucoup de ceux qui sont à l'origine de cette révolution, qui travaillent depuis des années, ils sont sous la lumière depuis peu, sont tous plus ou moins inquiets de ce qui peut advenir, de ce qu'ils ont créé. Ça me rappelle un peu Funeste Histoire. les concepteurs théoriques de la bombe atomique et ceux qui l'ont utilisée derrière. Donc en gros, c'est un peu le sentiment que j'ai. Je ne sais pas si j'ai tort ou pas.
Je pense que vous avez raison, mais je voudrais vous dire que d'abord, nous ne sommes plus naïfs. On a finalement un peu subi ce développement de l'IA et des technologies qui vont très très vite, les réseaux sociaux qui sont des puissances financières énormes. Et donc on regardait un petit peu cela. passer devant nous en se disant comment ça va atterrir tout ça. Cette période d'observation, elle est terminée. C'est-à-dire que la naïveté qu'on a pu avoir, si on a eu, mais en tout cas, nous sommes des gens intelligents, on regarde, on ne régule pas avant d'avoir mal, entre guillemets. On ne fait pas de procès d'intention. On ne fait pas de procès d'intention, on est plutôt ouvert et on dit, je suis comme vous, plutôt convaincu que ça va nous apporter aussi beaucoup de bonnes choses. Mais il y a un moment où il faut quand même encadrer. C'est ce que nous souhaitons faire dorénavant. Mais je souhaiterais quand même vous rassurer. C'est que contrairement à certains grands opérateurs d'IA qui sont sans foi ni loi et qui ne sont guidés que par l'argent et qui finalement, comme dit le Président de la République, achètent le cerveau de nos enfants, nous ne souhaitons plus tolérer cela. La majorité numérique a 15 ans en France que nous avons commencé à mettre en œuvre déjà à l'Assemblée nationale et dans quelques semaines, je l'espère. je compte sur la sagesse des sénateurs également. En gros, ça veut dire quoi ? Ça veut dire, vous les plateformes, eh bien, on vous donne des règles. Parce que, grâce justement à l'expertise scientifique, grâce au fait qu'on n'est quand même pas naïf de ce que vous voulez faire, que finalement, il n'y a pas de valeur derrière votre technologie. Nous, en Europe, on a des valeurs. Et au sein de notre IA, nous, l'IA que nous voulons pour la France et l'Europe, eh bien derrière, c'est l'humain au cœur. C'est la liberté. C'est la transparence des algorithmes. C'est un IA respectueux de l'environnement, donc durable. Si on respecte ces règles-là, on va pouvoir discuter avec les opérateurs. Si vous ne respectez pas ces règles-là, nous mettons des règles qui vont vous contraindre. C'est exactement le contexte dans lequel on est actuellement. Et là où on était un peu impressionnés, il faut dire, par les grands... Aujourd'hui, on a des très bons chez nous. On veut les pousser. Et surtout, on leur dit dorénavant, vous respectez nos règles, parce que les règles qu'on fixe, on les fixe en européen. Depuis l'Europe et pour l'Europe, vous vous y conformez, sinon on ne vous ouvrira pas nos marchés. Voilà, c'est aussi simple que ça. Donc en fait, là, cette discussion entre vous, les précautions et les interrogations, les craintes que vous avez, et finalement qui sont les mêmes que nous, on a des moyens de réponse. Vous, vous devez finalement nous éclairer ce que vous faites, et puis nous, après, on prend les décisions pour encadrer tout ça. Donc on fait une très belle équipe entre la science, les experts de l'écosystème. Plus nous, les régulateurs, la politique publique, on est en train de construire quelque chose, donc moi personnellement je suis fière, et qui commence à faire bouger les lignes. La majorité numérique, je l'ai vu en Inde au sommet sur l'IA, et bien tous les interlocuteurs que j'ai rencontrés, mes homologues européens, canadiens, indiens, australiens, tous m'ont parlé de la majorité numérique en France.
C'est super ! J'ai l'impression qu'on ouvre la voie. Alors vous avez dit, les opérateurs achètent le cerveau de nos enfants. Alors moi j'ai eu l'occasion de faire un débat avec des gens qui connaissent le sujet, qui en font le commerce, et puis une discussion nourrie et plutôt intéressante. Et puis quelqu'un a dit, on achète le cerveau, mais en vérité on vend le cerveau de nos enfants. Et quand c'est gratuit, le produit, c'est vous. Donc c'est souvent comme ça que... Et donc là c'est extrêmement important d'avoir ça en tête. Ça n'est jamais gratuit. C'est nous qui sommes finalement le produit. Et c'est là où très clairement... Votre regard et le regard aiguisé des politiques qui savent ce qui est derrière le rideau, contrairement à nous scientifiques qui décortiquons finalement les mécanismes, il est extrêmement utile et qui nous permet finalement de comprendre et finalement de mettre à disposition ce qu'on a compris pour mettre en action des choses comme ça. Ils vendent, ils vendent, parce qu'ils sont gagnants.
Et tant qu'on ne dit rien, qui ne dit mot consent ? Le quino-dimoconsens, c'est sur ce sujet-là, on souhaite maîtriser et protéger notre population. Le curseur ensuite,
c'est une question du curseur. C'est ça.
Après, il ne faut pas tout interdire. Le message que je passe aux jeunes quand je les rencontre, on ne veut pas vous priver de votre liberté, on veut vous protéger. Et les parents qui parfois sont démunis, parce que tous les parents ne sont pas égaux face à la technologie non plus, il y a des fractures numériques, il y a des parents qui suivent ça très bien. qui interdisent à leurs enfants le téléphone portable dans leur chambre le soir et on laisse ça en bas sur la table du salon. Il y en a d'autres qui ne passent pas parce qu'ils ne sont pas là, ils sont au travail. D'autres, il y a des sources multiples de discussions tendues avec les jeunes. Rajouter le numérique, c'est un sujet de plus.
Vous savez, Madame la Ministre, vous étiez venue dans mon service.
Oui, j'ai eu la chance de visiter le service à l'hôpital Paul-Brus.
Merci de nous avoir fait cet honneur. Et lorsque le texte est passé... Moi j'ai des critiques de la part d'un certain collègue qui me disait « Oui mais c'est liberticide, vous aussi. »
Oui.
J'ai même entendu un expert qui parlait d'un état totalitaire. Oui. Il y a quelque chose qui ne va pas dans votre raisonnement. Est-ce que vous accepteriez que l'on serve de l'alcool à des moins de 18 ans ? Est-ce qu'on est en capacité d'aller acheter du tabac chez un débiteur de tabac chez les moins de 18 ans ? Pourquoi quand il s'agit de virtuels ou de réseaux sociaux, Votre raisonnement s'arrête ici. Et puis le texte ne dit pas qu'on va mettre un policier dans chaque famille, dans chaque foyer. On envoie un signal fort de protection et de nocivité et parfois de dommage lorsque l'on n'a pas encore 15 ans. C'est tout ça qui est important. L'esprit de la loi en ce qui concerne cette mesure que vous avez fait voter est aussi voire plus important que la loi elle-même en quelque sorte. Ça a été l'esprit avec lequel... Le Premier ministre australien, qui nous a précédé très peu, a expliqué pourquoi il faisait passer cette mesure.
Et en plus, ça passe des messages aux plateformes. Et les plateformes, globalement, à part celles qui sont effectivement pas très honnêtes et qui ont des finalités très mercantiles, et uniquement mercantiles, les grandes plateformes sont responsables. Quand on entend le discours du patron de Google en Inde par exemple, quand je vois des demandes de rendez-vous d'opérateurs qui veulent me rencontrer pour voir comment des gens anticipaient la mise en œuvre, ça veut dire qu'elles sont finalement à l'écoute et qu'on commence à faire passer les messages et qu'elles sont elles-mêmes conscientes. Donc moi j'apprécie ces démarches. Par contre, on a des parents qui nous regardent là. Est-ce que vous pourriez nous dire comment on détecte un ado ou un jeune qui est en situation d'addiction ? aux écrans, à l'IA générative, voire même qu'il y a une intrusion dans sa vie qui fait qu'il a perdu le contrôle.
Alors, avant qu'il ne perde le contrôle, ce qui est important c'est d'avoir quelques signes pour pouvoir anticiper finalement les dommages qui s'installent rentrer vite. Les dommages sont évidemment le fait d'avoir de petites nuits, d'être fatigué, d'avoir des mauvais résultats scolaires et d'être finalement un peu à la marge de la famille. Il est dans sa chambre, il ne vient pas à table lorsqu'on l'appelle, ou il faut l'appeler plusieurs fois, et que dès lors qu'il a du temps, il est face à son écran, que ce soit son smartphone, ou bien sa tablette, ou bien l'ordinateur. Et donc là-dessus, on se rend compte assez vite qu'il est plus intéressé par se mettre devant l'écran que d'échanger avec ses parents, ou bien ses frères et soeurs. Et lorsque, pire que tout, il préfère... rester derrière l'écran et ne plus fréquenter ses amis ou ses copains de classe, on est un degré au-dessus. Et puis, ça c'est les éléments sur lesquels les parents peuvent tout de suite réagir. Je vous dirais, l'idée ce n'est pas d'être dans une confrontation, c'est d'avoir de la patience et de rappeler les choses. Et ensuite, on a des pathologies qui s'installent, du sommeil, de l'obésité, c'est ce qu'on a mis dans notre rapport, des problématiques qui peuvent être majorées, comme les troubles anxieux. parfois quelques symptômes dépressifs. Et alors il y a le contenu aussi. Lorsqu'on a un contenu qui est malveillant, on commence à avoir quelques éléments en lien avec ce contenu qui peut nous entraîner vers autre chose. Donc là, là-dessus, les parents assez vite s'en rendent compte. Mais avant les parents, il y a les enseignants, il y a le corps. L'éducation nationale joue un rôle fantastique. D'ailleurs,
c'est ce que j'ai beaucoup retenu de votre rapport sur l'écran. C'est que vous avez, vous, une vision très globale et que ce n'est pas que de la régulation.
Non.
Ça passe par d'autres choses.
C'est un système. Et l'IA génératif, ça sera pareil. C'est un système dans lequel on évolue. On n'a pas l'IA parce qu'on est à la maison et qu'on va aller sur les grands opérateurs de l'IA. Il va être partout. Il commence à être partout. Vous voyez. Je vais vous faire une petite confidence. J'ai écouté un morceau de musique qui, à tout point de vue... Me ravisser parce que c'est ce que j'aime. Puis je l'ai envoyé à mon fils qui est un peu plus jeune, un peu plus dynamique et plus alerte que moi. Il m'a envoyé, mais papa c'est de l'IA.
Fait par l'IA ?
Oui.
Vous n'en étiez pas rendu compte ? Non,
pas du tout. Sur une plateforme très célèbre suédoise, pour ne pas la citer. J'ai dit, tu es sûr de toi ? Il m'a dit, essaie de Shazam. Il me dit, tu n'auras rien du tout. C'est comme ça que tu sais que c'est de l'IA. J'ai beau être alerte, baigné dans ça depuis trois ans, je ne dis pas qu'il ne faut pas les emmener. Écoutez ça. Mais je dis que là-dessus...
Alors ça nous amène à un autre sujet, et ça donnera peut-être mieux un autre podcast, c'est la protection des endroits culturels, de protéger les acteurs de la culture dans un environnement IA où on ne sera plus trop détecté.
Complètement. Moi, je suis rentré avec toute ma bonne foi carrément dans un... Pas dans le piège, parce que c'était très joli ce que vous entendez.
Après tout, c'était agréable à écouter. Oui,
voilà. Je veux dire par là, voilà.
Est-ce que ça peut aller, d'après vous, jusqu'à une situation extrême de dépression profonde, de suicide, d'isolement ? Écoutez,
moi, je suis très inquiet. D'abord, j'étais stupéfait. Et ensuite, inquiet sur des IA affectives. C'est-à-dire la relation affective dans l'intimité. Je dis, il n'y a plus de limite dans ces cas-là. Une rupture sentimentale, ça fait mal. Qui vous dit que votre bien-aimé IA, un jour, ne vous, par un mécanisme quelconque, ne va pas vous quitter ou bien se retourner contre vous ? Il y a de véritables dépendances affectives qui peuvent probablement... C'est peut-être le cas des gens, on le verra, parce qu'on va commencer à travailler là-dessus. ne peut pas entraîner un vrai chagrin au point où...
Ou à l'inverse, vous dominez en étant pervers narcissique. Complètement, vous dominez.
Tout est possible dans la relation. Tout est possible dans la relation.
Alors théoriquement, l'humain maîtrise quand même l'IA. Donc ce que vous me dites, c'est là, on perdrait le contrôle de l'IA.
Je ne parle pas des entrepreneurs ou bien des concepteurs. Je parle de monsieur et madame tout le monde, le kidam. à qui on remet cet objet et qui finalement dans sa grande solitude se retrouve à être accompagné par quelque chose qu'il pense maîtriser, qui finalement peut se retourner contre lui.
C'est vrai qu'on a vu des applications qui permettent d'avoir une petite amie virtuelle. J'ai été marquée par une rencontre lors d'une intervention que j'ai faite aux côtés de la présidente de l'Assemblée nationale. Yael Brompivet m'avait invité dans sa circonscription et le sujet c'était l'impact du numérique sur la société, sur l'humain, etc. Et dans la salle, il y avait un jeune homme de moins de 15 ans qui est venu me voir à la fin et je lui ai dit « On va réguler, on va mettre une majorité numérique » . Il est venu me voir à la fin et ça m'a vraiment marqué. Je me suis dit « Waouh, il faut vraiment qu'on mette une majorité numérique » . Il m'a dit « Si vous mettez une majorité numérique, je ne pourrai plus aller sur les réseaux sociaux puisque j'ai 14 ans et je n'aurai donc plus d'amis » .
C'est fou.
C'est terrible.
Et c'est la réalité. Parce que finalement, les amis sont à portée de main, ils sont virtuels.
Ils sont virtuels. Et ça veut dire qu'il n'a pas d'amis au sport, à l'école, dans son village. Et ça, c'est quand même inquiétant.
On commence à avoir des premiers résultats de l'interdiction des réseaux sociaux des moins de 15 ans en Australie, avec un vrai satisfait signal des gens qui retrouvent un certain nombre de choses. Un peu à la manière du Covid, lorsqu'on était tous enfermés, on a retrouvé des animaux en zone urbaine et de la végétation qui est repoussée. On peut toujours espérer, et je pense que c'est comme ça. On s'adapte.
C'est une excellente transition pour une autre question que je voulais vous poser. C'est qu'évidemment, ça s'accompagne de mesures éducatives. Quel conseil vous donneriez aux parents ? Est-ce que vous pensez que l'éducation nationale peut jouer un rôle également ? Oui, beaucoup. On a un ministre, Édouard Geffray, qui est très, très... impliqué sur ces sujets. Il a envie vraiment que finalement, de réduire déjà la présence des écrans à l'école. En dessous, ils ont interdit. Donc plus de tablettes, plus d'écrans en dessous du CP. Et ensuite, de bien contrôler la présence des écrans. Parce qu'il n'est pas avéré, Mathilde dit, que ça a permis toutes ces générations qui ont... ou qui ont eu des écrans à l'école, financés par les collectivités locales, d'ailleurs de manière très forte, a rendu les enfants plus intelligents ou plus performants. Par contre, il est d'accord avec moi que l'école s'appelle le lieu où on apprend l'esprit critique, où l'enfant arrive à détecter, est-ce que ça c'est du réel, du virtuel, est-ce qu'il faut que j'aille sur ce terrain-là ou pas ? Vous y croyez qu'à l'école ?
Alors moi ce que je crois, c'est que l'écran a sa place à l'école à condition que... Que l'enfant soit accompagné par l'adulte et qu'il l'analyse avec lui, qu'il lui explique ce qui sort de l'écran. La passivité est la paire des choses. L'accélération et la vitesse des images rendent finalement stuporeux et passifs les enfants. La pédagogie n'a de sens que lorsqu'elle est expliquée. Que ce soit un tableau ou un écran, il faut qu'un adulte soit à côté, soit les parents, soit l'enseignant. Et ça c'est important. Vous voyez, je ne suis pas contre, ni vous d'ailleurs, on n'est pas contre. Il faut qu'il y ait de la pédagogie, de l'explication. Et lorsqu'il n'y a pas l'écran, on réinvestit des espaces qui ont été finalement laissés en jachère ou à l'abandon. L'extérieur, le sport, la culture, l'écriture, la littérature. Vous m'avez posé la question sur les parents. Les parents, j'ai un conseil à leur donner. Tenez bon, on arrive sur une période de transition. C'est une période floue dans laquelle on se dit, tiens, on a lâché les écrans, on a été soutenus, il s'ennuie, qu'est-ce que je vais faire ? Pendant cette période, il faut tenir parce que l'esprit d'un enfant et d'un adolescent ne peut pas rester oisif. Il va de nouveau réinvestir. Quand un enfant n'a pas d'amis, il se trouve finalement à être inventif. Vous voyez, je parle toujours du syndrome d'un enfant unique. Il ne s'ennuie pas. Ils trouvent toujours moyen d'inventer un jeu. C'est la même chose. Lorsqu'on n'a plus ces écrans, on va retrouver finalement, de manière instinctive, autre chose à faire. On va contacter, on va sortir. Avant, on pensait que l'extérieur était dangereux. On enfermait nos enfants dans nos appartements bien au chaud, alors qu'on leur a offert les écrans. Le danger s'est retrouvé assez souvent derrière les écrans, alors qu'on pensait qu'il était à l'extérieur. C'est tout ça qu'il faut réinventer. Il faut accompagner les parents dans cet espace.
Et il faut peut-être aussi que les parents se décrochent de leurs propres écrans.
Oh si !
Ils sont peut-être très dépendants eux également. Absolument. Nous sommes tous dépendants finalement. Ce qui m'a marqué quand j'ai visité votre service à l'hôpital Paul Brousse, c'est que les jeunes que j'ai rencontrés avec ma collègue Stéphanie Rist, ils étaient plutôt favorables finalement à ce qu'on régule.
Complètement. Et ça, dans le rapport, vous savez, on a fait un hackathon. On avait rencontré 150 jeunes, pratiquement tous disaient, écoutez, de nous à décrocher.
Ils disent même, c'est votre responsabilité, j'ai entendu un jeune dans votre service dire, c'est à vous de...
Voilà, et de nous à décrocher. Et ça m'amène à une réflexion, nous avons eu une discussion là-dessus, c'est finalement on a évincé les jeunes de notre espace d'adultes.
C'est vrai.
On les a évincés, et donc ils se retrouvent dans le virtuel. Alors moi je dis, je répète, mais je n'ai rien contre. Les trains pour adultes, les avions pour adultes, les hôtels pour adultes, les vacances adultes only, je le dis, je le répète, vous m'offrez, Madame la Ministre, encore l'occasion de le dire, j'étais en train de chercher un voyage, je le dis, l'été dernier, je me suis retrouvé sur un hôtel dans lequel vous avez un hôtel pour adultes et un hôtel avec les enfants. Évidemment, l'hôtel pour adultes était plein, l'hôtel pour les enfants était moins, parce qu'il y avait du bruit dans la piscine, on est là-dessus. Il faut qu'on se pose cette question aussi, c'est extrêmement important. Retrouvons un espace dans lequel il existe pour tout le monde, un espace.
C'est très très important, et évidemment, sur le rôle de l'État. Donc on a parlé du rôle des parents, les jeunes, nous, les régulateurs, vous, les scientifiques, l'école. Et l'État ? Comment vous voyez le rôle de l'État ? Finalement, nous avons mis la majorité numérique à 15 ans. On va attendre les retours que vous allez faire de la commission sur l'IA, les génératives et les vulnérabilités. Si on faisait une projection, vous qui êtes un scientifique, qui imaginez l'avenir, vous pensez que ça va tendre vers quoi ?
Je pense que l'État, en tout cas la France, a bien réagi. On est tout le temps en train de demander à l'État d'être partout. Sur ce coup-là, l'État est au rendez-vous, par la voix du président de la République et par la vôtre. Donc l'État est au rendez-vous. Alors ce qu'il faut être maintenant peut-être... Il faut être proactif et essayer de se projeter sur ce que va être notre vie avec cet outil fantastique et comment l'appréhender sans qu'il prenne le dessus sur nous, qu'il nous retire notre liberté. C'est ça, c'est une question de liberté et c'est une question d'autonomie vis-à-vis d'un service qui ne doit pas prendre nos vies en otage. Et l'État doit se poser ce type de questions et faire des projections. Je pense que les Français sont tout à fait aptes à le comprendre. Et il ne s'agit pas de liberticide, ni rien de tout ça. Au contraire. La liberté n'est pas confisquée par l'État, elle est confisquée par un outil que l'on ne maîtrise pas.
Oui. Il ne faut pas se tromper de privation de liberté.
C'est un faux procès qu'on vous a fait sur cette histoire de liberticide. Moi, je me suis défendu en disant « mais ça ne va pas » . Pardonnez-moi de cette expression, c'est pas comme ça qu'il faut aborder le sujet.
À partir du moment où un enfant est complètement dépendant d'un écran de scrolling, c'est-à-dire quand il y a tout plein de stories qui arrivent et il est capté, il ne peut pas détacher le regard, elle est où la privation de liberté ? Elle est là ou elle est dans la majorité numérique ?
C'est exactement ce que je disais.
Je pense plutôt que nous on est dans une émergence de protection et de santé mentale aussi.
Et puis,
de faire porter la responsabilité sur les plateformes. Les plateformes, vous avez des responsabilités. Vous ne pouvez pas faire n'importe quoi. Il faut que vous ayez conscience des risques et que vous rectifiez le tir. Alors que jusqu'à présent,
il faisait porter la responsabilité sur les parents en disant « Nous avons mis dans la responsabilité parentale la belle affaire » .
Euh... Il y a évidemment la position internationale que nous avons, la France sur l'IA. C'est un sujet qu'on abordera parce qu'on a la présidence du G7 à la France en 2026. Et il existe un G7 numérique, donc la protection des mineurs, l'IA de manière globale. C'est un sujet qui sera abordé sous la présidence française de 2026, avec l'accord de tous les pays du G7. C'est un sujet qu'on a abordé en Inde. aussi. On est très, très alignés de beaucoup, beaucoup de pays sur la position que nous avons de protéger les populations et notamment les mineurs. Et à cette occasion, en Inde, j'ai fait un appel à contribution internationale scientifique. J'ai demandé à tous les scientifiques du monde qui travaillent sur ces sujets, vos homologues partout, de contribuer aux travaux que fait la France sur le sujet parce qu'on souhaite être moteur, comme on l'a été sur la majorité numérique. Et je dirais que les pays sont reconnaissants du courage qu'on a eu de ne pas lâcher. Il y a également besoin d'avoir une expertise scientifique très élargie. Et donc, il y aura vos travaux, bien sûr, mais il y aura aussi ceux qu'on a fait un appel à New Delhi pour que tous les scientifiques du monde puissent converger. Et puis, finalement, d'une manière non contestable, de dire voilà la réalité.
La science est têtue.
Exactement.
C'est la posture des preuves.
Donc la commission que nous vous avons confiée avec deux autres personnalités qualifiées, vous serez accompagné notamment du support et de l'expertise aussi du conseil sur l'IA et le numérique porté par Anne Bouvraud et Guillaume Poupard. De quelle manière vous allez travailler ?
On a eu une première réunion pour un peu caler les choses. Je pense qu'on va travailler, comme on l'a fait pour la commission Écran, avec des auditions. On va, si j'ai bien compris, être accueillis chez vous, physiquement, avec votre aide, l'aide du ministère du Numérique. Et puis, on va essayer de serrer d'abord, parce qu'il faut quand même, pour faire un joli mur, il faut d'abord un bon périmètre, établir un certain nombre de questions en fonction des profils que l'on va auditionner. et faire rédiger pour pouvoir vous remettre un rapport digeste, parce que c'est quand même un grand sujet, la vulnérabilité. Et là-dessus, je pense que le choix des personnes que l'on va auditionner est capital. Il y a très peu de littérature, il y en a, donc on va travailler comme sur la commission à l'écran sur des éléments qui existent, mais aussi on va se mouiller en quelque sorte en fonction des tendances pour essayer de vous montrer un peu vers quoi on risque d'aller. Et ça, ça me semble vraiment très important. Et donc ça sera probablement en deux ou trois, on vous remettra ce rapport qui va vous éclairer.
Rapport qui devrait nous arriver avant l'été 2026. Absolument. Donc en tout cas, moi, je suis vraiment très en attente. J'ai vraiment hâte d'avoir ce rapport. Parce que c'est de là, évidemment, que la politique publique derrière et les engagements que le président va prendre, la République ou le gouvernement agiront. donc Merci par avance, bon travail et puis avec impatience pour recevoir ce rapport. Merci beaucoup, professeur Benhamina. Merci pour votre confiance. Et puis à très très bientôt.
Share
Embed
