Transcription

• Speaker #0

  NR dans l'air, parlant numérique, innovant responsable.

• Speaker #1

  Bonjour à toutes et à tous et bienvenue dans ce nouvel épisode de notre podcast NR dans l'air par Hunter. Un podcast orienté vers l'avenir pour sensibiliser, partager et décrypter le numérique responsable. Ce podcast, proposé par le pôle de compétitivité Hunter, est soutenu par le programme Alt-Impact, comporté par l'ADEME, le CNRS et l'INRIA. Sa réalisation est rendue possible par la contribution de Capgemini, ainsi que celle des membres et partenaires du Pôle. Aujourd'hui, on parle de santé, un secteur où l'innovation va très vite et parfois plus vite que nos capacités à en mesurer les impacts. Le numérique y est partout, que ce soit dans les blocs opératoires, dans l'imagerie, dans les dossiers patients ou encore dans la recherche. Mais derrière cette accélération technologique, une question se pose vraiment. Comment concilier performance médicale, responsabilité environnementale et exigence éthique ? Autrement dit, Comment faire du numérique un véritable levier de transformation responsable du système de santé ?

• Speaker #0

  Faire du réseau. Coopérer.

• Speaker #2

  Co-créer.

• Speaker #0

  Accélérer. Innover.

• Speaker #2

  Numérique responsable.

• Speaker #1

  Pour nous éclairer sur le sujet, j'ai le plaisir d'accueillir Julia Emmerich-Simone, directeur des parcours de soins à l'Institut Bergogne et également directeur innovation, données et santé numérique. Merci Julia Emmerich d'avoir accepté l'invitation.

• Speaker #2

  Merci beaucoup de m'avoir invitée. Bonjour Agathe.

• Speaker #1

  Bonjour. Pour commencer, tu as un profil assez singulier, à la fois managérial et scientifique. Pour qu'on comprenne bien, est-ce que tu peux nous expliquer davantage ton parcours et ce qui t'a amené à travailler à l'intersection entre la médecine, les données et le management ?

• Speaker #2

  Alors en fait, oui, moi j'ai toujours cet intérêt à croiser des éléments très scientifiques et des éléments très humains et le travailler ensemble m'intéresse beaucoup. Et donc en fait, j'ai... Travaillé dans les hôpitaux depuis très petit. En fait, même je traînais quand j'étais en stage de troisième. Et pour faire simple, j'ai fait une thèse de science en évaluation, en imagerie médicale, en évaluation de la réponse au traitement contre le cancer. Donc, dans les cancers de type lymphome, donc les cancers qu'on dit cancers du sang. Et donc, cet assise m'a permis également de travailler. avec beaucoup de professionnels et je faisais en même temps développer des dossiers patients dans les années 2000, c'était il y a un grand moment, ce qui m'a permis de pouvoir travailler sur les organisations, faire travailler les gens ensemble dans une direction commune avec des méthodes, des nouveaux outils et le management s'est vite imposé à moi pour pouvoir aller plus loin, donc ça m'a permis de faire beaucoup d'organisations de blocs opératoires, de politiques médicales dans les hôpitaux de Paris. Et en ayant cette approche également d'audit dans les établissements pour accompagner au changement et à faire travailler différentes structures, différents métiers. Et le fait après d'avoir fait du management d'établissement de santé m'a donné une culture technique avant grâce à ma thèse et humaine de conduite du changement, d'éléments de finance, d'éléments organisationnels, réglementaires. Tous ces éléments-là sont utiles dans un établissement pour... prendre en charge des patients.

• Speaker #1

  D'accord. Donc, on voit bien comment ton parcours montre comment la science et le management peuvent se compléter et en l'occurrence pour innover, pour transformer la santé. Est-ce que tu peux nous préciser un petit peu ce que fait l'Institut Bergogne et comment vous travaillez ?

• Speaker #2

  L'Institut Bergogne, c'est un centre de lutte contre le cancer. Ça existe depuis un peu plus d'une centaine d'années. Il y en a 18 en France. Et ça fait partie des établissements de santé qui traitent le cancer. On n'est naturellement pas les seuls. Il y a les centres hospitaliers généraux, universitaires et puis les cliniques. Et nous, on s'occupe du cancer, de cette thématique, dans toutes ses dimensions et à tous les stades, que ce soit au stade de la prévention, puisqu'on a une grande action de prévention, notamment sur la vaccination pour éviter les papillomavirus et donc les cancers du col de l'utérus, mais également le diagnostic, le soin, le dépistage, les traitements. comment est-ce qu'on accompagne les patients à... à supporter la maladie et supporter également les traitements, gérer les effets secondaires.

• Speaker #1

  D'accord, très bien. Pour comprendre et rentrer directement dans le vif du sujet, comment ta structure, l'Institut Bergogne, a initié des actions en lien avec le numérique responsable ? Est-ce que c'est parti d'une stratégie globale ou plutôt vraiment d'initiatives locales qui ont pris de l'ampleur par la suite ?

• Speaker #2

  En fait, un petit peu des deux, mais historiquement, il y a énormément d'énergie qui sont dans les établissements qui veulent bien faire, qui veulent bien prendre en charge et qui veulent avoir des approches. qu'on dit aujourd'hui responsable et on disait avant autre chose ou sans le savoir, comme M. Jourdain faisait de la prose. Et il y a des actions qui sont initiées au bloc opératoire, qui sont initiées en imagerie, qui sont initiées sur tout un tas d'actions. Et je peux parler de ce qui s'est fait dans une des directions dont je m'occupe, qui utilise beaucoup de données. Et ça prenait tellement de place ces données que c'était un problème. À l'Institut Bergogne, on traite beaucoup... Ce qu'on appelle l'ADN des tumeurs des patients, pour savoir justement ce qui ne va pas et pouvoir trouver le plus facilement le traitement qui marcherait le mieux. C'est ce qu'on appelle la médecine de précision et ça génère beaucoup de données. On parle de panel de gènes, on parle de génomes et il faut traiter beaucoup d'informations rapidement et c'est des données qui font, pour un exemple, 15 gigas pour l'ensemble des données de l'ADN d'une personne. Et pareil, si on va regarder dans les tumeurs, on va extraire beaucoup de données. On a des données brutes et ensuite on a des données qui restent pour dire qu'il y a un variant génétique qui peut être en lien avec une cible thérapeutique ou une problématique pronostique. En fait, on génère ça et ça faisait 100 teras. On avait une base de 100 teras quand je me suis occupé des données de bioinformatique. Nous n'avions plus la capacité de les gérer en interne. Donc évidemment, la question n'était pas au départ responsable dans ce sens de la consommation. mais on s'est dit qu'il fallait externaliser pour pouvoir avoir plus de capacités. Et en même temps, on s'est dit, mais est-ce qu'on a besoin de garder toutes ces informations en sauvegarde permanente et en générer tous les mois, il y a déjà deux, trois ans, 15 teras par mois. Donc, ça a augmenté extrêmement vite. Et le fait de ne plus les avoir chez nous, les avoir sur des data centers souverains qu'on ne voyait plus et sur lesquels on allait très peu les chercher, mais qu'il fallait conserver au cas où. Au cas où. une nouvelle chose à faire sur le soin ou des données qu'on pourrait utiliser pour la recherche. Et donc, on s'est dit, c'est intéressant, ça coûte moins cher peut-être de l'avoir en data center, c'est peut-être plus sécure, mais qu'est-ce qu'on peut faire pour que ça ne soit pas sauvegardé toutes les quatre heures et que ça prenne une énergie dingue ? Et on a fait un travail supplémentaire pour essayer justement de mettre ça en archive froide, c'est-à-dire de le transférer sur des supports qui ne consomment pas d'énergie. Ce n'est pas du tout nouveau, c'est les... les bandes, les disques, tout ce qui nécessite après de mettre une cassette pour recharger les éléments. Ça nous a demandé beaucoup de travail, de méthode. Mais concrètement, on a pu diviser, d'avoir une réduction de 97% de notre empreinte en ayant cette gestion sur bande. Ça nous a demandé de bien savoir ce qui était où, pour être sûr de savoir aller chercher la bonne information rapidement. Et si on fait le coup maintenant, si on regarde ce que ça a économisé en termes d'équivalent carbone, On se rend compte qu'on a fait l'équivalent d'une réduction de 5 à 7 personnes, l'empreinte que l'ADEME utilise pour donner qu'à une ordre de grandeur 5 à 7 personnes pendant un an. Donc la consommation, les transports, les imports et le logement. Donc c'est considérable et c'est une toute petite échelle des données de l'Institut Bergogne. Ça c'est une action locale, il y en a plein d'autres dans le domaine de cette responsabilité, mais ça a croisé également des démarches structurées, structurantes. qui s'est faite à l'échelle des groupes d'établissements de santé, notamment Unicancer, dont fait partie l'Institut Bergogne, dans cette fédération des centres, qui ont fait des plans stratégiques sous l'axe de la responsabilité sociale des organisations. Et nous avons travaillé cette année, en 2025, sur quelle est notre feuille de route, en rassemblant les différents acteurs grâce à la directrice qui est en charge de la RSO, de faire travailler tous ensemble... sur quelles étaient les initiatives, quelles sont les directions qu'on pourrait donner. Et en fait, on a rassemblé les initiatives qui étaient déjà faites ailleurs. Et on a compris qu'au bloc opératoire, il y avait, par exemple, d'autres choses comme effectivement la consommation de gaz anesthésique, dont certains sont toxiques pour l'environnement. Et donc, il y a eu quelque chose de très fort. Et nous avons un projet d'établissement qu'on est en train d'écrire pour les cinq prochaines années, qui est collaboratif, qui inclut les... Les patients, les citoyens, les professionnels de l'Institut, dont la volonté, c'est d'avoir à chaque fois qu'on a un projet, une réflexion sur l'impact organisationnel et responsable. Concrètement, il y a plusieurs axes, mais décarboner, réutiliser, remettre dans des filières de circuit de valorisation des dispositifs médicaux qu'ils n'étaient pas lorsqu'ils ne sont plus sur les patients. Et puis verdir le numérique. On a aussi naturellement le management responsable qui est très intéressant, la mobilité, lutter contre les discriminations. Et donc verdir les activités, on appelle ça green for IT, et donc d'utiliser cette forme de frugalité. informatique, tant au niveau de la donnée qu'au niveau de la consommation des calculateurs.

• Speaker #1

  D'accord, donc là c'est très intéressant parce qu'on voit que la transformation, elle vient d'un problème très concret, tu l'évoquais, les teraoctets de données produites chaque mois, et finalement cette transformation, elle va nourrir une stratégie un petit peu plus globale de responsabilité sociale et environnementale, et justement cet exemple que tu soulèves, la production massive de données, Tu as commencé à l'évoquer, mais c'est peut-être une question un petit peu plus fondamentale. De quelles données, en fait, on a vraiment besoin et surtout à quel moment ?

• Speaker #2

  Alors ça, c'est une question vraiment médicale. Et quand je dis médicale au sens large, parce qu'il y a énormément de professionnels médecins, des chirurgiens, des oncologues, des radiologues, des médecins nucléaires, des biologistes. Il y a énormément de... Il y a les pharmaciens. Tout le monde a besoin de ces données. Et dans les différents usages, on pourrait se dire... L'imagerie, par exemple, c'est quelque chose de très utile. Quand on vient dans notre institut, on a besoin effectivement de faire un bilan au départ. On a aussi besoin de comparer, quand quelqu'un prend des traitements, de comparer par rapport à avant les traitements. Ça permet d'orienter la stratégie thérapeutique, de continuer avec un traitement ou de pouvoir en changer ou de se dire, là, on est peut-être dans une phase où le traitement du cancer peut s'arrêter et passer à une autre étape. Donc, le plus simple, ça serait de tout garder. Si on garde tout, on sait très bien que les ressources de la planète ne sont pas illimitées. Les ressources non plus des instituts, ça a des coûts et puis ça a des empreintes. Donc, ça veut dire qu'il faut faire des choix. Et donc, le choix, c'est de dire qu'est-ce qui a de la pertinence, à quel moment ? Est-ce que derrière, on a besoin de garder ? Et pour qui ? Est-ce qu'on a besoin de garder un scanner qui est vieux de temps ou qui a été fait lorsqu'on était dans un traitement particulier ? Est-ce qu'au bout de quatre ans, est-ce qu'on remplace tous les examens d'imagerie ? Ou alors, on a des logiques cliniques, peut-être. Et là, on a besoin de la compétence des spécialistes d'un organe ou d'un type de cancer qui vont dire que, ou des métiers, les anesthésistes ou les chirurgiens, dire qu'on a besoin de cette information et on a une logique et celle-là ne sera plus pertinente. Donc, c'est vraiment un gros travail médical, paramédical aussi, pour faire ses joies et il faut qu'il soit harmonisé, pour mettre en place une stratégie d'automatisation aussi.

• Speaker #1

  D'accord. Donc, on pourrait penser, mais finalement, ce n'est pas l'enjeu de moins mesurer ou de moins soigner. Tu expliques qu'il faut juste ajouter cette notion de pertinence, de proportionnalité dans l'usage des données et finalement, d'adapter le niveau d'accès, le niveau de stockage à vraiment la réalité clinique.

• Speaker #2

  C'est ça. Du coup, la question qu'il faut se faire, c'est est-ce qu'un examen médical est pertinent ? Ça, c'est des réflexions qui sont... Portée de façon nationale avec les sociétés savantes, c'est est-ce qu'on a besoin forcément d'avoir un examen d'imagerie à chaque étape ? Ou parce que si l'examen n'est pas bien indiqué, il sera forcément négatif. Ou alors on risquera de trouver peut-être quelque chose qui n'est pas tout à fait normal et ça engendre d'autres problématiques dont on parlera plus tard. Donc c'est déjà de faire le juste soin. Donc ça intéresse énormément de sujets pour éviter de... De rendre malade plus malade, c'est à primum non nocere, à l'hôpital, c'est avant tout ne pas nuire. Et bien, et ensuite, ça a des impacts, des applications très pratiques, des impacts très pratiques sur la consommation des données. Donc, faire les justes soins au bon moment, lorsqu'ils sont utiles, et ensuite, garder les informations pertinentes. Là aussi, est-ce qu'on garde les images affichables ou les images brutes qui pourront être retraitées ? Est-ce qu'on peut les compresser sans perte ? Ça aussi, c'est des enjeux. Est-ce qu'on garde, par exemple, lorsque l'Institut Bergogne donne un avis, parce qu'il a un rôle de recours avec des expertises parfois qu'il n'y a que dans le territoire, c'est le cas par exemple du sarcome ou d'autres, de certains cancers, est-ce que derrière, si c'est juste pour donner un avis et que les patients ne vont pas être traités chez nous et qu'ils seront traités ailleurs, est-ce qu'on conserve ces données de la même façon que si c'était un patient traité avec les médecins de Bergogne ? C'est des sujets, c'est des questions.

• Speaker #1

  Totalement. Et là, on arrive bien à percevoir comment une démarche de numérique responsable peut aider à réduire son propre impact en utilisant et en stockant uniquement les données pertinentes. Mais le numérique responsable, ce n'est pas forcément que ça. Est-ce que tu peux nous donner un exemple, nous expliquer comment les outils numériques peuvent aussi améliorer la qualité de vie des patients, tout en réduisant, comme on le disait, l'empreinte carbone du système de santé ?

• Speaker #2

  Oui, ça, c'est vraiment une très bonne question, Agathe, parce qu'on a cette démarche de frugalité qu'il faut avoir. Mais en même temps, si le numérique peut avoir un impact positif de façon globale, et ça, heureusement, maintenant, on a des preuves sur lesquelles le numérique peut verdir, entre guillemets, ou décarboner d'une certaine façon, et c'est cet ensemble qu'il faut regarder pour se dire, là, j'ai peut-être besoin de consommer de la donnée, peut-être de consommer du processeur, parce que je vais avoir un impact plus important au niveau global. Alors. Concrètement, il y a des articles qui ont un haut niveau de preuve. C'est la revue Nature qui a publié des éléments justement sur comment est-ce qu'on mesure une journée d'hospitalisation. Quelle est l'empreinte que ça donne une journée d'hospitalisation ? On sait que c'est entre 30 et 45 kilos équivalent CO2 par jour. Et qu'est-ce qu'on peut faire ? Et donc d'avoir la pertinence de si on a quelqu'un dans un lit à l'hôpital, par exemple en soins, Est-ce que... On peut faire cette même chose en proximité du domicile avec des soins à domicile. Et en fait, on a un rapport de 1 à 30 lorsque c'est comparable. On n'opère pas à domicile, je vous rassure. Par contre, il y a des suivis. Il y a le fait de garder le patient avec nous parce qu'on peut éventuellement surveiller quelque chose qui pourrait ne pas aller. Mais si on a les qualités, si on a préparé, par exemple, le soin, dans certains cas, il est possible de permettre aux patients de regagner leur domicile et d'avoir des soins en proximité. Et on sait que là où ils sont en proximité, c'est là où ils sont le mieux. À partir du moment où on a le tissu professionnel qui est l'Institut Bergogne, mais surtout les acteurs de proximité, les infirmiers, les médecins, le pharmacien, les kinés. Et c'est comme ça qu'on a conçu, que l'Institut Bergogne a conçu un programme qui s'appelle SOPAM. C'est pour permettre aux femmes qui ont une chirurgie du sein, où on enlève le sein, on fait aussi parfois une reconstruction dans le même temps opératoire, de leur permettre de sortir au meilleur moment. lorsqu'elles le souhaitent également et lorsqu'elles sont éligibles pour ça, pour améliorer leur qualité de vie. Et c'était l'objet d'une étude clinique, c'est est-ce qu'on peut améliorer la qualité de vie d'une patiente avec un niveau de sécurité égal ? Et donc, un programme multiprofessionnel a été fait grâce au docteur Charitansky qui avait proposé ça, qui est chirurgien-insénologue, dans lequel on a préparé les patients avant la chirurgie pour leur permettre de bien être au domicile. Donc, ça a fait intervenir des médecins de la douleur, des kinés, des psychologues notamment. et de faire un suivi connecté pour permettre à l'infirmière de ville de surveiller, par exemple, si le drain est de faire des soins en proximité, surveiller ce drain qui posait problème et qui faisait que la patiente restait parfois en moyenne cinq jours. Et là où aujourd'hui, on a pu leur permettre, lorsqu'elles le souhaitaient, d'être, entre guillemets, de sortir à J plus 1 après l'intervention. Et on a fait 114 patients dans cette étude et on s'est rendu compte que... Ça a libéré 350 journées d'hospitalisation, journée-nuit. Et si on fait l'équivalent, là aussi, on est sur une dizaine de personnes, d'empreintes de patients français, de citoyens français, dont j'ai parlé tout à l'heure pour l'ADEME. Donc, c'est quand même considérable. Et ça veut dire que l'Institut Bergogne continue à consommer, avec frugalité, naturellement, dans un plan long. Par contre, on va pouvoir traiter... plus de patients qui vont pouvoir attendre moins. Donc on aura une meilleure pertinence de l'utilisation d'une journée d'hospitalisation dans un lit. C'est ça qui compte, c'est de faire converger les deux.

• Speaker #1

  Et ce que tu expliques en fait, c'est que le numérique transforme totalement l'organisation des soins tout en réduisant l'empreinte carbone, comme on le disait. Et en fait, là, c'est un véritable levier organisationnel puisque, comme tu l'expliques, ça permet moins de journées d'hospitalisation, moins de déplacements inutiles. mais sans pour autant compromettre la qualité des soins fournis aux patients.

• Speaker #2

  Exactement, avec les outils qu'on a aujourd'hui, et ce qui est important de se dire, c'est qu'il faut que ça profite à tous. Et donc ça, c'est un enjeu sur lequel on va revenir. C'est qu'on peut effectivement, avec des objets connectés ou avec des applications, signaler et on a aussi beaucoup de chimiothérapie qui se passe à domicile avec des médicaments orales qu'on mange, comme des comprimés. Et donc, du coup, on est en proximité de tout son environnement. Et donc, on mesure la qualité, on mesure la sécurité et on a la possibilité avec des questionnaires de mesurer extrêmement finement ce qui se passe. Ça peut être des symptômes. Est-ce que j'ai la nausée ? Est-ce que j'ai mal ? Est-ce que j'ai perdu du poids ? Est-ce que derrière, j'ai des symptômes associés au type de traitement ? Et donc, ça nous permet d'être réactifs et de travailler avec le médecin en proximité du patient ou avec ses infirmiers. Ça, ce sont des éléments de sécurité. Même si on se dit que c'est confortable d'avoir un patient dans nos murs, il faut se donner la vision organisationnelle complète.

• Speaker #1

  Bien sûr. Et maintenant, ça amène forcément à se questionner quand on parle de données médicales, de numériques. Il y a cette question essentielle qui vient, celle de la confiance et de la sécurité des données. qu'elles sont aujourd'hui pour toi les garanties essentielles pour protéger ces données de sécurité, mais aussi d'une manière générale maintenir la confiance avec les patients ?

• Speaker #2

  Le mot confiance, c'est un mot que j'apprécie beaucoup et qu'à l'Institut Bergogne aussi, c'est vraiment le terme qui est choisi parce qu'il y a respecter le droit, parce que le droit a bien pensé la protection des données en matière de santé, avec le règlement général de protection des données européens, avec sa déclinaison en France, avec la CNIL. Mais il ne suffit pas d'appliquer ça. D'ailleurs, effectivement, dans ces quatre, les points importants, c'est de garder d'abord les données qui sont pertinentes et qui sont utiles. Donc, c'est le principe de minimisation des données, de les stocker de façon extrêmement sécure. C'est à la fois des infrastructures avec un niveau particulier d'hébergement de données de santé sur lequel il y a des critères supplémentaires de sécurité, une traçabilité, des gens qui ont le droit d'accès et de séparer les données administratives des données médicales. Ça, ce sont des points importants, mais il faut aussi informer. les patients de façon adaptée pour savoir ce qui est fait de leurs données dans le cadre des soins. Ça peut être l'amélioration de la qualité, ça peut être des mesures aussi de flux pour s'organiser, mais aussi, grâce à la recherche, ça peut être une réutilisation des données de santé. Et pour ça, le patient, il a tout à fait le droit et on doit l'informer de ce qu'on peut faire et lui permettre de... Si c'est une réutilisation des données comme ça, de s'opposer à un usage général ou un usage particulier sur une étude. Et dans beaucoup d'autres cas, on va lui demander un consentement actif express. Et sur lequel, justement, tous ces éléments-là, il doit pouvoir facilement, quand il le veut, changer d'avis.

• Speaker #1

  D'accord. Donc la confiance, tu l'expliques, c'est très important. Donc il faut déjà sécuriser les données. informer le patient également et avoir cette notion de transparence. Et de manière générale, si on parle de responsabilité numérique en santé, tu parlais donc de minimiser, de sécuriser et d'informer les patients.

• Speaker #2

  Oui, et en fait, les patients ont leur vie de patient. Donc, il ne faut pas non plus les embêter à chaque fois, leur redemander, les saturer d'informations. Donc, c'est pour ça qu'il faut une stratégie d'information générale sur laquelle le patient va pouvoir aller. Et quand il le souhaite, et de ne pas à chaque fois qu'on fait une étude, sauf que c'est un consentement, bien naturellement, le fait que lui puisse choisir, qu'il puisse dire quand il veut, prendre en main ses données, qu'il puisse agir sur tout ou sur une étude particulière. Je veux bien utiliser des données, mais je ne veux pas que ça participe à l'intelligence artificielle. Ça peut arriver. Ou alors je ne veux pas que mes données soient utilisées par une étude d'un laboratoire particulier. C'est tout à fait son droit. Et donc, on a un portail de transparence à l'échelle de tous les centres de lutte contre le cancer. Donc, c'est mesdonnées.unicancer.fr. Et donc, on fait tous les éléments pour amener le patient, s'il le souhaite, à découvrir et à agir très facilement. Qu'il ait un téléphone, qu'il n'ait pas de téléphone et que du coup, c'est un courrier papier chez lui, en respectant qu'on n'envoie pas des informations non plus dans les canaux par mail. On ne peut pas donner des informations sur sa santé par mail, même à lui. Donc, c'est aussi ça. Il faut rajouter aussi la notion de stockage ou de calculateur. C'est cette notion de souveraineté dont on parle de plus en plus. On peut appliquer la loi qui, effectivement, avec tous les points dont on a parlé, mais on peut aussi se dire qu'on va utiliser des sociétés qui ont un siège en Europe ou en France, qui garantissent qu'on applique le droit français européen. Ce n'est pas la même chose que d'avoir des sociétés américaines avec du stockage physiquement en France. C'est un point important aussi.

• Speaker #1

  Totalement. Et bien évidemment, quand on parle de confiance, quand on parle de respect et de protection des données de santé, dès qu'on intègre de l'intelligence artificielle, ça devient encore plus stratégique. Et ça m'amène à te questionner sur toi, ta propre définition d'une IA responsable en santé. Et quels seraient en fait, selon toi, les grands dilemmes éthiques ? que l'IA peut soulever aujourd'hui ?

• Speaker #2

  Alors, c'est intéressant. Et donc, ça nourrit énormément de discussions autour, chez les patients. On en discute aussi avec les commissions des usagers. Dans les commissions d'éthique, on a fait beaucoup de journées ouvertes à tous sur l'IA et la santé. Donc, une IA, en tant que telle, elle n'est pas éthique. Pas plus que derrière un scalpel et éthique pour une opération ou une autre. Mais par contre, c'est son usage et sa réflexion qui va l'être. Le contexte compte beaucoup et la méthode aussi après. Concrètement, si on a, tu parles de dilemme, si on a une IA qui fonctionne par exemple pour détecter un cancer très difficile à faire, c'est un cas tout à fait théorique, et qu'il est explicable. Donc ça, le fait de pouvoir avoir une IA qui explique comment est-ce qu'il fonctionne et que ça soit moins boîte noire, c'est la partie des choses qui sont en général attendues, intéressantes et qui permettent de faire progresser. Donc si elle résout les problèmes à 80% là où sans l'IA on était à 70%, c'est peut-être déjà intéressant, mais ce n'est pas les seules métriques qui importent. Mais maintenant, si on a une IA qui est boîte noire, on ne sait pas comment elle fonctionne, mais elle fonctionne à 90%. La question se pose de comment est-ce que ça va pouvoir être expliqué, compris par le médecin, parce que vraiment, on a le colloque singulier entre le médecin et le patient pour proposer les soins, proposer les soins qui sont les plus recommandables et sur lesquels le patient choisit. Mais comment est-ce que derrière, on peut expliquer, tolérer ? Et donc là, ça peut aussi dépendre de chacun. Et en tout cas, dans tous les cas, heureusement, il y a eu l'IA Act européen. qui permettent de considérer qu'en santé, on est dans un domaine avec des hauts risques. À toutes les étapes, le diagnostic, le dépistage, on voit ces IA arriver partout, qui nous aident aussi parfois à faire le tri de choses. Est-ce qu'il y a un dossier que je dois voir plus vite aux urgences ? Est-ce qu'il y a un patient qui est en train de faire un scanner, et pendant qu'il est en train de faire scanner, je repère qu'il saigne ou qu'il a une anomalie qui fait que je passe en-dessus de la pile ? Ça peut être ça aussi, l'utilisation d'une IA, en dehors de faire du diagnostic. Ça peut proposer aussi des pronostics ou proposer des stratégies médicales. Et toute utilisation de l'IA doit être encadrée par une garantie humaine. Ça veut dire que ce n'est pas juste une personne qui décide d'utiliser l'IA. D'abord, on informe les patients aussi. Ça, c'est un enjeu extrêmement important. On explique. Mais surtout, on a un collège de garantie d'avoir une supervision humaine afin que l'IA ne décide pas toute seule. Ensuite, on a des biais éthiques qui sont très importants. L'IA a appris, par exemple, sur des données. Nous, on traite, par exemple, des patients qui ont un cancer. rares et ils sont traités par quelques centres en France. Nos IA vont apprendre d'une certaine façon. La première question qui se pose, c'est est-ce que j'ai suffisamment de données pour être pertinent ? Parfois, on travaille avec d'autres centres qui traitent cette même pathologie et on va demander à un autre centre de se dire est-ce que je devine les mêmes choses sur d'autres données, sur des données sur lesquelles on n'a pas appris ? Donc ça, c'est un premier sujet et après se pose la représentativité. Est-ce que l'IA est bien représentative de ce que l'on veut ? Il y a quelque chose dans un contexte, une IA dans un contexte peut marcher, si vous êtes dans un cadre d'un cancer très spécifique, ça peut être intéressant, mais ça peut résonner de façon différente sur des cancers fréquents. De la même façon, si on a des IA qui ont fonctionné sur des cancers fréquents, jamais sur les cancers rares, il faut faire très attention. Et donc, le contexte et l'utilisateur doivent absolument se poser des questions à plusieurs et superviser. Ensuite, les patients, ils évoluent, les techniques évoluent, les résistances peut-être à certains traitements évoluent. Donc il faut se demander dans le temps s'il n'y a pas des choses qui ont changé. Et cette représentativité, le collège américain de cancérologie a publié justement ces éléments de représentativité dans le cadre de l'accès aux données en dehors des essais cliniques avant ou après, qui permet de faire des hypothèses ou de proposer des preuves. Ils ont mis trois éléments en avant. Il y a une surreprésentativité de l'ethnicité caucasienne par exemple. Dans 90%, ce sont des caucasiens. alors que ce n'est pas aux États-Unis la représentativité. Deuxième élément, les gens dans les essais cliniques étaient souvent peu âgés, moins âgés que dans la moyenne générale. Et on peut imaginer qu'il y a tout un tas de bons arguments pour chercher des preuves à ce moment-là, lorsqu'on formule un médicament et qu'on voit son efficacité. Troisièmement, on a des gens qui ont moins de maladies que les autres, en dehors de la maladie qui est intéressée. Et donc, ça veut dire que ça ne ressemble pas à toute la population. Et aujourd'hui, où c'est la journée du droit des femmes, c'est une journée très importante. On est le 8 mars, je ne sais pas quand cette émission sera diffusée. On sait également que beaucoup de connaissances sous-représentent un des genres. Et donc, c'est un exemple, mais c'est important de se dire ça. Est-ce que derrière, pour le genre féminin, est-ce qu'on a les connaissances qui vont fonctionner aussi bien, qui vont être aussi représentées ?

• Speaker #0

  D'accord, donc finalement, l'intelligence artificielle, comme tu le disais, elle doit rester un outil d'aide et surtout prendre connaissance de cette notion de responsabilité avec les biais qui peuvent exister.

• Speaker #1

  C'est ça. Et donc, pour répondre précisément à ta question, c'est quoi une IA ? C'est une IA, effectivement, d'alors qui respecte les principes, qui s'inscrit dans cette logique de responsabilité, de mesure, de stockage, de respect de la confidentialité des datas. et de l'accord du patient, de son information. C'est aussi ces collèges de supervision. Aujourd'hui, on a des DPO pour le RGPD. Il est probable qu'il y ait un rôle qui sera responsable de l'IA pour s'assurer que toutes les méthodes sont bonnes. Et puis, il y a cette notion de souveraineté. Et puis, il faut aussi que ça soit accessible à tous, qu'elle bénéficie à tous. Il y a le fait qu'on ait la connaissance qui soit bien représentée, mais il faut se mettre aussi à la place de l'utilisateur. final ou du bénéficiaire final, parce que tout le monde n'est pas égal face à la maladie et donc à la connaissance. On a différentes vulnérabilités sociales. Par exemple, on n'a pas tous les mêmes chances en fonction de là où on habite, l'exposition à l'environnement. Et également, on n'a pas toute la même littératie, la capacité de mobiliser des connaissances pour notre bien, que ce soit une littératie en santé, pour comprendre que derrière le dépistage, c'est important, que d'aller voir le médecin, ça peut avoir des intérêts, et de savoir bien mobiliser les connaissances pour soi. Et la littératie numérique, comment est-ce que j'utilise des outils à mon profit ? Et là, on voit qu'on ne peut pas tous avoir les mêmes informations. Et les femmes, notamment, peuvent se retrouver dans cette situation de vulnérabilité par ces biais-là, comme d'autres types de personnes.

• Speaker #0

  Donc, si je résume, si on parle d'IA numérique responsable en santé, en fait, c'est une IA qui est supervisée, comme tu disais, encadrée, qui est compréhensible aussi de tous. Et finalement, aligné avec des valeurs éthiques.

• Speaker #1

  Aligné avec des valeurs et l'évaluation en recherche qui se passe effectivement et en production doit appuyer justement ceux qui décident et qui partagent et qui informent des décisions.

• Speaker #0

  Merci beaucoup, Julien Emmerich, pour toutes ces réponses très concrètes.

• Speaker #1

  Merci beaucoup.

• Speaker #0

  On arrive à la fin de cet épisode, mais avant de se quitter, je vous propose une séquence express de questions posées par la marraine de cette saison. Louise Vialard, chargée du déploiement national du programme Alt-Impact. Julien Emmerich, sobriété numérique ou numérique responsable ?

• Speaker #1

  Numérique responsable, pour moi, inclut la sobriété numérique.

• Speaker #0

  Sais-tu d'où viennent les métaux rares de ton téléphone ?

• Speaker #1

  Non, je ne sais pas très bien d'où viennent les métaux rares. J'imagine que c'est sans doute en Asie et que ce n'est pas forcément super.

• Speaker #0

  Penses-tu que le numérique responsable peut sauver le monde ?

• Speaker #1

  Je pense que le... Le fait d'avoir du responsable, oui, peut sauver le monde, et avec sa déclinaison numérique.

• Speaker #0

  Quel objet connecté as-tu supprimé de ton quotidien ?

• Speaker #1

  J'ai supprimé de mon quotidien une montre qui me permet d'être en forme, pour me remettre en forme, et j'étais passé dans la mesure permanente, et donc je la ressors quand j'ai besoin de remettre en forme, pour m'inciter.

• Speaker #0

  Décris en trois mots ton rapport à l'intelligence artificielle.

• Speaker #1

  Curiosité, utilisation, partage.

• Speaker #0

  As-tu déjà fait ton bilan carbone ?

• Speaker #1

  Je suis en cours parce que je suis allé sur le site Altimpact et j'essaie de mesurer mon bilan à moi et celui de mon organisation à mon échelle.

• Speaker #0

  Génial, merci beaucoup Julien Emmerich pour tes réponses.

• Speaker #1

  Merci à toi.

• Speaker #0

  Un grand merci à Julien Emmerich pour ses réponses très concrètes. Ce qu'on retient de cet échange, c'est que le numérique responsable en santé repose sur un équilibre entre sobriété, performance médicale, sécurité des données et responsabilité éthique. Concrètement, ça veut dire moins de stockage inutile. plus de pertinence, des parcours de soins adaptés et une IA sous contrôle humain. Mais surtout et avant tout, une recherche constante d'équilibre entre innovation, responsabilité et humanité. Et peut-être que la clé, c'est celle du colibri. Chacun fait sa part, chaque action compte. Et lorsque ces initiatives individuelles rencontrent une organisation qui les soutient, alors l'impact devient vraiment réel et durable. J'espère que cet échange vous donnera envie de passer à l'action, même par de petits gestes, pour contribuer dès aujourd'hui à un numérique plus responsable. Si cet épisode vous a plu, vous pouvez nous laisser un avis ou un commentaire. Ça nous aide vraiment à améliorer le podcast et à toucher plus de personnes intéressées par le sujet. Merci à vous de nous avoir écoutés et on vous donne rendez-vous sur notre site et sur LinkedIn pour découvrir les initiatives, les outils et les prochains rendez-vous du réseau.