- Speaker #0
Est-ce qu'un médecin peut, en quelques jours, construire lui-même un logiciel, l'intelligence artificielle, qui gère ses ordonnances, ses comptes rendus, ses communications internes, sans aucune compétence en développement, et pour un coût relativement modeste ?
- Speaker #1
Aujourd'hui, le premier levier pour améliorer la médecine, c'est enlever les frictions qui nous agacent tous au quotidien. Les courriers, les trucs qu'on doit remplir 10 000 fois, toutes les tâches répétitives que tu fais.
- Speaker #0
Radiothérapeute, médecin, fondateur de la newsletter Les Médecins Malins, Julien a déployé dans sa propre clinique... Atlas, un système d'agent IA qui travaille pour lui, en local, sur un serveur déconnecté d'Internet.
- Speaker #1
Et donc comme ça, je fais mon propre système de génération de compte rendu, mon propre système de dictée vocale spécialisé avec les mots-clés de radiothérapie, un chat pour parler dans toute ma clinique, on s'est créé une messagerie interne qui nous permet de dialoguer entre nous en interne.
- Speaker #0
Plus d'hallucinations, plus de risques RGPD, plus de dépendance à Google ou OpenAI.
- Speaker #1
À partir du moment où tu veux que ton outil fasse un travail médical, il faut un outil médical. Si tu te dis demain je vais faire de la pâtisserie de haut niveau, tu ne vas pas à Carrefour acheter une pelle à tarte lambda. Tu achètes des outils pour faire de la vraie pâtisserie.
- Speaker #0
Dans cet épisode, vous allez comprendre quels outils IA sont fiables pour votre pratique de médecin. Vous allez découvrir pourquoi même un dossier anonymisé peut mettre en danger votre patient et vous mettre en faute.
- Speaker #1
Tu ne peux pas mettre sur ChatGPT une photo même si tu as brouillé le nom, prénom, les adresses, etc. Pour moi, c'est trop dangereux parce qu'on peut faire des recoupes de données.
- Speaker #0
Et vous allez repartir avec la preuve qu'il est possible d'utiliser l'IA au quotidien sans compromis ni dépendance. Tu as déjà été trompé par l'IA au sujet d'un de tes patients ?
- Speaker #1
Oui, plusieurs fois.
- Speaker #0
Est-ce que tu penses que l'IA va pouvoir réduire le burn-out médical dans les 5 prochaines années ?
- Speaker #1
Non.
- Speaker #0
Un médecin généraliste qui n'utilise pas l'IA en 2026 est en retard ?
- Speaker #1
Non.
- Speaker #0
Tu as déjà collé des données de patients dans un chat GPT grand public ? Oui. Un patient qui arrive avec un diagnostic... posée par IA, tu trouves ça plutôt utile ?
- Speaker #1
Alors moi, je trouve ça très bien. Je l'ai écrit dans mon dernier post sur LinkedIn, je trouve ça très bien. C'est juste qu'il faut savoir comment le prendre. C'est-à-dire qu'effectivement, il ne faut pas rejeter un bloc. Mais c'est reconnaître que le patient est acteur aussi de sa maladie et de son soin. Et ça, comme tout le monde ne le fait pas, c'est déjà très bien de saluer cet effort-là. Et qui sait, peut-être que ça peut donner des bonnes pistes quand on n'a pas d'idée. Donc moi, je serais tout à fait ouvert à ça. Le problème que j'y vois là-dedans, c'est que ça augmente drastiquement le temps de consultation, c'est clair.
- Speaker #0
On va commencer déjà par le commencement. Est-ce que tu peux me dire de quoi on parle en 2026 quand on aborde l'IA en médecine et pour quelle application ?
- Speaker #1
De quoi on parle aujourd'hui ? On parle beaucoup d'IA, mais c'est de l'IA générative. Ça est rentré via le chat GPT, qui est passé par la couche utilisateur, qui a fait qu'aujourd'hui, ça a touché beaucoup de monde et que c'est rentré au final dans le quotidien des gens. Et qu'ensuite, les gens se sont dit, finalement, c'est rentré dans mon quotidien, pourquoi je ne pourrais pas le ramener au boulot ? Alors que souvent, la tech, c'est un petit peu différent. C'est la recherche qu'il a, et puis ensuite, ça passe au niveau institutionnel, et ensuite, ça passe au niveau individuel. Là, ça a fait l'inverse. Et c'est pour ça que l'acceptation, l'utilisabilité est devenue très rapidement, parce que les gens ont vu le potentiel très vite dans leur quotidien. Et c'est ça qui a fait qu'aujourd'hui, l'essor de l'IA au sens génératif, encore une fois il y a c'est ça fait depuis très longtemps. On a l'impression que l'IA, c'est tout récent. L'IA, c'est depuis, je crois, les années 1920-1930. C'est très, très, très, très vieux. C'est juste qu'aujourd'hui, on a la tech qui est mûre, les cartes qui sont mûres, etc., qui font que ça prend l'essor et qu'on parle d'IA générative. Et donc, en médecine, ça a permis de faire des nouveautés. Là où c'était dans les labos, où c'était du deep learning, où c'était des choses où on explorait les données, les pixels, la biologie, etc., que toi, médecin, tu ne voyais pas, C'est venu ! se mettre dans les cabinets avec des trucs qu'on a pu générer, des documents générés du contenu, et c'est ça qui nous intéresse aujourd'hui.
- Speaker #0
Concrètement, c'est quoi les applications pour un médecin actuel de l'IA ? Pourquoi on peut s'en servir ?
- Speaker #1
Aujourd'hui, ce qui est le plus simple, le plus communément admis, c'est pour la recherche bibliographique. C'est-à-dire, si tu veux être à jour, si tu veux pouvoir faire une recherche sourcée, complète sur un problème que tu as, Typiquement, moi ce matin, j'avais un patient avec une pathologie cancéreuse et une myopathie, chose qui n'arrive quasiment jamais. J'ai dû utiliser ce genre d'outil justement pour me dire, est-ce qu'il n'y a pas de la biblio là-dessus ? Est-ce qu'il n'y a pas des études qui disent que la chimiothérapie et la myopathie, ce n'est pas bon ? Ce sont des domaines que je ne connais pas par cœur, ce sont des trucs qu'on ne voit pas souvent. Donc là, c'est une super indication puisque tu n'as pas de données patients à mettre, où tu n'as pas les questions de... sécurité, etc. C'est juste que j'ai une recherche et c'est juste que ma recherche est simplifiée, amplifiée et mieux présentée avec ces outils-là. Ça, c'est pour moi la première utilisation.
- Speaker #0
Et est-ce que tu peux me décrire quel est ton process pour ça, pour faire ta biblio chez ce patient en particulier ? Comment tu fais ?
- Speaker #1
Alors, il y a plusieurs outils qui existent. Jusqu'à pas si longtemps, il y avait OpenEvidence, mais je n'étais pas forcément fan, parce que ça entraînait beaucoup sur des données américaines, des recommandations américaines. On sait que toi, en tant que médecin français, c'est bien, mais je pense qu'on peut aller plus loin. Il y a des outils comme PaperDoc qui peuvent le faire, qui le font bien. Et récemment, il y en a un que j'utilise moi quotidiennement, enfin pas quotidiennement, mais très régulièrement, c'est Cliniscan. Cliniscan qui me permet aussi même de faire mes présentations PowerPoint Point avec D. des schémas médicaux, etc. Et ensuite, j'ai en parallèle une stack personnelle sur mon système d'IA personnel que j'ai monté qui me permet de faire des recherches encore plus poussées si je veux aller encore plus loin, mais qui sont plus des choses que je demande en tâche de fond, pas dans le dur quand je suis avec le patient. Quand je suis avec le patient, c'est Cliniscan. J'ai ma réponse rapide et je sais quoi faire. Par contre, quand je suis tout seul dans mon bureau et que je me pose une question globale, là, je vais sur mon système parce que c'est encore plus poussé. Mais pour monsieur tout le monde au cabinet, c'est Cliniscan.
- Speaker #0
Là, on parle vraiment de SaaS, d'applications qui sont dédiées à une tâche précise. Et ce n'est pas un bricolage que tu fais avec des LLM type ChapGPT, Gemini, DeepSeek ou autres. Tu bricoles des instructions, du contexte. Là, on parle vraiment de SaaS dédié à ce genre d'application.
- Speaker #1
J'ai testé quand tu bricoles Tadgpt, Gemini. C'est bien pour une première approche. Ça te donne une vue d'ensemble. Mais quand tu vas avoir quelque chose de précis, ça monte vite ta limite. On l'a déjà vu, il y a des fois, du Gemini ou du Tchad-GPT, tu sors une étude, tu as l'impression que c'est sourcé, l'étude n'existe pas.
- Speaker #0
Oui, exactement.
- Speaker #1
Tu la regardes, tu te dis « waouh, c'est trop bien fait » , mais elle n'existe littéralement pas.
- Speaker #0
Mais ça arrive encore, ce type d'hallucinations grotesques ? J'ai l'impression qu'il y en a de moins en moins.
- Speaker #1
Il y en a de moins en moins, mais en médecine, on est responsable en tant que médecin de notre prescription, quel que soit l'outil qu'on utilise. Du coup, en tant que médecin, on veut des outils qui soient... en permanence, le plus fiable possible, puisque c'est ma signature qui prévaut, au-delà de l'outil que j'utilise. Donc même s'il y a moins d'hallucinations, si tu vois, je prescrive à ce patient, par exemple, en faisant la biblio, il ne fallait pas lui faire de chimio. Si ce jour-là, je lui prescris de la chimio, c'est moi qui suis en tort. Je ne peux pas dire, chat GPT m'a dit que... Ou même Vidal, tu vois, Vidal, en soi, même si Vidal a dit que, c'est quand même moi qui suis responsable, au final, de ma prescription. Je ne peux pas dire, Vidal a dit que, donc voilà.
- Speaker #0
Très intéressant. Donc là, on est en mai 2026. Tu as encore eu des exemples très récents d'hallucinations grossières, d'études que le LLM te pose qui n'existent pas.
- Speaker #1
Alors, je ne dirais pas grossières justement parce que c'est extrêmement bien fait. Oui, mais je veux dire,
- Speaker #0
l'erreur est caractéristique. Il n'y a pas de nuance. C'est un mensonge pur et simple.
- Speaker #1
Mais c'est tellement bien fait que tu y crois. C'est ça le point.
- Speaker #0
C'est toujours le cas. C'est marrant parce que j'avais l'impression qu'il y en avait de moins en moins, mais je suis très heureux d'entendre là-dessus.
- Speaker #1
Mais le... Pour des sujets, quand tu fais une recherche, tu te dis j'aimerais savoir, j'aimerais me renseigner sur, si tu as une petite erreur, ce n'est pas grave, mais si tu as un patient en face de toi, et tu dis chimio, pas chimio, et que si tu le fais de la chimio, tu l'envoies six pieds sous terre, parce que le monsieur avec sa myopathie, clairement tu lui dégrades les muscles et c'est fin d'image, là c'est dramatique. Donc avoir quelques erreurs sur, je me renseigne sur, ce n'est pas grave, quand tu es avec un vrai patient avec un vrai problème, pour moi tu ne peux pas laisser de la place au hasard.
- Speaker #0
Tout à fait. Merci Julien. Est-ce qu'il y a d'autres applications de l'IA, hormis la recherche bibliographique que tu viens de m'expliquer ?
- Speaker #1
Alors la deuxième qui est la plus intéressante, c'est le Scribia, c'est l'IA ambiante, c'est celle qui va capter ta consultation et qui va remodeler ta consultation avec ton compte rendu, générer tes ordonnances, etc. Alors là, tu en as plusieurs, tu as Nabla, tu avais Tiana qui n'existe plus, je crois, tu as Doctolib qui fait ça maintenant, et tu en as de plus en plus qui arrivent.
- Speaker #0
Il y a des métastories aussi qui proposent ça. Oui,
- Speaker #1
tu en as plein. Personnellement, je n'en utilise pas. C'est lié à mon travail d'oncologue, puisque le travail d'oncologue est différent du travail de médecin généraliste ou du spécialiste. Moi, les gens arrivent avec un diagnostic, si tu veux. Ils savent qu'ils ont un cancer. Mon rôle n'est pas de faire un diagnostic, hormis quelques fois où il y a des métastases ou autres, mais globalement, ce n'est pas de faire un diagnostic. Pour moi, c'est de faire une synthèse du traitement de tout ce que le patient a eu. comme examen pour proposer la meilleure thérapeutique. Donc moi, je n'ai pas besoin de creuser, de poser trop de questions aux patients. J'ai déjà toutes les infos. Mon rôle, ça va être de creuser dans ces infos pour faire un compte-rendu structuré. Donc moi, je n'en ai pas besoin, mais j'ai beaucoup de copains qui sont medgés. Mon meilleur pote est medgé. Et lui, clairement, ça l'aide à structurer. C'est-à-dire qu'il dialogue avec le patient. Donc l'écran n'est plus en face, l'écran est sur le côté. On parle avec le patient. Et à la fin, le compte-rendu est fait. Et là, ça fait gagner un temps incroyable. Moi, j'ai calculé. En gros, ça te fait gagner presque... Un compte-rendu d'oncologie qui est assez long à faire, ça fait gagner 10 minutes. Quand tu vois que je fais... 6 nouveaux patients par jour, ça me fait gagner une heure par jour. Je le suis fait juste avec cet outil. Une heure par jour, c'est énorme.
- Speaker #0
Tu vas m'expliquer, parce que toi, tu as mis en place un truc qui est vraiment 3 niveaux au-dessus du commun des mortels médecins, avec que tu as acheté un serveur, tu vas m'expliquer tout ça. Est-ce que tu as d'autres utilisations ? Donc la biblio, qui est super efficace, le scribia, qui fait juste gagner du temps. Alors c'est vrai que ce n'est pas la révolution la plus sexy du monde, mais en fait, c'est ultra pratique et ultra au point maintenant. Est-ce qu'il y a d'autres choses qui sont intéressantes à savoir ?
- Speaker #1
Pour déjà, les choses qui sont vraiment utiles au quotidien et qui fonctionnent, c'est ça. Après, tu peux aller plus loin dans ce qui va être la télésurveillance. Il y a maintenant une scène de télésurveillance avec de l'IA où effectivement, tu es capable d'avoir tes patients à l'extérieur de l'hôpital ou à l'extérieur de ton cabinet et de voir des signaux faibles qui s'allument quand tes patients commencent à ne pas aller bien. Ça, ça commence, mais à terme, je pense que ce sera un espèce d'hôpital parallèle, c'est-à-dire que tes patients seront à la maison et ils seront monitorés. à la maison avec ces systèmes-là, et tu auras des alertes en fonction de eux. Et du coup, tu n'auras plus besoin forcément de faire des allers-retours à l'hôpital, tu ne feras des allers-retours à l'hôpital que quand le moniteur te dira c'est le moment d'aller à l'hôpital. Ça, ça se développe, ça commence, mais je pense que c'est un... Vu l'encombrement des hôpitaux, vu les problèmes de rendez-vous, vu les patients qui sont à distance de centres de soins, ça va beaucoup se développer. La télésurveillance paria, c'est clair.
- Speaker #0
Absolument, il y a énormément de fonds qui sont alloués à la médecine personnalisée, avec toutes les data sets qu'on commence à racheter sur la santé des gens. Donc ça, ça va être vraiment une piste incroyable. Est-ce que tu as l'impression que nos confrères, nos consoeurs s'y mettent ou pas ? Tu as l'impression que c'est quelle catégorie qui s'y met ? Est-ce que c'est plutôt des jeunes ou pas ? Est-ce que c'est telle ou telle spécialité ? Et question subsidiaire, quelle image a l'IA dans notre profession ? Est-ce qu'il y a des malentendus ? Est-ce qu'il y a des choses qu'on... comprends pas bien, que t'aurais envie de débunker un peu aujourd'hui ?
- Speaker #1
Je pense qu'aujourd'hui, tout le monde essaye de s'y mettre. Je trouve ça très bien. J'ai discuté avec pas mal de gens de toutes pés. Tout le monde essaye de s'y mettre. A chacun son niveau. Il n'y a pas forcément que des jeunes. Bizarrement, les très jeunes, pas forcément. Et finalement, c'est toujours les petits vieux un peu curieux qui bidouillent. Ceux qui ont vraiment des gros stacks, qui ont vraiment touché, c'est des gens, en vrai, qui ont plus de 40 ans, qui disent « Moi, j'ai un vrai problème. » problème, ça fait 20 ans que j'ai ce problème et là je peux enfin le résoudre, c'est trop cool. Là où finalement peut-être quand t'es trop jeune t'as pas encore vu les problèmes que t'avais au quotidien donc tu vois moins l'intérêt, tu te dis que c'est cool mais tu vois moins l'intérêt alors que le mec qui a passé 20 ans à faire des courriers, à se prendre la tête, à faire de l'administratif etc, qui se dit là aujourd'hui je peux simplifier mon quotidien, alors lui tout de suite il va dire mais je peux le faire tout seul, je vais le faire quoi. Donc ouais je dirais pas qu'il y a une spé plutôt qu'une autre ou qu'un patin plutôt qu'une autre faut être curieux, les gens qui sont curieux de nature vont se lancer plus facilement. Mais je constate quand même qu'il y a une vraie demande et un vrai besoin de dire, je comprends que c'est là, j'ai envie de m'en servir, donc je vais essayer. Et après, on va en parler après, c'est le problème de qu'est-ce que je peux faire avec, qu'est-ce que j'ai le droit de faire, qu'est-ce que je n'ai pas le droit de faire. Et c'est vrai qu'il y a eu des précédents, il y a eu des choses où on dit vraiment, il ne faut surtout pas le faire. Et du coup, ça, ça fraide un peu les gens en disant, j'ai peur de faire des bêtises. Donc si j'ai peur de faire des bêtises, je ne fais pas. Et ça, c'est un peu le frein. Donc c'est aussi pour ça que Metamana a existé. c'est de dire, il y a des choses que vous pouvez faire, des choses que vous ne pouvez pas faire, donc sachez juste ce qui est possible et pas possible, et ensuite, ce qui est possible, faites-le, surtout faites-le.
- Speaker #0
Absolument, parce que ta newsletter, elle est vraiment excellente, et notamment, tu abordes des points pratiques de confidentialité, on va y venir justement, et juste avant, tu me rapportais d'un problème d'hallucination de ton LLM, donc je le rappelle, une hallucination, c'est quand une intelligence artificielle fait une erreur, alors il y a plusieurs définitions d'hallucination, ça peut être... quelque chose qui est vrai mais qui n'est pas du tout dans le contexte qu'on souhaitait au départ ou alors quelque chose qui est complètement faux. C'est un concept un peu mouvant, mais en gros, c'est une réponse qui n'est pas satisfaisante, voire franchement fausse. Et ça, ça suscite de la méfiance. Comment est-ce qu'on peut gérer ça ? Et comment est-ce qu'on peut avoir confiance dans l'intelligence artificielle qu'on utilise ? Et là, je vais aborder l'intelligence artificielle des grands types Gemini, Chagipiti, etc. Donc on va venir après sur les problèmes de données patients, sur les problèmes de confidentialité qu'il faut absolument éviter. Mais si on a déjà anonymisé notre dossier, comment gérer sur ces solutions génériques qui ne sont pas médicales à la base, on le rappelle, comment gérer le problème d'hallucination, le problème d'erreur qui est quand même un frein pour beaucoup de nos confrères j'ai l'impression ?
- Speaker #1
Pour moi, c'est la responsabilité personnelle. C'est-à-dire qu'à partir du moment où tu veux que ton outil fasse... fassent un travail médical, ils font un outil médical. Si tu te dis demain je vais faire de la pâtisserie de haut niveau, tu ne vas pas à Carrefour acheter une pelle à tarte lambda. T'achètes des outils pour faire de la vraie pâtisserie. Là, c'est pareil. Si c'est pour toi-même te diagnostiquer, t'es pas médecin, toi-même te diagnostiquer une pathologie, oui, tu peux aller sur ChatGPT, poser tes questions et avancer sur un truc qui soit bon ou pas bon. Ça, c'est pas le débat. Mais à partir du moment où toi, tu veux faire tes médecins, tu veux faire de la médecine avec, il faut que t'aies des outils médicaux. Donc tant que ChatGPT n'est pas estampillé ChatGPT for Clinicians qui est en train de sortir ou Gemini Health ou quoi que tu veux, ce n'est qu'un outil générique. Et si ça ne devient pas l'idée de faire de la pâtisserie de haut niveau avec du matériel qui n'est pas fait pour ça, là c'est pareil. Ne fais pas de la médecine de haut niveau avec un outil générique. Donc pour moi, ça part de là. Il vaut mieux, en tant que médecin, payer un outil générique. Je pense que les médecins ont les moyens de payer un SAS à 10 euros par mois pour enlever ces frictions-là, plutôt que de prendre le risque d'avoir un TGPT qui va te mettre dans la sauce si jamais tu as une erreur. Donc tu veux faire du bon travail, utilise un bon outil. je me sers jamais, de Tchad GPT ou de Jiminy Claude ou ce que tu veux pour de la médecine.
- Speaker #0
Jamais. Moi, je m'en sers pour de la médecine. Après, je paye d'autres logiciels, mais je m'en sers pour de la médecine, notamment pour des questions de physiologie, d'anatomie, tu vois, des choses un peu fondamentales qui ont été décrites, et notamment pour mes cours de médecine fonctionnelle. Donc, moi, je l'utilise, mais je comprends tout à fait. Du coup...
- Speaker #1
Mais c'est pas pour prendre un charge à patient, tu vois, c'est ça que je veux dire.
- Speaker #0
Absolument.
- Speaker #1
C'est pas pour prendre un charge à patient. C'est-à-dire que même s'il fait une erreur dans ton cours, l'impact est minime. Même si tu ne la vois pas, si elle passe à la trappe, l'erreur est minime. Ce que tu ne veux pas, c'est quand tu prends en charge un patient. C'est pour ça que je dis, quand tu fais de la médecine de haut niveau, c'est-à-dire que tu as un patient qui ne va pas bien en face de toi, là, il te faut des bons outils. Mais effectivement, si c'est pour de la formation, pour clarifier une situation, etc., tu peux tolérer l'erreur. Tu ne la tolères pas quand tu as la vie de l'autre dans tes mains. C'est juste ça que je dis.
- Speaker #0
Absolument. Et comme logiciel spécialisé qui donne des réponses diagnostiques, tu m'as cité donc. Donc PaperDoc, qui est français, qui marche bien. Je ne l'ai pas testé, mais ça peut être très intéressant d'inviter le boss de PaperDoc sur ce podcast. Tu m'as parlé de Cliniscan. On a parlé d'Open Evidence. Malheureusement, avec l'IA Act en Europe, on ne peut plus utiliser Open Evidence. Et ça risque d'être un frein pour d'autres logiciels comme ça. Là, qu'est-ce qu'on peut utiliser, hormis les solutions qu'on vient de citer ? Est-ce qu'il y en a d'autres pour le diagnostic et la prise en charge sérieuse d'un patient en face d'un médecin ?
- Speaker #1
Tu as MedGPT, qui est pas mal.
- Speaker #0
Ok, ça, ça marche bien,
- Speaker #1
tu l'utilises ? Si, c'est pas mal. Non, je n'utilise pas tellement.
- Speaker #0
Tu connais Vera ? Tu utilises Vera ?
- Speaker #1
Oui, je connais Vera. Encore une fois, mon problème est un peu différent dans le sens où je prends en charge un patient, mais moi, c'est très protocolisé. C'est-à-dire que l'oncologie, ils ont le diagnostic, donc j'ai juste à suivre le protocole. Mon rôle, à moi, c'est plutôt de l'accompagnement et de l'explication plutôt que du diagnostic, donc je n'ai pas besoin d'un maître GPT. Par contre, j'aurais besoin effectivement pour de la recherche, pour comprendre est-ce que je peux faire ça avec ça, etc. Mais pas pour un diagnostic. Donc je ne les utilise pas au quotidien, mais je les connais. Ouais, mes GPT, Cliniscan, PaperDoc. Il y a le nouveau Pulse Life que je vais tester bientôt, là. Pulse Lafayette qui est sorti, que je dois tester bientôt. Donc ça, c'est des choses à tester. De toute façon, il ne faut pas se leurrer. Open Evidence tombe, il y en a d'autres qui vont prendre sa place. Probablement des Français, probablement des souverains. C'est la guerre là-dessus. L'idée, c'est de ne pas forcément avoir un outil, c'est de tester. et de voir celui qui est le mieux pour la pratique que tu as. Et c'est aussi le rôle du médecin malin, c'est d'aller tester tout ça. Toi, tu n'as pas le temps forcément en tant que médecin de les tester tous. Moi, je les teste tous et on fait des revues de ce qui existe et de ce qui marche bien. Mais il ne faut pas se leurrer, Open Evidence tombe. Et encore une fois, je pense que ce n'est pas si mal parce que Open Evidence était entremêlée sur des données américaines avec des datas américaines. Donc voilà. Donc si aujourd'hui, il y a un Français qui dit voilà les recos françaises et voilà la littérature à la française, moi, je préférerais un système comme ça. Je connais bien le CEO de Pepperdok, très sympa, très bon produit. donc ça c'est bien Cliniscan je connais aussi très bien le CEO très sympa, ça marche bien, c'est des mecs qui savent ce qu'ils font, qui bossent bien et c'est franco-français
- Speaker #0
Cocorico quoi Tu vas mentionner le problème de la confidentialité, le problème RGPD, en quoi c'est important qu'est-ce qu'il faut savoir là-dessus et comment faire ?
- Speaker #1
En fait, ce qui se passe déjà, il faut comprendre comment marche le LM, c'est-à-dire que déjà quand tu parles avec les gens, il y a beaucoup de gens qui savent pas comment ça marche Merci. C'est-à-dire qu'ils ont l'impression que comme tu dialogues sur ton ordinateur, ça reste sur ton ordinateur et que l'ordinateur te répond, que c'est ton ordinateur qui te répond. Ils n'ont pas cette connaissance de dire ça part ailleurs, c'est analysé ailleurs et on me renvoie une réponse. Et donc c'est ce ailleurs qui pose problème. Ce n'est pas la fenêtre que tu as devant toi, c'est le ailleurs, tout ce qui est processé, où est-ce que ça va ailleurs. Et aujourd'hui, effectivement, avec les règles internationales, si ce ailleurs, c'est les États-Unis, les États-Unis ont un droit de regard sur ce que tu mets. Et si tu t'en sers pour faire tes courses, fiche. Si effectivement tu commences à mettre des données d'un patient, c'est plus embêtant puisque tu peux donner des informations confidentielles qui relèvent du secret médical à quelqu'un d'autre. Quelqu'un d'autre qui peut te dire « moi j'ai le droit de le voir » . Là aujourd'hui, toi, tu peux dire le... La loi française me dit, le secret médical, je n'ai pas le droit de divulguer. Les Américains te diront, nous, on a le droit d'aller chercher parce que tu es parti sur nos serveurs. Et donc, tu aurons comme ça le secret médical. Et c'est ça qui pose problème aujourd'hui en termes de confidentialité.
- Speaker #0
Comment faire alors ? Est-ce qu'on peut les utiliser en anonymisant nos dossiers ? Est-ce qu'on peut rentrer des dossiers patients ? Est-ce qu'on peut scanner des biologies pour les faire analyser ou pas ?
- Speaker #1
Donc, aujourd'hui, tu ne peux pas faire ça, d'autant qu'ils ont durci encore plus les règles. Il y a eu un AIPD, donc il y a un RGPD AI français, au-delà de ce qu'on avait déjà sorti pour l'IA qui donne ça. Et donc aujourd'hui, tu ne peux pas scanner un dossier, tu ne peux pas rentrer un dossier, même anonymisé, même pseudonymisé. Pourquoi ? Parce qu'en fait, ces systèmes-là sont capables de faire des recoupements d'informations. Et du coup, tu peux retrouver un patient juste avec des données, même anonymisées. Donc aujourd'hui, même si tu enlèves le nom, prénom, il y a toujours des facteurs qui permettent de retrouver le patient. Il y a un exemple qui a été fait il y a quelques temps. Je crois que c'était aux Etats-Unis, mais je ne sais plus quel état. Où en gros, le gouverneur avait dit, moi j'autorise, le médecin a utilisé le chat GPT, vous mettez les dossiers dans le chat GPT, on s'en fiche, c'est donné patient, on s'en fiche, c'est comme ça. Et il y avait une chercheuse en IA qui avait dit, monsieur, si vous faites ça, on peut remonter tout votre dossier médical en croisant les données avec tous les hôpitaux des Etats-Unis.
- Speaker #0
Même si les dossiers sont anonymisés.
- Speaker #1
Ouais, ouais. Et elle avait dit, je vous donne 48 heures, dans 48 heures, je vous dépose votre dossier médical. sur le bureau. Et 48 heures après, elle avait déposé son dossier médical parce qu'en fait, elle avait calculé qu'il y avait un mec qui avait 56 ans qui avait tel problème, puis au même moment dans un autre hôpital, il y avait un mec de 56 ans qui venait pour un truc équivalent, et puis qu'ensuite il était à la pharmacie et que le mec de 56 ans avait... Il y avait aussi un mec à 56 ans qui, dans le LM, deux heures plus tôt avait... Et en fait, elle avait recoupé ça et elle avait dit voilà votre dossier. Et le mec avait dit bon ben on annule la loi, merci on revient à zéro.
- Speaker #0
Incroyable.
- Speaker #1
Donc il faut faire attention à ça parce que justement c'est des systèmes qui sont capables de processer Merci. tellement de données qui sont capables de faire des recoupes. C'est-à-dire que si moi, je mets mon dossier du patient A et qu'ensuite, j'ai dit, va voir Mathieu Canté et que Mathieu Canté met le dossier du patient A, mais pas forcément les mêmes données, un peu plus, mais il anonymise pas forcément la même chose et qu'ensuite, le patient va avoir un troisième médecin, à force, tu vas pouvoir recouper et retrouver des bribes d'informations. Donc,
- Speaker #0
c'est ça qui est dangereux.
- Speaker #1
Donc aujourd'hui, même anonymiser, même pseudonymiser, moi, je ne recommande pas. C'est pour ça que quand tu fais ça, il faut avoir des serveurs dédiés pour ça, donc des serveurs données de santé HDS ou bien être en local comme je fais moi. Mais voilà, tu ne peux pas mettre sur ChatGPT une photo, même si tu as brouillé le nom, prénom, les adresses, etc. Pour moi, c'est trop dangereux parce qu'on peut faire des recoupes de données.