Transcription

• Speaker #0

  Depuis juillet, la FDA laisse des dispositifs médicaux fondés sur l'IA générative atteindre des patients américains sans autorisation de mise sur le marché. Le programme s'appelle TEMPO. Il est adossé à ACCESS, un programme de Medicare sur dix ans qui rembourse les technologies de suivi des maladies chroniques pour 34 millions de bénéficiaires. La FDA se contente d'annoncer qu'elle n'appliquera pas l'exigence d'autorisation préalable aux dispositifs qui servent ce programme, pendant qu'elle collecte des données en conditions réelles. Les juristes spécialisés relèvent qu'aucun texte ne fixe les critères de cette tolérance ni la suite du pilote, et certains doutent que l'agence en ait le pouvoir. Dexcom, une société cotée de capteurs de glycémie, a été admise la première. Cadence a suivi en août avec un logiciel de suivi de l'hypertension, deux mois après avoir levé 100 millions de dollars à 1,23 milliard de valorisation pour automatiser par l'IA le travail de ses cliniciens. Limbic, société britannique de santé mentale, a été admise fin août avec Unpacked, un agent vocal qui conduit des séances de thérapie cognitive de vingt minutes par téléphone, y compris sur une ligne fixe, sous la supervision d'un clinicien. Son dossier comptait neuf études cliniques publiées. Le même renoncement traverse le débat sur l'interprétabilité des modèles. Dario Amodei, chez Anthropic, reconnaissait en 2025 que ses équipes ne comprennent pas le fonctionnement interne de leurs modèles, et se fixait l'objectif de détecter de façon fiable la plupart de leurs défauts d'ici 2027. La médecine connaît ce décalage depuis longtemps : beaucoup de médicaments ont été autorisés sur leurs résultats observés, avec un mécanisme d'action mal compris. Mais l'observation y est encadrée par l'essai clinique, avec un groupe de comparaison et des critères fixés à l'avance. Avec TEMPO, l'observation commence une fois le dispositif chez les patients. La FDA n'a pas encore publié les résultats qu'elle suivra. Elle n'a pas dit non plus dans quel cas elle retirerait un dispositif. Pour une start-up de santé numérique, de bonnes données de résultats font gagner des années, et des données faibles portent un risque de retrait alors que Medicare rembourse déjà le service. Le régulateur a renoncé à examiner ces systèmes avant de les laisser agir. Les ingénieurs de l'IA appellent cette approche l'observabilité : suivre en continu ce qu'un modèle produit une fois déployé, faute de pouvoir lire ce qui se passe à l'intérieur. Tout repose sur la qualité de l'observation, et les critères de cette observation restent à écrire. C'était la Minute Newfund. À très vite pour la prochaine !