Qui est responsable lorsqu’une intelligence artificielle déraille ?

Un sujet juridique et éthique que nous explorons avec Viviane Gelles, avocate spécialisée dans le droit des technologies au sein du cabinet Jurisexpert.

« À partir du moment où on est en face de données personnelles qui identifient directement ou indirectement une personne physique, le RGPD s’applique en terme de collecte de données, de leur sécurisation et de la transparence aussi de l’information qu’on délivre aux personnes concernées. », explique Viviane Gelles.

Pour anticiper ces problématiques, il est crucial d’imposer la notion de privacy by design dès le stade de la réflexion sur un projet. « Dès le départ, il faudra se poser des questions : Les données proviennent-elles de bases préexistantes ? Est-ce que j’ai le consentement des personnes concernées ? Comment je sécurise la durée de conservation ? »

Le cadre juridique de la responsabilité en lien avec l’IA est encore en construction sur de nombreux sujets. Qui est responsable en cas d’accident avec une voiture autonome ? Est-ce l’utilisateur, le fabricant, la marque ? Dans le cas présent, « un cadre s’est construit en fonction de l’autonomie de l’IA. Mais sinon, de façon plus globale, on est encore sur un cadre juridique qui n’est pas complètement figé. Le projet de réglement européen sur la responsabilité des IA, attendu dans les prochains mois, a cette ambition. » 

Bonne écoute !

Les Carnets de l’IA est un podcast proposé par la Cité de l’IA.

Animation : Manuel Davy

Réalisation : César Defoort | Natif.  

Hébergé par Ausha. Visitez ausha.co/politique-de-confidentialite pour plus d'informations.