Une entreprise est une personne. Une fondation aussi. Et depuis 2017, en Nouvelle-Zélande, le fleuve Whanganui a lui-même une personnalité juridique. Personne ne prétend qu'il pense ou qu'il ressent quoi que ce soit. Le droit a simplement décidé de lui reconnaître une existence propre.

C'est le point de départ de ce Codex. Quand on se demande si une IA pourrait un jour avoir des droits, on part presque toujours de la conscience : est-ce qu'elle pense, est-ce qu'elle comprend, est-ce qu'elle ressent. Le droit, lui, n'a jamais eu besoin de conscience pour reconnaître une personne. Il lui faut surtout une raison de le faire.

Dans cet épisode, Jérémy Lamri remonte le fil de la personnalité juridique, des formes collectives que connaissaient déjà les Romains aux monastères médiévaux et à la persona ficta du pape Innocent IV, pour montrer ce qu'elle permet vraiment : faire durer une organisation au-delà de ses membres, lui attribuer des droits, des obligations et des responsabilités. Il la confronte ensuite à un cas fictif, celui d'une entreprise qui confie peu à peu ses achats à un agent d'IA, jusqu'au jour où une commande tourne mal. Qui est responsable, entre l'entreprise, l'éditeur du modèle, l'équipe qui l'a configuré et celle qui a fixé le seuil de validation humaine ?

Il revient sur la piste de la « personnalité électronique » évoquée par le Parlement européen en 2017, et sur le risque qu'elle comporte : une entité juridique créée pour clarifier la responsabilité peut aussi servir à s'en décharger. Il distingue trois dimensions qu'on confond souvent, l'intelligence, l'autonomie et la personnalité juridique, et propose quelques principes pour avancer sans attendre de savoir si les machines deviendront conscientes. Le premier est simple : déléguer une décision ne doit pas permettre de déléguer la responsabilité.

Un épisode qui ramène le débat à deux questions très concrètes. Qui a donné à la machine le pouvoir d'agir ? Et qui en répond ?

Codex est le podcast de Tomorrow Theory. Un sujet, un épisode, de la profondeur.

Hébergé par Ausha. Visitez ausha.co/politique-de-confidentialite pour plus d'informations.