Transcription

• Speaker #0

  De la philo,

• Speaker #1

  de la tech,

• Speaker #0

  c'est philotech. Alors Emmanuel, dans un contexte international incertain, on ne sait plus trop qui sont nos alliés, ni d'où viendra la prochaine menace, t'as décidé d'en rajouter une couche et de nous parler de perspectives peu réjouissantes en mélangeant intelligence artificielle, biotechnologie et défense. Pourquoi cette idée ?

• Speaker #1

  Comme tu le sais, certainement, du 11 au 13 mars dernier, s'est tenu à l'école militaire le Paris Defense and Strategy Forum avec un tas de conférences et d'interventions dans un contexte, tu l'as dit, d'instabilité et d'incertitude international qui sont très préoccupantes pour réfléchir autour de trois axes. Quelles alliances, pour quel monde et avec quels moyens ? Et c'est dans ce cadre, ce forum, que moi, j'ai été sollicité pour contribuer à un panel sur l'intelligence artificielle, les biotechnologies et la défense. Et je me suis donc plongé dans un rapport. lié par la US National Security Commission on Emerging Biotechnology en 2024, rapport d'un peu plus de 60 pages, 27 utiles, qui font un point sur les avancées en matière de biotechnologie et proposent des recommandations au Congrès américain pour que les États-Unis restent leaders dans le domaine.

• Speaker #0

  Ok, donc je comprends qu'il s'agit du positionnement américain sur les biotechnologies, mais c'est quoi le lien avec l'IA ?

• Speaker #1

  Le lien avec l'intelligence artificielle, elle vient du rôle de multiplicateur de force qu'elle représente si on l'articule aux biotechnologies. En l'occurrence, du fait de la capacité des systèmes d'IA à traiter une masse de données considérable, l'idée c'est de les utiliser pour accroître par exemple les capacités d'analyser des haines, de création de séquences génétiques qui pourraient conférer de nouvelles propriétés aux organismes vivants pour créer par exemple de nouveaux matériaux tels que des produits biopharmaceutiques et des cultures plus résistantes. Alors autant de manières d'ailleurs de toucher à ce qui fait l'être humain qui ne peuvent que nous interroger.

• Speaker #0

  Et donc ces travaux, ils pourraient être utilisés dans le domaine de la défense ?

• Speaker #1

  Oui, c'est un point de focalisation d'ailleurs du rapport. Dans le domaine, la Commission propose notamment de travailler sur l'utilisation de matériaux d'origine biologique pour fabriquer des textiles de haute technologie et accroître la capacité de survie des soldats, pour péter des combattants à l'aide des biotechnologies toujours, comme par exemple en fabriquant un sang synthétique. L'idée, ce serait aussi de faciliter le développement de nouveaux vaccins, mais aussi de virus. Enfin, la Commission nous fait un petit exercice de rhétorique manipulatoire en parlant de Human Capacity Enhancement. au lieu du traditionnel human enhancement, mais l'idée reste la même, ce serait d'accroître les capacités des combattants par des procédés technico-biologiques. Et tout ça, accéléré par les systèmes d'intelligence artificielle. Petite anecdote, les commissaires m'ont affirmé qu'il n'était pas cependant question d'utiliser les biotechnologies pour faire la guerre. A suivre.

• Speaker #0

  Ouais, ça donne quand même beaucoup de raisons de convoquer l'éthique, ça, non ?

• Speaker #1

  C'est certainement là que le bas blesse. En fait, la dimension éthique, elle me semble complètement écartée. Aussi bien dans le rapport, d'ailleurs, que dans les échanges que j'ai pu avoir avec les commissaires. c'est clair que l'éthique n'est pas une priorité. On parle d'ailleurs, il faut le garder à l'esprit, de défense et de leadership américain face à la Chine. Du coup, on est dans une approche très machiavélienne. Selon les commissaires, il y a d'une part en matière de biotechnologie, je les cite, un cadre amplement suffisant. Et pour ce qui est de l'intelligence artificielle, pour eux, les réflexions sont en cours. Ce n'est pas complètement faux, mais ce qu'ils semblent oublier, c'est qu'il y a des questions qui relèvent spécifiquement de l'articulation entre biotechnologie et intelligence artificielle.

• Speaker #0

  C'est une vision un peu superficielle, ça, non ?

• Speaker #1

  Alors, vision superficielle qui procède, en tout cas à mon sens, de l'absence de réflexion, d'une part, sur le sujet, des enjeux géopolitiques, d'autre part, mais aussi du structuralisme qui préside à la pensée américaine en matière de défense et d'utilisation de moyens technologiques. Si je caricature à peine, il y a des méchants chinois qui sont en train de monter en puissance dans le domaine des biotechnologies et les États-Unis doivent tout faire à ce qui est possible pour maintenir leur leadership et leur sécurité. On ne peut pas dire que l'esprit critique soit la qualité première de la Commission. Hashtag esprit critique pour paquet de tirs.