Transcription

• Speaker #0

  C'est votre téléphone qui parle.

• Speaker #1

  Regardez autour de vous. Combien de personnes connaissez-vous qui portent des montres connectées, des barres électroniques, des bracelets de fitness ou encore des lunettes avec caméra et ordinateur intégrées ? Vous-même peut-être ? Ces appareils portés sur le corps ou intégrés au vêtement permettent d'accéder à des notifications et informations, mais également au suivi de l'activité physique, du sommeil, des signes vitaux, des émotions, voire de l'attention. Bref, une meilleure compréhension de notre corps. Ils sont connectés et souvent couplés à des systèmes d'intelligence artificielle. Ils incluent aussi d'autres technologies avancées. Les écouteurs intelligents, par exemple, les smart earbuds, servent bien évidemment à écouter de la musique, mais peuvent inclure aussi des accéléromètres et des gyroscopes pour détecter les mouvements de la personne ou en surveiller la posture. Ils représentent, ces gadgets, l'avant-garde, la première utilisation généralisée d'un tout autre niveau d'intégration humain-machine. non plus basé, comme on l'a vu dans les épisodes précédents, sur les traces numériques que nous laissons derrière nous au quotidien, mais sur nos données physiologiques et cérébrales. Ils tracent la voie vers la neurotechnologie personnelle. Ce domaine combine neurosciences, ingénierie informatique et d'autres disciplines pour développer une famille de technologies conçues pour interagir avec le cerveau et le système nerveux humain. Elles visent à monitorer, comprendre et améliorer les fonctions cérébrales dans le cas de la santé mentale ou pour dépasser des limitations physiques découlant par exemple d'une paralysie. Elles promettent aussi, bien évidemment, d'atteindre de nouveaux niveaux de performance cognitive et de productivité. Mais elles soulèvent également des questions profondes sur le contrôle, la manipulation et la préservation de l'autonomie mentale. Oui, bien sûr, nous ne comprenons toujours que partiellement le fonctionnement du cerveau et de l'intelligence humaine. Chacun de nos esprits est un univers à part entière, encore largement enveloppé dans le mystère. Mais des technologies extraordinaires ont permis, pendant les dernières décennies, de comprendre le cerveau de mieux en mieux, de comprendre les processus neuronaux inconscients, les émotions et les biais cognitifs. On utilise maintenant ces connaissances pour développer d'autres technologies, capables, elles, d'influencer et de manipuler ces mêmes processus cognitifs, d'induire des pensées et même de reprogrammer l'espace des perceptions.

• Speaker #0

  Le DevTech Podcast fait partie du programme de prospective technologique d'Arma Suisse Sciences et Technologies. Je suis Quentin Ladetto, responsable de ce dispositif de recherche. Notre mission est d'anticiper les avancées technologiques et leurs usages au service des acteurs du Département fédéral suisse de la Défense, de la protection de la population et des sports, mais également du public. Dans cette première série de six épisodes intitulée « La menace cognitive » , j'ai demandé à Bruno Giussani, expert des impacts sociopolitiques des technologies numériques, de décrypter les défis de l'intégrité et de la sécurité cognitive. Avec l'aide d'experts, et aussi de quelques voix artificielles dont ce sera à vous de deviner lesquelles, Bruno nous guidera à travers une exploration des menaces qui pèsent sur nos esprits à l'heure des écrans omniprésents, de l'intelligence artificielle et des neurotechnologies, en évoquant les mécanismes, les impacts individuels et collectifs, les risques et, heureusement, les réponses possibles.

• Speaker #1

  Penser au prodige d'une intention qui se traduit en action, au fait de contrôler un ordinateur avec la pensée. en faisant bouger un curseur sur un écran ou déclenchant le mouvement d'une machine. C'est le but des interfaces cerveau-ordinateur, développées pour permettre de contrôler des appareils externes par la pensée, sans utiliser clavier ni souris, établissant un lien direct entre l'activité cérébrale et les systèmes numériques. Il existe des approches dites « invasives » , comme celle de l'entreprise Noralink, qui consiste à implanter physiquement des électrodes dans le cerveau. Ceux-ci capturent l'activité des neurones et en transmettent les signaux à des appareils externes qui les traduisent ensuite en commandes numériques. Soudainement, il devient possible aussi aux personnes paralysées, par exemple, de jouer aux échecs ou écrire à l'ordinateur. Il y a ensuite des technologies non-invasives d'entreprises telles qu'Emotive, qui utilisent des électrodes placées sur le cuir chevelu pour monitorer l'activité cérébrale et produire l'électroencéphalogramme d'une personne. Et il y a l'espace du milieu semi-invasif, où on insère des électrodes ou autres dispositifs à travers les vaisseaux sanguins sans le besoin d'intervenir. de façon chirurgicale sur le cerveau. Selon une base de données gérée par la Bibliothèque nationale de médecine, 47 études sont actuellement en cours aux États-Unis sur des interfaces cerveau-ordinateur. L'arc de développement de ces technologies, comme on l'a aussi évoqué concernant l'intelligence artificielle, est bien sûr long. La découverte que le cerveau est un système électrique remonte à plus d'un siècle, mais jusqu'à un passé récent. Étudier ces signaux demandait des équipements coûteux, compliqués et délicats. en laboratoire. Ces dernières années, la courbe n'a fait qu'accélérer et la technologie est sortie des labos. Il est désormais possible de recueillir avec des gadgets relativement peu chers une grande quantité de données sur nos cerveaux et essayer de comprendre ce qu'elles nous disent. Nous pouvons aussi imaginer comment utiliser ces interfaces dans la direction inverse pour façonner activement l'activité cérébrale, affecter les pensées, influencer l'interprétation de la réalité, orienter les décisions, implanté de faux souvenirs, potentiellement un jour créer des expériences tout à fait vraisemblables, ressenties, émouvantes, rien que par la modulation de signaux électriques. Un exemple du fonctionnement de ces technologies ? Écoutons Jean-Marc Rekli, directeur des risques globaux et émergents au Centre de politique de sécurité de Genève.

• Speaker #2

  Pensez par exemple aux caméras intégrées, à un casque de réalité virtuelle comme celui qu'Apple a commercialisé l'année passée. qui regardent sans cesse et traquent l'œil de l'utilisateur. En le couplant avec des capteurs neuronaux installés dans le même casque, il devient possible de corréler ces informations, c'est-à-dire les stimulus externes, avec la réponse émotionnelle qu'ils vont provoquer dans le cerveau. Donc, on pourra savoir quel type d'informations visuelles suscitent quelle réponse chez un individu.

• Speaker #1

  Olivier Desjeux est un spécialiste suisse d'électrotechnologie. Il travaille un rapport sur la résilience cognitive pour le compte de DevTech. Pour cela, il s'est plongé dans les brevets qui décrivent les appareils qui participent à ce qu'on appelle IOT, The Internet of Things, l'Internet des Objets.

• Speaker #3

  L'analyse des brevets déposés montre que tous ces systèmes IOT sont développés essentiellement pour des raisons vraiment bienveillantes, des raisons qui sont très respectables. du point de vue de l'éthique, on s'entend bien. Le plus souvent, ce sont des bénéfices pour la santé ou des bénéfices pour la sécurité des personnes qui sont mis en avant. Prenons l'exemple d'un appareil capteur des flux nerveux qui peut alerter des personnes épileptiques de crise imminente. On a tous aussi en exemple les appareils qui surveillent le rythme et la pression cardiaque qui sont là pour vraiment rendre service. Et puis par la suite, les personnes qui ont perdu ou qui auront perdu une fonction de locomotion, peuvent ou pourront la retrouver à travers des interfaces normales. Tout ça est vraiment très très bienveillant.

• Speaker #1

  Il y a également nombre d'applications professionnelles. Les conducteurs du train à grande vitesse entre Pékin et Shanghai, la ligne la plus fréquentée du monde, portent des appareils intégrés à leurs casquettes pour monitorer leur vigilance et niveau de fatigue. On dira Ça se passe en Chine. En fait, si la Chine est à la pointe de ces technologies, des milliers d'entreprises des secteurs miniers de la construction et des transports à travers le monde utilisent des systèmes similaires. D'autres approches promettent d'utiliser une technique de rétroaction connue comme neurofeedback pour dépasser nos limites, mieux percevoir, améliorer l'efficacité, la concentration, la mémoire ou augmenter nos performances sportives. par exemple au niveau de la coordination motrice et des réflexes. On pourrait aussi tirer parti des schémas d'engagement cérébral individuel des écoliers et de leurs états émotionnels pour garantir un rythme d'apprentissage optimal. Il y a d'ailleurs déjà plusieurs start-up engagées dans le développement de tels produits. L'intention bienveillante qui peut sous-tendre à la création d'une technologie ne nous dit toutefois rien sur la façon dont elle sera utilisée à l'avenir et sur les conséquences qu'elles pourraient avoir. Prenons l'exemple des ultrasons, une des modalités d'imagerie médicale les plus utilisées au monde. Ils ont été découverts il y a près de deux siècles sur la base d'études sur le vol des chauves-souris et sur la propagation du sang dans l'eau. Ils ont servi, entre autres, pour cartographier les fonds marins, retrouver l'épave du Titanic, détecter les sous-marins ennemis, faire du nettoyage industriel, ou bien même déterminer le sexe d'un foetus à travers l'imagerie échographique. En médecine moderne, celle-ci est considérée un outil diagnostique et thérapeutique absolument essentiel. Mais dans la Chine de la fin des années 70, elle a été mise au service de la politique de l'enfant unique, menant directement à la suppression de millions de foetus féminins et à des conséquences démographiques et sociales qui perdurent encore aujourd'hui. Autrement dit, la discussion sur les champs possibles d'application d'une nouveauté technologique est épineuse. Une entreprise a accès aux ondes cérébrales de ses employés pour des raisons de sécurité, comme dans l'exemple du conducteur du train, ou pour monitorer leur niveau de stress et améliorer leur bien-être mental. que du bien. Mais à quel moment cela franchit la limite vers la surveillance, voire la contrainte, devenant ainsi une extension neuronale de ce qu'on connaît aujourd'hui comme Bossware, les logiciels du chef. Ce système surveille les frappes au clavier et l'utilisation d'Internet, prend des captures d'écran et même photographie les employés pour en contrôler les activités et maximiser la productivité. Une entreprise commercialise d'ailleurs déjà un produit d'origine militaire dont le nom s'explique tout seul. Cognitive Command and Control. Une industrie entière, le neuromarketing, utilise depuis un moment déjà des mesures physiologiques et cérébrales pour comprendre les motivations, les préférences et les processus décisionnels des consommateurs et en manipuler les décisions d'achat. Pourquoi, par exemple, des films hollywoodiens, de même que certaines publicités, sont si captivants ? Parce qu'ils ont été neuro-testés. Des personnes les regardent avec des capteurs sur la tête, mesurant leur réaction cérébrale. Et c'est sur cette base que sera fait le montage final du film. Certains imaginent même un avenir de publicité implantée dans les rêves. D'autres, des cerveaux connectés à l'intelligence artificielle, développent des réflexions symbiotiques. Des millions de personnes joueront bientôt à des jeux en ligne via des interfaces cerveau-ordinateur ou des casques de réalité virtuelle. Il y en aura qui utiliseront le neurofeedback pour renforcer leur confiance en soi et favoriser un état mental positif. Des domaines émergents comme la neuroarchitecture étudient la façon dont les neurones réagissent à différents environnements physiques et, à l'inverse, la possibilité de créer des espaces capables de détecter, via des systèmes de capteurs, le niveau d'excitation, de stress ou d'antagonisme des personnes qui s'y trouvent. souvent Cela se fera à travers des appareils qu'on ne remarquera presque pas, ou plus du tout. Écoutons encore Olivier Dejeu.

• Speaker #3

  Les capteurs et les actionneurs qui nous entourent deviennent petit à petit invisibles, indolores. Ils sont insensibles à tel point qu'on les oublie, on en perd la perception. Prenez l'exemple des earbuds, qui sont souvent qualifiés d'écouteurs intelligents. Certaines personnes les portent. toute la journée, de façon courante, au point de plus du tout s'en rendre compte. Dans les dernières nouveautés, il y a le leader mondial des aides auditives qui viennent mettre sur le marché des équipements qui intègrent des microprocesseurs dotés d'une intelligence artificielle. Le but de cette intelligence artificielle est de filtrer, de reconnaître, de filtrer les bruits de fond pour assurer une meilleure qualité d'audition aux porteurs de ces appareils, de ces aides auditives.

• Speaker #1

  Bien que ce système améliore de façon significative la vie de ses utilisateurs, il place une puce avec capacité IA pratiquement invisible près du cerveau. De même pour les écouteurs, positionnés de façon optimale pour lire les émotions à travers les signaux cérébraux.

• Speaker #3

  Oui, il y a un principe de la physique quantique qui veut que plus on mesure précisément la vitesse d'une particule, plus on en perd sa précision. Pour nous autres, c'est un petit peu la même chose. C'est-à-dire que dès l'instant où je sais que j'ai connaissance, que mes paramètres physiologiques sont mesurés, sont surveillés, ça va altérer mon mode de fonctionnement. Ça, c'est vrai pour à peu près tout le monde. Ça peut conduire à des meilleurs comportements, comme par exemple l'injonction de marcher au moins 10 000 pas par jour. Mais ces technologies, elles sont toutes bifaces. Elles ont toutes deux côtés. On peut imaginer que la somme de toutes ces données soit capturée à l'échelle d'une entreprise qui pourrait être peu éthique ou voire même d'un gouvernement hostile donc il devient ensuite relativement facile d'établir des schémas de corrélation sur lesquels actionner des opérations d'influence.

• Speaker #1

  Bien que le contrôle mental soit jusqu'ici un terreau fertile surtout pour la science-fiction, à diverses époques, des gouvernements ont aussi tenté de développer ces capacités. Certains s'interrogent sur la possibilité d'identifier les individus à travers les patterns cérébraux propres à chacun, leurs signatures cognitives en quelque sorte. Et peut-être qu'un jour, ces signatures feront partie de... notre profil LinkedIn, utilisé dans les processus de recrutement. La recherche progresse non seulement sur la façon de décoder et lire les pensées et les souvenirs, mais aussi sur comment les modifier et en implanter de nouvelles. L'activité cérébrale à court terme peut déjà être modifiée via des technologies telles que la stimulation magnétique transcranienne. Cette méthode induit un champ électrique qui modifie l'activité des neurones visés. Cela peut aider par exemple à sortir d'un état dépressif. Mais pour des changements plus profonds, le défi est celui de la précision, parce que bien évidemment, chaque cerveau est physiquement un peu différent des autres. Y intervenir demande donc d'être hautement spécifique. Les interfaces invasives, là, présentent un avantage, puisqu'elles sont en fait un réseau de fils implantés directement dans le cerveau. Et elles sont donc, du point de vue de la liberté personnelle, potentiellement plus problématiques. Mais les systèmes non-invasifs peuvent aussi induire de nouveaux schémas d'activité cérébrale, de façon passive. Une étude remarquable a par exemple été menée en 2024 par des chercheurs de trois universités américaines, Rochester, Yale et Princeton. En utilisant un appareil d'imagerie par résonance magnétique fonctionnelle et un système de neurofeedback, ils ont réussi à inscrire dans le cerveau des participants une nouvelle information, comme s'ils l'avaient apprise mais sans effort d'apprentissage conscient. Voici comment les chercheurs On décrit le résultat de leurs travaux.

• Speaker #4

  Ce mécanisme de rétroaction a efficacement sculpté l'activité cérébrale des participants, les guidant vers le schéma souhaité.

• Speaker #1

  Cette méthode pourrait aider à accélérer l'apprentissage puisqu'elle ne nécessite d'aucun effort, étude ou pratique. Elle pourrait être utilisée en rééducation, par exemple, pour aider les patients victimes d'un AVC à récupérer leurs fonctions cérébrales. Il est évident toutefois que ces recherches ouvrent la voie à un genre d'utilisation moins bienveillante. Nita Farahani, professeure de droit à l'université Duke, est une des meilleures spécialistes de ces questions au monde. Elle a disséqué le sujet en détail dans son livre « The Battle for Your Brain » « La bataille pour votre cerveau » paru en 2023. Elle y dit notamment ceci, traduit et adapté par nos soins.

• Speaker #4

  « Je suis enthousiasmée par la promesse de cette technologie d'aider les gens à vivre mieux. Ces technologies collectent nos données cérébrales pour nous aider à devenir plus rapides, plus efficaces. » plus sûr et plus sain. Nous aurons donc des raisons de vouloir partager les données brutes de notre activité cérébrale. Individuellement et collectivement, nous tirerons à grand profit de ce que nous pourrons en apprendre. Mais il y a un revers de la médaille, une boîte de Pandore qui m'empêche de dormir. Rien dans la loi ni dans les traités internationaux ne confère aux individus une souveraineté, même rudimentaire, sur leur propre cerveau. Ce n'est pas pour demain, mais nous nous dirigeons rapidement vers un monde de transparence cérébrale totale. où les avancées en neurotechnologie permettront aux scientifiques, aux médecins, aux gouvernements et aux entreprises d'explorer nos cerveaux et nos esprits à volonté. Je crains que dans un avenir proche, nous abandonnions volontairement ou involontairement notre dernier bastion de liberté, notre vie privée mentale. Que nous échangeons avec des entreprises commerciales l'accès à notre activité cérébrale contre des rabais, un accès gratuit aux réseaux sociaux, voire comme condition pour conserver notre emploi. La neurothèque pourrait devenir une exigence dans les lieux de travail et les écoles. Pas de bracelet, pas d'emploi. Soyons clairs, les données elles-mêmes ne sont pas la même chose que nos pensées et nos sentiments. Mais de puissants algorithmes d'apprentissage automatique parviennent de mieux en mieux à traduire l'activité cérébrale en ce que nous ressentons, voyons, imaginons ou pensons. En choisissant d'utiliser ces appareils, nous risquons de révéler bien plus que ce qu'on a prévu.

• Speaker #1

  Bien utilisées, ces technologies peuvent apporter des bénéfices individuels et collectifs indéniables, augmenter la sécurité ou aider l'attention et la performance. Mais elles mettent en jeu de façon essentielle notre liberté cognitive, notre droit à l'autodétermination sur notre cerveau et sur nos expériences mentales. Souvent, notre activité cérébrale commence à changer avant que nous ne le remarquions, par exemple quand un état dépressif ou anxieux s'installe. Que se passera-t-il quand des machines, contrôlées par des entreprises ou des gouvernements, pourront savoir ce que nous pensons avant même ? que nous le pensions. On touche ici à un enjeu central de la neurotechnologie. Comprendre que les données cérébrales sont sensibles. Définir qui peut les collecter, les utiliser et comment. Il ne s'agit pas seulement d'augmenter nos capacités, ce que les neurothèques promettent de faire de façon spectaculaire, mais aussi de les protéger. De s'assurer que ces technologies nous aident à améliorer notre compréhension et prise de décision. plutôt que de permettre à une organisation de décider à notre place, et surtout éviter que l'augmentation de nos capacités cérébrales ne nous affaiblisse en tant qu'êtres humains, nous rendant plus vulnérables à la manipulation. Tout cela peut sembler un peu abstrait. Voici comment la chercheuse en éthique de la technologie, Nicoletta Iacobacci, résume le défi auquel on est confronté.

• Speaker #5

  Les grandes entreprises de la tech, notamment américaines et chinoises, ambition de créer des formes d'intelligence artificielle générale, c'est-à-dire des systèmes capables d'imiter la pensée humaine. En même temps, le cerveau, la partie la plus complexe du corps humain, qu'on a longtemps considéré comme incompréhensible, commence à livrer ses secrets. On doit sérieusement s'interroger sur la convergence de ces deux axes de développement qui fera émerger une machine qui nous dépassera tant un terme d'éviter. vitesse et puissance des calculs que des connaissances détaillées de nos schémas mentaux et émotionnels. Ce sera un cerveau collectif, une superintelligence que nous avons toutes les raisons de craindre, mais que nous participons à créer jour après jour.

• Speaker #1

  Comme nous l'a dit tout à l'heure Nita Farahani, tout cela n'est pas pour tout de suite, mais la technologie avance à grande vitesse. Dessinons un avenir avec lequel nous devrons composer. Penser la résilience et la robustesse cognitive devient alors primordial. Dans le quatrième épisode, on étendra cette analyse à un domaine essentiel que l'on n'a pas encore évoqué, la guerre. Je suis Bruno Giussani et ceci est le DevTech Podcast. Merci de votre écoute.