Transcription

• Speaker #0

  La démographie, les modes de développement mettent en danger notre planète et ses habitants. L'état vert, multivers, numérisateur. Peu importe le scénario, il faudra compter avec les forces les plus puissantes de notre époque.

• Speaker #1

  L'écologie,

• Speaker #0

  les technologies. Celles-ci doivent évoluer dans le sens d'un développement vertueux et attentif aux vivants et répondre aux besoins de chacun. C'est un mot. A. Action.

• Speaker #1

  Aujourd'hui, pour ce nouvel épisode d'Interface, le podcast de la communauté Impact Sociétal du CEA, le podcast où la science et l'innovation rencontrent la société, j'ai la chance d'accueillir le docteur Isabelle Tisserand pour parler cybersécurité, crypto, ordinateur quantique et agénérative. Bonjour Isabelle.

• Speaker #0

  Bonjour Julien.

• Speaker #1

  Vous êtes docteur de l'École des Hautes Études en Sciences Sociales, anthropologue, ingénieur, experte en sécurité et défense, spécialiste de la protection des patrimoines stratégiques. Vous êtes également enseignante, auteure de plusieurs publications. notamment une ethnographie des hackers, Hacking Hacker, les enfants du numérique, parue en 2002. Vous êtes également réserviste citoyenne de la Marine Nationale, conseiller de l'Institut Indépendant International pour les solutions satellitaires et spatiales. Pour débuter, et comme avec chaque invité, pouvez-vous me donner votre définition personnelle de l'impact sociétal ?

• Speaker #0

  L'impact sociétal, en anthropologie, c'est le résultat d'une action non conforme ou le résultat de l'intégration d'une production culturelle humaine. Alors, avec une influence sur la société. Une influence qui peut être conjoncturelle ou structurelle. Exemple, l'informatique dans le milieu éducatif va transformer la notion même d'éducation. On va aller vers des éducations, par exemple, hybrides. La machine à laver a transformé la vie des femmes. L'avion a transformé notre perception de possibilités de transport, etc. Donc, l'impact, c'est quelque chose qui va... soit faire régresser une société, soit au contraire la faire progresser, soit l'endommager, soit au contraire la protéger.

• Speaker #1

  Quand Sam Altman, le DG d'OpenAI, dit que l'IA, des millions de fois plus intelligente que l'homme, sera là avant 2033, Kélon Musk insiste sur le fait que l'IA est potentiellement plus dangereuse que les armes nucléaires et que la cybersécurité doit devenir une priorité absolue. Que Satis Nadella, le PDG de Microsoft, ne dit pas autre chose en soulignant que la cybersécurité... est le défi central de notre temps. Qu'en pensez-vous ? Selon vous, où en est aujourd'hui la sécurité sur le web ? Quels sont les enjeux de sécurité pour Internet ?

• Speaker #0

  C'est une question costaude. Alors déjà, ce qui me surprend, c'est qu'on parle de l'IA comme si c'était un dispositif décideur pour l'humanité. Nous ne sommes pas dans une culture animiste. Il y a quelque chose qui surgit qui s'appelle l'intelligence artificielle. Elle est créée grâce à une intelligence humaine. Nous avons, à ma connaissance, encore un libre-arbitre qui va nous permettre de considérer les risques qu'il y a à ne pas maîtriser ce nouvel instrument qui est censé augmenter l'intelligence humaine. Donc ça, c'est mon premier étonnement. En avant de quelque chose, on est quand même censé en maîtriser à peu près les effets. Alors sur la cybersécurité, ce qui se passe actuellement est absolument formidable. On voit juste surgir des choses absolument incroyables telles que l'osinte qui est donc... La possibilité d'accès à des outils de recherche d'informations très précises, très anciennes, très complexes, très mondiales sur le web, en open source, c'est tout de même assez incroyable parce que ça va révolutionner aussi toute notre conception de la cybersécurité. Donc ça, c'est un phénomène à prendre en compte. La cybersécurité, c'est aussi des systèmes d'information dont la robustesse est primordiale. On subit beaucoup de cyberattaques aujourd'hui. Ce que je me demande d'un point de vue prospectif, c'est est-ce que l'intelligence artificielle va nous permettre de proposer des solutions d'autorégulation de l'Internet et du Web, par exemple, pour le sécuriser toujours mieux ? Puisque force est de constater que les mots de passe, les firewalls et les sensibilisations comportementales ne suffisent pas.

• Speaker #1

  Donc concrètement, il y a beaucoup de craintes sur nos données personnelles, on parle notamment de tout ce qui est réseaux sociaux, etc. À l'instant T... Qu'est-ce que vous pensez de la sécurité sur Internet ?

• Speaker #0

  Alors, sécurité, ça vient de « securus » en latin, qui nous promet un état de confort, de sérénité, on est rassuré, on est dans une certaine assurance que le risque ne survienne pas. Donc, vous constaterez que l'espèce humaine met vraiment tout en œuvre pour sécuriser un maximum ses activités. Ses voyages, ses projets, ses finances, ses valeurs, etc. Or, le risque zéro n'existe pas. Sauf dans des environnements très confinés, hyper, super sécurisés, et sur des timings relativement courts. Exemple, un sous-marin, exemple, un vol habité, exemple, une plateforme pétrolière. Encore que l'action non conforme dont je parlais tout à l'heure, évidemment, elle peut arriver à n'importe quel moment.

• Speaker #1

  La sécurité aujourd'hui sur le web, on en est où ? On sait qu'on estime à 1,5 milliard le nombre de cyberattaques chaque année recensées dans le monde.

• Speaker #0

  Bien sûr, mais on estime à combien les dispositifs de prévention des cyberrisques et les systèmes de remédiation aux cyberrisques, peut-être tout à fait autant. Donc, c'est une sorte de jeu, en fait, entre un risque survient et une parade se crée.

• Speaker #1

  L'ordinateur quantique, c'est un des sujets à la mode, en tout cas des sujets brûlants. On estime, enfin, let's see, l'European Telecommunication Standard Institute, qu'en 2027 sera l'année cible où les ordinateurs quantiques pourraient devenir assez puissants pour casser la cryptographie classique en quelques secondes, ce qui serait une révolution. Est-ce que pour vous, ce danger est aussi imminent qu'on le pense ?

• Speaker #0

  Mais pourquoi est-ce qu'on en parle uniquement comme d'un danger ? C'est quand même une révolution technologique absolument incroyable, formidable, autant que le lancement d'une fusée finalement. Donc si ça nous permet de gérer plus d'informations, plus intelligemment, plus rapidement et de manière encore plus sécurisée, eh bien voyons ce que donnera l'ordinateur quantique. Encore une fois, ce n'est pas l'ordinateur quantique qui va décider de nos comportements. Il faut qu'on garde la main sur l'utilisation du quantique, ses usages et ses intérêts pour la société, pour les sociétés.

• Speaker #1

  Oui, mais vous en tant qu'experte, Vous êtes expert de sécurité, c'est pour ça que j'insiste un peu sur les questions. Vous êtes expert de sécurité, donc qu'est-ce que vous en pensez ? Au-delà du fait que ça peut être une chance extraordinaire, est-ce que le fait que tout peut être aujourd'hui, en quelques secondes, les clés de crypto peuvent être cassées en quelques secondes, est-ce que vous pensez qu'on se prépare à ça ? Comment vous voyez les choses ?

• Speaker #0

  Alors déjà en préambule, je pense qu'il faut qu'on espère que les laboratoires qui travaillent actuellement sur le développement du quantique soient déjà eux-mêmes très sécurisés. Donc on ne fasse pas n'importe quoi en termes de recherche. J'en pense qu'il faut espérer aussi qu'il y a des groupes de travail qui vont plutôt analyser la partie risque, pas seulement les risques informatiques, mais les risques aussi matériels, informationnels, économiques et sociétaux. Les impacts que le quantique va avoir sur la société. Imaginez les impacts du quantique sur l'entreprise demain. Sur le plan de la cybersécurité, il va falloir qu'on soit créatif et qu'on arrive à trouver des moyens de parer les attaques qui pourraient être encore plus rapides et encore plus offensives grâce aux quantiques.

• Speaker #1

  Et donc, on parlait du... Vous aviez écrit en 2002 un ouvrage sur les hackers. Le hacker d'aujourd'hui ressemble-t-il au hacker d'il y a 20 ans ? Est-ce qu'il va y avoir des cyber-hackers ? Comment voyez-vous les choses ?

• Speaker #0

  Alors écoutez, c'est quand même une histoire vraiment formidable parce que dans les années 95, on a vu des jeunes être emprisonnés. Il se passait réellement quelque chose. Ils étaient déjà nés avec l'informatique à la maison. Ils étaient donc déjà bien digitalisés. Et puis surtout, ils avaient des faits d'armes. C'est-à-dire qu'ils se faisaient remarquer en cassant des systèmes et avec des goûts très prononcés pour les trophées, en posant une question de fond. fondamentale qui était, ok, vous êtes en train de digitaliser la société et la planète, est-ce que votre monde est si solide que ça ? C'était ça la question de fond de ces jeunes à cette époque. Et donc, grâce à l'institution, puisque le ministère de l'Intérieur a été un véritable support, grâce à deux entrepreneurs, Yves Chemlin et Jean-Claude Tapia, qui ont dit, mais oui, finalement, est-ce qu'on pourrait pas travailler avec ces jeunes hackers, dont certains se mettaient en risque, sanitaire, du point de vue physique ? psychique et sociale, évidemment, c'était lié à la surexposition à l'écran à longueur de journée, à longueur de nuit. On a pu le faire, on a pu vraiment les comprendre et poser un défi en disant, aussi bien aux entreprises privées qu'à l'institution, il faut que vous travaillez avec eux. Aujourd'hui, à l'heure où on se parle, il s'appelle ingénieur en sécurité des systèmes d'information. On parle ici, à l'époque, on a parlé, vous savez, de chapeau noir. Chapeau gris, chapeau blanc. Alors les chapeaux blancs, c'était les hackers éthiques qui travaillaient en toute légalité. Aujourd'hui, on a oublié toute cette sémantique. Aujourd'hui, on parle d'ingénieurs en sécurité des systèmes d'information. En réalité, ils sont bien obligés d'éprouver la robustesse du système pour pouvoir mieux le protéger. Ce qui a changé, donc, c'est ce premier fait, c'est qu'ils ont été intégrés à l'entreprise, au ministère, etc. Et ça, c'est une très bonne chose. J'en ai connu au moment où on a monté la première équipe de hackers éthiques en 97. Ils travaillent aujourd'hui, ils sont pères de famille, ils ont des enfants, etc. Ils ont une éthique, ils ont une déontologie, ils connaissent les lois, ils ne posent aucun problème. Et heureusement qu'on les a d'ailleurs pour sécuriser, y compris les laboratoires de recherche. Aujourd'hui, ce qui change, c'est quand même que parallèlement à cette population qui s'est professionnalisée et qui s'est légalisée d'une certaine façon, il y a aussi de la délinquance. Ce qu'il faut remarquer, c'est quand même que la cyberactivité s'est militarisée considérablement, puisque je pense qu'anthropologiquement, nous subissons une guerre informationnelle et une guerre émotionnelle, avec visuellement, du point de vue des sens, nous ne sommes pas en contact avec la sueur et le sang, bien que quand même ça se joue à nos portes, aux portes de l'Europe. Mais en tout cas, il y a une véritable cyberguerre cognitive, émotionnelle, informationnelle. qui est supporté par des équipes de hack offensive. Et ça, c'est quand même un marqueur, on va dire, qui pose problème aujourd'hui. C'est que si l'on sait se servir d'un système d'information et si l'on sait pénétrer les systèmes d'information, on peut faire vraiment beaucoup de mal. Enfin, ce qu'il faut remarquer, c'est que ces populations de cyber sont devenues indispensables dans le monde d'aujourd'hui, aussi bien pour... l'industrie que la finance, enfin pour tous les secteurs d'importance, pour le pays, pour l'Europe, pour le monde, etc. Et qu'ils sont pour beaucoup aux manettes. d'un monde qu'ils ont contribué à fabriquer, et à digitaliser, et à cybersécuriser. Donc c'est à eux qu'il va incomber le devoir de trouver de nouveaux systèmes de protection, sachant que la protection d'un système d'information, la protection d'informations stratégiques et sensibles, elle passe aussi par le comportement de ceux qui manipulent, qui traitent, qui cherchent, qui trouvent ces informations.

• Speaker #1

  Est-ce que vous pensez que les États peuvent vraiment faire quelque chose, peuvent légiférer ? Je pense notamment, on parle du Darknet. L'Europe a lancé des initiatives comme l'EU Cyber Security Act, mais est-ce suffisant au niveau mondial ? Aux États-Unis, est-ce qu'ils sont en avance sur nous avec leur National Institute of Standard Technology ? Quel rôle les États, les institutions, puisque vous parlez des institutions, quel rôle peuvent-ils avoir et peuvent-ils vraiment faire quelque chose ?

• Speaker #0

  Alors, il y a des biais culturels. Vous voyez, pendant très très longtemps, vous observerez que le citoyen écoute la parole de l'État. qui est sur un plan plus psychologique, une sorte de père symbolique ou de mère symbolique qui guide, qui donne un protocole, qui recommande une façon de procéder, une façon de fonctionner dans la société. Ce qu'on a vu, c'est que... D'ailleurs, c'est amusant parce que ça me rappelle les propos d'un anthropologue qui m'a dit un jour, tu vois, les Français sont des grands adolescents, les Russes ce sont des parents et les Allemands ce sont des adultes. Et c'est vrai que ça traduit un petit peu le fait que l'État a joué un rôle symbolique très important pendant longtemps. Là, j'ai comme le sentiment, je peux me tromper, mais ce que je vois quand même, c'est que ça va beaucoup se passer en entreprise. Ça commence déjà à beaucoup se passer en entreprise, comme si le rôle de l'État pouvait être renforcé par les positions des entreprises. Par exemple, si nous parlons de... de la cybersécurité et de l'énergie que ça consomme, et peut-être de la très bonne idée de développer le numérique vert, l'État seul ne pourra pas le faire. Il aura besoin des entreprises et il va avoir besoin des citoyens. Donc ça, je trouve que c'est quand même un facteur, c'est un marqueur de changement. L'État n'est pas seul à agir. Maintenant, pour ce dont vous parlez, c'est-à-dire le dark web, etc., il se trouve que depuis la nuit des temps, il y a de la délinquance. dans les organisations sociales. Tout ce qui est mis en place, les dispositifs qui sont mis en place, cyberpolice, police, renseignements de sécurité, de défense, etc., finalement parviennent à faire en sorte que la cocotte minute n'explose pas. Mais éradiquer totalement la délinquance dans cette humanité, là, ça nous amène très très loin en termes de dystopie. J'ai des idées là-dessus, mais ça nous amène très loin.

• Speaker #1

  À l'heure de l'IA, justement, donc des technologies quantiques, et... Pour vous, quelles devraient être les priorités pour sécuriser Internet ? Et comment voyez-vous la sécurité du web dans les prochaines années ?

• Speaker #0

  Ça fait quand même un bail qu'on répète, il y a même eu des mouvements totalement militants là-dessus, qu'on répète que c'est dual. On peut faire des choses extraordinaires avec l'Internet, le web, etc., le quantique, etc., et l'intelligence artificielle. On peut faire aussi beaucoup de choses destructives. tout commence avec l'éducation. Mais si on continue à être aussi conservateur en se disant si le parent se dit c'est l'école qui va éduquer mon enfant à ne pas devenir un cybercriminel, ça ne suffira pas. Donc il faut que chacun prenne la mesure de sa propre responsabilité. Je vous assure, ça va faire un quart de siècle qu'on le répète quand même. Il faut ensuite que l'école prenne le relais, c'est-à-dire que Encore une fois, sortir des schémas totalement conservateurs qui ne consistent qu'à dire « si tu fais ça, tu seras puni » , non, les gens ne sont pas idiots. Et en plus, les jeunes générations sont de plus en plus intelligentes. On n'a jamais vu autant de HPI et de HPE que ces 15-20 dernières années quand même un petit peu partout. Donc ça ne suffit pas de dire « ne fais pas ça, tu seras puni » . Ce qu'il faut, c'est enseigner à ces jeunes générations les moyens de comprendre dans quel monde elles évoluent. et quels sont les risques qu'ils doivent conscientiser parce que ce ne sont pas les mêmes risques des générations d'il y a 10 ans ou d'il y a 20 ans. On a des expériences en université. Moi, je suis très surprise de voir à quel point ce sujet intéresse les jeunes générations. Leur dire, on va prendre un temps et on va déchiffrer l'environnement dans lequel vous êtes nés et dans lequel vous évoluez parce que les jeunes générations vivent dans deux mondes. connectés, parallèles, conjoints. Ce qui est quand même absolument incroyable. À partir du moment où ils ont compris cela, et à partir du moment où ils ont compris que trop peut mener à certains risques de dégradation de la santé, des relations avec la société, de l'interactivité qu'on a avec les proches, etc., mais qu'ils ont compris aussi toutes les capacités, toutes les compétences que ça permet de développer, alors on va vers des moyens de résilience et surtout de détection du risque. Ces générations sont très très intelligentes et elles comprennent parfaitement tout cela. Donc je pense que l'avenir est dans l'éducation, dans l'enseignement et bien entendu dans les supports technologiques.

• Speaker #1

  Pour conclure, quel rôle pensez-vous que des initiatives comme la communauté Impact Sociétal du CA peuvent jouer dans l'innovation des prochaines décennies ?

• Speaker #0

  Vous faites déjà des choses absolument formidables. Vous faites quelque chose que peu de gens peuvent encore faire, notamment dans les FinTank. On sent que la parole est libre. On sent qu'on peut explorer un sujet de manière très ouverte avec l'ensemble des collègues qui sont réunis dans cette société d'études, des impacts des nouvelles technologies sur les sociétés. Les lectures sont transdisciplinaires et ça c'est formidable, ce n'est pas qu'un discours chez vous, c'est une réalité. Et déjà si vous apportez ça, c'est vraiment énorme, c'est quelque chose de fondamental. Si on veut rester créatif, en libre penseur bien entendu. poser sur la table des scénarios, y compris tout à fait dystopiques, très futuristes, en examinant les façons dont nous allons pouvoir éviter certains risques, mais aussi développer certains projets. Donc communiquez, forcément, communiquez, pratiquez la maïotique, vous êtes entourés de chercheurs, faites-les accoucher de nouvelles visions, de nouvelles analyses, de nouvelles mises en perspective avec cette société qui a changé. Ça, c'est très intéressant et très important. Et puis ensuite, bien entendu, transmettez-nous.

• Speaker #1

  Merci Isabelle.

• Speaker #0

  Merci à vous.