Transcription

• Speaker #0

  Bienvenue dans Planet is the Limit, le podcast d'éducation et de sensibilisation aux limites planétaires. Moi, c'est Loïc. Avec ce podcast, je vous embarque à la rencontre de scientifiques et de spécialistes qui vont nous aider à mieux comprendre l'écosystème dans lequel on vit, comprendre les bénéfices qu'ils nous apportent et voir comment ça impacte concrètement notre qualité de vie sur Terre. Dans cet épisode, mon invité, c'est Lou Walgreen. C'est la présidente de Data for Good, une association qui met le digital et les données au service de l'intérêt général. Avec Lou On se pose la question du rôle et des impacts du numérique, notamment de l'intelligence artificielle. C'est une question que je me pose souvent dans le cadre de mes activités et je suis super content d'approfondir le sujet avec elle aujourd'hui. Bonjour Lou.

• Speaker #1

  Bonjour.

• Speaker #0

  Je suis super content de t'avoir dans ce podcast parce que, tu le sais peut-être pas, mais moi mon domaine, ma carrière a été fait dans le numérique et donc aujourd'hui on va parler de ça, donc je suis super content. On va parler aussi un peu de... du sujet de l'intelligence artificielle, parce qu'on parle aussi beaucoup de son utilisation, mais aussi de son impact. Mais avant de commencer, on a toujours une manière de procéder pour présenter les invités. On m'a expliqué que Pauline, chez nous, fait de l'illustration, et elle a créé ton portrait.

• Speaker #1

  Oh, wow !

• Speaker #0

  Et donc...

• Speaker #1

  Mais non !

• Speaker #0

  Et donc, du coup, on essaye d'utiliser ce dessin pour... pour que tu puisses te présenter, nous expliquer ce que tu vois sur ce dessin, ce que ça t'évoque sur ton parcours et qui tu es.

• Speaker #1

  Pardon, mais c'est incroyable d'avoir fait ça. Je suis hyper émue. Donc là, il faut que je raconte ce que ça me fait.

• Speaker #0

  Voilà ton parcours.

• Speaker #1

  Et bien, ce que je vois, c'est... D'abord, je vois Allons enfants, je pense qu'il y a le début qui est... C'était mon premier engagement qui a démarré en école. En fait, j'étais vice-présidente d'un parti politique dont le but était de redonner envie aux jeunes de s'engager en politique. Et en particulier, moi, je me suis occupée de toutes les questions environnementales du programme. Et on avait des grandes ambitions. On avait présenté 100 candidats de moins de 25 ans aux élections législatives de 2017. On n'a pas gagné. Mais en fait, pour moi, ça a vraiment éveillé cette envie de contribuer à comment est-ce qu'on fait des propositions qui sont ambitieuses pour transformer les objectifs de la France en matière environnementale, etc. Mais aussi une frustration de me dire, en fait, j'y connais rien, en fait, pour l'instant. Je n'ai pas encore commencé à travailler. Et là, je suis en train de rédiger un programme pour la France jusqu'en 2030. Donc ça m'a donné envie après d'arrêter un peu cette partie-là et d'aller travailler, de devenir experte en fait des sujets environnementaux. Et donc de fil en aiguille, je suis allée travailler chez Carbone 4, qui est une entreprise qui a été fondée par Jean-Marc Jancovici et qui est vraiment spécialisée dans la comptabilité carbone et l'accompagnement des entreprises pour se décarboner et mettre en place des stratégies environnementales ambitieuses. Et puis, en parallèle de ça, j'ai été coprésidente de Data for Good, qui est l'association dans laquelle je suis aujourd'hui, pendant sept ans. Et en fait, en janvier, j'ai sauté le pas de me dire, en fait, maintenant, j'ai envie de faire ça à plein temps. J'ai envie d'arrêter que ce soit quelque chose d'associatif à côté. J'ai envie de faire de l'associatif à plein temps et de porter mes combats encore plus forts, de pouvoir être... plus engagée et pas forcément encore dans le monde où on vend des biens et des services. Et du coup, en janvier, je suis passée à plein temps et donc ça me permet d'introduire Data for Good, qui est en fait une communauté aujourd'hui de plus de 7000 experts de la tech bénévole, qui donnent de leur temps pour co-construire avec d'autres organisations qui vont agir sur la justice sociale. la question de la démocratie et la question d'environnement et de biodiversité, les aider à accéder à des ressources techniques auxquelles elles n'ont pas accès avec leurs moyens habituels.

• Speaker #0

  Si vous donnez quelques exemples pour illustrer ça ? Oui,

• Speaker #1

  je vais donner quelques exemples. Par exemple, ça fait deux ans qu'on travaille avec une organisation qui s'appelle Bloom, qui milite pour protéger les océans. Et avec eux, on a construit une base de données qui permet de traquer en temps réel les 1700 plus grands bateaux de pêche dans le monde. et du coup de les aider à détecter quand ils sont dans des aires marines protégées ou pas, et donc de les aider à faire leur travail sur le terrain de manière plus précise, avec plein d'éléments à l'appui pour appuyer leurs plaidoyers. Ça c'est un exemple, et on a déjà fait plus de 130 projets depuis 2015. J'en donne quelques autres, par exemple, là en ce moment on travaille avec une association qui s'appelle Canopée, qui s'occupe de préserver la forêt des coupes rases abusives. Et du coup, on a construit tout un outil pour aider leurs bénévoles à détecter beaucoup plus rapidement les coupes rases abusives dans les forêts et pouvoir intervenir plus rapidement. Le point commun entre tous ces projets, c'est vraiment de dire que la technologie, pour nous, ce n'est pas du tout une finalité. Notre objectif, c'est qu'on fait systématiquement des projets main dans la main avec des associations qui sont expertes de leur sujet. qui ont un impact systémique et une vision du monde assez claire, du monde qu'elles ont envie de voir advenir pour rester dans les limites planétaires. Et on vient co-construire des choses ensemble, mais systématiquement en pensant la technologie comme dans son ensemble, en s'interrogeant sur qu'est-ce qu'elle va venir bouleverser localement, socialement, et jamais en pensant que c'est une solution. C'est quelque chose qui vient s'insérer dans un dispositif beaucoup plus large d'action et d'humains qui œuvrent pour préserver le vivant. Et du coup, ça, ça fait peut-être le pont avec notre deuxième mode d'action à Data4Wood, parce que j'ai beaucoup parlé des projets. On utilise la technologie pour l'intérêt général, mais on ne veut pas faire que ça, parce qu'aujourd'hui, la technologie, on nous la pousse à toutes les sauces dans la société. Les géants de la tech, en ce moment, ils sont même en train de nous dire, c'est Eric Schmidt, l'ancien CEO de Google, qui disait il n'y a pas très longtemps, en vrai, on n'a qu'à abandonner tous nos objectifs climatiques, on dérégule toute l'intelligence artificielle et elle va trouver la solution. Donc ça, c'est... l'état d'esprit des gens de la tech aujourd'hui. Et donc nous, en tant qu'utilisateurs et communauté d'experts, on a envie de se mobiliser contre cette hégémonie qu'on nous pousse et donc on fait de plus en plus de plaidoyer, de lobbying contre la dérégulation de cette IA, mais aussi beaucoup de prises de parole pour sensibiliser le grand public sur ces impacts environnementaux, sociaux très réels aujourd'hui sur notre société.

• Speaker #0

  Ouais, moi je trouve que c'est super intéressant, comme je te dis, moi je travaillais dans les 11 dernières années. année dans le secteur numérique, mais avec la même optique, c'est-à-dire d'utiliser les technologies pour, pas comme une finalité en soi, mais pour aider à un objectif climatique. Moi, le domaine qui m'intéressait, c'était, sur lequel j'ai agi, c'était l'énergie et la préservation de l'eau. Mais je me souviens d'une conférence récemment, on m'a demandé de venir parler de la technologie et j'ai dit mais La technologie, en fait, il faut se rendre compte qu'elle nous a apporté beaucoup de choses, mais c'est aussi la plupart du temps un espèce de soin palliatif, c'est-à-dire que comme on a dépassé pas mal de frontières planétaires, on se retrouve obligé d'utiliser la technologie pour essayer de maintenir notre état de confort et de vie, tout en sachant, et ça je pense que c'est tout. tout l'enjeu que vous avez dans la deuxième partie de votre action, de se dire que la technologie en elle-même a aussi son lot d'impact négatif. On parle souvent de l'impact sur les ressources. Et donc moi, je trouve que c'est assez important de parler de ces sujets-là. on voit le Le feedback qu'on a souvent, c'est de dire, ouais, mais regardez, si on regarde les émissions de CO2, finalement, le numérique, c'est quoi ? C'est 4% des émissions globales. Alors oui, ça augmente vite, mais vous faites des études sur ces domaines-là. Qu'est-ce que vous répondez quand on vous dit ça ?

• Speaker #1

  Oui. Alors nous, dernièrement, on s'est un peu spécialisé sur l'impact de l'IA pour vraiment montrer à quel point il est démesuré. Moi j'aime bien pour commencer prendre la définition de l'intelligence artificielle d'une chercheuse qui s'appelle Kay Crawford qui a écrit un livre qui s'appelle Contratlas de l'intelligence artificielle et elle dit que l'intelligence artificielle c'est le produit d'une triple extraction une extraction de ressources, une extraction de données et une extraction de travail et donc je trouve que c'est très important d'avoir ces trois dimensions parce que c'est pas que l'impact environnemental aussi il y a toute une réflexion à avoir sur comment est-ce que ces algorithmes sont construits euh notamment en exploitant des travailleurs du clic qui se sont rémunérés une misère pour modérer ces algorithmes, mais aussi en ayant pillé tous les spèches publiques en ligne, parce que ces modèles ont besoin d'énormément de données pour pouvoir fonctionner et donner des résultats pertinents. C'est pour ça que ça s'appelle des Large Language Models, les IA génératifs de type ChatGPT. Donc ça, c'est pour la partie un peu sociale et données qu'il faut toujours avoir en tête. Sur la partie des ressources, donc si je donne quelques chiffres clés pour répondre à ta question, pour s'intéresser aux ressources consommées par l'intelligence artificielle, il faut comprendre que très très loin de tout le vocabulaire consacré qui nous parle de nuages, de cloud, de serverless, sans serveur alors qu'il n'y a rien de plus physique que l'IA, du coup il faut s'intéresser à son infrastructure. Et donc pour l'intelligence artificielle, ce qui compte ça va être les centres de données. Et donc pour donner quelques ordres de grandeur, aujourd'hui les centres de données, d'après l'Agence internationale de l'énergie, ils représentent à peu près 1,5% de la demande d'électricité mondiale. Mais en fait, ils sont en train de connaître une croissance exponentielle. Donc là, on prévoit que ça atteigne, dans un scénario normal, à peu près 3% d'ici 2030. Donc 3%, c'est la consommation électrique du Japon, juste pour des centres de données. 3%. Et 3%, ça a l'air peut-être pas beaucoup, dit comme ça. Mais en fait, la problématique avec les centres de données, c'est qu'ils sont très concentrés géographiquement. Donc en fait, 3%, c'est pas du tout représentatif de la... des endroits où c'est positionné. Par exemple, en Irlande, les centres de données consomment 21% de la ressource électrique. Aux États-Unis aussi, c'est monstrueux, c'est là où il y a le plus de centres de données. Et ça, en fait, ça va venir générer des conflits d'usages locaux très forts, parce qu'en fait, il y a une électricité totale qu'on peut produire, et puis il y a des besoins, et donc lesquels on choisit de répondre. Et en France, on voit déjà des conflits d'usages. Par exemple, à Marseille, il y a la quadrature du net et le collectif Le Nuage était sous nos pieds qui ont documenté toute une enquête pour montrer que les centres de données à Marseille rentrent en conflit avec l'électrification des ferries du port de Marseille, sachant que les ferries génèrent énormément de pollution dans la ville, principalement près de quartiers plus populaires. Donc il y a aussi eu un enjeu d'inégalité et de choix entre l'électricité, est-ce que c'est pour les centres, est-ce que c'est pour décarboner ? Voilà, ça c'est un peu un petit panorama sur l'électricité. Après, les centres de données, ils ont aussi besoin d'énormément d'eau, notamment pour refroidir les serveurs, mais aussi et beaucoup principalement dans les pays où l'électricité qui est fabriquée, elle est faite à partir d'énergies fossiles. Dans ce cas-là, et aussi de l'hydroélectricité, ça va avoir besoin de prélever et de consommer beaucoup d'eau. Et plus les centres de données vont être distribués dans des zones où il y a déjà un stress hydrique, et plus leur installation va perturber les cycles d'eau locaux. Et puis il y a la question des métaux, qui est aussi essentielle, parce que dans un data center il y a énormément de serveurs, donc les métaux sont réquisitionnés pour tous les terminaux qu'on va fabriquer, les serveurs pour utiliser l'IA. Et la course actuelle... pour produire des puces de plus en plus petites, de plus en plus performantes. Ça fait qu'on a besoin de quantités de métaux de plus en plus grandes, mais aussi de plus en plus pures. Et donc, on va utiliser de plus en plus d'énergie pour fabriquer ces puces et aussi de produits chimiques pour créer des métaux très, très purs. Et tout ça, ça va avoir énormément d'impact direct, de conflit d'usage aussi. Et je pense que c'est important... là j'ai parlé que des impacts directs et c'est très souvent les premiers impacts que les gens ont en tête quand on parle des centres de données au delà de toutes les questions de biodiversité de pollution, de bruit que j'ai pas encore mentionné, de déchets aussi je vais pas tous les faire parce que sinon je vais infiniment vous déprimer mais je pense que ce qui est important c'est qu'il faut dépasser ces impacts directs locaux même si c'est l'infrastructure qui soutient l'intelligence artificielle et il faut vraiment s'interroger sur cette intelligence artificielle au service de quoi elle se met dans l'économie, au service de quel secteur et les intérêts de qui elle vient servir pour vraiment comprendre la dynamique qui est à l'oeuvre.

• Speaker #0

  Oui, parce que moi je trouve que c'est super de rappeler effectivement, j'aime beaucoup la notion de séparer les impacts en trois catégories. On ne se rend pas bien compte, mais en fait la dématérialisation n'a jamais existé. Je me souviens, justement, en France, on avait dit qu'il faut envoyer moins d'emails ou regarder moins Netflix. Mais finalement, quand on va un peu plus loin dans l'analyse, on se rend compte que le vrai impact, si on prend Netflix par exemple, il est essentiellement aussi dans le fait qu'on achète plein d'écrans. Et donc, c'est aussi la consommation induite par toutes ces technologies qui nous pose problème. Et que par rapport à ces éléments-là, il y a moyen effectivement de légiférer pour que les systèmes tiennent plus longtemps ou en tout cas de sensibiliser les consommateurs.

• Speaker #1

  Ouais. Et puis surtout, je pense qu'au-delà de la question des consommateurs qui est importante, mais pour moi, il y a un sujet de choix politique gigantesque. En France, là, on vient d'annoncer, Emmanuel Macron vient d'annoncer avec le sommet pour l'IA qu'on allait... construire 35 nouveaux centres de données dédiés uniquement à l'intelligence artificielle en France. Il a aussi annoncé 109 milliards d'investissements. Au même moment, on était en train de tailler dans les budgets du ministère de l'Écologie et de la Transition en France. Donc en fait, il y a un espèce de deux poids deux mesures et une espèce de diversion générale de... l'argent de notre temps vers ce mythe de la technologie, du technosolutionnisme. Or, en fait, ce qu'on voit dans les faits, c'est qu'aujourd'hui, cette intelligence artificielle, elle se met principalement au service des acteurs les plus carbonés. C'est-à-dire que, par exemple, le secteur de pétrogazier entretient des liens très étroits avec les géants de la tech et que, je donne un chiffre par exemple, Un seul contrat de Microsoft avec ExxonMobil, ça lui permet d'extraire 50 000 barils de pétrole supplémentaire par jour grâce à l'intelligence artificielle. Et ça, c'est un seul contrat. Et on a ce chiffre que parce que Microsoft en est vendé dans un communiqué une fois. Mais en fait, sinon, il y a une opacité aussi très, très forte des acteurs sur la question, sur leurs vrais impacts et sur les liens qu'ils nouent. Mais donc, pour comprendre cette question de l'impact de l'intelligence artificielle, il faut vraiment... aller s'interroger sur l'économie et aussi tous les effets un peu plus indirects auxquels on pense pas, qu'on n'a pas forcément spécialement en tête. Par exemple, les réseaux sociaux, les algorithmes de recommandation qu'on utilise, en fait, c'est des IA. Et ces IA, elles fonctionnent de manière à viraliser les contenus qui vont retenir le plus notre attention, souvent les plus violents, les plus extrêmes. Et donc elle participe énormément de fake news, de désinformation sur le climat. Le climat est l'un des sujets les plus touchés par la désinformation en ligne. Et ça, indirectement, ça va venir ralentir notre adhésion à des mesures de transition. Ça va venir ralentir aussi nos adhésions à, en tout cas, faire plutôt émerger des parties d'extrême droite qui véhiculent des projets sociétaux qui sont loin d'être écologiques. Tout ça participe d'une grande accélération et en même temps transformation de notre monde sur lequel on a aujourd'hui très peu de recul et qu'on a vraiment du mal à quantifier.

• Speaker #0

  Il y a autour des sujets des réseaux sociaux, il y a aussi ce concept de bulle. On n'a plus accès, ils nous privent de l'accès à certaines informations. Et sur l'IA en particulier, il y a effectivement cette problématique de biais. Donc, c'est un des plus gros dangers que j'envisage. C'est de se dire, déjà, les réseaux sociaux nous ont beaucoup manipulés en créant ces bulles cognitives et en finalement filtrant l'information pour nous, à notre place, sans qu'on s'en aperçoive. C'est surtout ça, le danger. Et avec l'intelligence artificielle, c'est... J'ai l'impression que c'est la même chose, c'est-à-dire que la manière dont ces modèles sont entraînés influence leur comportement de réponse à des questions. Et on voit par exemple dans des outils comme OpenAI, qui sont d'ailleurs aussi des black box, on ne sait pas vraiment ce qu'il y a derrière, on voit que les comportements de réponse qu'ils ont aux États-Unis, en Europe ou ailleurs sont différents. et donc quelque part ça veut dire que... La formation n'est plus universelle, et donc c'est assez effrayant de se dire que cette connaissance pourrait être, quelque part, manipulée avec ces outils, qui pourtant, factuellement, donnent parfois des mauvaises réponses, on le sait, c'est juste qu'ils les donnent de manière... J'ai vu que c'était... Alors peut-être que t'es dans les meilleurs chiffres que moi... J'ai lu un rapport qui disait que dans 40% des cas, l'information de la réponse que nous donnait l'AI contenait au moins une erreur. Moi,

• Speaker #1

  j'avais 30% en tête,

• Speaker #0

  mais oui. Voilà, donc ça peut-être dépend des pays ou des types de questions. Et donc, du coup, au niveau... Quels sont les leviers qu'on peut avoir ? D'abord, peut-être en tant que citoyen, est-ce qu'il y a des réflexes qu'on doit avoir ? On va parler de l'esprit critique, j'imagine, mais même dans nos comportements d'utilisation du numérique, il y a des choses que vous communiquez, des bonnes pratiques à avoir en tant que citoyenne ?

• Speaker #1

  Oui. Alors j'avoue, nous, on ne communique pas spécialement à ce niveau-là, parce que nous, en fait, on essaie vraiment de se focaliser sur une approche systémique où on demande vraiment des choix politiques forts. Du type arrêter d'appuyer sur l'accélérateur. Par exemple, en ce moment, en France, on a une loi sur la simplification de la vie économique qui est en train d'advoter. Et une partie de cette loi propose de faire des centres de données, des projets d'intérêt national majeur. Et donc, du coup, ça, ça leur permet de déroger à énormément de... Règles environnementales, mais aussi d'écarter les citoyens de la concertation et de la décision sur comment est-ce que leur territoire va être aménagé. Et ça, c'est en train d'être voté maintenant. Il y a des énormes enjeux pour nous à demander, exiger que la société civile soit mise à la table et qu'on s'interroge collectivement sur quels sont nos besoins. Est-ce qu'il y a des secteurs ou des besoins où vraiment on ne peut pas se passer de l'intelligence artificielle ? Mais ça, il faut qu'on le décide collectivement. Et une fois qu'on a décidé ça, on dimensionne et on planifie une infrastructure qui permet de répondre à ce besoin-là. Mais pas l'inverse. Là, en fait, on est en train de constater exactement l'inverse. C'est-à-dire qu'on en construit plein partout sans réfléchir. C'est le marché qui domine tout. Et en fait, dans une espèce de vision comme si... Depuis 2022, depuis que Chez GPT est arrivé, les limites planétaires n'existent plus. Et ça, ce discours, je le disais un peu tout à l'heure, mais en fait, il est tellement alimenté par les géants de la tech qui sont tellement riches pour avoir la main mise sur les médias, la manière dont on en parle, et diffuser leur discours autour de cette CIA complètement magique et providentielle. C'est dur de se battre contre ça, mais déjà, essayer de promouvoir ce message partout, c'est essentiel.

• Speaker #0

  Finalement, c'est se dire que la technologie est certainement utile, mais qu'il faut choisir là où on va l'exploiter. Et forcément, si on choisit, quelque part, on limite son utilisation et donc on limite aussi son impact négatif. Des bilans carbone, par exemple, il y a quelque chose qui n'est pas souvent mentionné, c'est qu'on parle tout le temps du scope 1, scope 2, scope 3. Et puis, ce qu'on oublie souvent,

• Speaker #1

  c'est la finalité.

• Speaker #0

  Et le scope 4 aussi, qui est de dire, est-ce que par l'utilisation de la technologie, elle a elle-même un impact, mais est-ce que finalement, elle aide aussi à réduire ? l'impact au niveau écosystémique. Et là, il y a moyen vraiment de prendre des décisions pertinentes, de se dire, alors là, c'est sur le carbone, mais on peut faire ça sur l'ensemble des domaines. On a l'impression que ça ne percole pas trop au niveau des politiques. J'imagine que vous faites face aussi à des lobbies qui sont extrêmement puissants. Tu parlais de la big tech.

• Speaker #1

  Par exemple, sur la loi dont je parlais tout à l'heure, Les acteurs en face de la société civile, qui étaient quatre associations qui faisaient ce qu'elles pouvaient à côté du reste de leur travail pour essayer de parler à des députés et de leur parler de ces choses-là. C'était l'association France Data Center, dans laquelle on retrouve Amazon, Google, tous les géants de la tech, plus les géants de l'oil and gas. Donc tous ces petits amis réunis. contre... C'est très compliqué de se battre contre ça. Et pourtant, il faut absolument le faire. Et par rapport à la question des citoyens, juste pour revenir rapidement sur la question des citoyens de tout à l'heure, je pense qu'au-delà de, bien sûr, toute la question des équipements, de les garder le plus longtemps possible, etc., je pense qu'il y a aussi toute une dimension, en dehors de la question de l'impact environnemental, qui est aussi une question de souveraineté sur sa propre donnée. et d'aller migrer le plus possible vers des alternatives open source, où on a une maîtrise de où sont stockées ces données, et où on peut choisir des alternatives qui sont beaucoup plus engagées aussi. Je pense que c'est très important aussi d'avoir ce double discours-là en tête, en tant que citoyen, ne serait-ce que pour se protéger.

• Speaker #0

  Oui, on le voit, on a vu, je ne sais plus dans quel pays européen, mais je ne sais pas, le Danemark, ils ont décidé de... d'arrêter d'acheter simplement des composants qui étaient fermés et de passer sur des alternatives qui sont open source. Moi, ce que je vois aussi, c'est que si on reprend par exemple l'intelligence artificielle... Il y a un mauvais réflexe, je pense, dans les technologies, c'est d'utiliser toujours la technologie qui est la plus consommatrice pour faire des choses qui pourraient être faites par quelque chose de beaucoup plus simple. Si on parle des large range modèles, il y a des modèles qui sont avec énormément de paramètres, et des modèles qui sont beaucoup plus petits. On voit d'ailleurs dans les facteurs économiques Les plus petits modèles coûtent moins cher, donc on peut se projeter, même si c'est assez opaque derrière, sur se dire que finalement, ces modèles-là consomment moins d'énergie, moins de ressources, et donc on a besoin de moins de data centers. Et donc, il y a aussi certainement une éducation à donner, même aux entreprises, de se dire que finalement, elles peuvent faire des choses tout aussi puissantes sans forcément sortir la technologie la plus démesurée. Donc ça, j'ai l'impression... même en tant que citoyen, quand vous allez sur Tchad GPT ou sur l'équivalent, si on veut parler de souveraineté, peut-être de parler de Mistral, de se dire, quand vous allez sur ces serveurs-là, quand vous posez une question, vous n'êtes pas obligé d'utiliser le modèle le plus élaboré parce que très probablement qu'un modèle plus petit et moins énergivore va pouvoir vous donner des réponses aussi pertinentes.

• Speaker #1

  Est-ce que vous en avez besoin ? Parce qu'en fait, le... Le risque de ce... Et en fait, c'est ce qu'on observe dans l'histoire du développement de la technologie depuis le début. C'est qu'en fait, à chaque fois qu'on fait des modèles qui sont plus efficients ou qu'on fait de la technologie qui est plus efficiente énergétiquement, on l'utilise plus. Et en fait, ça, c'est 1000% de fois vérifié en ce moment dans la tech. En ce moment, on fait des puces de plus en plus petites, des data centers de plus en plus performants et pourtant, ils sont de plus en plus gros et on vend de plus en plus de puces et c'est non-stop et c'est quasi exponentiel. Donc il faut vraiment... Là, il faut vraiment se dire qu'on ne le garde que pour les usages qui nous permettent de rester dans les limites planétaires. Et avec aussi une dimension très importante et très complexe aujourd'hui à résoudre parce que c'est très opaque. Mais aussi, comment est-ce qu'ils ont été construits ces modèles ? Il n'y a pas que l'impact environnemental.

• Speaker #0

  Il y a aussi tous les ressources qu'ils ont consommées pour pouvoir exister. Les ressources,

• Speaker #1

  les personnes qui ont été exploitées pour pouvoir fabriquer. cette intelligence, etc. Et en fait, ça, c'est complètement absent aujourd'hui du débat.

• Speaker #0

  C'est vrai qu'on n'a pas à fourre conscience, on a l'impression que tout est automatisé quand on parle d'intelligence artificielle, mais en fait, pas du tout, puisque justement, les modèles, si on les laisse sans contrôle, ils peuvent partir dans des directions non voulues. Et donc, ce qui se passe derrière, pour un peu expliquer, c'est que bien souvent, avant qu'un modèle sorte au grand public, Il est testé par toute une série de personnes qui posent des questions, qui changent les réponses, qui rentrent des billets dans ces modèles pour qu'ils soient plus conformes au niveau de leurs réponses par rapport à ce qu'on pourrait attendre. Ce que tu expliques là, c'est que potentiellement, il y a des milliers de personnes qui sont en millions. C'est ce qu'on entend,

• Speaker #1

  centaines de millions, je crois.

• Speaker #0

  Je me souviens d'un service qui avait été... qui était commercialisé à un moment donné par Amazon, je ne sais pas si c'est encore le cas, mais où tu donnais une tâche. genre manipuler un fichier Excel pour sortir des informations. Et en fait, ce que ça faisait derrière, c'est que ça te renvoyait ce que tu demandais. Mais c'était des personnes... C'est Mechanical Turk, n'est-ce pas ? Oui, c'est ça, oui.

• Speaker #1

  Mais d'ailleurs, ça c'est Mechanical Turk, c'est un programme qui a été lancé par Amazon. C'est exactement ça, c'est en fait, on micro... des coupes des tâches qui sont réalisées par des humains qui sont payés à la tâche une misère. Et en fait, il y a un nouveau scandale comme ça qui a éclaté il n'y a pas très longtemps sur une autre startup d'IA, alors je me souviens un peu de son nom, mais qui faisait semblant de coder des applications intégralement de manière automatisée. En fait, c'était juste envoyé en Inde des ingénieurs indiens sous-payés qui faisaient tout. Et quand le scandale a éclaté il n'y a pas très longtemps. En fait, si ça, le masque derrière les acteurs de l'IA, c'est énormément de travail caché. En fait, il n'y a rien d'artificiel.

• Speaker #0

  On parle vraiment de problèmes d'éthique. Moi, j'en reviens revenir sur un sujet que je trouve super pertinent. C'est les choix qu'on va devoir opérer. Et ça, c'est des limites qui sont déjà là aujourd'hui. C'est-à-dire que si on rajoute, je ne sais pas combien tu m'as dit, le data center en France.

• Speaker #1

  35.

• Speaker #0

  Simplement, il n'y a pas assez d'électricité. pour pouvoir subvenir aux besoins de ce data center. Et j'avais vu un débat comme ça aux États-Unis où à un moment donné, la question était posée de se dire si on rajoute un data center, je crois que c'était à New York, potentiellement, on dit aux gens qu'ils sont en plus éclairés. Enfin, je veux dire,

• Speaker #1

  à un moment donné... C'est dur de savoir exactement de combien il faut voir. Ça dépend de la situation électrique de chaque pays. Mais c'est sûr que ce qui est très clair, c'est qu'on a une quantité limitée. On touche des contraintes physiques. On a une quantité limitée de ressources, de métaux, d'eau, d'électricité. À quoi est-ce qu'on veut l'utiliser ? Et en fait, aujourd'hui, c'est le marché qui décide. Et en fait, du coup, on ne prend pas les bonnes décisions. Donc, c'est pour ça que ça va être fondamental de choisir dans les prochaines années.

• Speaker #0

  Et comment on fait pour éviter cet effet globalement, par exemple chez nous ? Parce que j'ai l'impression que... En Europe, on est fort en réaction. On a vu les Chinois qui investissent massivement dans ces technologies. On a vu les Américains qui investissent massivement dans ces technologies. Puis nous, on se retrouve un petit peu au milieu, avec quand même, je pense, un peu plus de questionnements sur l'utilisation des ressources peut-être en Europe que ce qu'il y aurait aux États-Unis. Mais comment on réagit comme ça quand on est dans un monde qui est... qui est globalisée, comment est-ce qu'on fait pour quand même tenir notre place et faire autrement ?

• Speaker #1

  Ce qui est sûr, c'est que je n'ai pas la réponse magique. Par contre, ce que je peux dire, c'est que en fait, ce qu'on est en train de faire actuellement, ça ne fonctionne pas. Parce qu'on est en train de... En fait, on est en train de nous faire croire que... Et c'est des arguments qui sont brandis pour fabriquer des centres de données actuellement en France, qu'il faut absolument accélérer. Sauf que là, en fait, on est en train d'ouvrir les vannes. pour que plein de centres de données opérés par des entreprises étrangères s'installent en France. Là, dans les 35 qui sont prévus, il y en a une grande partie qui sont américains, canadiens. Il y en a quelques européens, mais c'est très très faible dans le package total. Donc en fait, d'une certaine manière, on est aussi en train de renforcer notre dépendance. parce qu'on accentue... Plus on crée des systèmes ultra centralisés de collecte de données, de... Plus on fragilise d'une certaine manière, plus on devient dépendant de la technologie, plus aussi on fragilise nos économies en cas de problèmes, en cas de discontinuité, en cas de coupure d'électricité, en cas de plein de choses. Donc en fait, on a toujours peur de passer à côté de quelque chose, mais on ne regarde jamais ce qu'on est en train de perdre en sur-technologisant tout ce qu'on fait. Et sachant qu'en ce moment, les choix qu'on fait, ce n'est pas du tout des choix qui nous rendent autonomes et indépendants en termes de souveraineté numérique. On maîtrise très mal la couche logicielle aujourd'hui. C'est principalement des acteurs américains qui opèrent tous les logiciels de collecte de données qu'on utilise.

• Speaker #0

  Moi j'ai l'impression qu'on ne maîtrise aucune couche.

• Speaker #1

  Que voilà.

• Speaker #0

  Les puces elles viennent d'ailleurs.

• Speaker #1

  Mais donc c'est pas en installant des centres de données opérés par des entreprises américaines qu'on devient plus souvent. Il va falloir une réflexion beaucoup plus structurelle. On sera souverain que si on choisit très précisément ce sur quoi on veut l'être. Parce que là, on ne peut pas être sur tout. Et d'ailleurs, pour le bien-être de la survie des humains sur Terre, il ne le faut pas.

• Speaker #0

  Moi, j'avais quand même une question par rapport à ce que tu as dit au début, que tu t'intéressais aux problématiques climatiques, frontières planétaires, etc. Qu'est-ce qui t'a fait plonger dans le numérique ? Pourquoi est-ce que tu t'es dit, je vais aller chez DataFox ? For good. Qu'est-ce qui fait que tu es dans ce domaine-là plutôt qu'ailleurs ?

• Speaker #1

  C'est une bonne question. En vrai, je ne sais pas trop. Non, enfin si, j'étais en école et j'ai un peu découvert le monde de la donnée dans un cours que j'avais. Et en fait, c'est trop bien parce que c'était la première fois que j'avais l'impression d'apprendre des trucs et de faire des trucs un peu concrets.

• Speaker #0

  Voilà,

• Speaker #1

  mes courses étaient un peu... ça ne me correspondait pas du tout à ce moment-là de ma vie. Et j'ai trouvé ça super intéressant et assez gratifiant d'arriver à connaître et développer des trucs. Mais par contre, en commençant à m'intéresser au secteur, il n'y avait vraiment aucun métier là-dedans qui m'intéressait. Chaque fois que ça s'incarnait dans des entreprises de la tech, ça ne m'en avait pas du tout envie. Et par contre, en parallèle, en commençant à rentrer dans le monde du travail, plutôt dans des organisations, mon premier travail, c'était chez Phoenix, qui lutte contre le gaspillage alimentaire, je me suis aussi rendue compte qu'il y avait vraiment un manque criant de ces technologies, de ces expertises, dans ce genre d'entreprise. Et du coup, j'ai eu envie d'essayer de voir comment est-ce qu'on peut faire le pont entre ces deux mondes. Et du coup, ce qu'on aime bien dire avec Data for Good, c'est qu'on aime bien reprendre une citation d'un ancien manager de Facebook qui disait « Les cerveaux les plus brillants de ma génération passent leur temps à faire cliquer des gens sur des pubs et ça craint. » Et donc nous, on s'est un peu dit « Comment est-ce que ces cerveaux-là, on peut aussi les orienter ? » Alors, je ne dis pas du tout que c'est les plus brillants. Il y en a plein d'autres qui sont très brillants et même beaucoup plus brillants. Mais c'est juste comment est-ce qu'on peut orienter ce temps cerveau disponible Merci. vers des sujets beaucoup plus prégnants et utiles.

• Speaker #0

  Oui, ça fait tout à fait le parallèle. Ça a beaucoup d'écho pour moi parce que j'ai travaillé dans le secteur pharma et bancaire. Je me suis dit, mais enfin, qu'est-ce que je fous là ? Je suis en train de faire l'inverse de ce que je devrais faire. C'est pour ça que j'ai été dans le secteur de l'énergie. Je trouve que c'est un bon message à deux niveaux. Le premier, c'est utiliser ton cerveau pour aller travailler pour des sociétés qui ont peut-être des impacts plus négatifs ou tu peux l'utiliser parce qu'en fait, il y a énormément de boulot aussi dans ce secteur lié aux frontières de financement. Mais il y a toujours moyen d'être créatif et l'entreprenariat, c'est une voie. Et puis, le deuxième élément, je trouve qu'il est important. C'est que les données, ce qui t'a donné envie dans tes études, c'est une manière de faire de l'abstraction de l'information et la rendre plus accessible. Et finalement, c'est aussi un peu l'objectif de ce projet, c'est de se dire, en fait, si les gens n'ont pas les bonnes données dans leurs mains pour essayer de comprendre pourquoi c'est important, ces frontières planétaires, pourquoi on doit s'en préoccuper, eh bien, en fait, il n'y a pas d'action qui va venir derrière.

• Speaker #1

  Après, je pense qu'il faut... Parfois, ça, c'est un peu l'excuse pour avoir... Je suis totalement d'accord avec ce que tu as dit. C'est juste que je trouve qu'aujourd'hui, parfois, dans le débat, c'est presque... Ah ben non, on n'a pas assez de données. En fait, il faut qu'on sache au dixième de degré près de combien la Terre va se réchauffer avant d'agir. Non, peut-être qu'on peut y aller. Je pense qu'on a compris. Donc, ça, c'est un peu parfois le travers dans lequel on peut tomber. Mais après, je suis totalement d'accord avec toi. Et d'ailleurs, c'est vraiment une de nos missions chez Data for Good. Et le type de projet qu'on fait le plus, C'est vraiment un des grands constats qu'on a construit au fil du temps, c'est vraiment de se rendre compte qu'il y a des assos qui font des trucs incroyables et parfois elles ont juste besoin de quelques chiffres, un chiffre choc, un chiffre clé pour pouvoir porter leur plaidoyer et être crédibles et pouvoir aller voir plein d'acteurs et les convaincre avec eux. Et nous, ça c'est vraiment un truc qu'on essaie de faire de plus en plus et qu'on fait beaucoup, d'aller analyser plein de données et trouver le chiffre fort qui va permettre de convaincre et de montrer qu'il y a... Merci. faire le diagnostic du problème.

• Speaker #0

  Je trouve que c'est super utile. Peut-être pour conclure, ceux qui voudraient aller se renseigner un peu plus sur les problèmes éthiques, l'utilisation des ressources, peu importe, autour du numérique ou de l'AI, est-ce que tu peux les pointer dans certaines directions ? De documentaires que tu as vus, de sites ?

• Speaker #1

  J'en ai plein. J'ai le droit d'en dire combien ?

• Speaker #0

  Les top 3.

• Speaker #1

  Top 3. Alors, le premier, je l'ai mentionné en intro, mais vraiment, je le recommande énormément, c'est le Contratlas de l'intelligence artificielle de Kate Crawford, parce qu'il fait vraiment un bon résumé de tous les impacts écologiques de l'intelligence artificielle. Donc ça, c'est vraiment très recommandé. Il y a un chercheur français qui est spécialisé sur l'impact indirect du numérique qui publie... plein d'articles hyper intéressants pour rentrer dans le détail de l'impact du numérique. Il s'appelle Gautier, aussi, que je vous conseille de suivre. Et puis, un troisième, je pense, je ne l'ai pas fini, mais je pense qu'il est très intéressant à lire. C'est un livre qui vient de sortir, qui s'appelle Empire of AI, qui est un livre qui raconte toute l'idéologie de Sam Altman. Parce que je pense qu'au-delà de comprendre l'impact environnemental des technologies, il faut comprendre la philosophie, l'état d'esprit des gens qui construisent ces technologies. Avec vraiment ce truc qu'on essaie de dire aussi très très fort avec Data for Good, que la technologie elle n'est pas neutre, ce n'est pas juste des outils. Parce que par les biais, par les données qui sont injectées dans les modèles, par la manière dont ils modélisent, tous ces modèles en fait, ils incarnent une vision du monde et il faut la comprendre pour pouvoir la combattre.

• Speaker #0

  Merci beaucoup pour ton temps, toutes ces informations. Je conseille à tout le monde d'aller suivre Data for Good, voir les projets que vous faites. Et finalement, comme vous donnez accès à des informations qui sont utiles, je pense que ça fait la bonne continuité de notre projet. Merci beaucoup.

• Speaker #1

  Merci pour l'invitation.

• Speaker #0

  Merci d'être arrivé jusqu'ici. Si vous voulez approfondir le sujet, on vous met des infos et des ressources en description. Pour nous aider, il y a vraiment une chose à faire. Abonnez-vous. Merci et à très vite pour la suite.