- Speaker #0
Bonjour et bienvenue dans le podcast de Télécom Paris, la première grande école d'ingénieurs du numérique. Nous nous demanderons aujourd'hui s'il y a des bifurqueurs parmi les chercheurs en intelligence artificielle. La question peut paraître incongrue, mais ces chercheurs et chercheuses peuvent être aussi au cœur de questionnements sur l'impact de leur recherche sur l'environnement. Tiffaine Viard, enseignante chercheuse à Télécom Paris, a documenté ce phénomène. à travers une étude menée avec Simon Delarue et Jean-Samuel Bescar sur le positionnement des chercheurs face à l'impact environnemental de l'IA. Étude très complète puisqu'elle a combiné un corpus quantitatif et des entretiens individuels avec une quinzaine de chercheurs. Je la reçois aujourd'hui pour en parler. Bonjour Tiffaine.
- Speaker #1
Bonjour Isabelle.
- Speaker #0
Tout d'abord, est-ce que tu peux nous dire quelques mots sur le contexte de ton étude et sa méthodologie ? On va peut-être d'abord commencer par le corpus documentaire.
- Speaker #1
donc effectivement le le Le contexte, c'était de comprendre si, dans un contexte de crise climatique et à la fois de modèles d'intelligence artificielle qui sont parfois présentés comme une solution à cette crise climatique, mais qui ont aussi un coût matériel et écologique très élevé, comment les chercheurs et chercheuses en IA s'appropriaient ces questions-là et changeaient ou non leur objet de recherche en conséquence. On a à la fois un corpus documentaire d'articles scientifiques qui, pour nous, correspondent à... la production scientifique légitime sur le sujet. Donc quels sont les articles et les publications qui parlent d'intelligence artificielle et d'environnement ? Et est-ce qu'on peut voir des sujets qui émergent là-dedans, qui sont plus ou moins visibles ? Et un deuxième volet dont je reparlerai plus tard sur une quinzaine d'entretiens qualitatifs cette fois, d'entretiens de deux, trois heures en général, avec des chercheurs individuels pour comprendre plutôt leur parcours personnel. et à quel point leurs préoccupations et leurs envies scientifiques se reflètent dans ce corpus de publication. Et donc pour revenir sur ce corpus, on a en gros entre 9 et 10 000 articles scientifiques qui parlent d'IA et d'environnement de manière assez large. Et donc on voit qu'il y a, ce qui n'est pas très très surprenant, il y a des communautés qui émergent, qui sont en général très proches d'application. Donc on a... IA pour une application donnée, donc IA pour l'agriculture, qui est historiquement un domaine très très présent, ou IA pour la biodiversité par exemple, ou IA pour du matériel spécifique, soit des éoliennes ou des choses comme ça. Donc là il y a déjà un champ qui est ce qui se regroupe dans ce qu'on appelle en général AI for Green, et un deuxième champ qui est plutôt Green AI, qui est plutôt rendre l'IA plus verte. Donc typiquement, on va retrouver des choses... visant à consommer moins avec des modèles d'IA, donc IA frugal, etc. Mais très peu, finalement, de moins utiliser d'IA. En fait, dans tout ce corpus, la grande majorité de ce corpus, il y a un présupposé qui est, on va utiliser de l'IA, et donc on la rend plus verte, ou on l'utilise pour des questions environnementales. Mais le présupposé dans les publications scientifiques, c'est, on va utiliser un modèle d'IA.
- Speaker #0
Alors, on va passer à la partie entretien maintenant. Donc, quels sont les chercheurs que tu as interviewés ? Et sont-ils ou elles tous à la base des chercheurs en intelligence artificielle ?
- Speaker #1
Dans une étude quantitative, on peut avoir 10 000 articles, par exemple. Quand on fait des entretiens, on peut difficilement parler à 10 000 personnes. Et donc, du coup, il faut cadrer un petit peu plus. Et là, en l'occurrence, on s'est dit, OK, ce qui nous intéresse, c'est qu'est-ce qu'on ne voit pas dans les publications scientifiques pour avoir un regard complémentaire ? Et donc on a spécifiquement ciblé des chercheurs et chercheuses en intelligence artificielle, soit par le passé, soit actuellement, en laissant la possibilité aux personnes elles-mêmes de s'autodéterminer, de définir s'ils ou elles considèrent avoir fait de l'intelligence artificielle ou non, et qui, à cause de leurs préoccupations environnementales, ont redirigé leurs recherches ou souhaitent rediriger leurs sujets de recherche. Et donc là, ce qu'on cherche à visibiliser, c'est... pour les personnes qui veulent ou qui ont de fait bifurqué plus ou moins fort, quelles sont les envies, quelles sont les stratégies, qu'est-ce qui marche, qu'est-ce qui ne marche pas, et quels sont les présupposés. Pourquoi ces personnes-là cherchent à bifurquer ? Est-ce que c'est efficace ou non ? Et donc là, on a tout un panel de réactions possibles, allant, si on mettait tout sur un seul axe, à la fois de gens qui vont dire, en fait, j'aimerais, mais... je ne sais pas comment faire, je ne connais personne qui l'a fait, donc je ne fais rien, et donc une espèce de frustration, mais une envie de faire quelque chose d'autre, à l'extrême inverse, des gens qui y arrivent complètement, et qui soit changent complètement d'objet de recherche, soit changent de regard sur leur objet de recherche, soit décident qu'ils ou elles vont complètement arrêter la recherche, en disant, en fait, j'aimerais m'investir autrement, dans de l'institutionnel, dans du militantisme, etc.
- Speaker #0
Voilà, peut-être on pourrait... Je ne sais pas si c'est possible, mais prendre quelques exemples.
- Speaker #1
Par exemple, on peut dire qu'il y a une typologie de chercheurs qui sont les chercheurs frustrés, entre guillemets, qui aimeraient changer, mais n'ont pas encore réussi, ou pas de façon qui les satisfasse. D'autres chercheurs qui réussissent en faisant une espèce de pas de côté, en disant, je ne sais pas comment contribuer à l'intelligence artificielle d'une façon qui soit écologiquement soutenable. notamment, parce que ça c'est une phrase qui ressort dans un entretien, qui est de dire qu'il n'y a pas de vélo, de l'intelligence artificielle, on n'a pas d'objet comme il y a pour les mobilités douces, où on a un objet technique qui est globalement satisfaisant ou considéré comme acceptable, sur lequel on peut se concentrer de plein de points de vue, technique, politique publique, etc. Donc il y a une espèce d'objectif commun très identifié. Dans le cadre de l'IA, on n'a pas trop cet objet-là, il n'y a pas d'objet très consensuel dans la communauté où l'on puisse diriger les efforts. Donc c'est plus difficile. Et donc du coup, des chercheurs vont dire, ok, je vais faire un pas de côté, par exemple, en disant, je ne sais pas ce que ça veut dire une IA plus verte, je ne suis pas sûre que ça existe, ok. Par contre, ce que je peux faire, c'est essayer de mieux qualifier et quantifier les impacts environnementaux de modèles d'IA, au moins pour pouvoir donner les arguments, de dire entre deux modèles, voilà lequel choisir sur des questions de ce qu'on appelle la matérialité du numérique. Avec énormément de questions, on pourrait imaginer que... c'est facile, entre guillemets, il suffit de mesurer. En fait, c'est hyper compliqué, parce que savoir ce qu'on mesure devient très vite très difficile. Il y a un champ de recherche qui s'appelle Green IT, en général, qui conseille plutôt à vraiment mesurer dans des data centers, par exemple. Donc, vraiment mettre des sondes électriques et dire, on mesure, et voilà combien ça fait en kilowattheure. Et dire, ok, mais en fait, on loupe plein de choses. Là, ça suppose que les serveurs, les machines sont déjà là. Pourquoi est-ce qu'on ne prend pas en compte la création ou l'achat de ces machines dans le bilan de la mesure ? Ces machines-là, quel est leur coût environnemental ? Ce qu'on appelle des analyses de cycle de vie. En fait, ça dépend de où le minerai a été extrait, dans quel pays, par exemple. Donc très vite, ça devient très tentaculaire. Quand la machine est défaillante à la fin, est-ce qu'elle est recyclée ou non ? Ça dépend d'où elle vient, qui la recycle, pourquoi, etc. Donc on arrive très vite à des questions et là on retrouve ces questions un peu sur le social du coup. On dit, décider où on commence la mesure, où on arrête la mesure. Il n'y a pas de réponse technique hyper satisfaisante. Il y a plein de réponses possibles qui dépendent de quel cadrage on fait. Et ces questions de cadrage, c'est un objet central en sociologie des sciences et technologies, de dire quel cadrage on fait sur nos objets techniques, pourquoi, qu'est-ce que ça suppose comme présupposé et comme conséquence. On sait qu'il existe des effets rebonds. Donc le déploiement d'une technologie plus efficace peut permettre à plus de gens de l'utiliser. Et donc les gains... en termes de matérialité, sont compensés par le fait que le nombre d'utilisateurs a doublé, par exemple. Et donc de dire comment est-ce qu'on prend en compte ces effets rebonds-là ? Est-ce qu'on veut permettre un usage plus facile d'une technologie, sachant que ça a un coût environnemental très fort ? Ce sont vraiment des questions normatives.
- Speaker #0
Là, ce dont tu parles, c'est des chercheurs qui continuent à faire des recherches en IA, mais qui intègrent à leur recherche cette dimension mesure environnementale ? Ou ça peut être comme ça ?
- Speaker #1
Effectivement, soit ça, soit des personnes qui arrêtent la recherche en cœur sur l'IA et se placent un petit peu plus sur la mesure ou les analyses de cycle de vie. Il y a un peu les deux. Il y a des gens qui continuent à hybrider, il y a d'autres gens qui changent complètement. des gens qui essayent, notamment dans les personnes qui échangent complètement, se déplacent un petit peu plus vers de l'institutionnel, en essayant de faire des partenariats avec des collectivités locales, des mairies, sur le déploiement de projets concrets, par exemple. Ce qui, de fait, prend plus de temps.
- Speaker #0
Il peut y avoir aussi des projets un peu parallèles du chercheur, qui continue sa recherche dans l'intelligence artificielle, mais qui, parallèlement, peut s'investir dans des partenariats, dans des formations, donner des cours sur l'empreinte environnementale.
- Speaker #1
C'est vrai que jusque-là, on a parlé des aspects repositionnement de la recherche. Il y a aussi des personnes qui vont diversifier leurs activités, éventuellement en dehors de la recherche, soit via des cours, en disant, typiquement, en étant informaticien, en faisant de l'IA, je n'ai pas de formation en sciences sociales ou en analyse de cycle de vie ou en question environnementale. Quel est le moyen pour moi en tant que chercheur de redevenir expert ? C'est idéalement de re-être étudiant. ce qui en général est un peu difficile, et dire, ah mais en fait, si je prépare un cours pour des étudiants, ça me laisse le champ pour faire de la bibliographie, pour lire des choses. Et donc, paradoxalement, le fait de monter des cours sur ces enjeux-là permet de se remettre dans une posture apprenante, et donc de dégager du temps pour gagner des compétences. Un autre axe éventuel, évidemment tous ces axes peuvent se cumuler, ça va être de s'impliquer... Au niveau de l'institution, en tant que référent ou référent de développement durable par exemple, ou vis-à-vis d'institutions auprès de l'ADEME, de la Commission européenne, etc. En disant, j'aimerais faire profiter de mon expertise technique pour pouvoir influencer les discussions de politique publique, de régulation, etc. Qui sont un moyen qui n'est pas tant de changer son objet de recherche, mais qui est en tout cas de changer la position qu'on a de soi en tant que chercheur. Et donc en ça, ça nous intéresse.
- Speaker #0
Et donc à l'autre bout du spectre, il y a des chercheurs qui peuvent bifurquer totalement, ils réorientent leur recherche. Et je crois que vous avez, parmi les entretiens que vous avez menés, vous avez un chercheur qui a complètement arrêté ?
- Speaker #1
Oui, complètement. Un chercheur qui a complètement arrêté, qui a décidé, qui a réfléchi en fait, et qui s'est posé la question de comment est-ce que je réoriente ma recherche. et qui finalement se dit, en fait... La seule chose qui a du sens pour moi, vu mes impératifs moraux de pourquoi je veux bifurquer et vu ce que je vois de la recherche, c'est d'arrêter la recherche directement et de plutôt diriger mon énergie vers de la visibilisation des impacts, vers de la transmission vers les politiques publiques, vers de l'activisme, etc. Et qui, du coup, s'est réappropriée, en fait, puisqu'on est toujours sur un spectre de dire, en fait, on se rend compte, ces chercheurs se rendent compte. que leur objet n'est pas neutre et a des enjeux politiques. Et comme tous les objets de recherche, ce qui est un résultat qu'on connaît bien en sociologie des sciences. Et donc, ce qui est intéressant sur ce spectre, c'est qu'on voit cette réappropriation de ce fait-là, de dire, oh mince, mon objet technique n'est pas neutre et a des implications politiques et sociétales. Qu'est-ce que je fais de cette information ? Et ça, ça éclaire beaucoup ce panel de réactions, de réponses, allant de... Je crois à la technique comme solution, donc j'essaye de faire un meilleur objet technique. Autre positionnement, je ne crois pas à la technique comme solution, je n'y crois plus. Et donc je décide de réorienter mes efforts complètement ailleurs, soit dans la visibilisation des impacts, soit dans la critique de l'objet technique, soit...
- Speaker #0
Et donc dans votre enquête, vous avez également mesuré les freins, parce que j'imagine qu'ils sont nombreux que les chercheurs ont dans cette réflexion et cette réorientation, et puis il doit y avoir de l'autocensure aussi de leur part.
- Speaker #1
Oui, il y a plusieurs freins, dont certains qu'on imagine très très bien. Se reformer dans un nouveau domaine, ça prend du temps. On est dans un contexte où collectivement on a peu de temps. Il y a aussi des effets de légitimité professionnelle, qui encore une fois sont très classiques, qu'on observe, mais qui sont déjà très classiques en sociologie des champs scientifiques. Dans le champ scientifique, on fait partie d'un champ scientifique parce qu'on est reconnu. par nos pairs comme ayant une expertise dans ce champ-là. Et donc, qui dit bifurcation, dit que notre communauté d'origine, a priori, n'est plus forcément capable d'évaluer notre production scientifique et ne se sent plus forcément légitime et peut nous renvoyer à ces chercheurs en disant, en fait, c'est intéressant ce que tu dis, mais en quoi c'est de la science ? D'habitude, tu faisais des modèles d'IA, là, tu nous parles d'impact, mais en fait... C'est pas ça notre objet de recherche, c'est donc comment est-ce qu'on peut évaluer avec une question qui n'est pas forcément mal intentionnée, de dire comment on peut faire la différence entre de l'argument scientifique et un avis au café du coin en fait. Et donc qui amène petit à petit ces chercheurs à retrouver une légitimité professionnelle, soit en donnant des arguments à cette même communauté, soit en pratiquant plutôt en changeant de communauté, soit pour aller vers une communauté plus de sciences sociales, ce qui arrive parfois, soit ce qui est en train de se jouer c'est qu'il y a une communauté. de ces chercheurs qui est en train de se créer qui se retrouvent justement un peu à mi-chemin en n'étant pas vraiment reconnus par les sciences sociales en disant vous êtes plutôt des techniciens, pas vraiment reconnus par les informaticiens qui disent en fait ce que vous faites c'est plus vraiment de la technique. Donc une espèce de positionnement entre deux chaises et donc on observe là depuis intensivement, depuis une dizaine d'années mais plus depuis une vingtaine d'années en France, une communauté notamment au CNRS autour d'un groupement de recherche et de service qui s'appelle Eco-Info mais à d'autres endroits aussi des ingénieurs, techniciens, chercheurs qui recréent une communauté scientifique et technique autour de cet objet-là et ses considérations techniques et sociales. Ça c'est intéressant, c'est intéressant notamment parce que c'est un peu attendu en termes de sciences sociales, ça confirme des résultats qu'on connaît déjà. Ce qui est très intéressant aussi, c'est qu'on a des questions de légitimité plus personnelles de chercheurs, chercheuses qui vont nous dire, j'ai du mal à bifurquer parce que je m'auto-censure, parce que j'ai été recrutée pour faire du machine learning ? Ai-je vraiment le droit de lire des livres de sociologie sur mon travail ? Est-ce que je ne suis pas en train de trahir le comité qui m'a recruté, mon institution, etc. ? Ce qui est beaucoup plus intéressant, parce que là on arrive sur des tensions autour de comment ces chercheurs se réapproprient la liberté académique, qu'on aime bien dans la profession porter un petit peu en étendard en disant un des gros intérêts de faire de la recherche, c'est d'avoir une certaine liberté académique, c'est-à-dire de pouvoir choisir ses objets de recherche. très bien, et de dire, ok, en fait, cette liberté académique existe en théorie, son implémentation en pratique de fait implique forcément qu'on se dit, ben oui, mais on me paye pour faire ci, pour faire ça, est-ce que je me sens légitime ? En fait, non. Donc des chercheurs qui vont dire, bon, je m'autorise à aller à des séminaires de recherche sur ces nouvelles thématiques, mais pas sur mon temps de travail, plutôt le soir ou le week-end, et donc là, il y a vraiment un enjeu de réappropriation, c'est-à-dire, qu'est-ce qu'on s'autorise à faire vis-à-vis de notre liberté académique ?
- Speaker #0
Tu avais parlé des doctorants aussi, tu disais qu'ils étaient aussi gênés vis-à-vis de leurs doctorants, en se disant, bon ben voilà, cet axe de recherche là, pour eux, va moins être porteur dans leur carrière, est-ce que c'est légitime ?
- Speaker #1
Complètement, avec un enjeu de risque, de dire, bon ben, moi chercheur, je suis déjà en poste, et donc je peux me permettre de lire autre chose, de moins publier, de changer de sujet, mais pour les doctorants, post-doctorants, qui ont des preuves à donner, dans un contexte plutôt précaires, est-ce que je ne suis pas en train de s'aborder leur carrière future, est-ce que c'est un bon pari, etc. De manière très intéressante, avec un son de cloche plutôt assez différent des doctorants, post-doctorants eux-mêmes, qui disent, bah oui, mais en fait, il n'y a pas de trahison, je savais, je connaissais le positionnement, voire je suis venue travailler avec cette personne-là. Parce que j'ai envie d'avoir ce positionnement-là, même s'il est risqué. Et donc, on a tendance à avoir des doctorants post-docs qui s'autorisent plus à avoir une position radicale. Et des chercheurs permanents qui, malgré cette liberté, sont de fait plus piégés dans leur progression de carrière, dans leur cursus, dans des habitudes, dans des collègues qui sont là depuis 15 ans. Et donc là, on est vraiment là dans... Plein d'ans, c'est très dur de changer de carrière quand on a 20 ans dans la même carrière. Et finalement, plus facile quand on n'a pas une carrière passée.
- Speaker #0
Et puis, il y a peut-être un effet de génération aussi. Enfin, j'imagine que les jeunes, tu disais pour les doctorants, mais que les jeunes chercheurs interrogent peut-être plus l'impact de leur recherche que les chercheurs installés.
- Speaker #1
C'est compliqué comme question. C'est dur à dire. Il y a des effets générationnels, Mais en même temps, il... dans notre panel d'enquête, notamment d'entretien, on a des chercheurs et chercheuses de tous les stades de carrière. Et on a vraiment plusieurs effets en tension de côté jeune chercheur, jeune chercheuse dans leur carrière. Il peut y avoir plutôt le côté, c'est un sujet qui est plus creusé récemment et donc les personnes sont plus sensibilisées et donc vont plus naturellement, se sentent plus autorisées à aller vers ces sujets-là. Donc il y a moins de barrières à l'entrée. C'est moins difficile de convaincre, de trouver un encadrant de thèse, etc. Ça reste pas super simple, mais c'est moins difficile qu'il y a 30 ans, par exemple, où c'était vraiment des sujets très marginaux. À l'inverse, on a des chercheurs beaucoup plus âgés en termes de carrière, qui sont en fin de carrière, et qui utilisent ça pour dire, je n'ai plus rien à prouver. Je suis un petit peu arrivé au bout de ma carrière. Justement, j'utilise ça pour pouvoir bifurquer et aller faire des questions qui me paraissent plus intéressantes. Et donc, on a vraiment cette idée que l'âge en termes de carrière est un présupposé que nous, on avait, par exemple, avant de commencer les entretiens, et où en fait, n'est pas pertinent au sens où il y a des choses et des leviers d'action différentes selon le stade de carrière, mais tous les stades de carrière se saisissent de la question de manière différente, ce qui était intéressant pour nous.
- Speaker #0
Mais du coup, on peut se demander avec tout ça, s'il n'y aurait pas une épistémologie à faire de la recherche en IA, pour prendre en compte ces questionnements éthiques, sociaux et environnementaux. Est-ce que vous avez commencé un peu ce travail avec cette étude ?
- Speaker #1
Effectivement, cette étude-là entre dans un cadre plus large de comprendre le monde social de l'intelligence artificielle et l'articulation entre l'objet technique et l'imbrication en société. à la fois sur ces aspects sociaux, environnementaux, de travail, d'usage, etc. Et donc, avec un ensemble de collègues, avec lesquels on travaille directement ou non d'ailleurs, il y a une assez grosse communauté qui va s'intéresser spécifiquement aux enjeux du travail, aux enjeux des usages, aux enjeux environnementaux, et à des enjeux un petit peu plus méta qui permettent justement d'articuler ce qu'on essaye de faire avec des collègues, notamment à Télécom. d'articuler ces enjeux, de dire ok, on étudie les enjeux environnementaux et les enjeux de travail, mais on sait bien qu'il y a une intersection entre les deux. Quelle est cette intersection ? Comment est-ce qu'on peut l'étudier, la qualifier, la visibiliser ? Donc c'est vraiment un sujet au cœur des recherches qu'on a au laboratoire de sciences sociales à la Télécom, entre autres.
- Speaker #0
Et puis puisqu'on parle climat et empreinte carbone, il y a peut-être des questions aussi sur la façon de faire de la recherche. On peut imaginer une recherche... plus frugale.
- Speaker #1
Oui, là, c'est vraiment presque un enjeu d'usage et de profession scientifique ou de sociologie de l'environnement. Il y a beaucoup de questionnements en ce moment dans les laboratoires, notamment, sur qu'est-ce que ça veut dire faire de la recherche, être chercheur dans un contexte de crise climatique, indépendamment de l'IA ou non. Est-ce que c'est toujours acceptable de voyager en conférence, éventuellement loin, pour pas très longtemps ? Est-ce qu'on s'autorise à avoir du matériel coûteux, financier mais aussi en termes de coûts environnementaux, si ça permet d'avoir de la meilleure recherche à la pointe, etc. Ce sont à chaque fois des questions très difficiles, au sens où on est à la fois dans un monde de la recherche qui est collaboratif et compétitif. On n'utilise pas le dernier équipement à la pointe, par exemple, soit pour des questions environnementales. Ça implique aussi d'accepter de peut-être être en retard par rapport à des pays concurrents qui le feraient. Ce qui peut être contourné en disant, très bien, mais on se positionne sur d'autres questions qui ne nécessitent pas un équipement très coûteux environnementalement, etc. Donc il peut y avoir une reconfiguration qui n'implique pas forcément une perte de compétitivité. Pareil pour les conférences, il y a de plus en plus de choses qui se passent. Vous avez accueilli Antoine Amarilli dans le podcast précédemment qui en parlait plutôt bien, de dire comment est-ce qu'on veut réimaginer ce modèle de conférence scientifique pour qu'il soit plus soutenable ? En faisant des conférences plus locales, en utilisant le fait qu'on peut faire des conférences hybrides ou des spin-off locaux à Paris d'une conférence qui est au Brésil. Ce qui permet d'avoir en physique des chercheurs qui échangent sans se faire déplacer tout le monde au Brésil, etc. Ce sont des questions passionnantes.
- Speaker #0
Merci de nous avoir suivis. On espère que ce sujet sur les chercheurs en IA Bifurcare vous aura intéressé et permis d'explorer des questionnements qui aujourd'hui s'imposent à tous, que l'on soit chercheur. doctorant ou étudiant en école d'ingénieur.