Transcription

• France Charruyer

  Bienvenue au Causeries DATA de Data Ring. Aujourd'hui nous avons le plaisir d'accueillir Antonio Casili, qu'on ne présentera plus et qui se présentera, qui a écrit des ouvrages sur les travailleurs du Click sur l'avènement du management algorithmique. Aujourd'hui on façonne les individus. Ce succès d'une matière virtuelle impalpable, la donnée, on produit, on collecte, c'est le moteur de la nouvelle économie, on réfléchit moins, l'algorithme est invisible, mais il fait de nous, il nous transforme, il nous façonne, le numérique nous fabrique, nous le fabriquons aussi. Alors face à cette plateformisation de l'économie, eh bien, Antonio, j'ai envie de vous entendre et j'ai envie que vous nous en parliez, j'ai envie que vous nous parliez de ce dont on parle peu. tout ce qui travaille sur cette mécanisation algorithmique, ces micro-travailleurs. Et j'ai envie d'abord de vous demander pourquoi vous êtes intéressé au digital, au labor. Pourquoi ? D'abord toujours le pourquoi des choses.

• Antonio Casilli

  Le pourquoi des choses, c'est que, étant donné mon âge qui n'est plus vert, et surtout mon origine, on peut le deviner à mon accent, je ne suis pas vraiment franco-français, mon origine italienne, je suis tombé très tôt... tôt dans le chaudron d'abord de l'informatique et de l'autre côté d'une pensée qu'on a appelée à une époque post-opéraïste, c'est-à-dire post-ouvriériste. C'est des personnes qui s'occupent de comment le travail s'articule dans un contexte dans lequel on a abandonné désormais le lieu de travail. Donc un travail qui n'a pas de lieu. Et ce travail qui n'a pas de lieu, il y a 30 ans ou il y a 20 ans, était celui de... des freelances, celui des personnes qui travaillaient depuis chez eux. Après, tout ça s'est généralisé dans la mesure où pas mal de professions désormais s'appuient sur des figures professionnelles qui ne rassemblent pas exclusivement aux salariés d'antan. Et après, suite à des chocs comme par exemple la crise pandémique, la généralisation du travail à distance a fait en sorte que chacun d'entre nous, d'un certain point de vue, soit... un peu plus télétravailleurs aujourd'hui, avec beaucoup de bémols, et avec surtout une variabilité des situations. Alors, les personnes desquelles je m'occupe depuis désormais presque une décennie, qu'on appelle les micro-travailleurs, sont, si vous voulez, la frontière extrême de ce travail à distance. On ne les voit pas. On ne les voit pas, on les voit de plus en plus les dernières années, parce que quand même, on a eu, disons, l'explosion de l'intelligence artificielle. L'intelligence artificielle, elle, est très visible et tout un tas de questions surgissent au niveau politique, au niveau juridique, sur, finalement, qui fait l'intelligence artificielle. On voit tout le temps, parce qu'il s'affiche dans les médias, les grands scientifiques comme Yann Lecant, donc le monsieur intelligence artificielle de Facebook, ou d'autres qui ont forgé. les algorithmes, mais après on se dit peut-être que ce n'est pas vraiment le travail d'un seul innovateur, c'est le travail d'une véritable usine à intelligence artificielle, et donc qui sont les ouvriers de cette usine ? Et dès qu'on se pose cette question, d'abord qu'on se rend compte du fait que ces intelligences artificielles n'existent pas s'il n'y a pas un travail de personnes qui... parfois en temps réel, sont en train de faire l'algorithme, faire exister l'algorithme. Et bien là, on commence à aller chercher ces travailleurs et on les trouve à des endroits qui vont vous surprendre, on va dire.

• France Charruyer

  J'aime bien que vous nous en parliez de ces turcs mécaniques. Parce qu'en fait, ce que vous êtes en train de nous dire, c'est que l'IA magique qu'on est en train de nous défendre, de nous dépeindre à tour de bras de Tchad GPT, de Copilot, de Mistral, de Google, de Gemini et d'autres, terrières, n'est rien sans nous, qu'on a une IA Potenkin, des turcs mécaniques dans lequel nous sommes tous en train de nourrir la machine sans véritablement comprendre ce qu'on est en train de faire. J'aimerais bien une illustration parce que j'ai vu qu'il y avait un travail cybernétique dont on parle peu. Je crois qu'il y a Amazon, la plateforme d'Amazon, il y a Clickworker également. Et on a, sur l'évolution du droit du travail, de plus en plus recours à des micro-travails, des micro-tâches, y compris pour les salariés. Qu'est-ce que vous pouvez nous dire là-dessus ?

• Antonio Casilli

  D'abord, il faut faire un petit détour historique, parce que vous avez cité les turcs mécaniques, ou l'intelligence artificielle potenquine, c'est des termes vraiment... formule un peu spécialisée et qui peut-être ne parle pas à ceux qui nous écoutent. Donc petit détour dans l'empire autrichien du 18e siècle. Ce n'est pas vraiment là où on situe la naissance de l'intelligence artificielle, mais à un certain moment, un monsieur qui s'appelait le Baron von Kempelen a inventé la... Première intelligence artificielle, soi-disant, ce qui était le célèbre joueur turc, joueur d'échecs. C'était un robot, un automate, déguisé en turc ottomane, qui était censé simuler les processus cognitifs d'un joueur d'échecs, et donc défier et battre aux échecs des champions, bien un chair et un os. Et la légende veut que même Napoléon soit battu. par le turc mécanique. Or, il y a un problème dans le turc mécanique, c'était en réalité un canular. À l'intérieur du turc de l'automate se cachait en réalité un joueur, un véritable être humain qui finalement, d'abord, était capable de déchiffrer ce qui s'est passé sur l'échiquier. Et puis ensuite, il était capable de mettre en place une stratégie. Et cette métaphore a été récupérée par Jeff Bezos, le patron d'Amazon, en 2005. Donc c'était il y a 20 ans presque, quand à un certain moment, il a voulu lancer une plateforme de type un peu spécial, qui ne faisait pas de e-commerce de livres ou de chaussures, comme Amazon tout venant, mais faisait commerce de travail humain. Et donc a appelé cette plateforme Amazon Mechanical Turk parce qu'il se disait que c'est une manière pour faire, et ça c'est vraiment ses propos, de la Artificial Intelligence.

• France Charruyer

  Cynique.

• Antonio Casilli

  Oui cynique, il avait dit que c'était de la fausse intelligence artificielle, qui ensuite on a aussi appelé Intelligence Artificielle Potenkin, ça c'est une autre référence aux Russes de la même période turc-mécanique historique. Mais bref. Peu importe, ce qui veut dire qu'aujourd'hui, et depuis désormais 20 ans, on crée des plateformes lesquelles ont comme vocation le fait de mettre au travail, ou plutôt au micro-travail, des personnes qui sont appelées à réaliser des tâches très petites. Des tâches très petites, je vous donne quelques exemples, qui consistent à retranscrire des textes, ou à traduire des bouts de texte.

• France Charruyer

  Ou à indexer.

• Antonio Casilli

  Oui, je parle de texte après, évidemment, parce que ça évoque... Donc tout de suite, ChatGPT a été pré-entraîné grâce au travail de ces personnes-là, qui, à longueur de journée, ont récupéré, si vous voulez, des grandes masses de données qui ont été collectées sur Internet d'une manière plus ou moins légale par OpenAI, donc le producteur de ChatGPT. Et par contre, après ces données brutes, il fallait les améliorer, enrichir. Et pour enrichir ces données, il fallait non pas... confié toute la masse de données à quelques experts très bien payés. Ça aurait été non seulement très cher, mais très long. Et par contre, on a choisi cette autre option qui consiste à prendre cette masse de données et filer un petit bout de cette masse de données à une personne et après un autre bout à une autre personne. Et très très vite, vous vous retrouvez avec des millions de personnes qui font ce travail.

• France Charruyer

  Peu qualifié. Peu qualifié, invisible.

• Antonio Casilli

  Alors d'abord, comment on les qualifie, c'est encore plus complexe parce qu'il y a, en plus vous posez la question en 2024, lorsqu'il y a une véritable discussion au niveau de la communauté des chercheurs sur comment appeler ces personnes. Et parfois c'est une discussion vraiment très musclée.

• France Charruyer

  Sous-traitants, micro-travailleurs ?

• Antonio Casilli

  Alors d'abord, commençons par comment les entreprises parlent de ces personnes-là. D'abord, ils n'en parlent pas. pas en tant que travailleurs. S'ils emploient le terme de crowd work, ils insistent beaucoup sur le côté crowd, sur le côté full, plutôt que sur le côté work, sur le côté travail. Après, effectivement, parfois, on peut avoir des micro-travailleurs qui sont recrutés via des chaînes de sous-traitance parfois assez classiques, surtout lorsqu'on a affaire à des pays à faible revenu. Donc nous, on travaille beaucoup sur des pays comme Madagascar en Afrique, Kenya récemment, parce qu'évidemment, c'était là où Chagipiti a été fait, et après Venezuela en Amérique latine, mais on a aussi le Bangladesh, les Philippines. C'est pas vraiment la Silicon Valley. On ne s'imagine pas que l'intelligence artificielle est faite à la main parfois. par des millions de personnes dans des pays comme celui-là. Et dans ces pays-là, pour des questions qui sont parfois des questions de connectivité même, et même d'approvisionnement à un courant électrique, si vous êtes à Tanarive, la capitale Madagascar, vous avez des décrochages assez fréquents. Venezuela, Caracas, San Cristobal, c'est même des villes importantes, vous avez de l'électricité, disons, 10 heures par jour. par jour. Alors dans ce contexte-là, il faut s'organiser pour pouvoir assurer ce travail. Il faut s'organiser avec une bonne connectivité, des endroits dans lesquels ces personnes peuvent vraiment consacrer du temps à faire ce type de micro-tâches. Parfois, ils ne sont pas équipés chez eux. Et donc, il faut les inviter à se rendre à des endroits. Donc, ça redevient un travail de bureau qui a un lieu, mais qui quand même n'est pas encadré de la manière formelle qu'on souhaiterait.

• France Charruyer

  Donc il y a une précarisation, on parle de précaria aussi.

• Antonio Casilli

  Alors on parle de précaria certainement pour les pays européens. Pour les pays européens, ces personnes-là, ce sont des personnes qui sont payées à la pièce. À la tâche. À la tâche. Donc c'est pour ça qu'on parle dans ce temps de micro-tâches, mais qu'on utilise un terme que moi-même j'ai forgé et qui est très controversé, je l'admets moi-même, qui est donc le terme de micro-tâcheron.

• France Charruyer

  Ou les tâcherons du clic.

• Antonio Casilli

  Les tâcherons du clic, voilà. Donc ça c'est effectivement une manière d'insister beaucoup sur le fait que ce n'est pas un travail souhaitable. Si je le dis, c'est parce que parfois dans mon activité, j'ai souvent affaire à surtout des plus jeunes qui m'écrivent, vous savez, dans mes messages privés sur Twitter du type « Ah, j'ai vu ce que vous avez dit sur ça, c'est terrible, mais moi ça m'intéresse » . Je voudrais dire, écoute, franchement, c'est pas vraiment le sens de ce que je dis. Je raconte ça pour souligner le danger social, même pour toi en tant que travailleur, d'aller faire un travail comme ça. Donc… insister vraiment sur le fait que ce n'est pas un travail souhaitable.

• France Charruyer

  Et qu'il faut peut-être de la transparence, puisqu'on parle souvent de soutenabilité, d'engagement, de RSE. Ça c'est pour les entreprises. Oui, mais pour les entreprises. Mais les entreprises qui aujourd'hui vont avoir la plus forte capitalisation boursière sont celles qui vont produire beaucoup d'IA, et celles qui, par vocation, par nécessité, vont faire appel à ces micro-travailleurs. Et qui vont le taire, souvent, on en parle très peu. Donc on est dans une forme d'illusion, parce que peut-être qu'il y a 20 ans, Bezos, ou il était cynique, ou il était visionnaire. Parce que quand on vous parle des turcs mécaniques, en fait c'est un canular. Est-ce qu'on n'est pas face à un canular aujourd'hui, dans lequel on est en train de nous faire passer des ias génératifs pour de la magie, qui vont tout nous faire, et en fait qu'elles ne font que recracher ce qu'on lui donne.

• Antonio Casilli

  Ok, alors je vais vous raconter, ce n'est pas vraiment une petite anecdote, parce que c'est quelque chose qui fait partie de l'une de nos observations. participantes et en plus qui a fait l'objet déjà d'une publication scientifique. Donc ce n'est pas vraiment de l'anecdotique. Mais avec mes étudiants et collègues de mon groupe de recherche, on a passé une semaine en 2022 dans une usine à micro-tâches de Tananarive à Madagascar. Donc là, on partageait notre... quotidien avec 120 personnes qui travaillaient le jour et la nuit pour réaliser de l'intelligence artificielle à la main. Et donc par cela, je veux dire que parfois, ils passaient des heures et des heures à noter que c'est des images de compteurs du type Linky. Ce n'était pas Linky.

• France Charruyer

  Les fermes à clics.

• Antonio Casilli

  Alors c'est presque, oui, c'est presque des fermes à clics, mais en même temps, c'était quand même du travail. très très haut niveau. Souvent, les fermes à clics, c'est des personnes qui cliquent sans savoir exactement pourquoi, parce que ils ont été payés pour devenir des faux fans ou followers sur Instagram. Ça, c'est un cas classique. Ces personnes-là, quand même, devaient y mettre un peu de... beaucoup d'intelligence humaine. Donc, dans cette intelligence artificielle, il y avait beaucoup d'intelligence non artificielle. Le cas particulier était que l'une des applications qu'il développait concernait une entreprise européenne qui produisait des caméras de surveillance intelligentes. Je souligne le côté intelligente parce que l'intelligence, encore une fois, ce n'était pas si artificiel que ça. Que font ces caméras ? Elles sont déployées dans des supermarchés. Elle pourrait très bien être utilisée pour, que sais-je, faire de la reconnaissance faciale pendant le JO. Et ces caméras déployées dans des supermarchés européens détectent si quelqu'un est en train de voler un bout de chocolat ou des pâtes, peu importe. Donc ils sont capables non seulement de détecter les êtres humains, mais aussi de détecter le geste illicite. Et face à ça, ils envoient un message, donc un SMS automatique. aux caissiers ou aux agents de sécurité. Tout ça, j'ai beaucoup insisté sur intelligent, automatique. Maintenant, oubliez ces adjectifs-là, parce que la réalité est que dans le garage et dans le grenier de cette petite maisonnette de la périphérie de Tananarive, il y avait des équipes de 30, 60 personnes qui, en temps réel, étaient en train de vérifier si quelqu'un était en train de voler du chocolat ou des pâtes. et qui faisait semblant d'être un automate, un système automatique, en envoyant un texto, qui était un texto standard en plus, au caissier en disant tel endroit il y a quelqu'un qui a volé du chocolat.

• France Charruyer

  Ça manque de transparence tout ça.

• Antonio Casilli

  Ça manque de transparence, c'est certain, mais ça ne manque pas d'intelligence, mais elle ne se situe pas là où on la soupçonnerait. Ce n'est pas l'intelligence des algorithmes, c'est l'intelligence de ces personnes-là qui doivent vraiment apprendre. à reconnaître des gestes, des comportements, des endroits qui ne sont pas forcément les leurs. Si vous êtes un travailleur malgache ou un travailleur kényote...

• France Charruyer

  C'est pas inné.

• Antonio Casilli

  Surtout, c'est pas certain que vous sachiez exactement comment les choses se passent dans tous les autres pays du monde. Autre exemple... très terre à terre, les gens qui sont payés pour faire de la détection automatique de plateaux repas dans les cantines. Donc si vous êtes, que sais-je, un travailleur au Bangladesh, vous ne savez pas par exemple... Par exemple, qu'en France, dans les cantines françaises, en correspondance de certaines fêtes commandées, par exemple les fêtes de Noël, la forme des assiettes change. Parce qu'on met des assiettes spéciales Noël. Et là, vous perdez vos repères. Vous ne savez pas, en plus, qu'est-ce qu'il y a dans ces assiettes-là. Les systèmes alimentaires dans plusieurs pays d'Afrique ou d'Asie ne correspondent pas du tout aux trucs qu'on bouffe ici en France.

• France Charruyer

  Et l'engagement sociétal de ces multinationales algorithmiques, ils engrangent des milliards et des milliards de bénéfices et qui s'engagent dans une course folle à celui qui aura la plus grosse IA, ou du moins celle qui est présumée la plus performante. du moins avec une puissance de calcul phénoménale, ils sont en train de nous masquer l'essentiel.

• Antonio Casilli

  Ils sont en train de nous masquer le fait que ce travail-là est un travail incontournable. Vous ne pouvez pas vous passer de ce travail-là. On l'appelle parfois « the human in the loop » , en anglais ça veut dire « l'être humain dans la boucle » .

• France Charruyer

  Et c'est la même chose pour les contenus, finalement, sur le droit d'auteur. Est-ce que là, on n'a pas une injonction et un devoir de s'intéresser à la juste répartition de la valeur ? Qu'il s'agisse du travail ou des contenus.

• Antonio Casilli

  Pour les contenus, quand même, l'avantage est que vous savez déjà où sont les contenus, qui les a produits, et que d'un certain point de vue, le droit d'auteur vous permet de mieux protéger ces personnes que face à une population entièrement invisibilisée.

• France Charruyer

  Je pense qu'on arrive vers une invisibilisation également de ceux qui vont revendiquer les droits d'auteur, parce que c'est très difficile en pratique d'exercer son opération. opt-out. Il y a des organisations, on va parler, on essaie sur la nouvelle directive de mettre en place une gestion collective des droits. Mais est-ce que pour ceux qui nous intéressent, les précarisés, les invisibles, les tâcherons du clic, quelles sont les solutions que l'on a pour s'en occuper enfin et introduire un peu de justice sociale dans tout ça ?

• Antonio Casilli

  Alors d'abord, parlons de transparence, parce que vous avez évoqué le mot à plusieurs reprises. Effectivement, il faudrait avoir une injonction d'une transparence plus importante. Pour les entreprises. Ce qui pose un problème. Parce que la transparence pour ces entreprises signifie d'une part dévoiler, non pas le secret industriel, mais à la limite, d'une manière un peu crude, que les Anglais disent comment on produit la saucisse. Qu'est-ce qu'on met dans la saucisse ? Comment ingrédient ?

• France Charruyer

  Il y a des obligations, mais on s'intéresse à la transparence de l'algorithme, mais pas à la transparence de ceux qui y participent.

• Antonio Casilli

  Alors très vite, on se heurte à un problème avec ces obligations, c'est que... Elles s'inscrivent dans des très longues chaînes de sous-traitance. Et que si j'ai des obligations en termes de transparence dans ce que je fais, si je suis par exemple une entreprise de CAC 40, ce que je fais à Toulouse ou à Paris, et donc je peux vous raconter et être très transparent sur ce qui se passe dans nos bureaux. Mais en même temps, déjà, c'est... Cette obligation de transparence s'arrête lorsque j'ai un sous-traitant et que ce sous-traitant a un autre sous-traitant et que cet autre sous-traitant passe par une plateforme et que cette plateforme, à son tour, se tourne vers des petites mini-entreprises informelles ou individuelles dans des pays très très éloignés.

• France Charruyer

  Non structurées, non conscientes de leurs droits et qui ont besoin de ce travail pour faire vivre leur famille. Donc un interdissement volontaire.

• Antonio Casilli

  Oui, ou alors plutôt une situation de chantage à l'emploi et dans certains cas de chantage au visa, parce que vous avez aussi pas mal, en Europe en particulier, de populations migrantes qui sont impliquées dans ce type de travail. La modération de Facebook. faite en Allemagne, donc ça fait objet aujourd'hui d'un contentieux, était faite largement par des personnes qui venaient de pays comme l'Iran, l'Azerbaïdjan, et dont le visa dépendait du fait qu'ils continuent à réaliser ces tâches. Et surtout qu'ils ne fassent pas des vagues face à une entreprise qui a des pratiques qui ne sont pas... pas vraiment très respectueuses du droit du travail, surtout dans un pays comme l'Allemagne où, effectivement, on est face à une régulation assez serrée.

• France Charruyer

  Donc l'acceptabilité sociale, c'est important, parce qu'on parle beaucoup d'explicabilité, d'interprétabilité, mais aussi d'acceptabilité sociale. Donc le travail que vous faites est très important, de dévoilement, pas simplement le dévoilement de l'individu, il y a aussi et surtout le dévoilement des cas d'usage et des pratiques sous-jacentes, et des logiques sous-jacentes derrière tout ça. Donc on est sur une organisation d'une gouvernementalité algorithmique qui repose sur un asservissement d'une partie de la population plus ou moins volontaire. Qu'est-ce qu'on fait face à ça ?

• Antonio Casilli

  Alors d'abord, et ça je vais vous avouer, mon truc de sociologue, peut-être arrêtons de parler d'acceptabilité sociale. Parce que c'est un concept assez dangereux. Normalement, dans mon métier, qui est donc professeur universitaire, mais en même temps chercheur, qui souvent a affaire, j'ai affaire souvent à des entreprises qui nous demandent des expertises ou des pouvoirs publics, et ce mot de l'acceptabilité est... agité comme l'objet même de ce qui devrait être notre travail, assurer l'acceptabilité de technologie. Moi je pense que notre rôle devrait être vraiment de mettre en question ces technologies, l'existence, l'acceptabilité. Parce que c'est déjà si on rentre dans une logique d'acceptabilité, c'est-à-dire voilà, on a produit une machine dont les effets... sont potentiellement très dangereux. L'exemple classique qu'on utilise entre nous, c'est la machine à tuer les enfants. J'invente un truc comme ça et on n'a même pas le droit de dire mais c'est complètement débile votre machine. Non seulement elle est débile, elle est criminelle. Si je dis la même chose, j'ai inventé une machine à précariser les emplois. Et maintenant, occupe-toi de l'acceptabilité sociale de ça. J'ai un problème.

• France Charruyer

  En fait, on a une polarisation qui est accrue sur le marché du travail, au détriment des travailleurs les moins qualifiés. On refait toujours la même chose.

• Antonio Casilli

  On refait toujours la même chose. Depuis plusieurs siècles en effet, c'est d'abord de monter les travailleurs informels versus les travailleurs formels, parce que quand même il ne faut pas oublier que souvent le spectre des micro-travailleurs ou de ces masses de micro-travailleurs qui se trouvent à l'autre bout du monde est agité contre les salariés de chez nous en disant « alors t'as intérêt à tenir à carreau » . Parce que sinon, je vais délocaliser tout ça via une plateforme au Bangladesh.

• France Charruyer

  Donc on met tout le monde au pas,

• Antonio Casilli

  on est tiens. On met tout le monde en concurrence. Et ça, c'est une vieille histoire. Et c'est pour cela qu'effectivement, le fait de récupérer le mot de tacheron, qui n'était pas péjoratif il y a deux siècles, c'est pour souligner le fait qu'on est en train de revenir à l'arrière de deux siècles. Quand les tacherons étaient la seule forme d'existence. Des travailleurs, ou alors, disons, certainement une forme idéale, même à la limite, parce que le tâcheron a quand même assuré un certain niveau d'autonomie aux travailleurs qui pouvaient choisir de réaliser ou pas une tâche.

• France Charruyer

  Mais on va y revenir.

• Antonio Casilli

  Mais on n'est pas dans une situation pareille. Parce que, justement, les micro-tâcherons qui sont aujourd'hui sur des plateformes n'ont pas vraiment cette liberté de pouvoir dire non. Si votre visa, si votre revenu, et en même temps votre existence à l'intérieur d'un écosystème numérique dépend de ça, vous n'avez pas vraiment la possibilité de dire non. D'autant plus que, et ça c'est un autre élément... parce que vous parlez de transparence, la transparence est double. On n'est pas transparent, ces entreprises et ces plateformes ne sont pas transparentes vis-à-vis des travailleurs. Si je suis un micro-tacheron inscrit sur une plateforme aujourd'hui et qu'on me dit de retranscrire 20 mots, on ne me dit pas pourquoi. On ne me dit pas pourquoi, parce qu'il y a des tas de raisons pour ne pas me dire pourquoi, parce qu'il y a des questions de droit des affaires, il y a des questions de ne pas introduire un biais supplémentaire dans les algorithmes qui vont être produits à la fin, mais parfois les effets sont des effets. Si vous vous retrouvez à entraîner des intelligences artificielles à déployer dans le contexte militaire, est-ce que vous pouvez faire des choses qui sont très délicates ? que vous êtes un trans sans le savoir de contribuer à un crime contre l'humanité. Si vous êtes un trans de déployer ou alors de participer, et ça c'est un autre exemple qui remonte un peu à notre étude de 2019 sur le microtravail en France, il y avait des personnes qui étaient micropayées pour réaliser une tâche qui consistait à faire ça, jouer à un jeu vidéo, dans lequel il fallait se rapprocher de personnes à l'apparence et, disons, au nom, aux consonances françaises, je mis ça entre beaucoup de guillemets, et s'éloigner de personnes à l'apparence et au nom dont les consonances ne sont pas françaises de souche, on va dire comme ça. Pourquoi sont-ils intrants, ils se posaient ces questions, les travailleurs, pourquoi sommes-nous intrants de jouer à ce jeu et de nous faire micropayer ? pour jouer à ce jeu. Est-ce que nous sommes en train de participer, par exemple, à une expérimentation de psychologie sociale sur les attitudes discriminatoires des Français ? Ou alors, est-ce que nous sommes en train de dresser un jeu vidéo raciste pour on ne sait pas exactement qui ?

• France Charruyer

  Donc, on en revient toujours à l'obligation de loyauté qui sous-tend tous les rapports sociétaux, pas uniquement ceux dans lesquels je suis dans le cadre d'une relation salariale avec le lien de subordination, mais ceux aussi auxquels je me dois. d'être éthique et sûre dans mon environnement, de toute ma chaîne de sous-traitance, du plus gros au plus petit, et à mes micro-travailleurs. Donc en fait, toutes les directives qu'on est en train d'avoir sur les obligations de vigilance, de soutenabilité, de transparence, AI Act, Data Act, tout ce paquet digital autour de la circulation de la donnée, de la valorisation de la donnée, elle fait l'impasse sur le sujet principal.

• Antonio Casilli

  Alors moi, j'ai une vision légèrement différente. Je pense qu'effectivement, la question de la loyauté a été une tentative très importante il y a une dizaine d'années. Dans ce qu'on vient de dire, par exemple dans le cas classique d'un travailleur qui se retrouve à faire une tâche sans savoir pourquoi, là vraiment le besoin c'est de loyauté vis-à-vis du travailleur, si on le considère comme n'importe quel utilisateur de n'importe quelle plateforme. Facebook doit être loyal vis-à-vis de ses utilisateurs sur par exemple le type de recommandations algorithmiques.

• France Charruyer

  Ce qu'elles ont du mal à faire.

• Antonio Casilli

  C'est pour ça que la notion de loyauté... Je m'en souviens quand il y avait un rapport du Conseil national du numérique en France, ça remonte à 2014, c'était il y a 10 ans. Et ça marchait bien pour le type d'écosystème qu'on avait à l'esprit dans ce rapport-là en particulier, et qui était un système très dominé par des plateformes de médias sociaux. Aujourd'hui, on a une situation légèrement différente. D'abord, on voit d'autres plateformes aussi, et on se rend compte qu'effectivement, ces plateformes ne sont pas envisageables si on ne prend pas en compte une longue chaîne de sous-traitance internationale. Et c'est pour cela que je dis... La question du devoir de vigilance a encore son mot à dire.

• France Charruyer

  La compliance, la vraie compliance.

• Antonio Casilli

  Oui, la compliance c'est comment les entreprises envisagent après l'obligation de vigilance. Et ça c'est aussi un jeu dangereux parce qu'on se retrouve avec des entreprises qui ont envie de faire le minimum nécessaire. Et ça, c'est normalement la compliance.

• France Charruyer

  Juste pour passer. On met le joli costume. Donc là, on a quand même un vrai sujet. C'est-à-dire qu'on a des géants, des plateformes qui sont en situation de monopole. On assiste à une centralisation du pouvoir par l'IA, au détriment des plus petits. Donc, qu'est-ce qu'on va faire sur cette asymétrie qui est en train de se constituer à une échelle démentielle, avec quatre opérateurs qui disent ce qu'on doit faire le matin, ce qu'on doit faire le soir, ce qu'on va peut-être même... être contraints de penser parce qu'il n'y a pas que les micro-travailleurs qui sont dans une situation d'asservissement. Donc est-ce qu'une des questions de la loyauté, auxquelles vous avez très bien répondu, c'est parce qu'il va nous rester d'autonomie de la volonté ? Alors vous dites quatre opérateurs parce que c'est les GAFA français ou les chinois en fait. Oui, on en a une dizaine en fait qui jouent en ce moment.

• Antonio Casilli

  Alors, un effet, d'abord ne pas sous-estimer le fait que l'acronyme change tout le temps. C'est certain que les deux dernières années ont été les années dans lesquelles le M de GAFA me, donc c'est Microsoft.

• France Charruyer

  Et maintenant on a Nvidia, on a le M.

• Antonio Casilli

  Oui, Nvidia, ça c'est vrai. Mais M a... quand même fait un truc assez phénoménal. Elle est arrivée à non seulement absorber dans son orbite OpenAI, donc Chachipiti, mais dans

• France Charruyer

  Mistral, tout de suite.

• Antonio Casilli

  Mistral, ils ont lancé le produit, paf, ils ont vendu tout ça à Microsoft.

• France Charruyer

  Avec une vassalisation du gouvernement.

• Antonio Casilli

  Ok, longue histoire. Vous venez de citer le gouvernement. Parlons aussi du fait que Gafam ou alors les Amas, parce que ils ont changé de nom entre-temps. n'existent pas si elles ne sont pas dans un écosystème politique aussi. Le paquet européen dont vous avez parlé, le paquet digital, c'est 30 directives, donc il y a actes, mais voilà, ce paquet-là est fait par les institutions européennes, mais en collaboration stricte et directe avec ces grandes entreprises. En créant, par exemple, ce qu'on appelle des bacs à sable, c'est-à-dire des lieux d'expérimentation. Ou alors en établissant des standards qui sont faits.

• France Charruyer

  Des standards et référentiels qui sont accessibles à des grandes entreprises, qui sont peu accessibles aux entreprises qui sont de taille plus moyenne ou plus dure.

• Antonio Casilli

  Ou à la société civile. C'est très coûteux.

• France Charruyer

  Outre les enjeux de cybersécurité qui se greffent là-dessus, ce à quoi nous assistons, c'est qu'aujourd'hui, ces intelligences artificielles génératives sont en train aussi de s'empoisonner puisqu'on a beaucoup... beaucoup de données synthétiques qui arrivent. Donc finalement, le canular de départ d'il y a 20 ans sur les turcs mécaniques, on l'observe aujourd'hui, on voit qu'il y a des micro-travailleurs, mais on voit que maintenant, sous couvert de réglementations, on se dit, il faut peut-être jouer le match différemment. Beaucoup de données synthétiques qui alimentent les machines, parce que c'est cher de respecter une réglementation. Donc, selon vous, à quoi va-t-on assister là ?

• Antonio Casilli

  Alors d'abord, je mets un tout petit bémol, c'est pour répondre à quoi on va assister. Je mets un petit bémol sur la question des données synthétiques. Ça, c'était quelque chose qu'on tente à ressortir tous les quelques années. Le fait de dire qu'on peut entraîner ces mêmes intelligences qui produisent des données synthétiques avec des données synthétiques d'entrée. Alors, il y a un petit problème. Le problème est qu'on rentre dans des boucles de... Des proacteurs infinis. Oui, oui, oui. Donc, ce qu'on appelle en statistique du surapprentissage. C'est-à-dire qu'ils se spécialisent sur des choses sur lesquelles ils se sont spécialisés. Si votre... base de données de départ, avez par exemple un billet pro-personne à la peau blanche, votre machine va produire encore plus de données de visage blanc, et donc après, ensuite, on va créer des boucles dans lesquelles tous les autres... Et donc votre intelligence artificielle ne va pas marcher.

• France Charruyer

  Et alors après, il y a le pire, c'est-à-dire qu'on fait maintenant du design, c'est-à-dire qu'on va introduire de la discrimination positive, où je me retrouve avec Gemini et Google, avec des papes noires, ou asiatiques, etc. Donc ça devient aujourd'hui une grande farce,

• Antonio Casilli

  où on s'amuse. En tant qu'Italien, je peux vous dire qu'il y en a eu de papes noirs, sauf qu'on les a représentés d'une manière très différente. On a eu des empereurs romains noirs, il y en avait... Ça c'est moins impressionnant pour ce qui me concerne. Bon bref, mais la question, pour revenir à quelle est la situation et comment la situation se présente aujourd'hui. Certainement, on se retrouve dans une situation conflictuelle. Ces entreprises, là, toutes oligopolistes qu'elles soient, se trouvent aujourd'hui dans une situation dans laquelle elles ne peuvent plus se permettre de produire ou lancer des produits sans être soumis à une vigilance. de la société civile d'entrée, de l'opinion publique ensuite, et après, parce que les gouvernements quand même sont redevables vis-à-vis de ces autres pouvoirs et contre-pouvoirs, des gouvernements même qui, en jouant le jeu de la régulation, j'insiste beaucoup sur le fait que c'est un spectacle, c'est un ballet, c'est un truc très très...

• France Charruyer

  C'est la société du spectacle.

• Antonio Casilli

  Oui, la société du spectacle régulatoire, c'est certain, mais en même temps, sont là aussi pour rappeler à ces entreprises qu'elles peuvent pas... permettre en 2024 ce qu'il se permettait en 2014. Déjà en termes d'allégations marketing, elles ne peuvent plus se permettre les choses qu'elles se permettaient auparavant. Par exemple, dire que cette intelligence artificielle va être automatiquement, qu'elle va marcher. qu'elle va être entièrement automatisée, qu'elle va avoir des effets positifs pour toute la société, que ça va entraîner un monde collaboratif. Merveilleux. Voilà.

• France Charruyer

  Donc la logique de redevabilité de la régulation, elle fonctionne.

• Antonio Casilli

  De ce point de vue-là, oui. En même temps, ce qu'on voit aussi est que les intérêts des gouvernements et des grandes entreprises peuvent converger d'une manière vicieuse. Je pense que le AI Act a été le cas le plus extrême de cela. AI Act, d'abord, il y a un gros trou dans le AI Act, c'est-à-dire qu'il ne parle pas de travail.

• France Charruyer

  Ni du juge.

• Antonio Casilli

  Pour une raison, oui, c'est très bien. Pour une raison, l'absence du travail est due au fait qu'en parallèle, on était en train de négocier la directive européenne sur le travail des plateformes. Et donc, comme on ne peut pas être partout, même les décideurs politiques se sont dit, toi tu vas plutôt t'occuper de ça et moi je vais dans l'autre commission. Après, la question qui est beaucoup plus grave est que les pouvoirs publics, les forces de l'ordre et tout un tas de pouvoirs économiques qui sont liés, si vous voulez, au complexe militaro-industriel, sont arrivés à trouver... cette directive de manière telle qu'aujourd'hui on ne peut plus déployer par exemple de manière disons non régulée une intelligence artificielle de reconnaissance faciale sur les citoyens français. Par contre tous les migrants dans la mer, bah oui, même si c'est par la suite pour cibler leur embarcation. C'est pas la même base légale.

• France Charruyer

  Donc c'est la centralisation du pouvoir par la donnée.

• Antonio Casilli

  Ce qui veut dire que cette régulation est complice du fait de... d'établir que ce n'est pas la même humanité, ce n'est pas les mêmes droits de l'homme et de la femme et de tous les autres.

• France Charruyer

  Et pourtant on en parle des droits de l'homme, on vous dit qu'on va devoir faire des droits de l'homme risk assessment, c'est-à-dire des analyses de risque fondées sur un contrôle de la proportionnalité à l'égard des droits de l'homme. On s'en gargarise beaucoup, mais on est en train de reconstituer une espèce de sous-humanité. Donc ça c'est véritablement cet enjeu sur lequel, ce défi sur lequel vous vous battez. Donc déjà pour nous c'est merveilleux de vous entendre. Et on a envie de vous entendre encore davantage. Donc pour ceux qui ne connaissent pas, c'était la directive dont on parlait tout à l'heure du 11 mars 2024 du Conseil de l'Union européenne sur les travailleurs des plateformes. Mais on doit tous se poser la question sur ce nouveau prolétariat, ce nouveau précariat et cette notion de dignité dont tout le monde se gargarise. Mais ce n'est pas la dignité uniquement pour quelques-uns, c'est la dignité pour tous dans l'usage des nouvelles technologies. Donc la suite, ça sera contrôler le temps pour contrôler les corps, privatiser le temps. Est-ce que finalement la métaphore ultime, est-ce qu'on est... toujours pas dans une relation de maître à esclaves, Antonio ?

• Antonio Casilli

  Alors déjà, je ne sais pas si le mot esclaves, esclavage s'adapte bien. Là, on est dans un contexte de travail. Et le travail en tant que notion a été inventé par opposition à l'esclavage. L'esclavage est finalement une activité qui n'est pas libre. Le travail doit être toujours libre, le plus possible. Et donc effectivement, il y a des possibilités d'émancipation du travail, ça c'est si vous voulez le côté envolé lyrique, mais on a aussi dans notre to-do list, des choses à faire dans les années à venir, d'abord une lutte acharnée contre les oligopoles, il faut casser ces grandes entreprises, ça c'est une question d'antitrust si vous voulez. Et de l'autre côté, faire appliquer des lois qui existent déjà, en termes par exemple, encore une fois, de responsabilité civile. mais même au niveau environnemental de ces entreprises.

• France Charruyer

  Soutenabilité.

• Antonio Casilli

  Oui, ça c'est une question de soutenabilité qui devient soutenabilité sociale et environnementale de ces grandes entreprises. Et après, sans oublier le fait qu'il faut bien insister sur le fait que des standards de travail dignes existent au niveau international, qu'effectivement l'activité du syndicalisme au niveau international existe, des standards de travail existent au niveau international. Déjà, on commence par faire respecter ceux-là. Et c'est le minimum qu'on puisse demander.

• France Charruyer

  Donc, notre boussole doit toujours rester l'humain et pas simplement sur des articles de loi. Et on doit l'exercer de manière très concrète. Nous attendons avec impatience la réforme des actions de groupe qui nous permettra peut-être de rétablir les curseurs au bon endroit. Je vous remercie infiniment, Antonio. Vous nous avez donné beaucoup de bonheur aujourd'hui. Et à bientôt pour les nouvelles causeries d'ATA. Toujours plus de technolucidité face à la déferlante. d'esalgoïdement.