Entretien
— Antonio, vous êtes connu pour vos travaux autour des travailleurs du clic qui font tourner les algorithmes d’intelligence artificielle, et vous réfléchissez aux usages du numérique, au travail et aux libertés publiques. Aujourd’hui, nous sommes un peu à contre-courant de tout ça, car nous allons parler de la roadmap européenne pour la recherche sur le numérique et le bien-être.
Pour situer le contexte, j’ai participé à cette roadmap parce qu’à un certain moment, j’ai été impliqué, avec David Chavalarias et d’autres chercheurs de l’Institut des systèmes complexes de Paris-Ile-de-France, dans une contribution sur le travail digital et le bien-être. J’ai tendance à ne pas utiliser le terme de « travail numérique » pour des raisons que je pourrai expliquer. Donc la question s’est posée en ces termes : « Il y a des personnes qui réalisent des métiers qui sont essentiels pour la production d’intelligence artificielle, de systèmes de machine learning, et de manière plus générale de solutions informatiques, avec un coût social et même psychologique ». Il faut bien préciser de qui on parle parce qu’on a tendance tout de suite à penser aux ingénieurs, aux développeurs ou aux data scientistes. Certes, c’est important. Et eux aussi payent à certains points de vue un coût en termes d’implication, de burnout, et aussi de perte de repère ou de mauvais alignement par rapport à la société. Mais ces ingénieurs, ces développeurs, ne sont pas la partie la plus importante en termes d’effectifs, en termes de force de travail mondiale. On parle de quelques dizaines de millions de personnes qui développent du code, par exemple au niveau mondial, si on se concentre sur les développeurs.
Par contre, on a, selon des estimations récentes à la Banque mondiale, des centaines de millions de personnes qui réalisent ce que j’appelle le « travail du clic ». Ce travail du clic consiste à entraîner des modèles de vérification du fonctionnement correct des solutions d’intelligence artificielle lancées sur le marché et parfois de supervision en temps réel de ces modèles même. Et donc cela a un coût d’un autre type.
— Vous nous disiez que vous distinguiez travail numérique et travail digital, pouvez-vous nous dire en quoi ?
On a tendance à penser que « digital » est un anglicisme, en référence au terme anglais digit, qui signifie chiffre. Donc on pourrait dire que simplement, c’est la traduction de numérique parce que chiffre et numéro, c’est équivalent. En réalité, digit renvoie à l’étymologie latine digitus, donc finalement le travail du doigt. Cela n’est pas sans lien, parce que…
… ce travail du doigt ou des doigts, de nos doigts, nécessaire pour produire des données, à leur tour nécessaires pour produire l’intelligence artificielle, est le point central de ce qui se passe aujourd’hui dans la production de valeur autour de l’intelligence artificielle.
— Dans vos travaux précédents, vous avez montré que le numérique n’était pas forcément synonyme de bien-être, pour en revenir à votre sujet d’étude. Donc pouvez-vous nous redire ce qu’il en est des travailleurs du clic ?
Avant de parler des travailleurs du clic, je voulais préciser que l’une des raisons pour lesquelles j’étais impliqué dans cette roadmap est qu’il y a toute une partie de mon travail qui remonte à une dizaine d’années, dans laquelle j’ai abordé la question de la santé mentale et du numérique. Avec un angle particulier, parce qu’avec mon équipe, nous nous étions d’abord concentrés sur la façon dont les personnes ayant des troubles alimentaires se servaient d’internet et d’autres technologies proches pour communiquer entre elles, pour se mettre en contact et parfois se mettre en contre-emploi par rapport aux professionnels de la santé. Ce qui évidemment entraînait toute une série de problèmes et d’enjeux particuliers. Puis, nous avions également travaillé sur la question du bien-être en termes de participation, en termes de création d’un sens de communauté. Donc il y avait des dimensions socio-psychologiques de mes travaux précédents qui rendaient ma présence dans cette initiative pas complètement absurde !
Après il est vrai que dès qu’on se concentre sur mes études plus récentes, et donc les travailleurs du clic, on se rend compte qu’on peut détecter des risques spécifiques qui sont associés à ce type d’activité. Alors quel type d’activité ? De quoi parle-t-on ? Parce que les travailleurs du clic peuvent paraître une catégorie un peu abstraite. Il s’agit de toute personne qui annote, filtre, enrichit ou structure des données pour la création d’énormes bases de données. Imaginons par exemple le fait d’avoir une masse énorme d’images non catégorisées, non étiquetées… Il faut que quelqu’un à un moment ou un autre, seul à la main ou avec des outils de segmentation, fasse le travail d’annoter ces images. Par exemple de marquer sur ces images s’il y a un chat ou un être humain. Et s’il y a un être humain de marquer son visage ou certains traits de son visage. Cela peut paraître ne pas avoir d’impact particulier sur la santé ou sur le bien-être des personnes.
Mais en réalité il s’agit d’un travail qui est extrêmement répétitif, je n’hésite pas à dire dans certains cas abrutissant, parce qu’il consiste à répéter la même petite tâche en perdant de vue la finalité ultime.
Après il y a des cas beaucoup plus extrêmes. Par exemple, des travailleurs du clic de catégorie particulière doivent travailler sur des données qui sont en soi des données problématiques, par exemple de la modération de contenus sur internet. Modérer des contenus violents ou vraiment extrêmes peut entraîner des conséquences en termes de stress traumatique. Avec mes collègues, notamment ici à Télécom Paris, nous interviewons des personnes qui font ce travail de modération qui a des impacts très forts sur leur bien-être, sur leur vécu.
— Vous avez étudié ces populations de près. D’abord en termes de volume, savez-vous combien on peut dénombrer de travailleurs du clic ? Puis il y a aussi j’imagine, une division sociale du travail. Donc ils sont sans doute concentrés dans certains pays, certaines régions du monde. On peut imaginer que leur revenu et leur niveau de vie ne sont pas les même que le nôtre…
Oui parce qu’il s’agit d’un travail qui est atomisé, qui est fragmenté en petites tâches. Donc les personnes qui s’occupent de machine learning savent qu’il y a des plateformes spécialisées dans la production de micro-tâches et que les micro-tâcherons sont des personnes très peu payées. Après on a des personnes qui réalisent ce travail du clic partout dans le monde.
Effectivement, l’estimation du nombre de personnes devient assez complexe. Nous avons essayé avec nos collègues de mon groupe de recherche à Télécom Paris, le DIPLAB (Digital Platform Labor) au département des sciences économiques et sociales. Par exemple en 2019 nous avions estimé qu’en France jusqu’à 260 000 personnes travaillaient de manière au moins occasionnelle sur ces plateformes de micro tâches. À l’international, les chiffres commencent à monter en flèche. Nos collègues de l’université d’Oxford avaient estimé il y a quelques années qu’il y avait jusqu’à 165 millions de personnes dans le monde qui travaillaient sur des plateformes de travail en ligne de ce type. Y compris les travailleurs qui produisent des données pour le machine learning. Plus récemment, une estimation de la Banque mondiale, absolument impressionnante, indique quelque 430 millions de personnes… Évidemment, c’est la fourchette haute et c’est une estimation à prendre avec précaution. Toute estimation, du reste, est problématique dans ce domaine, parce qu’on a affaire à une population cachée, invisibilisée.
— Ce sont des chiffres considérables, sont-il en en augmentation ? Vous nous disiez que ces travailleurs du clic intervenaient sur de l’étiquetage des données qui vont servir à entraîner les algorithmes, mais également aussi sur la modération de contenu. La régulation de l’intelligence artificielle est un grand sujet d’actualité et donc la modération plutôt un marché d’avenir ! Donc vous n’avez pas d’inquiétude ? Comment gérer ce problème d’invisibilisation et de travail du clic ?
C’est un métier d’avenir même si c’est un peu contre-intuitif parce qu’on s’imagine que de toute façon, dans la mesure où toutes ces personnes sont en train d’entraîner des algorithmes et des modèles qui s’améliorent au fur et à mesure, à terme on pourra se passer d’elles. Malheureusement, on voit que cette population est en augmentation. Même si on ne veut pas croire à l’estimation de la Banque mondiale qui, quand même signifierait que 12% de la force de travail mondiale sont impliqués d’une manière ou d’une autre dans ce type de travail sur plateforme, on a affaire à des plateformes qui deviennent de plus en plus importantes. Depuis le Covid en particulier il y a eu une véritable explosion des effectifs des travailleurs du clic, compréhensible parce que chacun cherchait des occasions de revenus en ligne. Mais nous avons aussi remarqué une tendance sur laquelle nous travaillons beaucoup avec mes collègues de DIPLAB :
la délocalisation de ces activités vers des pays à faibles revenus, donc dans les pays les plus pauvres du monde.
Nous réalisons ce qu’on appelle en sociologie des terrains d’enquête. Nous partons à certains endroits et nous passons du temps à observer, partageons notre temps et notre vie avec ces personnes… en Égypte, à Madagascar, au Chili, en Bolivie… Certains pays, comme Madagascar ou le Venezuela, sont particulièrement impliqués dans ce type d’activité et dans laquelle une part de plus en plus importante de la population et de la force de travail se consacre à ces activités, parce que selon leur standard c’est mieux payé qu’une activité locale.
— Avez-vous interpellé les géants du numérique, les Gafam, sur ces sujets, que disent-ils là-dessus ?
Nous les impliquons systématiquement et de manières diverses et variées. Il est clair que nous ne sommes pas les bienvenus à chaque fois. Mais il est vrai qu’il y a un intérêt important et croissant, de la part non seulement des Gafam mais aussi d’entreprises plus petites, start-up ou PME, qui commencent à se rendre compte qu’il y a un problème. Souvent, même les start-up ne mesurent pas l’ampleur de cette population de personnes mises au travail pour quelques centimes, parfois pour constituer leurs bases de données. Cela est dû surtout au fait que la plupart du temps, Google ne recrute pas directement des personnes en les payant très faiblement, dans des pays très éloignés, mais fait souvent appel à des sous-traitants, de sous-traitants de sous-traitants…
Notre premier travail consiste donc à aider ces entreprises à voir ces travailleurs invisibilisés par le système même. Après c’est aussi un travail que nous faisons en triangulant l’action publique, donc la régulation, et les entreprises, en cherchant à contrer leur mauvaise volonté le cas échéant. Dans ce cas, c’est beaucoup plus difficile et cela consiste à réfléchir ensemble à des actions en justice pour convaincre les entreprises de respecter la loi ou dans certains cas, aider certains lanceurs d’alerte pour qu’ils puissent relater ce qu’ils voient en leur assurant toutes les protections nécessaires.
— Vous parlez des pouvoirs publics, de régulation, beaucoup de textes, notamment européens, sont examinés en matière de régulation de l’intelligence artificielle et des plateformes, comme l’IA Act … Y a-t-il des choses prévues dans ces textes-là, cela bouge-t-il du côté des pouvoirs publics ?
Oui mais si je ne suis pas certain pour autant que cela bouge dans la bonne direction… L’IA Act est d’abord basé sur une approche par risque, il considère qu’il y a des risques associés à l’intelligence artificielle, classés en quatre catégories. Le plus haut niveau de risque est évidemment une intelligence artificielle qu’on ne devrait pas développer en raison de problèmes de sécurité ou des conséquences importantes, même éventuellement pour la santé des personnes qui seraient les usagers ou les sujets de cette intelligence artificielle. Pensez par exemple à une intelligence artificielle qui s’occuperait de systématiquement couper le budget des centres de recherche qui développent de nouveaux médicaments… là on aurait un problème.
Mais il y a aussi des intelligences artificielles et des modèles qu’on admet mais qui sont problématiques, et qu’il faut bien réguler. Alors la régulation devient très vite une question, comme souvent dans le cas des institutions européennes, assez complexe et on arrive effectivement à opérationnaliser cet IA Act, avec huit principes et plus de 50 standards qui devraient être respectés. Cela devient donc très vite très technique et j’ai peur que cette complexité fasse le jeu de ceux qui prônent la dérégulation, c’est-à-dire qui voudraient que les entreprises qui produisent une intelligence artificielle le fassent sans avoir toutes les balises et toutes les limites que la loi parfois cherche à imposer.
