Travail automatisé ou travail en miettes?

De l’Intelligence Artificielle (dont il faut «soulever le capot»)…

La face la plus connue et la plus visible de la révolution technologique en cours est celle qui concerne la dite intelligence artificielle (IA). Deux récentes et percutantes réflexions venues des États-Unis permettent de se faire une idée de l’importance des enjeux, non seulement pour nos économies mais pour nos sociétés tout entières. Dans Algorithmes. La bombe à retardement (1), la mathématicienne Cathy O’Neil (dont le livre est recensé par Jean-Raymond Masson sur Metis) analyse parmi les algorithmes ce qu’elle appelle les «modèles nocifs» ou «armes de destruction mathématiques» car ils sont «opaques», que «leurs verdicts, fussent-ils nuisibles ou erronés sont sans appel, ne rendent compte de rien et ne souffrent aucune discussion», qu’ils «confondent corrélation et causalité» et «privilégient l’efficacité au détriment de l’équité». Lutte contre la criminalité, publicité ciblée, procédures de recrutement…: O’Neil montre que de nombreux modèles nocifs sont déjà à l’œuvre et qu’il faut du temps pour identifier leurs effets et contrer cette nocivité grâce à un travail avec les modélisateurs mais aussi un audit permettant une réglementation adaptée. «Si l’on envisage les modèles mathématiques comme les moteurs de l’économie numérique, conclut-elle, le travail des auditeurs consiste à soulever le capot et à nous montrer comment ils fonctionnent. C’est une étape vitale, pour nous permettre d’équiper ces puissants moteurs d’un volant – et de bons freins».

Autre spécialiste de l’IA et des conséquences sociales des systèmes techniques venue elle de chez Microsoft et appelant aussi à «soulever le capot», Kate Crawford est intervenue en 2019 à l’ENS pour un tour d’horizon dont rend compte Hubert Guillaud sur Internet Actu. Partant d’un essai particulièrement déficient de police prédictive en Californie, elle cite la défense d’un des concepteurs: «Je ne suis qu’un ingénieur». Or «les ingénieurs ne peuvent pas pourtant séparer ainsi leur responsabilité des conséquences des outils qu’ils conçoivent (…). Pire, cette façon de ne pas reconnaître sa responsabilité est en passe de devenir une norme». Ceci dans «une époque où des procédés techniques sont transformés très rapidement en systèmes» et ce faisant, «renforcent des biais culturels et les automatisent, en les rendant à la fois invisibles et incontournables». Très sceptique sur les possibilités d’amélioration des systèmes et de correction des biais (des systèmes «dangereux quand ils échouent, nocifs quand ils fonctionnent»: «Améliorer un système injuste ne peut que créer un plus grand préjudice»), Crawford appelle à un moratoire sur les technologies de reconnaissance faciale pour elle nocives en soi. Et estime qu’«automatiser la société ne la rend pas plus juste. Il faut aussi regarder plus largement comment et pour qui un système est utilisé. À qui donne-t-il du pouvoir?» Car si l’outil donne «plus de pouvoir aux plus puissants», il va fatalement «approfondir les inégalités».

Soulever le capot, c’est aussi s’apercevoir que cet ensemble de technologies de pointe ne peut fonctionner que grâce au travail très peu automatique de centaines de milliers de microtravailleurs de l’ombre, (comme en rendent compte les sociologues Antonio Casilli et Paola Tubaro interrogés par Laure Cailloce pour CNRS Le Journal). La première étude sur ce micro-travail en France (2) analyse ces «tâches courtes, répétitives et assez rébarbatives, effectuées pour la plupart devant un ordinateur: identifier des objets sur une image, étiqueter des contenus, enregistrer sa voix en lisant de courtes phrases, traduire de petits bouts de texte…». «Faiblement rémunérées, de quelques centimes à quelques euros la tâche», elles «ne supposent pas de qualifications particulières. Elles sont proposées par des plateformes spécialisées dans le microtravail, qui font office d’intermédiaires entre les microtravailleurs et les entreprises pour lesquelles ces opérations sont exécutées». Elles occupaient en tout cas lors de l’étude environ 15000 personnes très activement, 50000 régulièrement et 260000 occasionnellement en France, majoritairement des femmes ayant souvent déjà un emploi et chargées de famille, plus diplômées que la moyenne. Pour Casili et Tubaro, «il ne s’agit pas d’un phénomène temporaire, car les besoins du secteur du numérique et de l’intelligence artificielle ne cessent de croître et d’évoluer. Il y a quelques années, on demandait aux robots de pouvoir distinguer un chien d’un chat… Aujourd’hui, ils font ça très bien, mais d’autres demandes beaucoup plus complexes sont apparues. (…) Le mythe selon lequel l’automatisation allait supprimer les emplois peu qualifiés se révèle faux: derrière l’intelligence artificielle, il faut certes des ingénieurs et des informaticiens, mais il faut également une armée de microtravailleurs qui n’est pas près de disparaître».

…au travail en miettes?

Ce micro-travail créé par l’intelligence artificielle est une des transformations en cours sur laquelle s’appuie l’anthropologue américaine Mary L. Gray (interrogée par Fabien Benoit dans Usbek&Rica) pour entrevoir ce que pourrait être le futur du travail. Dans Ghost Work (3), écrit avec l’ingénieur Siddarth Suri, elle tente de «ne plus considérer ce travail invisible comme un travail de niche lié à l’automatisation, mais de voir plus large en comprenant ses ressorts profonds, en l’occurrence l’idée de trouver des travailleurs, de les manager, de leurs attribuer des tâches et de les payer par le biais d’API, ces interfaces de programmation d’applications». Car c’est le mécanisme qui s’applique désormais dans toutes sortes de secteurs en s’appuyant «sur des contrats ponctuels», une «approche qui est en train de détruire le travail à temps plein que nous connaissions jusqu’alors». Pour elle, «tous les gens qui pensent que leur travail est protégé, qu’ils ne risquent rien, doivent se demander si ce qu’ils font ne peut pas être soumis à ce type de relations intermédiées par une plateforme en ligne». L’automatisation ne détruit donc pas le travail en tant que tel mais le reconfigure: «Pour chaque avancée que nous faisons vers l’automatisation, chaque progrès que nous réalisons en matière d’intelligence artificielle, nous allons avoir besoin d’une nouvelle dose d’intelligence humaine. (…) De manière croissante, nous allons nous demander quelles tâches, dans notre travail, peuvent être subdivisées en de plus petits projets à automatiser». Une transformation accélérée qui ne doit pas nous empêcher de voir ce travail invisible ni nous distraire: «Seule, la technologie ne rendra pas le monde meilleur. Nous devons nous poser une question sociale, savoir quel monde nous voulons alors que la technologie se développe. (…) Il faut se demander quel monde du travail nous voulons et cette question ne sera pas réglée par le marché ou la technologie. C’est une question sociale et politique».

Parmi les nombreux exemples de ce travail invisible, les nettoyeurs du web étudiés par Sarah T. Roberts (et dont Pierre Marechal rend compte sur Metis). Dans son livre Derrière les écrans (4), la chercheuse américaine montre que derrière la modération commerciale de contenu, si nécessaire aux géants de l’internet. Si une partie de ce travail de nettoyage de contenus indésirables ou nuisibles à l’image peut être traitée automatiquement, «l’intervention humaine demeure incontournable à condition d’être discrète voir cachée» («pour ne pas compromettre l’idée d’espace de liberté d’internet et surtout pour ne pas chasser des utilisateurs dont le nombre fait la puissance de ces sites»). Le problème étant qu’il faut le faire «24h sur 24h, en principe dans toutes les langues» et en tenant compte «des mentalités et cultures locales (l’image d’une femme en bikini sera effacée pour un pays musulman alors qu’elle ne posera aucun problème en occident…)». Et ceci avec des objets «de plus en plus complexes: ce n’est pas la même chose d’examiner un texte pour identifier des discours de haine (une analyse automatique par mots clés suffit) ou pour repérer des textes de fake news, d’analyser des photos ou des vidéos…». Bref, une activité, «marginale au début», qui «devient de plus en plus importante et complexe, même si elle s’appuie sur des outils d’aide de plus en plus puissants. Google annonçait en 2018 vouloir augmenter ses effectifs de modérateurs de 20000 et Facebook prévoyait d’en recruter 10000».

Autre face plus visible du travail de plateforme, les chauffeurs Uber interrogés par la sociologue Sophie Bernard (article d’Eva Quéméré, toujours sur Metis). Des chauffeurs pour lesquels, à la différence de ce qui se passe aux États-Unis, ce travail n’est pas un job d’appoint mais leur emploi principal. D’où des relations plutôt conflictuelles entre la plateforme et ses chauffeurs puisque, après une première période plutôt incitative pour constituer la flotte, Uber a rabotté les tarifs et augmenté ses commissions. Menacés de déconnexion s’ils refusent trop de courses et notés par les clients, les chauffeurs sont classés par la sociologue en 4 catégories: «’les esclaves’ ou ‘faux salariés’: souvent des jeunes sans patrimoine, immigrés récents ou personnes avec un parcours précaire (…) avec de fortes amplitudes de travail et une faible rémunération». Pas vraiment mieux lotis, «les captifs» qui ne passent «que par l’intermédiaire d’Uber» et subissent «la baisse des tarifs et les fortes marges» que s’octroie la plateforme. Enfin, mieux lotis, «les arbitragistes» qui «naviguent entre plusieurs applications» et «les seigneurs» qui «utilisent plusieurs applications et ont un réseau de clients privés. Ils sont minoritaires et cumulent capital économique (souvent plus âgés et ayant pu s’acheter une voiture), culturel (souvent diplômés ou ayant acquis une importante expérience pro et donc des compétences) et social pour se constituer un réseau».

Illustration: manifestation de taxis contre Uber à Rio en 2015 (Tânia Rêgo/Agência Brasil, CC BY 3.0 BR).

(1) Cathy O’Neil, Algorithmes, la bombe à retardement, Éditions Les Arènes, 2018 (Weapons of Math Destruction : How Big Data Increases Inequality and Threatens Democracy, Crown, 2016).

(2) Antonio Casilli, Paola Tubaro, Clément Le Ludec, Marion Coville, Maxime
Besenval, Touhfat Mouhtare, Elinor Wahal, Le Micro-Travail en France. Derrière l’automatisation,
de nouvelles précarités au travail?, projet de recherche DiPLab. 2019.

(3) Mary L. Gray et Siddarth Suri, Ghost Work: How to Stop Silicon Valley from Building a New Global Underclass, Mariner Books, 2019.

(4) Sarah T. Roberts, Derrière les écrans: Les nettoyeurs du Web à l’ombre des réseaux sociaux, traduction de Sophie Renaut, La Découverte, 2020 (Behind the Screen: Content Moderation in the Shadows of Social Media, Yale University Press, 2019).