Algorithmes. La bombe à retardement

« Les ADM sont opaques, (…) invisibles de tous sauf des mathématiciens et des informaticiens, (…) leurs verdicts, fussent-ils nuisibles ou erronés sont sans appel, ne rendent compte de rien et ne souffrent aucune discussion, (…) leurs algorithmes confondent corrélation et causalité, (…) elles privilégient l’efficacité au détriment de l’équité, (…) elles ont tendance à punir les plus défavorisés et les opprimés tout en rendant les riches encore plus riches (…). »

Publié en 2016 aux États-Unis, Weapons Of Math Destruction (Algorithmes. La bombe à retardement), écrit par la mathématicienne et activiste Cathy O’Neil, s’attache, selon Jean-Raymond Masson qui en analyse la traduction française, à « identifier parmi les algorithmes les modèles nocifs qu’elle appelle ADM, Armes de Destruction Mathématique (Weapons of Math Destruction) et à en analyser les effets au sein de la société américaine ». Ainsi du classement des détenus selon le niveau de risque lié à leur milieu d’origine qui pousse à les condamner plus durement et donc à renforcer de fait leur probabilité de récidive. « Le modèle ainsi conçu alimente lui-même un cycle malsain qui contribue à l’entretenir. C’est la signature d’une ADM. » Après avoir passé en revue les multiples effets de ces techniques dans la société américaine, Cathy O’Neil ne livre pas un diagnostic désespéré et croit que l’on peut « contrer ces ADM » et « promouvoir l’équité dans la conception et le maniement des algorithmes » : responsabilisation des concepteurs, audit des effets par les commanditaires, vigilance de la réglementation … un modèle selon elle pour l’instant plutôt européen qu’américain.

21 janvier 2019