L’intelligence des machines et les acteurs humains

Un documentaire très pédagogique diffusé par Arte (‘Autopsie d’une intelligence artificielle’, que l’on peut regarder en replay jusqu’au 13 décembre (1)) montre assez bien où en est arrivée, et où n’en est pas arrivée, aujourd’hui, l’intelligence artificielle, et les questions que son usage soulève dans les interfaces avec les acteurs humains.

On retrouve, au passage, des questions très anciennes que la sociologie du travail a posé pratiquement dès ses débuts.

Des performances supérieures à l’intelligence humaine dans beaucoup de domaines

Le propos n’est pas de dire que les machines sont inefficaces. Depuis longtemps on sait que, dans beaucoup de domaines, les algorithmes sont plus performants que les humains. Il nous paraît naturel, par exemple, d’utiliser une calculette ou de laisser une machine faire l’addition dans les magasins, car nous savons que tout un chacun commet de nombreuses erreurs de calcul, en faisant une simple addition (ne parlons pas de la soustraction et, pire encore, de la multiplication ou, le pire du pire, la division).

On laisse des algorithmes gérer les ascenseurs depuis très longtemps. On utilise les GPS avec circonspection, mais ils trouvent des itinéraires auxquels nous n’avons pas pensé et, dans des zones que nous ne connaissons pas, ils sont beaucoup efficaces que la plupart des personnes essayant de se repérer sur une carte routière. Dans tout ce qui est calcul et combinatoire, nous sommes complètement dépassés par les machines.

Les progrès récents en reconnaissance des formes

Les avancées récentes de ce qu’on appelle l’intelligence artificielle concernent la reconnaissance des formes. En laissant les ordinateurs faire une sorte d’auto-apprentissage (on a appelé cela de l’apprentissage profond) on est parvenu à mettre au point des machines qui savent assez bien identifier des objets. Mais il faut bien comprendre que cet apprentissage repose sur le rassemblement préalable d’un énorme corpus d’images qui indiquent à l’ordinateur en train d’apprendre si sa réponse est juste ou fausse. Pour cet apprentissage, on s’est en partie inspiré des processus cérébraux d’apprentissage neuronal. Mais il est clair que, pour des raisons qui nous échappent encore, le cerveau humain identifie beaucoup plus vite des ensembles structurés, tandis que l’ordinateur en est encore à coder, sur une image, les pixels un par un. Dès qu’un enfant sait parler, il identifie sans erreur des catégories assez complexes: il sait ce qu’est un chien, une vache, une chaise, etc., quel que soit l’angle sous lequel il les voit, et alors même que ces catégories présentent une forte variabilité interne.

Pour autant, on peut imaginer qu’à l’issue d’un entraînement ad hoc, un ordinateur communique à un utilisateur non-expert un savoir où seuls des experts le dépassent. C’est le cas, par exemple, avec les logiciels de traduction qui ont compilé des tonnes de textes traduits dans des organisations internationales, pour parvenir à des traductions certes imparfaites, mais en général suffisantes lorsque l’on a juste besoin de comprendre un texte écrit en langue étrangère. Vous pouvez faire l’exercice de prendre un texte et de le faire traduire, de proche en proche, d’une langue dans l’autre avant de revenir au français. Le résultat n’est pas si mauvais.

Il faut bien comprendre la démarche: l’ordinateur n’est pas vraiment intelligent. Il se contente d’imiter ce que des opérateurs humains ont fait. Et si on le nourrit avec suffisamment d’exemples, il devient capable de réutiliser ces exemples pour parvenir à des résultats honorables.

Cela fonctionne plus ou moins bien suivant les domaines. Les tentatives pour assister les stratégies de soin dans le domaine de la cancérologie ont été, par exemple, un échec: l’ordinateur était bien capable de restituer les stratégies standard, mais les médecins n’auraient eu l’utilité que d’un outil qui les assistait dans des cas inhabituels.

Quand les systèmes informatiques copient l’opinion moyenne qui est saturée de préjugés

Et puis il y a des cas plus graves. On a tenté de faire catégoriser des personnes pour savoir si elles conviendraient pour un emploi, en analysant leur expression faciale. Et des tribunaux américains ont utilisé, dans des procédures judiciaires, un logiciel qui prétendait analyser en direct le risque de récidive.

Vu que l’on a fait, a priori, travailler les algorithmes sur la base de l’opinion de personnes moyennes (même si elles pouvaient être compétentes dans le domaine considéré), l’algorithme a, sans surprise, incorporé les préjugés qu’elles véhiculaient. Le délit de sale gueule a connu une vaste expansion sous couvert de neutralité informatique. Des chercheurs ont, ex-post, analysé les récidives effectives des personnes qui avaient été soumises au logiciel judiciaire. Ils se sont rendu compte que les algorithmes surestimaient les risques de récidive pour les noirs et les sous-estimaient pour les blancs. En clair, l’algorithme était raciste.

On reste face à des machines excellentes pour reproduire, mais très mauvaises pour innover

Ce que montre le documentaire est que, dans beaucoup de cas, les systèmes automatiques, financés à grands coups de démonstrations clinquantes, sont très loin d’être capables de ce que leurs promoteurs prétendent. Il cite un dicton qui a, semble-t-il, cours dans la Silicon Valley: «Fake it, until you make it». C’est à dire: fais semblant d’y arriver jusqu’à ce que tu y arrives pour de bon. Si l’on veut convaincre des investisseurs, il faut faire semblant et être animé d’un optimisme inébranlable quant au fait qu’on va bientôt y arriver.

Les machines se limitent, encore, dans les faits, au champ de compétence où elles excellent: elles sont capables de répéter, très vite et à l’infini, ce qu’on leur a demandé de faire. Il est vrai que, dans nombre de domaines de la vie sociale, les situations se répètent avec très peu de variations. Et d’ailleurs, c’est quelque fois la conséquence du fait que l’on a voulu industrialiser une pratique. Une personne rentrant dans un fast food, s’attend à manger un hamburger absolument standard, absolument prévisible et semblable à tous ceux qu’elle a déjà mangés. La routine administrative se prête, elle aussi, assez bien à son transfert vers des interfaces informatiques: s’il s’agit d’enregistrer un formulaire rempli, une machine sera pratiquement toujours plus performante pour repérer les erreurs de saisie et alerter immédiatement celui qui remplit le formulaire.

Mais l’innovation, la capacité à reconsidérer une situation et à proposer une autre approche, la créativité ordinaire qui préside à nos relations quotidiennes (pour peu que nos conversations ne soient pas purement banales), sont, pour l’instant, hors de portée des machines. On a, bien sûr, tenté de faire écrire de la poésie à des programmes d’intelligence artificielle. On a tenté, également, de leur faire composer des œuvres d’art. Jusqu’à un certain point, c’est possible. La production musicale, par exemple, est tellement formatée qu’il me paraît envisageable qu’une machine compose un tube. Faire un dessin ou une peinture jugés jolis par un grand nombre de personnes n’est sans doute pas non plus hors de portée. Mais l’art c’est autre chose. Cela correspond à un questionnement existentiel et, d’ailleurs, il est rare que les œuvres considérées comme les plus fortes soient agréables à regarder. De même une poésie qui ne serait qu’une manière de jongler avec les mots, plus ou moins au hasard, n’aurait guère d’intérêt, sauf si le lecteur s’avisait de lui attribuer un sens. Mais dans ce cas c’est le lecteur qui ferait l’œuvre.

On en reste, finalement, à l’opposition fondamentale soulignée, autrefois par Georges Canguilhem, entre le fonctionnement d’une machine et les processus du vivant. Canguilhem n’a cessé de lutter, dans son œuvre, contre la vision, proposée par Descartes, de l’animal comme une machine. C’est l’objet, notamment, dans son essai Machine et organisme que je lis et relis toujours avec le même intérêt. «La vie, écrit-il par exemple, est expérience, c’est-à-dire improvisation, utilisation des occurrences; elle est tentative dans tous les sens.» Ce qui fait, pour nous, le sel de l’existence est le point même où nous sommes infiniment plus compétents que des machines.

Et Canguilhem, qui a écrit ses travaux à l’époque du taylorisme triomphant dans l’industrie, se posait la question non pas de savoir jusqu’à quel point une machine serait capable d’aller, mais jusqu’à quel point on la laisserait nous asservir.

Est-ce nous qui allons rendre les machines intelligentes ou bien est-ce que ce sont les machines qui vont nous rendre idiots?

C’est la question que pose le documentaire, vers sa fin. En fait, de par leurs limites mêmes, les machines nous rendent idiots si nous sommes obligés d’en passer par elles pour agir.

D’abord les situations de travail où les algorithmes dictent leur loi se multiplient. Dans les call-centers, les téléphonistes doivent s’en tenir à des scripts et suivre les consignes de l’interface informatique, au fil de l’entretien. Chacun de nous a eu l’occasion de mesurer à quel point l’interaction que l’on peut avoir avec une personne ainsi contrainte s’éloigne de ce qu’on attend d’une conversation!

L’automatisation reste, encore souvent, une stratégie rentable, même si, ce faisant, on dégrade le service rendu.

Cela ne nous rend pas forcément idiots, mais cela génère chez nous beaucoup d’inconfort et d’insatisfaction. Et, comme l’écrivait Georges Canguilhem à propos du travail contraint par une machine:

«Les réactions ouvrières à l’extension progressive de la rationalisation taylorienne, en révélant la résistance du travailleur aux mesures qui lui sont imposées du dehors, doivent être comprises autant comme des réactions de défense biologique que comme des réactions de défense sociale et dans les deux cas comme des réactions de santé».

Et le fin mot de l’affaire (que le documentaire évoque, d’ailleurs), c’est que nous ne sommes pas simplement intelligents. Nous sommes des personnes de chair et de sang, qui ressentent, qui aiment et qui souffrent et qui, entre autres choses, sont plus ou moins intelligentes. Dans le Sermon sur la Montagne Jésus disait: «La vie est plus que la nourriture et le corps plus que le vêtement» (Matthieu 6,25). Assurément, la vie est plus que l’intelligence et spécialement plus qu’une intelligence dont le but essentiel est d’être rentable économiquement.

Illustration: portillon avec dispositif de reconnaissance faciale dans le métro d’Osaka au Japon (photo Tokumeigakarinoaoshima, CC BY-SA 4.0).

(1) Autopsie d’une intelligence artificielle, documentaire de Jean-Christophe Ribot, 2022.