savoir

Kate Crawford : « l’IA est une nouvelle ingénierie du pouvoir »

 

« « Nous sommes confrontés à des systèmes techniques d’une puissance sans précédent, qui impactent très rapidement tous les secteurs, de l’éducation à la santé, de l’économie à la justice … Et la transformation en cours est concomitante à la montée de l’autoritarisme et du populisme ». Cette évolution n’est pas une coïncidence, avance la chercheuse : l’un et l’autre interrogent la centralisation du pouvoir et nécessitent d’améliorer notre compréhension critique des formes de pouvoir. Cette combinaison renforce les difficultés pour maîtriser ces outils et les rendre responsables et nécessite de comprendre en profondeur les relations entre politique, pouvoir et IA. »

« Je ne suis qu’un ingénieur » avait répondu l’un des coauteurs d’un projet de recherche de police prédictive dont les résultats s’étaient révélés particulièrement biaisés. Le genre de réponse qui énerve particulièrement Kate Crawford (dont la conférence d’inauguration de la chaire IA et Justice à l’ENS est ici résumée par Hubert Guillaud), spécialiste américaine des « implications sociales des systèmes techniques » comme le Big Data, les algorithmes et l’intelligence artificielle dont tout le travail consiste à faire comprendre aux concepteurs de nouveaux outils techniques qu’ils ont une responsabilité (alors que « cette façon de ne pas reconnaître sa responsabilité est en passe de devenir une norme »). Pour elle, « Nous entrons dans une époque où des procédés techniques sont transformés très rapidement en systèmes. Ce faisant, ils renforcent des biais culturels et les automatisent, en les rendant à la fois invisibles et incontournables ». Or l’intelligence artificielle n’est pas qu’une technique ou une technologie mais aussi une « pratique sociale qui nécessite de comprendre qui travaille sur ces systèmes, quelles données sont utilisées, comment sont-elles classées ». Et surtout une « infrastructure industrielle particulièrement concentrée » qui en fait « une nouvelle ingénierie du pouvoir ». Loin des rêves de neutralité objective, la démultiplication des données a démultiplié les discriminations puisque « les jeux de données reflètent les hiérarchies sociales et les structures de pouvoir existantes » et que « les biais sont devenus le matériel brut de l’IA ». Pour Crawford, « nous n’avons pas de procédures fiables pour améliorer ces systèmes décisionnels correctement … La correction « technique » de ces systèmes – présentée comme neutre et objective – risque surtout de refermer les débats et l’intérêt actuel à regarder concrètement comment ils fonctionnent et les problèmes qu’ils posent ». Au fond, ces systèmes sont « dangereux quand ils échouent, nocifs quand ils fonctionnent » et « améliorer un système injuste ne peut que créer un plus grand préjudice ». La vraie question que devraient ainsi se poser les concepteurs de systèmes serait alors : « Votre outil donne-t-il plus de pouvoir aux plus puissants ? »

(30 septembre 2019)

Réseaux sociaux : ont-ils enterré le débat public ?

 

« Mais attention à ne pas tomber dans une forme de « solutionnisme technologique » inversé : il est très complexe d’évaluer les impacts précis des dynamiques à l’œuvre sur les réseaux sociaux dans le cas du référendum britannique ou de l’élection américaine, dont les résultats ont des causes profondes d’ordre social et politique. Et ni Facebook ni Twitter n’ont inventé ce que les sciences sociales nomment « homophilie » : la tendance à fréquenter prioritairement ses semblables. »

Remarquant que l’on est passé récemment, à propos des des réseaux sociaux, d’un « techno-optimisme sans doute excessif » à un « techno-pessimisme radical », Amaelle Guiton note que n’avaient pourtant pas manqué, dès le début des années 2010, les avertissements sur les manipulations autoritaires ou la désormais célèbre « bulle de filtrage » qui « enveloppe l’internaute quand les informations qui lui parviennent sont passées au tamis des algorithmes de personnalisation ». Si la polarisation idéologique et les « bulles informationnelles » ne datent pas d’aujourd’hui, c’est surtout « l’échelle inédite des réseaux sociaux » qui est nouvelle « et la place qu’ils ont prise dans l’accès à l’information ». La véritable question serait alors de « s’interroger sur les architectures techniques et les modèles économiques de ces intermédiaires d’un nouveau genre, ainsi que sur leurs potentiels effets dévastateurs ». Bref, « d’imaginer d’autres architectures et d’autres modèles » pour « favoriser l’ouverture plutôt que l’enfermement, encourager la confrontation des points de vue plutôt que l’invective et les contenus jouant sur le seul registre émotionnel ».

13 août 2019

Le métier d’enseignant en France : une attractivité en déclin

« Cette étude montre que l’exigence d’un niveau de qualification plus élevé n’a pas toujours un impact positif sur le recrutement. Bien entendu, l’augmentation du niveau des diplômes des enseignants n’est pas un problème en soi. Elle s’est d’ailleurs produite plusieurs fois au cours de l’histoire, même si aucune étude n’a jamais démontré de lien de causalité entre le niveau du diplôme et la qualité de l’enseignement. La réforme de la « masterisation » montre avant tout un manque de réflexion sur le contexte et les modalités de sa mise en œuvre. »

Jusqu’en 2010, « les enseignants du primaire et la plupart des enseignants du secondaire (dans les secteurs public et privé) étaient recrutés au niveau licence ». Depuis 2011, « tous les candidats aux postes d’enseignant du primaire et du secondaire doivent être titulaires d’un master ou équivalent l’année d’obtention du concours ». Cette réforme de la masterisation avait 2 objectifs : « améliorer la qualité de l’enseignement en allongeant la durée d’étude des enseignants » et « réduire la dépense publique en ne rémunérant plus la formation initiale ». Examinant ses effets « sur le recrutement des enseignants du primaire public », Mélina Hillion (Dares) constate que le nombre de candidats a chuté de 50 % entre 2011 et 2013, de 40 % entre 2014 et 2017. De plus, cet « effet négatif de la réforme a été plus prononcé dans les académies où le nombre de candidats par poste était le plus faible avant la réforme, c’est-à-dire dans les académies où le besoin en enseignants est le plus élevé ». Une explication pourrait être que « l’écart salarial entre les enseignants et les autres professions est considérablement plus élevé chez les diplômés de master que chez les diplômés de licence ». En tout état de cause, comme l’a noté la Cour des comptes dans son rapport sur la question en 2018, la double conséquence directe de cette chute drastique du nombre de candidats a été « le recours accru à des enseignants contractuels, qui sont souvent dépourvus de formation initiale et n’ont pas toujours le niveau de qualification requis » et « l’introduction de concours supplémentaires, dits « concours spéciaux », dans l’académie de Créteil et plus récemment dans celle de Versailles afin de pourvoir les postes non attribués en première instance, générant au passage des frais d’organisation supplémentaires ».

16 juillet 2019

Il n’y a pas d’ « endroit » de la classe

 

« En réalité, l’histoire même des regroupements d’élèves montre de nombreuses transformations qui se sont opérées au fil des années. La classe, avec ses vingt à trente-cinq élèves, est une invention relativement récente. De même, des formes d’enseignement que l’on pense de « bon sens » (le grand ennemi de tout progrès et de toute pensée complexe), sont tout autant datées historiquement et donc forcément « contestables », en tout cas, pas fixées dans le marbre. »

Intervenant lors du Congrès des classes inversées et des méthodes actives, Jean-Michel Zakhartchouk conteste d’abord l’alternative entre classe non inversée et classe inversée, la première n’étant pas plus à l’endroit, normale ou évidente que la deuxième qui cherche à inventer une pédagogie différenciée en modifiant la structure de la classe. Car il n’y a pas « une forme privilégiée qui serait « l’endroit », la norme » en matière de pédagogie ni de choix drastique entre une « pédagogie explicite très cadrée », un travail « par ilots » ou une « pédagogie de la découverte systématique ». Il y a plutôt selon Zakhartchouk différents « régimes de fonctionnement » adaptés à l’objectif : « Les formes les plus diverses peuvent donc, doivent donc se déployer, la condition étant au préalable de bien définir où on va. C’est cela qui va guider l’enseignant tout le long du processus d’apprentissage. Les dispositifs dits d’« inversion » peuvent mener au confusionnisme et à une pédagogie renforçant les inégalités si elle n’est pas guidée par un horizon précis : quel est le point-clé qui sera fil directeur de la séquence, quelles sont les compétences précises qu’on veut atteindre, quels sont les attendus au final ? On peut alors discuter des multiples chemins pour y parvenir. » Dans ce cadre, la « classe inversée » (ou plutôt la « classe diversifiée ») pourrait être un moyen d’accompagner la révolution numérique, d’atténuer la séparation école/maison et surtout de « prendre ses distances avec tout dogme, avec toute recherche de « la » solution miracle ».

2 juillet 2019

Le mal-être français

 

« Les solutions ne sont pas simples à concevoir ni faciles à mettre en œuvre. Elles se heurtent au mythe méritocratique, particulièrement prégnant s’agissant de la France, selon lequel l’éducation doit assurer la promotion sociale (et qui n’est pas pour rien dans la forte séparation qui existe dans notre pays entre le travail manuel et le travail intellectuel). « Le même dilemme est posé aux autres sociétés développées, mais elles s’en sont souvent mieux tirées. Dans certains cas, la durée des études n’a pas autant augmenté qu’en France ; dans la plupart des autres, l’emploi est moins lié au diplôme qu’à la personnalité, aux potentialités et aux expériences passées des candidats. » »

Rendant compte du livre de Hervé Le Bras Se sentir mal dans une France qui va bien. La société paradoxale, Jean Bastien explique que le démographe part de la crise des Gilets jaunes pour tenter de comprendre les raisons d’un « pessimisme, qui tranche avec le reste de l’Europe, englobe la plupart des institutions, avec une méfiance envers l’économie de marché, mais également envers l’Etat providence, pourtant particulièrement investi, et finalement une mauvaise opinion de leurs concitoyens ». Pas d’explication du côté des indicateurs sociaux généraux puisque « par rapport aux autres pays européens, la France figure parmi ceux où la pauvreté et les inégalités sont les mieux contenues et les mieux corrigées par les prestations sociales, l’accroissement des inégalités ne concernant que des groupes très minoritaires, particulièrement défavorisés ou au contraire très privilégiés », pas plus en matière de santé, retraite, famille, logement ou sécurité. Quant à la question des territoires, déterminante dans la crise des Gilets jaunes (plus actifs dans ce qu’on appelle la France du vide), elle l’est moins quant à ce mal-être puisque l’éloignement des grandes villes n’accentue pas les problèmes et les inégalités mais a plutôt tendance à figer les situations sociales. D’où l’accent mis par Le Bras sur l’éducation et la mobilité sociale, le « désajustement entre l’augmentation du niveau d’éducation et le glissement de l’échelle sociale vers les catégories supérieures, qui a été beaucoup moins rapide. Avec pour conséquence un fort ralentissement de l’ascension sociale, que semblent désormais corroborer différentes enquêtes et selon lesquelles la position de la France apparaît alors particulièrement désavantageuse par rapport aux autres pays européens ». Cela joue particulièrement pour les femmes qui ont dépassé les hommes en niveau d’éducation tout en n’améliorant qu’à peine leur position sociale. Pour Le Bras, c’est ce « mythe méritocratique » français, ancré dans la culture et les représentations, qui pourrait expliquer les difficultés de notre pays à relancer la promotion sociale.

2 juillet 2019

« Le jugement éthique est une affaire d’humains, pas de robots »

 

« Je pense qu’il faut avant tout rendre les concepteurs conscients des questions éthiques, qu’il s’agisse des programmeurs ou des compagnies qui vendent les produits. Même si je ne pense pas qu’il faille leur donner des réponses universelles, car il y a une grande diversité de situations. Quand on étudie la biologie, on entend parler des enjeux éthiques dès le premier cours de master, mais ce n’est pas le cas du tout quand on est informaticien. »

Physicien et philosophe, Alexei Grinbaum vient de publier Les Robots et le Mal. Interrogé par Lucile Meunier et Justyne Stengel, il suggère de recourir au hasard et à l’aléatoire dans la programmation des machines, particulièrement « lorsqu’un conflit éthique est détecté, et que la machine est susceptible de prendre part à ce conflit ». Cela permettrait selon lui de soustraire « la machine à ses responsabilités », responsabilités qu’elle ne peut assumer puisqu’elle ni un « agent humain » ni même une « personne juridique » comme le proposent aujourd’hui certains juristes : « Une des caractéristiques des êtres humains, c’est leur personnalité (personhood en anglais), soit la capacité à être libre et se constituer en personne. Ce n’est pas le cas des machines, qui sont fonctionnelles : elles agissent mais ne savent pas pourquoi elles agissent. » Un statut fonctionnel qui lui (comme « les questions éthiques posées par l’intelligence artificielle »), n’a rien de nouveau et qui rappelle les anges et démons des « mythes bibliques, talmudiques ou grecs », des individus qui « sont autonomes mais ne sont pas libres comme les humains ».

18 mai 2019