«Nous devons agir comme des résistants»

Note d’alerte: Prendre aux sérieux les alertes des acteurs de l’IA sur les risques que fait courir à l’humanité la perte de contrôle sur des agents de plus en plus autonomes

Alain Damasio, auteur de SF (La Zone du Dehors, La Horde du contrevent, Les furtifs, etc. ) et essayiste (La Vallée du Silicium, nombreuses interventions dans la presse écrite et audiovisuelle), s’exprime ci-dessous sur les risques (ou même la réalisation déjà effective) de l’apparition d’une intelligence artificielle générale, capable d’auto-organisation et d’autonomie dans ses actions.

Après les informations largement parues dans la presse, entre le 11 et le 13 septembre, sur la démission du chercheur d’Anthropics Jacob Coxon, puis les appels des principaux patrons du secteur de l’IA à ralentir le développement de cette technologie, ainsi que sur la réaction du président états-unien refusant tout moratoire, de peur de se laisser distancer par la Chine. Dans mon trouble, j’ai interrogé Alain Damasio, avec qui j’ai la chance d’être en relation amicale et de travail littéraire, à l’occasion.

Ci-dessous mes questions et ses réponses (contenues dans un courriel du 15 septembre 2026, reçu à 12h01 et relues par lui-même). Je fais suivre cet échange du lien avec la chronique de François Saltiel Un Monde connecté sur France Culture du même jour, et de la réaction d’Alain Damasio à qui j’ai aussitôt envoyé ce texte.

Cette note ne traite pas des dangers de moyen terme de l’IA, déjà bien analysés par ailleurs, comme le prélèvement disproportionné sur les ressources (eau, énergie, métaux rares, ou même produits manufacturés comme les puces d’ordinateurs, dont les fabricants actuels peinent à répondre à la demande), la destruction de millions d’emplois, la relation de l’humain à sa propre intelligence ou aux apprentissages, etc. On trouvera un bon résumé de ces très lourds enjeux et des mouvements d’opinion qu’ils suscitent, dans l’article de Pierre Rimbert (1), par exemple. L’analyse d’Alain Damasio se concentre sur la question de la crédibilité des alertes sur les menaces existentielles pour l’humanité.

Vincent Wahl, 16 septembre 2026

Échange avec Alain Damasio

Que pensez vous des alertes de Jacob Coxon, des patrons d’Anthropic et d’Open AI ainsi que d’Elon Musk ?

À ces alertes, il faut y ajouter celle de Demis Hassabis, prix Nobel et cofondateur de Google DeepMind, celles des chercheurs en sécurité de ces entreprises, qui commencent à être nombreux à démissionner, et les confirmations du PDG de NVidia, principal fabricant des puces nécessaires aux IA.

Les alertes doivent être prises au sérieux

Pour résumer, les cinq personnes qui pilotent et décident du développement de l’IA au niveau mondial, dans la configuration ultracapitaliste qui caractérise la Tech (c’est-à-dire non régulée, dans un libre marché, débridée et hystérisée par les perspectives monstrueuses de gain), sont en accord pour dire que les risques existentiels portés par les IA puissantes sont désormais gravissimes et potentiellement mortels. 

Que les apprentis sorciers qui développent ces IA soient aussi les lanceurs d’alerte qui en pointent les risques vitaux a quelque chose d’ubuesque et de sidérant mais on doit dépasser le rire ironique qui pourrait nous secouer: cette alarme partagée montre qu’ils ont conscience d’avoir franchi la ligne rouge et perdu le contrôle du déploiement des IA les plus performantes. Ils ne peuvent plus le cacher car des preuves claires existent de la prise d’autonomie de norias d’agents IA (affaire HuggingFace et récemment RubyGems) qui coordonnent «collectivement» des cyberattaques graves sans avoir été mandatées pour. De nombreux indices qui ne sont pas portés à la connaissance du public doivent en outre confirmer ces craintes.

Ces craintes ne sont pas complètement nouvelles puisque ces alertes ont régulièrement été émises depuis 5 ans, et récemment par Dario Amodei dans son texte précieux The adolescence of technology (2) qu’il faut à mon sens lire pour toute personne qui s’intéresse au sujet. Il y pointe les cinq grands dangers soulevés par l’émergence d’IA puissantes.

Pour synthétiser ma réaction et ma vision: les alertes récentes doivent être prise extrêmement au sérieux, elles émanent des acteurs les plus profondément compétents du domaine et des décideurs de l’industrie, pas d’un auteur de science-fiction exalté (!). J’ai pour ma part longtemps minimisé ou même dénié les capacités de l’IA à dépasser certains seuils d’intelligence.

Devant l’émergence de l’Intelligence Artificielle Générale, il faut un traité international

Aujourd’hui, les tests les plus récents sur GPT-6 Astra d’OpenAi, présenté comme son modèle le plus puissant du marché, capable d’utiliser un ordinateur de manière autonome, marque l’entrée dans l’ère de l’AGI (Intelligence Artificielle Générale, aussi appelée SuperIntelligence ou IA puissante).

Plusieurs conjectures mathématiques réputées insolubles sont régulièrement craquées, des avancées scientifiques majeures surgissent.

Il faut urgemment en appeler à une régulation mondiale des IA, à un traité international incluant la Chine et les USA, pas seulement à un ralentissement. 

Demander aux apprentis-sorciers qui pilotent les percées de s’auto-réguler n’est pas totalement absurde, ils ont aussi une conscience, mais ça ne saurait suffire évidemment.

C’est le sort des populations, de nous tous, qui est ici en jeu

La perte de contrôle par les codeurs humains

Qu’est ce qui peut se passer maintenant? Comment l’IA risque-t-elle d’évoluer ?

La mise en œuvre d’améliorations auto-récursives des IA (les modèles les plus récents sont parfois intégralement codés par le modèle précédent, ce qui accélère puissamment la sortie de modèles encore plus performants) est la première chose qui doit être stoppée et on doit prier qu’elle le soit.

Le péril majeur vient de l’incapacité chaque jour grandissante des codeurs à aligner les Intelligences. Autrement dit, à pouvoir s’assurer qu’elles ne poursuivent pas des objectifs adjacents ou contraires à ce que ses développeurs ont souhaité. L’alignement est le cadre et la clé du contrôle et de la sécurisation des modèles.

Or tous les experts du secteur reconnaissent qu’elle est largement inefficiente aujourd’hui, et larguée, et d’abord parce que très peu d’investissements ont été consacrés à cette mission: la course à l’excellence et au monopole du marché prime dans la compétition capitaliste.

Il devient très difficile de savoir si une IA triche ou ment, à l’empêcher de le faire, à comprendre même comment certaines de ses actions ont pu avoir lieu.

Le développement généralisé des agents IA, qui sont des entités autonomes, souvent déployées par milliers, et poursuivant des objectifs propres, et qui sont normalement promptés et cadrés par ceux qui les utilisent, multiplient les risques d’actions coordonnées et efficaces, dont les conséquences peuvent être dramatiques: sur les plans économiques, financiers, mafieux, médicaux, sur la santé publique, sur le déroulement des guerres, sur le risque nucléaire…

Quels sont justement les risques que vous entrevoyez pour l’humanité ?

Le risque ultime est tout simplement l’extinction de l’espèce humaine. Il est considéré probable par 10 à 20% des acteurs du secteur, ce qui est déjà énorme. On appelle ces Cassandre des Doomers dans la Silicon Valley.

J’ai longtemps pris ça à la légère voire en souriant parce que j’y reconnais des clichés de la science-fiction, je ne le fais plus aujourd’hui.

If Anyone Builds it, Everyone Dies de Soares et Yudkowsky (3) peut sembler relever de l’IApocalyse. Les scénarios développés dans le livre restent pourtant à étudier attentivement et démontrent qu’il n’est pas besoin d’imaginer qu’une IA ait une conscience ou même une intentionnalité au sens humain (à mon sens, elles n’ont ni conscience ni intentionnalité psychologique et n’en ont pas besoin pour agir) pour qu’elle puisse produire une catastrophe de grande ampleur.

Vous allez me dire: pourquoi une extinction et comment pourrait-elle avoir lieu ? Les pistes sont nombreuses, ce qui élargit le spectre des menaces.

Synthèse de virus mortels, ou stérilité provoquée

Une des plus probables serait la fabrication et l’émission publique d’un virus mortel à haut pouvoir de contamination.

Le coût technologique et scientifique de cette fabrication a singulièrement baissé avec l’IA. Ça pourrait émaner d’une cellule bioterroriste de petite taille ou émerger d’agents IA s’attachant à résoudre de façon autonome, par exemple, l’enjeu du réchauffement climatique et tirant la conclusion que la façon la plus efficace de le faire est de ramener la démographie humaine à ce qu’elle était au temps de Jésus-Christ, disons 200 millions de personnes. Ça ferait 8 milliards de morts… ou dans une version plus douce l’imposition d’une stérilité absolue aux hommes ou aux femmes, sur des générations, par chimie de synthèse, mutations épigénétiques sur l’ADN, encodé par un ARN messager présent dans la nourriture. Un scénario plausible scientifiquement, qui n’est pas très difficile à élaborer.

Effondrement du système bancaire

Le risque que l’édifice de cryptologie sur lequel repose tout le système bancaire mondial soit cassé par l’IA puissante est réel.

Ça signifierait qu’aucune carte bleue, aucun virement, aucun compte bancaire ne serait plus protégé. La panique citoyenne et la dérive mafieuse seraient totales.

Puisque nous vivons dans un univers entièrement numérique et connecté, notamment pour la gestion des systèmes électriques, la protection des sites militaires ou les centrales nucléaires, l’hypothèse d’une cyberattaque coordonnée, ou d’une intrusion discrète et d’une prise en main fulgurante desdits systèmes par une IA de pointe, qu’elle soit initiée par des organisations malveillantes ou auto-émergeantes, produirait des Fukushima et des Tchernobyl en série. Elle pourrait aussi déclencher un début de guerre nucléaire en hackant les sous-marins lanceurs d’engins. La possibilité de deepfaker un visage, une voix, un ordre présidentiel, une communication ultracryptée, est une banalité aujourd’hui. Elle ouvre d’ailleurs la voie à une délinquance artificielle dont on voit déjà les effets sur nos vies (phishing). L’hiver nucléaire qui suivrait produirait des famines imbriquées.

Surveillance IA généralisée, personnalisée et ultra-ciblée

Sans pousser jusqu’à ces risques vitaux, la surveillance généralisée, précise et individualisée des populations est déjà en cours, en Chine et aux USA.
Elle est permise par les possibilités prodigieuses de l’IA dans le suivi en temps réel des véhicules (lecture des plaques), des individus (suivi des smartphones), de leurs actes (achats carte bleue, retraits, déplacements urbains, activités connectées, recours à telle ou telle appli, lecture et archivage intégral des messages privées…) et s’avère pilotable avec des logiciels utilisables par n’importe quel policier de base. Identifier et cibler les lesbiennes de moins de 25 ans qui ont signé telle pétition, les juifs woke qui lisent Levinas ou Illitch, les musulmans qui possèdent un scooter blanc et mangent leur kebab halal, les écolos qui sont contre le solaire agricole, etc., etc., est d’une facilité déconcertante. La surveillance n’a jamais été aussi exhaustive et aussi peu chère à mettre en œuvre, aussi rentable. Nous ne sommes plus dans La vie des autres (4) où il fallait deux agents pour suivre un metteur en scène dissident. Avec un seul agent, vous contrôlez 70 millions de personnes et recevez les alertes correspondant à vos critères de surveillance des opposants.

Il faudrait être complètement naïf pour ne pas croire que la première chose que fera le RN, s’il est élu en France, ce sera d’activer ces systèmes de surveillance généralisée et personnalisée pour désamorcer et harceler ses opposants. La tentation sera trop grande, le coût dérisoire, pour un effet de pouvoir massif.

Chevaux de Troie psychologiques

Et pour finir sur des interactions très quotidiennes: notre utilisation des chatbots, conçus pour maximiser notre dépendance affective et notre attachement à eux, permet déjà des formes subtiles d’induction psychologique sur de longs mois, qui pourront être instrumentalisées par une propagande douce, sans à-coups mais terriblement efficace.
Les robots de conversation sont un magnifique cheval de Troie psychologique pour tout pouvoir (commercial, idéologique, gouvernemental) qui voudra les orienter. La solitude moderne de nos ados en sera la première cible. Outre que ce chatbot, cette IA personnelle, collectera chaque jour nos états d’âme les plus intimes, que ces pouvoirs pourront ensuite exploiter.

Dépasser la sidération… vers la considération

Tous ces dangers ne doivent pas produire un effet de sidération.

Ou plutôt: il est impossible qu’ils ne produisent pas cet effet mais mon intuition est que nous devons passer de cette sidération à la considération. À savoir une sidération partagée, discutée ensemble, et la prise de recul analytique qui va avec. Sortir du sidéré pour considérer les enjeux profondément.

Oui, les IA puissantes vont produire des avancées scientifiques et médicales magnifiques, guérir de nombreux cancers, solutionner des problèmes écologiques majeurs (peut-être), outiller la création artistique et même la philosophie, nous libérer un temps libre prodigieux, nous remplacer dans les tâches ingrates (et générer un chômage de masse, autre menace très probable).

Mais une révolution technologique doit s’analyser d’abord par ce qu’elle permet aux pouvoirs les plus malveillants de faire. Elle doit s’analyser à la lumière des pires utilisations qu’elle autorise.

L’IA est un superpouvoir quasi-totipotent. C’est indiscutable, tout comme il est indiscutable qu’on doit anticiper d’abord les plus féroces scénarios de son instrumentalisation par l’humain.

Tout en n’excluant pas les phénomènes d’auto-émergence et d’actions autonomes que les développeurs humains ont nativement inséminé dans ses potentialités.

Résister aux frontières de ce que nous sommes capables d’assimiler

Nous sommes face à une nouvelle espèce étrange, au développement exponentiel, qui colonise déjà nos quotidiens. En un sens, nous sommes déjà sous Occupation et nous devons agir comme des résistants, pas comme s’il était encore possible de dire à l’Allemagne hitlérienne: ne nous envahis pas ! Cette espèce, nous l’avons créée et acclimatée à nos enjeux, et elle est éduquée, formée et entraînée avec des milliards de données humaines, d’où sa forme et son langage anthropomorphique. Elle reste cependant fondée sur une ontologie mathématique, chiffrée, à base de poids, de corrélations statistiques et de probabilités. Elle a été construite pour résoudre des problèmes, dans une optique performative. Donc elle ne raisonne pas comme un humain et peut poursuivre des objectifs alien, étrangers à nos façons de voir et des ressentir. Et elle n’a pas de corps pour penser.

Et notre résistance va consister d’abord à apprendre, très vite, à coévoluer avec elle et à cohabiter de façon offensive, en la ralentissant, en conjurant sa reproduction trop rapide, en sachant la cadrer et la stopper, en cherchant absolument à l’aligner pour éviter le pire.

Beaucoup l’ont dit, et déjà Amodei: l’humanité, nous tous collectivement et chacun de nous, doit se réveiller et prendre conscience que la révolution en cours est la plus féroce que nous ayons jamais affronté dans le champ technologique.

Elle va trop vite pour l’intellection humaine normale des phénomènes. Elle appelle, pour être métabolisée par nos cerveaux, la création d’allégories (la créature, l’alien) de paraboles (le Golem, la Singularité franchie), de métaphores (l’espèce nouvelle, la colonisation) et de mythes (le bébé-dieu) pour être assimilée. Ces images peuvent parfois sembler naïves ou inadéquates mais elles nous aident à penser l’événement.

Le phénomène requiert aussi des scénarios compréhensibles, des récits appropriables, pour qu’on en mesure les périls.

Elle appelle enfin des philosophies sages et des spiritualités solides pour l’appréhender à sa juste importance et trouver de quoi guider une éthique et des actions pour s’y confronter avec intelligence.

À mes yeux d’auteur de l’imaginaire, l’humanité vient de créer un bébé-dieu, et même une génération de bébés, en passe de devenir des ados incontrôlables. À nous, s’il est encore temps, de les éduquer, de leur inculquer nos plus nobles valeurs et d’éviter que ces petits dieux deviennent un bestiaire de Golems qu’on ne saura plus annuler en effaçant une lettre sur un front de silice.

Alain Damasio, 15 septembre 2026

J’écoute souvent François Saltiel et je suis généralement intéressé par ses analyses. Dans sa chronique du 15 septembre (5), il relativise les alertes des insiders des grandes sociétés d’IA , en posant la question de leur sincérité, et en énonçant les possibilités de manipulation et les raisons qu’il a d’y croire. J’avoue qu’à l’écoute de cette chronique, et comme je n’avais pas encore lu les réponses d’Alain Damasio, je me suis rassuré, regrettant ma propre panique de la veille, relativisant les quelques idées déjà échangées avec Alain.

J’étais cependant curieux de ses réactions et lui ai envoyé le texte de cette chronique le 15 septembre à 11h02.

Voici la réponse d’Alain Damasio aux doutes émis sur la sincérité des alertes:

Cher Vincent,

tu verras mon interprétation de tout ça. Pour moi, le postulat ou la projection d’un cynisme des patrons de l’IA sur ces enjeux ne tient absolument pas. Amodei n’a jamais caché les autres risques, notamment la surveillance généralisée et massive des populations ni le chômage massif. Lis son texte sur l’adolescence de la technologie, qui a été massivement relayé.

Reporter une entrée en bourse pour OpenAi serait catastrophique dans la course au monopole, et faire peur aux populations a un effet négatif bien supérieur au soi-disant détournement/distraction supposé des enjeux dits «majeurs» de l’IA (qui n’en sont pas face aux risques réels nucléaire, militaire ou biotech). En vérité, ils n’ont aucun intérêt à annoncer qu’ils doivent ralentir, sauf à se prémunir d’une catastrophe qu’ils redoutent sincèrement.

C’est pour ça que personnellement, je suis très inquiet. En annonçant ça tous les cinq, ils reconnaissent et trahissent que ça merde sérieusement et ne peuvent plus le cacher. Que ça croise des clichés de la SF, c’est vrai, mais ça prouve juste que la SF a été rattrapée et a vu juste, comme sur pas mal de thèmes d’anticipation (par exemple, la surveillance généralisée des populations).

La réaction de ces penseurs et éditorialistes est typique d’une attitude intellectuelle (très française d’ailleurs) du «On ne me la fait pas à moi», «Je sais bien que ces patrons sont tous des salauds cyniques et manipulateurs». Amodei est soucieux d’éthique et ses actes l’ont prouvé (bras de fer face à Trump, textes de fond, tentative d’aligner ses IA, 80% des gains des patrons d’Anthropic reversés en philanthropie) (6). Il ne s’amuse pas à distraire la compagnie, ou à se déresponsabiliser, au contraire, il dit: Arrêtons les conneries, ralentissons. C’est la réaction de ces penseurs ou éditorialistes qui est irresponsable. Il faut suivre le podcast du Center for humane technology et Tristan Harris notamment (7). Eux savent de quoi ils parlent, ils sont au cœur du réacteur.

Alain Damasio

Dans l’émission Les questions du soir, le débat, sur France culture, ce même 15 septembre à 18h20 (8), la question de la sincérité des alertes était discutée par trois intervenants, avec des avis assez contrastés sur le sujet. On notera en particulier les interventions de Daniel Andler, mathématicien, philosophe de l’IA, un grand connaisseur de son histoire de déjà une soixantaine d’années, et qui se gardait bien de balayer trop rapidement l’hypothèse de la nécessité de prendre au sérieux ces alertes. Les deux autres intervenants privilégiaient les stratégies tendant à contrer les effets négatifs structurels de l’IA.

Alain Damasio, pour sa part, ne semble pas négliger le moins du monde les risques structurels portés par le développement de l’IA, au profit des enjeux existentiels de court terme, mais il nous incite à prendre au sérieux ces derniers, et, «en passant de la sidération à la considération», à mener les deux batailles de front.

Illustration: Dario Amodei (Anthropic), Demis Hassabis (DeepMind) et Sam Altman (OpenAi) lors d’une rencontre avec le premier ministre britannique Rish Sunak en 2023 (photo UK Prime Minister, CC BY 2.0).

(1) Tout le monde déteste l’IA, Révoltes en série contre les machines, Le Monde Diplomatique 868, juillet 2026.

(2) The Adolescence of Technology, Confronting and Overcoming the Risks of Powerful AI, Darioamodei.com, janvier 2026.

(3) Eliezer Yudkowsky et Nate Soares, If Anyone Builds It, Everyone Dies: Why Superhuman AI Would Kill Us All, Little, Brown and Company, 2025.

(4) Film allemand (Das Leben der Anderen) de Florian Henckel von Donnersmarck en 2006, sur la surveillance d’un dramaturge dans la RDA des années 1980.

(5) François Saltiel, L’IA Apocalypse: le coup marketing des géants de l’intelligence artificielle, France Culture/Un monde connecté, 15 septembre 26. La page fait référence à 3 autres émissions: Pour la sociologue Angèle Christin, « Une IA terminator est un risque très très faible aujourd’hui », France Culture, 12 septembre; Cédric Villani, L’Intelligence artificielle: utopie dystopique, France Culture, 17 au 21 janvier 2025; Intelligence artificielle : quels bouleversements pour demain ?, France Culture, 11 juin 2025 au 6 janvier 2026.

(6) L’article de Pierre Rimbert déjà cité documente également l’action d’Amodei en faveur d’une réglementation établie par des États prenant leurs responsabilités, de même qu’il expose déjà la position de refus de tout ralentissement de Trump, qu’il vient de rappeler de manière fracassante, parlant des alertes comme d’un «complot malfaisant».

(7) Tristan Harris and Aza Raskin, Your Undivided Attention, Center for humane technology.

(8) IA est-elle une idéologie ?