Chez Anthropic, une femme occupe une fonction qui, en langage clair, se rapprocherait de celle de gardienne de la conscience de Claude. Amanda Askell, philosophe titulaire d’un doctorat en éthique de l’Université de New York, dirige ce que l’entreprise appelle son équipe d’alignement de la personnalité. Le magazine culturel américain The New Yorker l’a décrite comme celle qui supervise « l’âme de Claude ». En janvier 2026, elle a été l’autrice principale de la constitutionnalisation de Claude, c’est-à-dire un document conçu pour amener l’un des systèmes d’intelligence artificielle les plus puissants au monde à agir avec honnêteté, bienveillance et gravité morale.
Je me surprends à penser souvent à elle ces derniers temps. Non seulement parce que j’utilise Claude, comme quelque 20 à 30 millions d’utilisateurs selon les estimations relayées par les médias, mais aussi parce que je suis avocate libanaise et que j’ai passé les deux dernières années à observer ce qui se produit lorsque ceux qui conçoivent les systèmes d’intelligence artificielle n’ont, à leur table, aucune Amanda Askell.
Ceux qui ont osé dire non
En avril 2026, le Pentagone, siège du département de la Défense des États-Unis, a annoncé avoir conclu des accords confidentiels de déploiement de l’intelligence artificielle avec huit grandes entreprises technologiques : SpaceX, OpenAI, Google, Microsoft, Nvidia, AWS, Oracle et une société moins connue appelée Reflection. L’accord devait permettre l’intégration directe de systèmes d’intelligence artificielle dans des réseaux militaires classifiés. L’annonce était remarquable par ce qu’elle contenait. Elle l’était encore davantage par ce qu’elle ne contenait pas : Anthropic ne figurait pas sur la liste.
La raison, rapportée par le média américain CNN, n’était pas qu’Anthropic manquait de capacités. Elle tenait au fait qu’Anthropic avait exigé que le Pentagone inclue des garde fous, notamment des limitations précises concernant la surveillance des civils et les applications liées aux armes autonomes. Or, le langage contractuel privilégié par le Pentagone employait l’expression « finalité sans restriction ». À la fin février, le président américain Donald Trump a annoncé l’interdiction de l’utilisation d’Anthropic dans les contrats de défense américains, aussi bien par le Pentagone que par les prestataires travaillant avec le département de la Défense.
Autrement dit, le seul laboratoire d’intelligence artificielle à avoir tracé une ligne éthique ferme a été sanctionné pour l’avoir fait, tandis que les entreprises qui n’ont posé aucune question dérangeante ont obtenu le contrat. Dans l’économie politique de l’intelligence artificielle militarisée, la conscience apparaît donc comme un désavantage concurrentiel.
Comment une âme se renégocie ?
Le parcours d’OpenAI jusqu’à cette même table mérite d’être raconté en entier, car il résume, en trois ans seulement, la trajectoire morale d’une industrie tout entière.
En 2023, la politique d’utilisation d’OpenAI interdisait explicitement les applications militaires, le développement d’armes et les usages liés à la guerre. L’interdiction était claire. Puis, comme l’a depuis documenté Tech Insider, une section du site d’actualité économique Business Insider, le langage s’est assoupli au cours de 2024 et jusqu’en 2025, les exceptions se sont multipliées et, en février 2026, après le refus d’Anthropic, l’entreprise a signé son propre accord classifié avec le Pentagone. L’entreprise qui affirmait autrefois qu’elle ne construirait pas d’outils destinés à la guerre construit désormais, par contrat, des outils à finalité sans restriction pour la guerre, sur des réseaux classifiés.
OpenAI a ainsi connu une transformation structurelle majeure qui l’a placée sur la voie du profit, en fragilisant, en supprimant et en renégociant ses garde-fous éthiques.
À quoi ressemble une finalité sans restriction ?
Je tiens ici à rester prudente afin de ne pas surestimer la vertu d’Anthropic. Ce géant du développement des grands modèles de langage est une entreprise privée, portée par des investisseurs et par une logique commerciale qui lui est propre. Refuser un contrat avec le Pentagone ne revient pas à renoncer, dans son ensemble, à l’intelligence artificielle militaire.
La militarisation de l’intelligence artificielle est déjà largement engagée, à travers les conflits et les continents. En janvier 2026, le Brennan Center a révélé que le Pentagone avait utilisé l’intelligence artificielle, y compris Claude d’Anthropic, dans son opération au Venezuela ayant conduit à la capture de Nicolás Maduro. En Irak et en Syrie, le Pentagone a déployé le Maven Smart System, une plateforme de ciblage fondée sur l’intelligence artificielle, conçue par l’entreprise d’analyse de données Palantir afin d’identifier des cibles de frappes aériennes à partir d’images satellites, de flux de drones et de données issues de capteurs. Comme l’a rapporté le Brennan Center for Justice en mars 2026, les algorithmes de Maven ne pouvaient identifier correctement un char, par beau temps, que dans environ 60 pour cent des cas, un taux qui chutait à 30 pour cent en conditions neigeuses ; pourtant, les commandants validaient tout de même des frappes sur la base de ses recommandations.
En Ukraine, les drones dotés d’intelligence artificielle peuvent désormais naviguer et sélectionner des cibles de manière autonome lorsque le GPS est brouillé, avec une précision des frappes qui serait passée d’environ 30 à 50 pour cent à 80 pour cent, comme l’a rapporté le magazine économique américain Forbes en septembre 2024. Auparavant, les drones ukrainiens reposant sur des opérateurs humains à distance avaient été progressivement rendus inefficaces lorsque les unités russes de guerre électronique ont appris à brouiller leurs liaisons de communication, comme l’a documenté Hudson Institute. À travers ces conflits, un schéma se dessine donc : l’intelligence artificielle comprime la chaîne de mise à mort, l’examen humain devient nominal et la responsabilité se dilue jusqu’à disparaître.
Gaza est le lieu où ce schéma a été documenté avec le plus de précision et avec les détails les plus accablants. Les Forces de défense israéliennes ont déployé des systèmes d’intelligence artificielle devenus depuis des cas d’école de ce qui se produit lorsque les décisions de ciblage sont confiées, même partiellement, aux machines. L’un d’eux, surnommé « The Gospel », analysait les données de surveillance et recommandait à des analystes humains des cibles à bombarder, notamment des bâtiments, des structures et des lieux. Un autre système, « Lavender », tel que l’a rapporté le média israélo palestinien +972 Magazine en avril 2024 à partir des témoignages de six officiers du renseignement israélien, consistait en une base de données alimentée par l’intelligence artificielle, qui répertoriait jusqu’à 37 000 hommes palestiniens associés par algorithme au Hamas ou au Jihad islamique palestinien, et qui servait à formuler des recommandations de ciblage. Lavender fonctionnait en tandem avec « Where’s Daddy », un système de suivi par intelligence artificielle conçu pour surveiller la localisation de militants présumés et avertir les opérateurs lorsqu’ils entraient dans leurs maisons familiales, permettant ainsi à l’armée de les frapper à cet endroit.
Une source a déclaré à +972 Magazine qu’elle consacrait 20 secondes à chaque cible, en traitant des dizaines par jour, avec, selon ses propres mots, « zéro valeur ajoutée en tant qu’humain, à part servir de tampon d’approbation ». Au cours des premières semaines de la guerre, le nombre de civils considérés comme des dommages collatéraux acceptables pour chaque cible signalée par l’intelligence artificielle était fixé à un maximum de 20 : cette règle était appliquée automatiquement, sans évaluation de la menace réelle posée par chaque individu. Comme l’a confié un officier du renseignement à +972 Magazine : « Les cibles ne s’arrêtent jamais. Il y en a encore 36 000 qui attendent. »
Des éléments tirés d’une base de données militaire israélienne classifiée, rapportés par The Guardian en mai 2025, ont révélé que seuls 17 pour cent des plus de 53 000 Palestiniens tués à Gaza étaient des combattants, ce qui signifie que 83 pour cent étaient des civils. Voilà ce que produit la logique d’une intelligence artificielle à finalité sans restriction lorsqu’elle rencontre une guerre réelle : non pas des dommages collatéraux au sens juridique, mais une chaîne infinie de cibles traitées à la vitesse de la machine, où les morts ne sont plus comptés comme des individus, mais comme une marge statistique acceptable.
Le débat sur la gouvernance n’a pas encore rattrapé cette réalité. Le droit international humanitaire a été construit autour d’un modèle de décision humaine : un commandant, un jugement, une chaîne de responsabilité. Lavender rompt ce modèle, non pas en retirant les humains du processus, mais en rendant leur présence purement nominale. Selon des analystes juridiques écrivant dans le blog universitaire germanophone et anglophone Verfassungsblog, l’examen de chaque cas individuel ne prenait que 20 secondes, pendant lesquelles l’opérateur humain se contentait souvent de confirmer que la cible était de sexe masculin. Techniquement, un humain restait dans la boucle. Fonctionnellement, cette boucle n’était plus qu’un tampon.
C’est précisément cette faille qu’aucun cadre juridique existant ne parvient à traiter de manière adéquate, et c’est cette faille qu’il incombe aux entreprises d’intelligence artificielle de réduire.
Où une âme trouve-t-elle son sens et sa raison d’être ?
Je reviens à Amanda Askell et à son document sur l’âme de Claude. Je ne cherche pas à le minimiser. La tentative d’intégrer des valeurs dans un système dès sa conception, de traiter le caractère comme quelque chose qui peut être élaboré avec soin plutôt qu’ajouté après coup, constitue un travail véritablement sérieux. La constitution de Claude est un document éthique plus rigoureux que la plupart des codes de conduite d’entreprise.
Mais voici la question que son travail soulève, depuis l’endroit où je me trouve : une âme n’a de sens qu’à la mesure du monde qu’elle habite. Un système conçu avec une attention éthique extrême peut être déployé dans des contextes que ses concepteurs n’ont jamais approuvés, par des institutions qui n’ont jamais partagé ses valeurs et contre des populations qui n’ont eu voix au chapitre à aucun moment.
L’âme de la machine relève d’une question de conception. Qui en supporte le coût relève, en revanche, d’une question de pouvoir. Or, pour l’instant, ces deux questions avancent dans des directions opposées.
Les entreprises qui ont posé les questions les plus difficiles ont perdu le contrat. Celles qui ne l’ont pas fait sont désormais intégrées à des réseaux militaires classifiés. Les systèmes qui ont encodé « jusqu’à 20 morts civils » comme seuil automatisé ont été construits par des humains qui, quelque part dans le processus, ont opéré une série de choix ; pourtant, les personnes qui ont subi les conséquences de ces choix n’ont été consultées à aucune étape.
Une intelligence artificielle responsable demeure possible. Mais sa survie dépend d’une chose que le marché vient de démontrer qu’il ne fournira pas de lui-même : un coût pour son abandon. Aujourd’hui, le coût circule entièrement dans l’autre sens : Anthropic a payé le prix de ses principes ; OpenAI a été récompensée pour les avoir abandonnés ; et Gaza a démontré, à une échelle dévastatrice, ce que produit la logique d’une intelligence artificielle à finalité sans restriction lorsqu’elle rencontre une guerre réelle.
La question n’est pas de savoir si nous avons franchi une ligne, car nous l’avons franchie. La question est de savoir si un nombre suffisant de personnes, et j’entends par là les avocats, les responsables politiques, les technologues et les citoyens, sont prêtes à traiter ce fait comme l’urgence qu’il représente, plutôt que comme le bruit de fond d’un monde qui avance trop vite pour s’arrêter.
