Anthropic sauve-t-elle vraiment le monde d’une IA militaire incontrôlable ?

Le conflit entre le ministère de la Guerre américain et la start-up d’intelligence artificielle Anthropic révèle deux bouleversements majeurs : la dépendance croissante des Etats vis-à-vis de l’innovation privée et l’émergence d’armes algorithmiques dont l’autonomie pourrait transformer la nature même de la guerre.

Pete Hegseth, le secrétaire à la Guerre américain, a inscrit Anthropic sur la liste des “risques pour la chaîne d’approvisionnement” fédérale. Il s’agit d’une décision inédite concernant une entreprise américaine. Les deux lois référencées par le Ministre visent à empêcher des actes de sabotage et d’espionnage qu’Anthropic n’a commis en aucune manière.

Le Ministre a aussi interdit aux fournisseurs du Pentagone de collaborer avec la start-up : “Avec effet immédiat, aucun contractant, fournisseur ou partenaire travaillant avec l’armée américaine ne pourra mener d’activité commerciale avec Anthropic”. Cette interdiction est illégale : le Ministère ne peut prononcer des bannissements que pour les contrats du gouvernement américain. Amazon, Google et Microsoft vont donc continuer de commercialiser les modèles d’Anthropic auprès de leurs clients. Microsoft est même allée plus loin dans son soutien à l’entreprise dirigée par Dario Amodei en estimant qu’un juge devrait émettre une ordonnance restrictive empêchant l’application de l’ordre donné par le Pentagone.

Anthropic, pour sa part, poursuit le ministère de la Guerre en justice pour faire reconnaître que sa qualification ne repose que sur des motivations idéologiques. De fait, Claude, le modèle-phare d’Anthropic, semble être devenu indispensable à l’armée américaine, qui l’a notamment utilisé dans ses frappes sur l’Iran ces derniers jours pour analyser des renseignements, identifier des cibles et simuler des scénarios de bataille, et ce même après que Donald Trump eut banni l’Entreprise de toute activité fédérale !

A quel point la puissance publique peut-elle être dépendante de l’innovation privée ?

L’origine du conflit entre le Pentagone et Anthropic se trouve dans le refus de cette dernière que ses technologies soient utilisées pour la surveillance de masse et/ou déployées dans des armes autonomes sans supervision humaine, deux demandes raisonnables étant donné le monumental risque de déléguer complètement des opérations de maintien de l’ordre ou de guerre à cette technologie (cf. infra) et, de surcroît, le manque de fiabilité de celle-ci.

Il est normal que la décision militaire reste à la main des responsables politiques et que ceux-ci ne soient pas dépendants de conditions d’utilisation posées par un fournisseur, même s’il est courant que des entreprises imposent des limites à l’utilisation de leurs systèmes par des gouvernements. Mais l’utilisation que Donald Trump et Pete Hegseth font de leur pouvoir politique est anormale et, de plus, contre-productive : pourquoi handicaper, aussi par pur ego, l’un des leaders américains de la technologie la plus déterminante pour l’avenir du monde ?

Si l’Etat américain n’est plus en capacité d’autant maîtriser des programmes stratégiques qu’à l’époque du projet Manhattan, de la conquête spatiale ou d’ARPANET, il doit apprendre à travailler avec des acteurs privés. Mais il est tout aussi vrai que nous assistons potentiellement aujourd’hui à la constitution d’un complexe militaro-industriel, autour de l’intelligence artificielle et d’entreprises telles qu’Anduril et Palantir, beaucoup plus indépendant de l’Etat que son devancier des années 1950. En vérité, les entreprises de nouvelles technologies deviennent des acteurs géopolitiques, ce que SpaceX démontre mieux, avec Starlink, qu’aucune autre.

A cet égard, Dario Amodei a beaucoup fait pour convaincre une communauté technologique plutôt orientée à la gauche de l’échiquier politique américain de travailler avec le ministère de la Défense (renommé ministère de la Guerre par Donald Trump), ce qui s’est notamment traduit ces dernières semaines par la contribution d’Anthropic à ses opérations, non seulement en Iran mais aussi au Vénézuela. Présenter le patron de cette start-up comme l’ennemi public numéro un des militaires américains est donc une fable.

Mais il faut se souvenir qu’Anthropic a été fondée par des anciens d’OpenAI pour développer une intelligence artificielle plus éthique et sécurisée que celle ambitionnée par Sam Altman. Cependant, elle n’a pas le pouvoir d’empêcher à elle seule l’avènement d’une intelligence artificielle militaire plus ou moins contrôlée et, surtout, plus ou moins autonome : le principal risque réside dans la rivalité entre les grandes puissances militaro-technologiques, au premier rang desquelles la Chine, les Etats-Unis et la Russie.

Celles-ci utilisent déjà l’intelligence artificielle pour le renseignement, l’analyse, la simulation et le ciblage, voire des frappes (cf. infra). On peut d’ailleurs redouter que, un jour, une grave erreur de ciblage soit causée par la capacité de l’intelligence artificielle à proposer à une armée un trop grand nombre de cibles quotidiennes pour qu’il soit vérifiable par des humains. J’ai pensé un temps que cela pouvait être la cause du tragique bombardement d’une école de jeunes filles, semble-t-il par les Américains¹, à Minab en Iran il y a quelques jours, mais il semble que cela n’ait pas été le cas.

Naturellement, le caractère – démocratique ou autoritaire – du régime américain déterminera pour partie, dans le futur, la nature de la course à l’armement technologique des Etats-Unis avec ses deux challengers.

A ce sujet, ainsi que l’explique Gregory C. Allen, ancien directeur de la stratégie du Centre d’intelligence artificielle interarmées américain, les armes autonomes dotées d’une intelligence artificielle sont beaucoup plus dangereuses que ce l’on imagine généralement :

“Supposons que vous ayez un drone doté d’une reconnaissance faciale et que vous lui disiez : ‘Drone, ta mission est de tuer Vladimir Poutine. Voici à quoi il ressemble’, et que le drone survole Moscou en cherchant des visages correspondant à celui de Vladimir Poutine, puis fasse exploser celui qu’il identifie comme étant le leader russe. Selon la politique du ministère de la Guerre, cela ne constitue pas une arme autonome. Une arme autonome est celle à laquelle on dirait : ‘Drone, survole Moscou, trouve de bonnes cibles et quand tu en vois une, élimine-la’ […] Au cours des douze derniers mois, nous avons franchi le seuil où, selon des renseignements ukrainiens crédibles, la Russie déploie des armes létales offensives autonomes pourvues d’une intelligence artificielle qui répondraient à cette définition, c’est-à-dire que vous lancez l’arme sans savoir ce qu’elle va attaquer. Si cette arme détecte quelque chose, même en cas de perte de communication avec sa base, elle prend elle-même la décision – ‘c’est une cible valable, je vais l’éliminer’– sans jamais demander l’autorisation à un être humain”.

Dans ce contexte, si Anthropic peut sonner l’alerte, elle ne peut pas à elle seule arrêter la compétition pour la domination algorithmique du champ de bataille. Mais son rôle met en exergue une réalité qu’il convient de ne pas perdre de vue face aux progrès technologiques : pour un certain temps encore, les décisions sur l’autonomie laissée à l’intelligence artificielle incomberont aux humains.

Dario Amodei est-il le nouveau “saint corporate” ?

On peut certes considérer que Dario Amodei s’est comporté de manière exemplaire. Il n’a pas flanché face aux menaces du Pentagone et a expliqué pourquoi :

“Le ministère de la Guerre a déclaré qu’il ne conclurait des contrats qu’avec des entreprises d’intelligence artificielle acceptant ‘tout usage légal’ et supprimant les garde-fous dans les cas mentionnés ci-dessus. Il a menacé de nous retirer de ses systèmes si nous maintenions ces protections ; il a également menacé de nous désigner comme un ‘risque pour la chaîne d’approvisionnement’ – une qualification réservée aux adversaires des Etats-Unis et jamais appliquée auparavant à une entreprise américaine – et d’invoquer le Defense Production Act afin d’imposer la suppression de ces garde-fous. Ces deux dernières menaces sont intrinsèquement contradictoires : l’une nous présente comme un risque pour la sécurité ; l’autre qualifie Claude d’élément essentiel à la sécurité nationale. Quoi qu’il en soit, ces menaces ne changent pas notre position : nous ne pouvons, en conscience, accéder à leur demande”.

Il est extrêmement rare qu’une entreprise applique l’une de mes citations préférées, que l’on doit à Bill Bernbach (le “B” de DDB) : “un principe n’est un principe que s’il vous coûte de l’argent”. En l’occurrence, Anthropic a placé ses valeurs – et la défense de la démocratie face au risque d’autoritarisme algorithmique – avant sa valorisation, et c’est exceptionnel.

Sans grande surprise, Sam Altman a signé avec le Pentagone, avec lequel il discutait en secret depuis plusieurs jours, le contrat même que son concurrent avait refusé de parapher, reniant ainsi les principes qu’il avait prétendu promouvoir quelques heures plus tôt seulement lorsqu’il avait pris la défense d’Anthropic. Sam Altman a démontré cette fois son cynisme à un public plus large encore que lors de ses nombreux écarts précédents, dont l’écho était souvent resté confiné à la Silicon Valley.

Non seulement, il poignarda ses principes affirmés et Anthropic dans le dos, mais il mentit une énième fois : alors qu’il avait affirmé que son contrat avec le Pentagone était plus restrictif que celui refusé par Dario Amodei, il s’avère en réalité qu’il l’est moins. C’est un tel niveau de duplicité que le nombre de désinstallations de ChatGPT crût de 295% et que Sam Altman jugea utile de s’expliquer sur X. Mais il y affirma le contraire de ce qu’il avait dit par ailleurs à ses équipes. Plusieurs des membres de celles-ci exprimèrent leur désapprobation publiquement et la responsable de la robotique d’OpenAI démissionna.

A l’opposé de l’approche de Sam Altman, Jack Clark, co-fondateur d’Anthropic et responsable de ses affaires publiques, déclarait l’an dernier que “des entreprises comme la mienne pourraient, dans quelques années, disposer d’un pouvoir supérieur à celui de la plupart des Etats-nations. Nous, en tant que démocratie, devrions nous interroger sérieusement sur ce que cela signifie vraiment”. Face au Pentagone, l’Entreprise est passée des paroles aux actes.

Dès lors, son image a davantage bénéficié de son conflit avec le ministère de la Guerre que de ses publicités lors du récent Super Bowl. Et son assistant Claude a pris la première place du classement des téléchargements d’applications gratuites outre-Atlantique sur l’App Store d’Apple.

Non sans rapport, Anthropic a :

• lancé un outil permettant de transférer facilement vers Claude ses préférences et son contexte enregistrés dans un autre outil d’intelligence artificielle (e.g. ChatGPT, Copilot, Gemini) ;
• ouvert la fonctionnalité de mémoire de Claude aux utilisateurs gratuits, leur permettant de créer un contexte persistant entre différentes conversations ;
• doublé les limites d’utilisation de Claude pendant deux semaines sur les forfaits Free, Pro, Max et Team en dehors des heures de pointe ;
• mis à disposition une fenêtre de contexte d’un million de tokens pour Claude Opus 4.6 et Sonnet 4.6, ce qui permet d’associer des fichiers plus volumineux aux prompts.

Dario Amodei fait donc tout pour tirer parti auprès du grand public de sa résistance face aux oukases de l’administration Trump. C’est pour le moins paradoxal étant donné qu’Anthropic est focalisée sur les marchés B2B/B2G et non B2C. C’est ce qui lui permet de réaliser des performances financières plus prometteuses que celles d’OpenAI car elle n’a pas à financer la pratique de ses outils par des millions d’utilisateurs non-payants. Le lustre soudain de son image pourrait en revanche l’aider en matière de recrutement de talents (cf. supra).

Pour autant, Dario Amodei n’est pas un saint.

En premier lieu, parallèlement à sa résistance au Pentagone, Anthropic assouplissait son engagement en matière de sécurité en mettant à jour sa Responsible Scaling Policy. Cette évolution supprime la promesse de suspendre l’entraînement des modèles si ceux-ci dépassent les capacités de contrôle de l’Entreprise en matière de sécurité. Cette décision contredit les nombreuses mises en garde que Dario Amodei a formulées à propos des risques de l’intelligence artificielle.

La dernière en date est toute récente : en janvier, il publiait un texte à ce sujet. Il y évoque une double menace : le dérapage d’une intelligence artificielle et, plus probable, l’utilisation de cette technologie à des fins mortifères par des humains. Doutant de la maturité de l’Humanité à cet égard, il cite notamment l’exploitation de l’intelligence artificielle par des régimes dictatoriaux, son support à des personnes ordinaires pour fabriquer des armes biologiques, et l’endoctrinement des populations par des entreprises créatrices de grands modèles et de chatbots.

En outre, Dario Amodei a, comme ses concurrents, violé les droits de propriété intellectuelle d’innombrables créateurs pour entraîner les modèles d’Anthropic. L’Entreprise a d’ailleurs admis sa défaite dans un procès face à une cohorte d’auteurs.

L’autonomie militaire de l’IA est-elle une perspective acceptable ?

Le débat autour de l’autonomie militaire de l’intelligence artificielle est naturellement bien plus large que le conflit entre le Pentagone et Anthropic.

Pour s’en convaincre, il faut lire les conclusions de la recherche menée par un chercheur du King’s College de Londres sur le comportement de trois modèles de langage (Claude Sonnet 4, Gemini 3 Flash et GPT-5.2) dans le cadre de différentes simulations de crise nucléaire qui les opposaient les uns aux autres individuellement : les modèles pouvaient choisir parmi l’éventail des comportements possibles en situation de crise géopolitique, de la capitulation totale à l’action thermonucléaire, en passant par les postures diplomatiques et les opérations militaires conventionnelles.

Or cette recherche montra que :

• Lesdits modèles eurent tendance à recourir à l’arme nucléaire plus souvent et plus tôt que les humains placés dans des scénarios équivalents.
• Les modèles firent preuve de tromperie, affichant des intentions pacifiques tout en préparant des actions agressives, déployèrent un raisonnement sophistiqué de “théorie de l’esprit” concernant les croyances et intentions de leurs adversaires, et réfléchirent explicitement, de manière métacognitive, à leurs propres capacités de mensonges et à leur aptitude à détecter ceux de leurs rivaux.
• Sur l’ensemble des 21 scénarios mis en œuvre, aucun modèle ne choisit une désescalade. Leur action la plus conciliante fut le “retour à la ligne de départ”.
• Claude Sonnet 4 fut le modèle le plus performant sur le plan stratégique, sortant vainqueur du plus grand nombre de scénarios, devant GPT 5.2 et Gemini 3 Flash. Il se montra cependant moins efficace lorsque des délais lui furent imposés.
• 95% des scénarios aboutirent à l’usage d’armes nucléaires tactiques et 76% à des menaces nucléaires stratégiques. En particulier, Claude et Gemini traitèrent l’arme nucléaire comme une option stratégique légitime, et non comme le franchissement d’un seuil moral et stratégique, en discutant généralement de son usage en termes purement instrumentaux. Ils considérèrent que le seuil critique est “l’anéantissement total” plutôt que le premier usage d’une arme nucléaire.
• Claude Sonnet 4 est décrit par le chercheur comme “un faucon calculateur” (opportuniste), tandis que Gemini se révèle “le fou” (erratique) et GPT-5.2 s’affirme en “Dr Jekyll et Mr Hyde” (bluffeur systématique).

Ces résultats expérimentaux et les événements récents – aux Etats-Unis comme au Vénézuela et en Iran – convergent pour rendre compte d’une nouvelle réalité : l’intelligence artificielle devient une technologie de souveraineté.

La question est de savoir si elle sera toujours au service de souverainetés humaines ou si, un jour, elle revendiquera la sienne.

—

¹ Selon les premières investigations crédibles.