Une évaluation partiellement générée par IA a presque poussé l’armée américaine à viser un navire chinois. Le cas expose un vrai angle mort de l’IA de défense.
20En bref
- Un rapport IA a failli viser un navire chinois
- Le Pentagone pousse une stratégie AI-first
- Les contrats défense dopent les partenariats IA
L’IA-first version Département de la Défense vient de montrer sa zone de casse. D’après des informations de CNN, un rapport de renseignement faux et partiellement généré par IA a presque conduit l’armée des États-Unis à attaquer un navire chinois au Moyen-Orient.
Ce qui frappe, ce n’est pas seulement l’erreur. C’est la proximité avec l’acte militaire. Une source citée par CNN estime même que l’épisode a presque déclenché une guerre. Pas de quoi banaliser le sujet.
Une chaîne d’analyse qui déraille très vite
Au départ, il y a un analyste d’un commandement des opérations spéciales. Il interroge un chatbot sur le manifeste d’un navire chinois. Le système mélange alors du renseignement open source avec des données issues de signaux secrets, puis conclut que le bateau transporte des composants liés à un programme d’armes nucléaires.
Le problème est simple, et lourd. Cette conclusion a failli pousser les forces américaines à arraisonner le navire, avant que des responsables découvrent qu’il s’agissait d’une production générée par IA. En gros, une sortie machine s’est retrouvée assez crédible pour s’approcher d’une décision opérationnelle.
Le vrai signal, c’est la fragilité du process
On ne sait pas ce que transportait réellement le navire. CNN n’a pas pu l’établir. Même flou sur l’outil utilisé, commercial ou conçu pour l’administration américaine.
Mais ce n’est presque pas le cœur du problème. Ce qui compte pour l’écosystème, c’est qu’un outil dont on ne connaît ni le cadre ni la traçabilité ait pu agréger des sources de nature différente et produire un résultat assez convaincant pour entrer dans la boucle. Dans un environnement de défense, cette exécution paraît franchement inquiétante.
Le Pentagone accélère, les fournisseurs suivent
L’incident arrive alors que Pete Hegseth, secrétaire à la Défense, a demandé en janvier au DoD de devenir AI-first et de tester les modèles des grands éditeurs américains. La trajectoire est donc claire, mais l’affaire montre ce qu’elle peut coûter si la gouvernance ne suit pas.
Le parcours n’a d’ailleurs rien de linéaire. Anthropic a refusé que ses modèles servent au développement d’armes autonomes, ce qui lui a valu une interdiction temporaire côté gouvernement. Et malgré ça, les accords continuent. SpaceXAI aurait signé en février pour l’usage de Grok par l’armée. Puis, en mai, NVIDIA, Microsoft et Amazon se sont associés pour proposer leurs technologies IA au DoD.
Ces contrats publics sont lucratifs, donc les industriels y vont. L’épisode raconté ici rappelle juste une chose, assez nette, l’IA générative n’est pas un logiciel d’entreprise comme un autre quand elle s’approche d’une chaîne de commandement.
