Des documents militaires font état de modèles OpenAI moins prompts à refuser certaines demandes de défense. L’entreprise et le Pentagone démentent avoir retenu cette obligation, mais leur contrat signé reste en partie confidentiel.
Une IA militaire qui discute moins les ordres, l’idée mérite qu’on s’y arrête. Des documents obtenus par The Intercept décrivent des systèmes adaptés aux besoins de sécurité nationale. Ils ont été transmis dans le cadre d’une procédure judiciaire fondée sur le Freedom of Information Act, la loi américaine d’accès aux documents publics. Ils ne proviennent donc pas d’une fuite clandestine, mais d’une démarche officielle.
Une clause explosive dans un contrat qui devient soudain une ébauche
Le passage litigieux porte sur les tests, l’évaluation et l’amélioration de modèles destinés aux activités militaires. D’après la première version communiquée, ces modèles devraient présenter des « taux de refus minimaux ». En clair, la machine opposerait moins souvent un non à certaines demandes militaires. Ce seul critère ne permet pourtant de juger ni la fiabilité des réponses ni les protections conservées.
« Cette clause n’apparaît pas dans notre contrat signé », assure Nate Evans, porte-parole d’OpenAI. Selon lui, le ministère avait proposé cette formulation dans une ébauche, avant les objections d’OpenAI. Il affirme que le laboratoire l’a rejetée lors des négociations. Le Pentagone soutient lui aussi que l’expression ne figure dans aucun de ses contrats en vigueur avec OpenAI.
Un avocat du Pentagone a d’abord confirmé que le document était un contrat signé, avant de se rétracter. Trevor Tiedeman, chargé de questions de recherche au ministère, évoque une confusion entre plusieurs versions. Il annonce également un examen des vérifications effectuées avant leur publication.
The Intercept avait pourtant demandé les accords définitifs, en prenant soin d’exclure les versions préparatoires. Sans contrat complet publié par OpenAI, une vérification indépendante reste difficile. Il faut néanmoins distinguer une demande avancée pendant les négociations d’une clause effectivement acceptée par l’entreprise. Derrière cette bataille de versions, une question demeure, celle des usages réellement autorisés.
Des garde-fous promis, mais des usages militaires difficiles à vérifier
Les assistants grand public imposent généralement des limites aux demandes dangereuses, notamment celles liées au développement d’armes. ChatGPT refuse ainsi, en principe, d’aider à préparer une attaque précise ou à désigner des cibles. Ces refus servent de garde-fous. Les traiter comme de simples caprices logiciels à corriger n’a donc rien d’anodin.
Heidy Khlaaf, scientifique en chef de l’AI Now Institute, s’inquiète justement de cette logique. Elle associe cet objectif à « l’absence ou au faible nombre de garanties » des modèles. Elle souligne aussi les dilemmes des fournisseurs privés confrontés aux exigences des armées. Son analyse pointe un risque, sans prouver que les protections des modèles déployés ont disparu.
D’autres entreprises ont des désaccords avec le Pentagone sur les limites des usages militaires. Jusqu’où un fournisseur peut-il garder la main lorsque son client est un gouvernement ?
Un accord élargi permet par ailleurs d’utiliser les services d’OpenAI sur les réseaux classifiés du gouvernement. L’accord actualisé mentionne toujours des modèles adaptés aux missions, mais plusieurs passages restent masqués. Le public ne peut pas examiner l’ensemble des travaux prévus ni leurs limites opérationnelles.
De son côté, OpenAI assure interdire certains usages liés aux armes autonomes et à la surveillance. Ses engagements visent notamment la surveillance intérieure des Américains. Le 2 mars 2026, l’entreprise a précisé que cette interdiction couvrait aussi l’utilisation de données achetées pour surveiller les Américains.
Elle promet aussi un déploiement exclusivement dans le cloud et affirme conserver le contrôle de ses protections. Selon sa présentation du partenariat, des équipes OpenAI habilitées doivent également participer au suivi.
Reste à savoir comment ces restrictions s’appliquent dans chaque situation, ce que ni OpenAI ni les autorités ne détaillent publiquement. Comment vérifier ces engagements quand des clauses essentielles restent hors de portée du public ? Quand une IA travaille pour l’armée, son bouton de refus mérite mieux qu’une notice confidentielle.
- Partager l'article :
