Armes à intelligence artificielle : l’OTAN cherche un terrain d’entente

Les responsables de l’OTAN lancent une nouvelle série de questions aux États membres sur l’intelligence artificielle appliquée à la défense, alors que l’alliance cherche un terrain d’entente avant la publication d’un rapport de stratégie prévue cet été.

Inscrire les technologies émergentes et disruptives dans les stratégies de l’OTAN

Cette décision intervient dans le cadre d’un grand effort visant à renforcer l’avantage de l’OTAN dans ce que les responsables appellent les technologies émergentes et disruptives, ou EDT. Les armes autonomes basées sur l’intelligence artificielle sont un élément clé de cette poussée, visant à assurer un leadership technologique à l’échelle mondiale.

La position de l’alliance par rapport à l’usage de la technologie de défense alimentée par l’IA dans certaines applications et son interdiction font débat à l’approche du sommet de l’OTAN prévu le 14 juin prochain.

L’OTAN dit avoir besoin de principes d’utilisation responsable et définit en parallèle les limites des technologies spécifiques. Différentes règles pourraient s’appliquer à différents systèmes en fonction de leur utilisation prévue et du niveau d’autonomie impliqué. Par exemple, un algorithme passant au crible des données dans le cadre d’une opération de back-office au siège de l’OTAN à Bruxelles serait soumis à un niveau de contrôle différent de celui d’une arme autonome.

Établir des règles en prévision de la future politique de l’OTAN sur l’IA

Des règles sont en cours d’élaboration pour permettre à l’industrie de comprendre les exigences liées à l’adhésion des systèmes à une future politique de l’OTAN sur l’IA. L’idée est de présenter un menu de principes quantifiables permettant aux entreprises de déterminer ce à quoi leurs produits peuvent être à la hauteur. Pour l’instant, les responsables de l’alliance posent des questions pour guider la discussion à venir.

Celles-ci vont des introspections de base sur la question de savoir si les systèmes activés par l’IA relèvent des mandats juridiques de l’OTAN, à la question de savoir si un système donné est exempt de parti pris. Le niveau de visibilité sur la manière dont les systèmes prennent des décisions sera également examiné.

La responsabilité et la transparence sont deux autres mots clés qui devraient occuper une place importante dans le débat. Les accidents avec des véhicules autonomes par exemple, soulèvent la question de savoir qui est responsable : les constructeurs ou les utilisateurs ?

OTAN et UE : trouver un terrain d’entente sur l’implémentation de l’IA  à la défense

L’effort de l’OTAN pour trouver un terrain d’entente sur l’intelligence artificielle fait suite à une volonté de l’Union européenne de faire de même, sans toutefois considérer les applications militaires. En outre, les Nations Unies ont depuis longtemps ouvert un forum pour discuter des conséquences de la militarisation de l’IA.

Les régulateurs ont tendance à trop se concentrer sur les définitions de l’autonomie et à les associer à des cas d’utilisation potentiels. Les responsables mettent davantage l’accent sur les mécanismes précis du contrôle humain. En supposant par exemple que la machine puisse faire tout ce qu’elle veut, quel rôle les humains sont-ils censés jouer ? La question se pose.