pentagone ia éthique principes dod

Le Pentagone va adopter 5 principes éthiques pour l’usage militaire de l’IA

Le Pentagone annonce l’adoption de cinq principes visant à garantir l’utilisation éthique et responsable de l’intelligence artificielle par les États-Unis dans le domaine militaire. Découvrez quels sont ces principes.

La semaine dernière, l’Union européenne dévoilait sa feuille de route pour l’intelligence artificielle et faisait de l’éthique une priorité majeure. À présent, c’est au tour du Department of Defense des États-Unis de révéler les cinq principes qu’il compte adopter pour un usage éthique de l’IA dans le secteur militaire.

Le CIO du DoD, Dana Deasy, a annoncé le 24 février 2020 quels sont les cinq principes que le Secrétaire à la Défense, Mark Esper, lui a ordonné d’adopter. Ces principes avaient au préalable été recommandés par le Defense Innovation Board en octobre 2019 à l’issue d’une concertation de 15 mois entre des experts IA industriels, gouvernementaux et académiques.

Le premier principe est celui de responsabilité. Le personnel du DOD devra exercer des niveaux de jugement et d’attention appropriés tout en restant responsable pour le développement, le déploiement et l’usage des capacités d’intelligence artificielle.

Le second principe concerne l’équitabilité : le DoD devra prendre les mesures nécessaires pour minimiser les biais involontaires des outils IA. Ceci, afin d’éviter les risques de discrimination qui pourraient avoir des conséquences tragiques dans le secteur militaire…

Le troisième principe est celui de la traçabilité, selon lequel les outils IA devront être développés et déployés de manière à permettre une compréhension de la technologie, des processus de développement et des méthodes d’exploitation. Les méthodes devront donc être transparentes, au même titre que les sources de données, les procédures de conception et la documentation.

Selon le quatrième principe, l’IA devra être fiable avec des cas d’usage explicites et bien définis. La sécurité et la sûreté devront être testées.

Enfin, le dernier principe ordonne la gouvernabilité. Les outils devront être conçus de manière à remplir leurs fonctions tout en offrant la capacité de détecter et d’éviter les conséquences inattendues et pouvoir être désactivés ou désengagés en cas de comportement inattendu.

Le Pentagone dénonce l’usage militaire inquiétant de l’IA par la Chine et la Russie

Ces cinq principes s’appliquent aussi bien à l’usage de l’IA en combat qu’à l’usage hors combat par l’armée américaine. Selon Dana Deasy,  » ils posent les fondations d’une conception, d’un développement, d’un déploiement et d’une utilisation éthique de l’IA par le Department of Defense « .

De son côté, le Lieutenant Général Jack Shanahan, directeur du Joint Artificial Intelligence Center, estime que l’adoption de ces principes distingue les États-Unis et leurs alliés de leurs adversaires dont l’usage de l’IA est inquiétant. Selon lui,  » l’usage de la technologie IA par la Russie et la Chine à des fins militaires soulèvent de sérieuses inquiétudes autour des droits de l’Homme, de l’éthique et des normes internationales « .

Le président du Defense Innovation Board et ancien CEO de Google, Eric Schmidt, a également salué l’adoption de ces principes. Selon ses dires,  » la décision d’Esper d’imposer ces principes au DoD démontre au monde entier que les Etats-Unis et le Pentagone sont attachés à l’éthique et joueront un rôle clé pour assurer l’adoption responsable des technologies émergentes par les démocraties « …

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Pin It on Pinterest