LEBIGDATA.FR I.A, Cloud & Cybersécurité
L'idée que l'IA puisse être une menace pour l'humanité peut paraître farfelue pour certains. Mais les risques sont réels, cette technologie pouvant avoir des conséquences désastreuses sur la paix et la sécurité mondiale. Raison pour laquelle le Conseil de Sécurité de l'ONU s'est réuni en urgence avec comme objectif de trouver les meilleures solutions contre ces risques.
IA : les applications militaires dans le collimateur de l'ONU
Les membres du Conseil de Sécurité de l'ONU reconnaissent volontiers tous les avantages que l'IA peut apporter. La technologie a un impact immédiat sur un large éventail d'industries comme la santé et la médecine, le commerce, la finance, l'éducation, le transport, les médias, le divertissement…
L'IA a ouvert l'ère de l'automatisation de différents processus, permettant l'augmentation de la productivité, l'optimisation de la vitesse et de la sécurité industrielle, etc. L'IA favorise également la créativité. Mais cette technologie, notamment ses applications militaires, présente également des risques réels.
António Guterres, secrétaire général du Conseil de Sécurité de l'ONU déclare : « applications militaires et non militaires de l'IA pourraient avoir de graves conséquences pour la paix et la sécurité mondiales ». Il évoque principalement l'usage potentiel des armements basés sur l'IA par les terroristes, les criminels, mais aussi les gouvernements.
Le terrorisme activé par l'IA, mais aussi les désinformations, la manipulation sociale et les biais de l'IA, dit-il, peuvent avoir des avoir des conséquences très graves pour la paix et la sécurité internationales. Pour exploiter efficacement l'IA, il faut gérer ces risques en réduisant la probabilité et en maîtrisant les conséquences des défaillances de l'IA.
IA : clarifier les pratiques et mettre en place des garde-fous pour préserver la paix
Le Comité de la Sécurité de l'ONU s'est donc réuni en urgence pour faire face à la menace potentielle de l'IA pour la paix et la sécurité internationales. L'ONU explique qu'il est impératif et urgent de mettre en place un organisme de contrôle mondial pour surveiller l'évolution rapide de la technologie.
Un conseil consultatif de haut niveau pour l'IA sera nommé d'ici la fin de l'année. Celui-ci se chargera de faire rapport sur les options de gouvernance mondiale. Certains pays ont déjà lancé un appel à la création d'un organe destiné à soutenir les efforts mondiaux de gouvernance de l'IA. Le chef de l'ONU salue ces efforts.
The first time that AI has ever been raised at the @UN Security Council.
The UK is leading the global response to AI.
But we cannot do it alone. pic.twitter.com/Hx5lLgBS2y— James Cleverly🇬🇧 (@JamesCleverly) July 18, 2023
Les experts, parmi lesquels le professeur Yi Zeng, directeur du laboratoire d'intelligence cognitive inspiré par le cerveau de l'Académie chinoise des sciences, suggèrent que l'ONU examine les défis à court et à long terme que l'IA pose pour la paix et la sécurité internationales.
Jack Clark, ancien directeur des politiques d'OpenAI pour sa part, souligne l'absence de normes et de bonnes pratiques sur « comment tester ces systèmes pour des choses comme la discrimination, l'abus ou la sécurité ». Cela complique le travail des gouvernements sur la mise en place des réglementations. L'IA évolue rapidement, il est urgent d'agir en déployant une coopération internationale.
Restez à la pointe de l'information avec LEBIGDATA.FR !
Abonnez-vous à notre chaîne YouTube et rejoignez-nous sur Google Actualités pour garder une longueur d'avance.
- Partager l'article :
