LEBIGDATA.FR I.A, Cloud & Cybersécurité
À l’approche du grand sommet mondial sur l’IA, un rapport international inédit a alerté sur les dangers liés à l’intelligence artificielle avancée.
Le 30 janvier 2025, le Rapport scientifique international sur la sécurité de l’IA avancée a été publié, juste avant le Sommet Action IA de Paris. Ce document met en lumière des risques sans précédent liés aux systèmes d’IA avancés. Déplacement d’emplois, facilitation du terrorisme, dysfonctionnements inévitables, la liste s’allonge.
Une collaboration et un consensus inédits
Yoshua Bengio, scientifique de renom en IA et auteur du rapport, alerte sur l’urgence d’une collaboration face aux risques liés à l’IA. Son document veut guider les décideurs dans l’élaboration de régulations adaptées à une technologie en constante évolution. Soutenue par les Nations unies et l’Union européenne, l’étude prend en compte les changements politiques récents, notamment la transition entre Biden et Trump. À savoir que ce dernier a annulé certaines mesures de sécurité sur l’IA, mais a maintenu l’AI Safety Institute.
Trente pays, dont les États-Unis et la Chine, ont apporté leur soutien à cette étude. Une coopération rare, compte tenu de la rivalité technologique entre ces deux puissances. L’arrivée du chatbot chinois DeepSeek exacerbe les tensions, surtout dans le contexte des restrictions américaines sur l’exportation de technologies sensibles. Ces mesures limitent l’accès des entreprises étrangères, notamment chinoises, aux puces avancées et aux logiciels essentiels au développement de systèmes d’IA performants. Malgré cette compétition, un consensus a émergé, probablement en raison des enjeux communs liés à la gouvernance et à l’éthique de l’IA.
Trois dangers majeurs liés à l’IA identifiés
Ce rapport identifie trois catégories de dangers liés aux systèmes d’IA à usage général, comme ChatGPT. Le premier concerne l’utilisation malveillante, incluant les deepfakes et les escroqueries. Le deuxième touche aux dysfonctionnements opérationnels. Le dernier englobe les risques systémiques.
Cependant, les experts divergent sur l’avenir de l’IA et le moment où elle pourrait dépasser les capacités humaines. Certains anticipent des avancées bénéfiques, d’autres redoutent des conséquences majeures. Le document alerte aussi sur son potentiel dans la création d’armes biologiques ou chimiques, bien que ses limites pratiques restent incertaines.
En revanche, l’impact sur l’emploi reste une source de tension. Les avis divergent sur sa capacité à créer ou à supprimer des opportunités professionnelles. La complexité et l’opacité des modèles d’IA compliquent leur contrôle.
Pour Yoshua Bengio, l’enjeu est de clarifier les connaissances scientifiques pour mieux appréhender les systèmes d’IA et leurs implications. L’intégration croissante de l’IA dans de nombreux secteurs rend indispensables des pratiques de sécurisation et des régulations adaptées. La communauté internationale est exhortée à agir, en menant des discussions approfondies et en prenant des mesures concrètes. Ces technologies ne doivent en aucun cas compromettre ni la sécurité ni l’intégrité sociale.
Restez à la pointe de l'information avec LEBIGDATA.FR !
- Partager l'article :
