Le risque existentiel de l’IA n’est plus cantonné aux débats entre chercheurs et dirigeants de la tech. Volker Türk, Haut-Commissaire de l’ONU aux droits de l’homme, réclame désormais des lignes rouges internationales. Une alerte sérieuse, à condition de ne pas transformer un scénario encore très incertain en annonce de la fin de l’humanité.
Le risque existentiel de l’IA vient de franchir les portes de l’ONU. Devant le Conseil des droits de l’homme à Genève, Volker Türk a estimé que les systèmes les plus avancés pourraient finir par représenter une menace existentielle pour l’humanité. Le conditionnel est important. L’ONU ne prédit pas notre extinction. Elle demande surtout de ne pas attendre une catastrophe pour commencer à poser des limites.
Un risque sérieux, pas une apocalypse annoncée
Les inquiétudes de Türk ne sortent pas de nulle part. Des tests récents ont révélé des systèmes capables de contourner certaines consignes ou d’échapper à la supervision. Ils peuvent aussi exploiter des accès de façon inattendue, avec des comportements difficiles à prévoir.
L’incident entre OpenAI et Hugging Face a notamment illustré jusqu’où des agents autonomes peuvent aller lorsqu’ils disposent d’outils et de capacités d’action importantes.
De là à conclure qu’une IA va échapper à l’humanité, il reste toutefois un gouffre. Le rapport international sur la sécurité de l’IA 2026 souligne que les modèles actuels montrent certains signaux préoccupants. Cela sans disposer aujourd’hui des capacités nécessaires à une véritable perte de contrôle. Les experts restent d’ailleurs très divisés sur la probabilité d’un scénario existentiel.
Prendre le risque au sérieux ne signifie donc pas le présenter comme probable. C’est même tout l’enjeu : étudier une hypothèse extrême sans la transformer en prophétie. Sinon, le débat scientifique finit rapidement par ressembler à une bande-annonce catastrophe.
Le risque existentiel de l’IA cache un problème de pouvoir
La déclaration de Türk contient un autre avertissement, peut-être encore plus concret. Le responsable de l’ONU dénonce le pouvoir immense concentré entre les mains d’« une poignée d’hommes ». Derrière cette formule se trouve une réalité difficile à ignorer. Quelques entreprises contrôlent aujourd’hui les modèles les plus avancés, les infrastructures nécessaires pour les entraîner et leurs principales conditions d’accès.
Ce pouvoir dépasse la technologie. Ces systèmes peuvent modifier le travail, l’accès à l’information, la cybersécurité ou certaines décisions économiques. Une question devient alors incontournable. Qui décide jusqu’où ces technologies peuvent aller ?
Pour l’instant, ceux qui construisent les modèles participent aussi à la définition de leurs propres limites. Le problème n’est donc pas seulement qu’une IA puisse devenir très puissante. C’est aussi que cette puissance soit concentrée dans si peu de mains.
L’ONU veut poser des lignes rouges
Volker Türk appelle justement les États à définir des garde-fous communs. Il réclame des lignes rouges internationales, des vérifications indépendantes et davantage de coopération sur la sécurité des modèles avancés.
L’idée tient la route à condition de ne pas réglementer toutes les IA de la même manière. Un générateur d’images ne présente évidemment pas le même niveau de risque qu’un agent autonome. Ce dernier peut pénétrer dans un système informatique, exécuter du code ou poursuivre un objectif pendant plusieurs heures sans intervention humaine.
Imposer les mêmes contraintes à chaque application reviendrait à traiter un vélo et un avion de chasse avec le même manuel de sécurité. La régulation doit suivre les capacités réelles du système, pas simplement l’étiquette “IA”.
L’autonomie devient le vrai seuil d’alerte
Certaines capacités méritent en revanche des règles nettement plus strictes. C’est le cas des systèmes qui peuvent conduire des cyberattaques autonomes, de contourner leurs propres mécanismes de sécurité, d’aider à préparer certaines attaques biologiques ou de fonctionner durablement sans supervision humaine.
C’est là que le risque existentiel de l’IA rejoint un problème beaucoup plus immédiat : l’autonomie. Plus un système peut agir seul, accéder à des outils externes et poursuivre un objectif longtemps, plus une erreur ou un comportement imprévu peut provoquer des dégâts avant qu’un humain puisse reprendre la main.
Les agents IA changent donc l’équation. La question n’est plus seulement de savoir ce qu’un modèle peut répondre, mais ce qu’il peut faire dans le monde réel une fois qu’on lui ouvre les bonnes portes.
Des garde-fous sans bloquer toute innovation
L’Europe dispose déjà de l’AI Act, qui impose différentes obligations selon le niveau de risque. Mais Türk vise un problème mondial. Les modèles les plus puissants sont développés, hébergés et utilisés dans plusieurs juridictions. Une réglementation limitée à un seul territoire risque donc de laisser de beaux trous dans la raquette.
Pour autant, encadrer les capacités les plus dangereuses ne signifie pas ralentir toute l’IA. Les contraintes devraient viser d’abord les systèmes présentant un potentiel réel d’action autonome ou de dommages graves.
L’ONU ne vient donc pas de confirmer que les machines vont provoquer notre extinction. Elle rappelle quelque chose de beaucoup moins spectaculaire mais nettement plus raisonnable. Si certains systèmes peuvent un jour devenir difficiles à contrôler, mieux vaut construire les freins avant d’en avoir besoin.
- Partager l'article :
