Une pause, voilà ce qu’il faut selon le sénateur américain Bernie Sanders. Car les modèles d’IA atteignent désormais un niveau de risque critique. Et, les entreprises, elles, commencent à perdre le contrôle de technologies qu’elles développent pourtant à vitesse grand V.
Dans une lettre consultée par The Guardian, il demande ainsi à aux patrons de Meta, OpenAI et Anthropic d’arrêter de construire des machines que les humains ne peuvent pas contrôler.
« M. Altman, M. Amodei et M. Zuckerberg : dans l’intérêt de l’humanité, tenez parole. Suspendez le développement de l’IA », écrit le sénateur. « Il n’est pas trop tard pour éviter la catastrophe » ajoute-t-il.
Pourquoi le sénateur veut suspendre l’IA ?
Pour appuyer son avertissement, Bernie Sanders cite plusieurs incidents récents impliquant des systèmes d’IA. Il évoque notamment des rapports faisant état d’une utilisation de l’IA dans la conception de nouveaux virus.
Sanders estime qu’une telle technologie pourrait devenir particulièrement dangereuse si elle tombait entre de « mauvaises mains ». Selon lui, elle pourrait notamment faciliter la création de nouvelles armes biologiques pouvant provoquer des dizaines de millions de morts.
Le sénateur pointe également les capacités croissantes des modèles en matière de cybersécurité. Et bon. Il faut reconnaître que les trois entreprises ont toutes reconnu que certains de leurs systèmes avaient réussi à pirater les serveurs d’autres organisations.
Pour Sanders, ce genre d’incident est la preuve que les entreprises ne maîtrisent plus complètement leurs propres créations.
Il s’appuie notamment sur les propos de Yoshua Bengio, l’un des chercheurs les plus cités dans le domaine de l’IA. Ce dernier avait estimé que ces incidents devaient servir de « signal d’alarme ».
Bien entendu, tout le monde ne partage pas cette lecture. Des experts ont notamment estimé que certaines déclarations d’OpenAI sur le comportement incontrôlable de ses modèles pourraient être exagérées. L’objectif serait aussi de renforcer l’image d’une IA extrêmement puissante et dangereuse.
Qu’insinue le sénateur avec “tenez parole” ?
C’est justement ce qui est intéressant dans cette histoire. OpenAI et Anthropic avaient déjà prévu ce scénario.
Anthropic avait alors promis de suspendre la mise à l’échelle de ses modèles. Ou encore de retarder le déploiement de nouveaux systèmes. Cela, lorsque ses capacités de développement dépasseraient celles de ses dispositifs de sécurité.
OpenAI avait pris un engagement similaire. L’entreprise avait indiqué qu’elle pourrait suspendre tout développement ultérieur si les capacités de ses modèles atteignaient un niveau considéré comme critique.
L’entreprise a d’ailleurs récemment annoncé un ralentissement du développement de son modèle de cybersécurité Astra. Cette décision faisait suite au piratage autonome d’une autre organisation par un système d’IA.
Pour Bernie Sanders, ces incidents montrent que le fameux seuil critique a déjà été franchi.
« Ce moment est arrivé », affirme-t-il dans sa lettre. D’aprèslui, les capacités actuelles de l’IA ont désormais atteint un niveau suffisamment dangereux pour justifier une pause immédiate.
Le sénateur cite également le directeur de la CIA. Lui qui a comparé les modèles d’IA à des « armes nucléaires numériques » et à quelque chose qui se rapproche d’une arme de destruction massive.
L’IA : vers l’infini et au-delà
Malgré ces inquiétudes, la course à l’IA ne semble pas vraiment ralentir. Sanders dénonce des investissements qui se comptent désormais en dizaines de milliards de dollars.
Son reproche tient en une phrase. Les entreprises développent des systèmes que personne ne serait encore capable de comprendre, de prévoir ou de contrôler complètement.
Et le problème ne concerne pas uniquement les groupes américains. La concurrence entre géants de la tech et entre différents pays pousse tout le monde à accélérer.
Une autre lettre ouverte, signée par plus de 1 300 scientifiques, ingénieurs et professionnels de la technologie, alerte justement sur cette course contre la montre. Selon eux, le rythme actuel complique l’identification et l’évaluation des risques liés aux modèles les plus avancés.
Ces professionnels demandent donc au gouvernement américain de coordonner une action internationale. L’objectif serait de ralentir temporairement le développement des modèles les plus puissants. Le temps de mettre en place des règles de sécurité suffisamment solides.
Sanders et cette manie de vouloir ralentir l’IA
Si vous voulez tout savoir, ce n’est pas la première fois que Bernie Sanders tente de ralentir la course technologique américaine. Le sénateur s’était déjà attaqué à un autre élément essentiel de l’écosystème de l’IA : les centres de données.
En mars, il avait présenté avec la députée Alexandria Ocasio-Cortez un projet de loi. Celle-ci vise à suspendre temporairement la construction de nouveaux data centers aux États-Unis.
Là encore, l’idée était de gagner du temps. Selon les deux parlementaires, une pause permettrait au gouvernement américain de mettre en place des garanties fédérales solides avant de laisser la technologie continuer son expansion.
Avec sa nouvelle lettre, Sanders applique finalement la même logique aux modèles d’IA eux-mêmes. Ralentir maintenant pour éviter de devoir courir après les dégâts plus tard.
Mais les géants de la Silicon Valley accepteront-ils ? Avec des dizaines de milliards de dollars en jeu et une compétition mondiale qui ne faiblit pas, je dirais que les chances sont plus que minces.
Et vous, qu’en dites-vous ?
- Partager l'article :
