Non, on n’est pas encore arrivé au stade du soulèvement des machines. Pourtant, Yoshua Bengio a déjà monté un plan pour contrôler les IA modernes. Comme quoi, la prévention est la clé pour éviter un scénario apocalyptique. Nom de code du projet : Safeguarded AI.
Avec l’avancée de ChatGPT, et les indices sur l’intelligence artificielle générale, les spécialistes se posent une question. Est-ce qu’on arrivera à dompter ces technologies à l’avenir ? Le lauréat du prix Turing, Yoshua Bengio, a alors une réponse à ce problème. Créer un système d’IA capable de garantir la fiabilité des produits high-tech. C’est le projet Safeguarded AI. Tout savoir.
Safeguarded AI : l’IA gardienne des IA ?
Yoshua Bengio et ses équipes veulent créer une IA, qui assurera la sûreté des modèles LLM du futur. L’objectif est simple : vérifier chaque innovation avant son lancement pour le grand public.
Le projet Safeguarded AI sera alors la barrière entre les IA fiables et les technologies menaçantes. Cependant, les approches sont assez complexes. Les chercheurs ont combiné des modèles scientifiques de sécurité, des preuves mathématiques, ainsi que des spécialistes humains pour assurer le tout.
Selon les équipes de Yoshua Bengio, ces stratégies sont des incontournables pour l’IA de demain.
« Nous nous dirigeons actuellement vers un brouillard derrière lequel pourrait se cacher un précipice. Nous ne savons pas à quelle distance se trouve le précipice, ni même s’il existe, cela peut prendre des années, voire des décennies, et nous ne savons pas à quel point cela pourrait être grave… Nous devons mettre en place des outils nécessaires pour dissiper ce brouillard et nous assurer de ne pas nous retrouver dans un précipice s’il y en a un » explique Yoshua Bengio, directeur scientifique, projet Safeguarded AI.
A noter que Safeguarded AI est un surplus des technologies de contrôle en vigueur. Le projet s’associera à l’approche Red-Teaming, ainsi qu’aux autres systèmes de sécurité. Il va alors repousser les limites des stratégies actuelles.
Un projet financé par le gouvernement britannique
Les équipes de Bengio ne sont pas seules dans cette étude. Effectivement, ils ont reçu environ 59 millions de livres sterling venant de l’ARIA (Advanced Research and Invention Agency). C’est une subvention échelonnée sur les quatre prochaines années.
C’est un atout considérable, car cette approche va s’étendre sur la majorité des IA à venir. Toutefois, le projet prendra du temps avant de se concrétiser. Mais les équipes de Bengio sont optimistes, surtout avec le soutien de l’ARIA.
De son côté, cette agence britannique lance un appel aux financements concernant les stratégies de contrôle de l’IA. Les intéressés peuvent déposer leur candidature jusqu’au 2 octobre 2024. Les projets les plus prometteurs bénéficieront d’une aide de 5,4 millions de livres sterling la première année, et de 8,2 millions sur les 12 mois suivants.
Mais ce n’est pas tout, car l’ARIA réserve aussi 18 millions de livres sterling pour subventionner les organisations avec un projet en accord avec leur valeur.
- Partager l'article :