safeguarded AI

Le parrain de l’IA veut l’empêcher de détruire le monde : voici son plan

Non, on n’est pas encore arrivé au stade du soulèvement des machines. Pourtant, Yoshua Bengio a déjà monté un plan pour contrôler les IA modernes. Comme quoi, la prévention est la clé pour éviter un scénario apocalyptique. Nom de code du projet : Safeguarded AI.

Avec l’avancée de , et les indices sur l’intelligence artificielle générale, les spécialistes se posent une question. Est-ce qu’on arrivera à dompter ces technologies à l’avenir ? Le lauréat du prix Turing, Yoshua Bengio, a alors une réponse à ce problème. Créer un système d’IA capable de garantir la fiabilité des produits high-tech. C’est le projet Safeguarded AI. Tout savoir.

YouTube video

Safeguarded AI : l’IA gardienne des IA ?

Yoshua Bengio et ses équipes veulent créer une IA, qui assurera la sûreté des modèles LLM du futur. L’objectif est simple : vérifier chaque innovation avant son lancement pour le grand public.

Le projet Safeguarded AI sera alors la barrière entre les IA fiables et les technologies menaçantes. Cependant, les approches sont assez complexes. Les chercheurs ont combiné des modèles scientifiques de sécurité, des preuves mathématiques, ainsi que des spécialistes humains pour assurer le tout.

Selon les équipes de Yoshua Bengio, ces stratégies sont des incontournables pour l’IA de demain.

« Nous nous dirigeons actuellement vers un brouillard derrière lequel pourrait se cacher un précipice. Nous ne savons pas à quelle distance se trouve le précipice, ni même s’il existe, cela peut prendre des années, voire des décennies, et nous ne savons pas à quel point cela pourrait être grave… Nous devons mettre en place des outils nécessaires pour dissiper ce brouillard et nous assurer de ne pas nous retrouver dans un précipice s’il y en a un » explique Yoshua Bengio, directeur scientifique, projet Safeguarded AI.

A noter que Safeguarded AI est un surplus des technologies de contrôle en vigueur. Le projet s’associera à l’approche Red-Teaming, ainsi qu’aux autres systèmes de sécurité. Il va alors repousser les limites des stratégies actuelles.

https://twitter.com/FLI_org/status/1813729389206794324

Un projet financé par le gouvernement britannique

Les équipes de Bengio ne sont pas seules dans cette étude. Effectivement, ils ont reçu environ 59 millions de livres sterling venant de l’ARIA (Advanced Research and Invention Agency). C’est une subvention échelonnée sur les quatre prochaines années.

C’est un atout considérable, car cette approche va s’étendre sur la majorité des IA à venir. Toutefois, le projet prendra du temps avant de se concrétiser. Mais les équipes de Bengio sont optimistes, surtout avec le soutien de l’ARIA.

De son côté, cette agence britannique lance un appel aux financements concernant les stratégies de contrôle de l’IA. Les intéressés peuvent déposer leur candidature jusqu’au 2 octobre 2024. Les projets les plus prometteurs bénéficieront d’une aide de 5,4 millions de livres sterling la première année, et de 8,2 millions sur les 12 mois suivants.

Mais ce n’est pas tout, car l’ARIA réserve aussi 18 millions de livres sterling pour subventionner les organisations avec un projet en accord avec leur valeur.

Restez à la pointe de l'information avec LEBIGDATA.FR !

Cliquez pour commenter

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Newsletter

La newsletter IA du futur

Rejoins nos 100 000 passionnés et experts et reçois en avant-première les dernières tendances de l’intelligence artificielle🔥