Cybersécurité : cette startup française a séduit OpenAI, mais pourquoi ?

Cybersécurité : cette startup française a séduit OpenAI, mais pourquoi ?

OpenAI a lancé un programme de subvention mis en place pour soutenir les travaux et les recherches axés sur la sécurité (dans tous ses aspects) des modèles d’IA. Le programme a prévu dix financements de 100 000 dollars chacun. Une startup française fait partie des lauréats. 

Cybersécurité : une startup française parmi les lauréats du programme de subvention d’OpenAI

Au mois de mai de l’année dernière, OpenAI a lancé un programme de subvention pour financer des projets garantissant la cybersécurité de l’IA. La subvention est dispatché en dix financement de 100 000 dollars chacun qui viendront soutenir le développement des solutions de  sécurité de l’IA.

https://twitter.com/dhuynh95/status/1734254245359333887?s=20

Une startup française fait partie des lauréats. Il s’agit de Mithril Security, fondée par Daniel Huynh et Raphaël Millet. La startup propose des solutions aux organisations qui souhaitent protéger de la manière la plus stricte leurs interactions avec les modèles d’IA.

En déployant des modèles d’IA dans des enclaves (environnement informatique confidentiel et vérifiable), Mithril Security assure que les données sensibles qui leur sont envoyées ne seront jamais exposées en clair, même à ses administrateurs. Ces données ne sont pas non plus utilisables pour la formation.

Développer des outils open source

Mithril Security déclare que les fonds viendront financer leurs « travaux sur le développement d’outils open source pour déployer des modèles d’IA sur des GPU avec des modules de plateforme de confiance (TPM) tout en garantissant la confidentialité des données et en fournissant l’intégrité totale du code ».

La startup explique que les solutions d’IA existantes exposent les données des utilisateurs aux fournisseurs d’IA. Pour bénéficier d’une certaine confidentialité, le modèle doit être déployé localement pour éviter d’envoyer des données à une partie externe. La mise en œuvre de cette dernière est pourtant complexe et coûteuse. 

Avec l’IA confidentielle avec enclaves, l’équipe de Mithril Security peut « allier la confidentialité du déploiement sur site avec la simplicité d’utilisation du Saas ». En d’autres termes, la startup allie confidentialité et performance. 

Les utilisateurs finaux peuvent ainsi déployer en toute confiance leur modèle d’IA. Ils peuvent notamment, grâce à Mithril Security, protéger les données de leurs utilisateurs et la pondération de leur modèle, même si le modèle d’IA est déployé sur un cloud public non fiable.

Newsletter

Envie de ne louper aucun de nos articles ? Abonnez vous pour recevoir chaque semaine les meilleurs actualités avant tout le monde.

Cliquez pour commenter

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *