LEBIGDATA.FR I.A, Cloud & Cybersécurité
L’essor des agents autonomes exécutant des tâches numériques suscite un enthousiasme certain. Beaucoup y voient un moyen d’automatiser des processus et de gagner en productivité.
Cependant, cette évolution attire aussi l’attention de personnes malveillantes. Elles sont nombreuses à chercher à exploiter ces systèmes pour accéder à des données sensibles ou détourner des workflows automatisés.
Et c’est pour y remédier que Promptfoo a été fondée par Ian Webster et Michael D’Angelo. Il s’agit d’une jeune entreprise spécialisée dans la cybersécurité appliquée à l’intelligence artificielle.
Créée en 2024, la startup s’est donné pour mission de protéger les grands modèles de langage contre les attaques et manipulations en ligne. Et c’est aussi dans ce contexte qu’OpenAI s’intéresse à elle.
La boîte de Sam Altman a annoncé son acquisition le 9 mars. Elle n’a toutefois pas communiqué le montant de l’acquisition.
Qu’est-ce que cette acquisition implique ?
Pour tout vous dire, Promptfoo fournit aux entreprises des outils capables d’identifier les failles de sécurité dans les modèles de langage. La société propose notamment une interface dédiée ainsi qu’une bibliothèque open source permettant de tester les vulnérabilités des systèmes basés sur l’IA.
Selon l’entreprise, ses solutions sont déjà utilisées par plus d’un quart des sociétés figurant dans le classement Fortune 500. Mais dans le cadre de cette acquisition, ces dernières seront intégrées à OpenAI Frontier.
Ce dernier si vous ne l’avez pas encore deviné est une plateforme d’OpenAI destinée aux entreprises qui souhaitent déployer des agents d’IA. L’intégration interviendra une fois l’opération finalisée. La société mère de ChatGPT l’a annoncé dans un billet publié sur son blog.
Dans ce même communiqué, OpenAI explique que la technologie de Promptfoo permettra de réaliser des tests d’intrusion automatisés. Elle servira aussi à analyser les flux de travail des agents afin d’identifier d’éventuelles failles.
Et elle aidera à surveiller les activités pour détecter les risques. L’entreprise précise également qu’elle continuera à développer l’offre open source de Promptfoo.
Pourquoi OpenAI s’offre Promptfoo à ce moment précis ?
OpenAI n’a clairement pas choisi ce moment au hasard. Voyez-vous, selon les analystes, les entreprises changent. Elles ne se concentrent plus seulement sur la puissance des modèles.
Elles cherchent désormais à déployer des systèmes d’intelligence artificielle sécurisés, contrôlés et encadrés. Ce qui n’a rien de surprenant. De nombreuses organisations craignent désormais les menaces amplifiées par IA.
L’analyse menée par IDC le montre clairement. D’après les données, 63 % des organisations placent la perte de données sensibles ou confidentielles parmi leurs principales préoccupations lors de l’utilisation de l’IA.
Une autre étude de l’IDC sur la cybersécurité en Asie-Pacifique pour 2025 va aussi dans cette direction. Parmi les risques figurent les attaques visant directement les modèles de langage, comme l’injection de prompts ou la manipulation de modèles.
Mais ce n’est pas tout. D’autres menaces émergent également avec la généralisation de l’IA. Les analystes évoquent notamment la génération automatisée de logiciels malveillants, les attaques exploitant la logique métier des entreprises ou encore les campagnes de désinformation orchestrées à grande échelle.
Les chercheurs alertent aussi sur les risques d’empoisonnement des modèles lors de leur phase d’entraînement. Une technique capable de fausser leurs réponses ou leur comportement.
Dans ce contexte, la capacité à tester systématiquement les systèmes d’IA devient cruciale. Ce qui explique le changement des entreprises. Elles cherchent désormais des outils capables d’identifier des failles comme l’injection de code malveillant, les fuites de données ou les comportements dangereux des modèles avant leur déploiement.
Cela pourrait aussi élucider le pourquoi OpenAI choisit de s’offrir Promptfoo maintenant. Ceci dit, une question me tracasse : comment OpenAI compte-t-elle garantir que ces outils de sécurité ne deviennent pas eux-mêmes une nouvelle cible pour les hackers ?
Restez à la pointe de l'information avec LEBIGDATA.FR !
- Partager l'article :
