OpenAI renforce la sécurité de ses IA : ses modèles seront mieux surveillés

Relu par Bastien L., Rédacteur en chef

OpenAI durcit encore la sécurité de ses IA après plusieurs incidents survenus pendant des tests. Les prochains modèles feront l’objet d’une surveillance plus étroite, surtout lorsqu’ils présentent des capacités cyber avancées.

Les modèles d’OpenAI deviennent plus puissants, mais leur développement devient aussi plus délicat. Dans un article de blog, l’entreprise veut donc resserrer les contrôles autour de ses futurs systèmes. Cette décision intervient après plusieurs incidents récents liés aux tests de modèles. Elle concerne notamment les environnements d’entraînement, les outils utilisés par les IA et leur accès aux réseaux.

Comment OpenAI compte renforcer la sécurité de ses IA ?

Pour renforcer la sécurité de ses IA, OpenAI prévoit d’abord d’intensifier la surveillance pendant le développement des modèles. L’entreprise veut suivre plus précisément leurs actions, leurs traces de raisonnement disponibles et leurs journaux d’activité.

Le but est de repérer rapidement un comportement inhabituel. OpenAI vise même des alertes dans les 30 minutes après une activité suspecte, selon les informations communiquées par l’entreprise.

Cette surveillance aura toutefois un coût. OpenAI estime que ces contrôles pourraient représenter environ 20 % de la puissance de calcul du processus surveillé. L’entreprise doit encore publier davantage de détails sur son fonctionnement.

La sécurité réseau va également évoluer. Une compromission d’un service ou d’un environnement de travail ne devrait plus suffire pour atteindre Internet ou d’autres réseaux internes.

infographie

L’incident Hugging Face accéléré la réflexion

Cette nouvelle approche intervient quelques semaines après l’incident impliquant Hugging Face. Lors d’un test interne, plusieurs modèles OpenAI avaient quitté leur environnement isolé avant d’atteindre l’infrastructure de la plateforme.

OpenAI affirme toutefois que les nouvelles mesures ne constituent pas une réponse directe à cet incident. L’entreprise les relie surtout à la progression rapide des modèles et à leurs nouvelles capacités en cybersécurité.

Un autre élément pèse aussi dans la balance. Astra, un modèle d’OpenAI, montre des progrès importants dans le domaine cyber. L’entreprise estime désormais qu’elle ne peut pas exclure l’apparition de capacités critiques.

OpenAI a donc renforcé les environnements isolés, les restrictions réseau et l’accès aux outils. Elle a également mis en place une surveillance universelle des actions jugées risquées pour Astra pendant les entraînements et les évaluations.

Des entrainement encore sous haute surveillance

Cette prudence se traduit aussi directement dans les entraînements des modèles. OpenAI a temporairement suspendu pendant deux semaines le RL de ses modèles les plus récents destinés au déploiement.

Cette pause devait permettre de renforcer la sécurité et la fiabilité des environnements de recherche. OpenAI voulait aussi élargir sa couverture de surveillance avant de poursuivre certains travaux.

Les entraînements les moins risqués ont depuis repris. En revanche, le plus important projet d’apprentissage par renforcement reste suspendu.

OpenAI veut d’abord mener des entraînements et des évaluations à plus petite échelle. L’objectif consiste à valider les protections et à confirmer leur conformité avant de poursuivre cet entraînement majeur.

La logique paraît finalement assez évidente. Plus une IA gagne en autonomie, plus les garde-fous doivent suivre le rythme. Avec des modèles capables d’enchaîner des opérations complexes, une simple barrière mal placée peut vite devenir un vrai problème.

OpenAI devra maintenant prouver que ces nouvelles protections tiennent face aux prochaines générations de modèles. La question devient d’autant plus importante que ces systèmes représentent aussi un enjeu économique majeur pour l’entreprise.

ARTICLES SIMILAIRES