machine learning sécurité

Microsoft organise une compétition de hacking de Machine Learning

Microsoft et plusieurs de ses partenaires industriels sponsorisent le concours  » Machine Learning Security Evasion Competition « . Le but de cet événement sera de tester les limites de la sécurité des modèles d’apprentissage automatique, afin d’améliorer leurs défenses par la suite…

Alors que les systèmes de Machine Learning sont de plus en plus utilisés, il devient plus que nécessaire que leur sécurité soit à la hauteur. Si l’intelligence artificielle est vulnérable aux hackers, alors il est impossible de se fier à cette technologie.

Cet été, les capacités défensives des systèmes de Machine Learning seront testées et poussées dans leurs derniers retranchements lors d’un événement Microsoft dédié à la sécurité. Le géant de Redmond, aux côtés de multiples partenaires industriels, sponsorise le concours Machine Learning Security Evasion Competition.

Ce concours regroupera à la fois des experts en Machine Learning et des professionnels de la cybersécurité. Les participants auront pour but de lancer des attaques contre des modèles de Machine Learning.

La compétition est inspirée par un événement similaire, organisé l’été dernier au AI Village de la DEF CON 27. À travers ce concours, plusieurs participants avaient pu mettre en lumière des approches permettant de contourner trois modèles anti-malware de Machine Learning différents.

Selon Hyrum Anderson, architecte principal de Microsoft pour la protection et la détection en entreprise, cette nouvelle compétition aura également pour but de permettre la création de meilleurs systèmes de sécurité et de mettre en exergue la manière dont les systèmes ML peuvent être pris pour cible par les malwares. De cette manière, il sera possible de développer de meilleures techniques de défense.

La compétition de Microsoft sera composée d’un défi  » attaque  » et d’un  » défi défense « 

La compétition sera divisée en deux parties différentes. Tout d’abord, du 15 juin au 23 juillet 2020? se tiendra le  » Defender Challenge « . L’objectif de cette première étape sera d’identifier de nouvelles défenses pour contrer les cyberattaques.

La meilleure technique défensive devra permettre de détecter un malware du monde réel avec le plus haut taux de précision et le moins de faux positifs possible. C’est elle qui emportera le concours.

Dans un second temps, du 6 août au 18 septembre 2020, le  » Attacker Challenger  » invitera les participants à développer le malware le plus redoutable pour les systèmes de Machine Learning.

Les participants recevront un accès API à des modèles anti-malware, incluant ceux développés durant le Defender Challenger. Leur objectif sera d’échapper à ces défenses en utilisant des résultats de requêtes  » hard-label « .

Les malwares soumis seront déployés dans un bac à sable pour s’assurer qu’ils soient fonctionnels. Le vainqueur sera celui ayant utilisé le moins de requêtes API et dont le malware aura le meilleur taux d’évasion aux défenses.

Le gagnant de chaque défi recevra 2500 dollars de crédits Azure. Le suivant recevra 500 dollars de crédits. Pour gagner, les chercheurs devront publier leurs stratégies de détection ou d’évasion. Les participants individuels ou les équipes peuvent s’inscrire dès à présent sur le site web officiel MLSec.