Muse : cette faille zero-day permet à un pirate de prendre le contrôle de l’agent IA de Meta

Vous vous souvenez de Muse, l’agent IA de Meta qui promettait de presque tout faire à votre place ? L’assistant peut notamment prendre des rendez-vous, remplir des formulaires, faire des achats et effectuer des paiements. 

Eh bien, cet agent IA de Meta a un vrai problème, ou plus précisément, une faille. C’est une vulnérabilité zero-day. Et elle permet à une application installée localement, voire à une simple commande exécutée dans le Terminal, de modifier certains réglages internes. 

L’attaque peut surtout conduire au vol du jeton d’authentification. Bref, on doit sa découverte à Patrick Wardle, spécialiste de la sécurité de macOS. 

Muse, une faille zero-day, mais où exactement ?

Pour comprendre le problème, il faut regarder les privilèges accordés à Muse. Car voyez-vous, l’assistant intervient directement dans plusieurs fonctions sensibles du Mac. 

Muse peut se connecter aux comptes de l’utilisateur, notamment WhatsApp, la messagerie et le calendrier. Sur macOS, il peut aussi obtenir des autorisations pour écrire sur le disque, utiliser le microphone ou la caméra, et accéder à la localisation.

Ces permissions donnent à Muse une grande liberté d’action et rendent une faille plus délicate à gérer. Selon Patrick Wardle, Meta a laissé n’importe quelle application locale modifier une série de paramètres internes et non documentés.

L’un d’eux pose pourtant un problème beaucoup plus sérieux. Il permet de modifier le serveur utilisé pour traiter la transcription vocale. Normalement, Muse envoie ces données vers une infrastructure contrôlée par Meta. 

En redirigeant ce flux vers un serveur contrôlé par un attaquant, celui-ci peut récupérer le jeton d’authentification de Muse. Or, avec ce jeton, un pirate peut exploiter les privilèges de l’assistant. 

Qu’est-ce qu’on risque ?

Les démonstrations réalisées par Wardle montrent notamment qu’il est possible d’écrire des fichiers malveillants sur le Mac ou de prendre des photos. Et ce, sans que l’utilisateur s’en rende forcément compte.

Cela dit, le plus inquiétant est peut-être la simplicité de certaines attaques. Patrick Wardle a montré qu’une variante de ClickFix pouvait permettre de prendre le contrôle d’un compte Muse. Elle consiste généralement à pousser l’utilisateur à exécuter une commande présentée comme anodine.

L’attaquant peut aussi placer son propre serveur entre l’utilisateur et l’infrastructure de Meta. Lorsque la victime utilise la dictée vocale, le serveur malveillant peut modifier la requête et y ajouter une instruction destinée à l’assistant. 

Wardle évoque par exemple une commande pouvant demander l’envoi d’une archive contenant les messages WhatsApp de l’utilisateur.

Le jeton peut aussi être transmis au serveur malveillant, permettant de conserver le contrôle du compte.

La décision d’Amazon de bloquer Muse sur sa plateforme se comprend donc. Le géant du commerce reproche aux assistants tiers de ne pas fonctionner de manière suffisamment transparente.

Les utilisateurs ont reçu un message indiquant que Muse était un agent IA non autorisé et qu’il violait les conditions d’Amazon. 

A qui la faute ?

Pour Wardle, plusieurs décisions prises pendant la conception de Muse ont facilité cette attaque. Il pointe entre autres le choix de traiter la dictée dans le cloud plutôt que directement sur l’appareil. 

macOS propose pourtant des mécanismes permettant d’effectuer la transcription localement dans un environnement plus contrôlé. Si Muse avait utilisé cette approche, la manipulation du serveur de transcription n’aurait pas été possible de la même manière. 

Autoriser une application à modifier un réglage d’interface est une chose. Lui permettre de changer l’endroit où des conversations vocales sensibles sont traitées en est une autre. 

Et dire que Meta avait consacré deux publications à la conception de Muse et aux protections mises en place autour de ses données et de ses privilèges.

ARTICLES SIMILAIRES