LEBIGDATA.FR I.A, Cloud & Cybersécurité
Un malware qui se propage grâce à l'IA générative. Oui, cette menace existe actuellement. Elle constitue alors un danger pour tous les appareils connectés. Une chose est sûre, l'intelligence artificielle est une arme destructrice entre de mauvaises mains.
Une trouvaille exceptionnelle, ou un danger pour l'humanité. Dans tous les cas, l'intelligence artificielle vient de montrer une facette encore méconnue du grand public. En effet, le chercheur Ben Nassi et son équipe ont réussi à concevoir un malware IA capable d'attaquer plusieurs appareils automatiquement. Certes, les démonstrations ont été réalisées sous la supervision de professionnels de la cybersécurité. Mais entre de mauvaises mains, cette technologie pourra bouleverser l'équilibre de la planète.
Malware IA: comment ça marche ?
Tout se base sur les chabots. À partir de ces éléments, le malware IA est capable d'extraire les données sensibles.
Ben Nassi et son équipe ont utilisé GPT-4 d'OpenAI, Gemini Pro de Google, et ainsi que d'autres modèles LLM durant lors de leur expérience. Le malware IA avait pour mission d'envoyer une invite commande auto-réplicative. Les spécialistes ont ensuite contraint les chatbots à fournir différents invites dans leurs réponses. Et cette cascade va forcer la barrière de sécurité des intelligences artificielles. Le malware IA va ainsi obliger l'outil à donner plusieurs messages en même temps. A un certain moment, la cible va extraire les datas sensibles de l'utilisateur. Ici, les e-mails sont les plus concernés.
« Il peut s'agir de noms, de numéros de téléphone, de numéro de carte de crédit, de tout ce qui est considéré comme confidentiel » Ben Nassi, un des chercheurs et co-auteur de cette étude inquiétante.
Et ce n'est pas tout, le malware est aussi capable d'empoisonner d'autres systèmes. Ici, le virus se focalise surtout sur les e-mails. Une fois les données extraites, l'attaque peut s'introduire dans un appareil tierce, une fois que le courriel est envoyé.
« La réponse générée contenant les données sensibles infecte plus tard les nouveaux hôtes lorsqu'elle est utilisée pour répondre à un e-mail envoyé à un nouveau client puis stockée dans la base de données du nouveau client » Ben Nassi.
Les chercheurs ont déjà prévenu les IA concernées
« Vous avez désormais la possibilité de mener ou d'effectuer un nouveau type de cyberattaque qui n'a jamais été vu auparavant » Ben Nassi. Cette déclaration résume parfaitement le danger que représente ce malware IA. Et avec sa conscience professionnelle, le chercheur a prévenu les ingénieurs d'OpenAI et de Google.
Selon Ben Nassi, ces IA de références doivent renforcer leurs systèmes de sécurité. L'objectif est de sensibiliser les géants du high-tech à propos de cette nouvelle menace. En effet, ces virus informatiques peuvent se propager à une vitesse grand V. Et avec la performance des hackers, l'expansion de ce malware IA n'est plus qu'une question de temps.
On attend alors la réaction de Google et d'OpenAI. Mais en suivant la logique, ces entreprises doivent agir au plus vite. Effectivement, un malware IA capable de se proliférer tout seul peut infecter tous les secteurs. De la défense, à la finance, en passant par le domaine de la santé, tous ces milieux seront à l'arrêt. Et les hackers seront les maîtres dans ce monde de chaos.
- Partager l'article :
