LEBIGDATA.FR I.A, Cloud & Cybersécurité
La guerre contre les cybercriminels est aussi vieille que l'informatique elle-même. La technique utilisée par les pirates évoluent avec la technologie. Avec l'avènement de ChatGPT, les hackers tirent parti de cette technologie de pointe pour orchestrer des cyberattaques, à l'instar de ces groupes de hackers chinois, iraniens et russes.
Microsoft et OpenAI déjouent cinq groupes de hackers exploitant ChatGPT
Microsoft Threat Intelligence et OpenAI ont intercepté plusieurs groupes de hackers qui ont tenté d'exploiter ChatGPT-4 pour orchestrer des cyberattaques. Les pirates ont notamment utilisé l'IA pour rechercher des cibles et obtenir des informations (dont leur système de défense) sur les entreprises visées.
Selon OpenAI, les comptes ChatGPT interceptés ont également utilisé l'outil d'IA pour essayer de lancer des campagnes de phishing, pour traduire des documents techniques, pour développer des techniques d'ingénierie sociale, pour trouver des erreurs de codage, etc. Une utilisation qui n'en était toutefois qu'à un stade précoce, souligne OpenAI.
En analysant les comptes interceptés, les experts ont identifié cinq groupes de hackers affiliés à des États-Nations. Charcoal Typhoon et Salmon Typhoon seraient affiliés à la Chine. Crimson Sandstorm serait parrainé par l'Iran, Emerald Sleet à la Corée du Nord et de Forest Blizzard à la Russie.
OpenAI en difficulté face aux utilisations abusives de ChatGPT
Après le lancement de ChatGPT, l'univers numérique a assisté presque impuissant à un tsunami d'escroqueries, de DeepFake et autres cyberattaques générées par l'IA. Pourtant, OpenAI a beaucoup investi dans la cybersécurité.
La société d'IA a entre autres la mise en œuvre de mesures pour empêcher ChatGPT de fournir aux utilisateurs des réponses malveillantes, racistes ou dangereuses. Néanmoins, les pirates ont trouvé des moyens de jailbreaker l'outil et de lui faire faire tout ce qu'on lui demande.
Face à quoi, OpenAI a souligné qu'il est nécessaire de garder une longueur d'avance sur l'évolution des menaces. Sans livrer trop de détails sur l'approche à adopter, la société d'IA a déclaré qu'elle misera entre autres sur la transparence et la collaboration avec d'autres développeurs d'IA pour sécuriser ses modèles d'intelligence artificielle.
- Partager l'article :
