ChatGPT exploité par les hackers en Chine, Iran et Russie : Microsoft hallucine

ChatGPT exploité par les hackers en Chine, Iran et Russie : Microsoft hallucine

La guerre contre les cybercriminels est aussi vieille que l’informatique elle-même. La technique utilisée par les pirates évoluent avec la technologie. Avec l’avènement de , les hackers tirent parti de cette technologie de pointe pour orchestrer des cyberattaques, à l’instar de ces groupes de hackers chinois, iraniens et russes.

et déjouent cinq groupes de hackers exploitant ChatGPT

Microsoft Threat Intelligence et OpenAI ont intercepté plusieurs groupes de hackers qui ont tenté d’exploiter ChatGPT-4 pour orchestrer des cyberattaques. Les pirates ont notamment utilisé l’IA pour rechercher des cibles et obtenir des informations (dont leur système de défense) sur les entreprises visées.

YouTube video

Selon OpenAI, les comptes ChatGPT interceptés ont également utilisé l’outil d’IA pour essayer de lancer des campagnes de phishing, pour traduire des documents techniques, pour développer des techniques d’ingénierie sociale, pour trouver des erreurs de codage, etc. Une utilisation qui n’en était toutefois qu’à un stade précoce, souligne OpenAI.

En analysant les comptes interceptés, les experts ont identifié cinq groupes de hackers affiliés à des États-Nations. Charcoal Typhoon et Salmon Typhoon seraient affiliés à la Chine. Crimson Sandstorm serait parrainé par l’Iran, Emerald Sleet à la Corée du Nord et de Forest Blizzard à la Russie

OpenAI en difficulté face aux utilisations abusives de ChatGPT

Après le lancement de ChatGPT, l’univers numérique a assisté presque impuissant à un tsunami d’escroqueries, de DeepFake et autres cyberattaques générées par l’IA. Pourtant, OpenAI a beaucoup investi dans la cybersécurité.

La société d’IA a entre autres la mise en œuvre de mesures pour empêcher ChatGPT de fournir aux utilisateurs des réponses malveillantes, racistes ou dangereuses. Néanmoins, les pirates ont trouvé des moyens de jailbreaker l’outil et de lui faire faire tout ce qu’on lui demande. 

Face à quoi, OpenAI a souligné qu’il est nécessaire de garder une longueur d’avance sur l’évolution des menaces. Sans livrer trop de détails sur l’approche à adopter, la société d’IA a déclaré qu’elle misera entre autres sur la transparence et la collaboration avec d’autres développeurs d’IA pour sécuriser ses modèles d’intelligence artificielle.

Restez à la pointe de l'information avec LEBIGDATA.FR !

Cliquez pour commenter

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Newsletter

La newsletter IA du futur

Rejoins nos 100 000 passionnés et experts et reçois en avant-première les dernières tendances de l’intelligence artificielle🔥