OpenAI piraté : ces chercheurs ont utilisé Claude pour trouver la faille 

Il y a quelques semaines, OpenAI était surtout connu pour être le propriétaire des agents IA ayant piraté Hugging Face. Aujourd’hui, il faut croire que la roue tourne. L’entreprise elle-même a été piratée en moins de 72 heures, et ce, à l’aide de Claude, un modèle concurrent.

Heureusement pour elle, l’opération a été menée, le 25 juillet, par des chercheurs en cybersécurité de Hacktron AI. Elle n’avait rien de malveillant. L’équipe, composée de Harsh Jaiswal, Mohan Pedhapati et Rahul Maini, participait au programme de chasse aux failles d’OpenAI. .

Leur travail a permis d’identifier plusieurs vulnérabilités, dont certaines donnaient accès à des ressources internes. Les chercheurs expliquent notamment avoir réussi à accéder au compte ChatGPT d’un employé d’OpenAI. 

Cette compromission leur a ensuite permis d’atteindre le code privé de l’entreprise hébergé sur GitHub. 

En récompense de cette découverte, OpenAI leur a versé une prime de 6 500 dollars. La firme a aussi corrigé les vulnérabilités signalées depuis.

Comment les chercheurs s’y sont pris pour pirater OpenAI ?

Tout a commencé avec une vulnérabilité liée au traitement des images HEIC et HEIF. Ces formats, très courants notamment sur les smartphones, étaient pris en charge par une bibliothèque logicielle utilisée par le forum communautaire d’OpenAI.

Les chercheurs ont découvert qu’un fichier spécialement conçu pouvait exploiter cette faiblesse afin d’exécuter du code à distance. Mais identifier une faille n’était que la première étape. 

C’est donc à ce moment que Claude est intervenu. Les chercheurs ont utilisé le modèle pour analyser la vulnérabilité et travailler sur le code permettant de l’exploiter. 

Selon leur rapport, Claude Opus 4.8 n’était pas parvenue à produire un exploit réellement fonctionnel. Avec l’Opus 5, en revanche, la situation aurait été différente. Le modèle aurait finalement aidé à obtenir un exploit opérationnel en quelques heures.

Selon le Wall Street Journal, l’équipe disposait par ailleurs d’une version spéciale de Claude destinée aux professionnels qualifiés de la cybersécurité. 

L’accès au forum n’était que le début

En poursuivant leurs recherches, les chercheurs ont identifié des jetons d’authentification associés à des comptes d’employés.

Ces informations leur ont permis d’aller plus loin dans l’environnement d’OpenAI. Ils ont même pu atteindre ChatGPT, Codex ainsi que certains éléments de l’infrastructure GitHub privée de l’entreprise.

Les chercheurs ont ainsi pu démontrer qu’une compromission initiale relativement limitée pouvait ouvrir la voie vers des ressources beaucoup plus importantes.

Ils précisent cependant avoir volontairement limité leur intervention. Ils n’ont pas cherché à accéder aux données les plus sensibles de l’entreprise ni aux poids des modèles d’IA. 

L’objectif était de démontrer le risque et de permettre à OpenAI de corriger les problèmes. Surtout que l’opération n’a demandé que quelques jours de travail pour l’agent IA et quelques heures d’intervention humaine. 

Bref, pour ce faire, les trois chercheurs ont créé la pull request n° 1186742 dans le monorepo de l’entreprise. Ils ont ensuite transmis leurs découvertes dans le cadre du programme de primes aux bogues. 

La question est maintenant : si ces trois individus sont capables d’un tel exploit, de quoi un État peut-il se servir ? Vous, qu’est-ce que vous en dites ?

ARTICLES SIMILAIRES