LEBIGDATA.FR I.A, Cloud & Cybersécurité
ChatGPT est votre chatbot préféré ? Si oui, faites attention ! Les experts en cybersécurité pensent qu’il serait possible de le détourner pour orchestrer des attaques DDoS massives au profit de hackers malintentionnés.
En effet, il y a une vulnérabilité dans ChatGPT qui – si elle est exploitée par les hackers – pourra transformer votre chatbot préféré en arme de destruction numérique massive.
D’ailleurs, rien ne nous dit qu’une pirate ne l’a pas déjà fait. Mais puisque personne ne s’est plaint pour le moment, les experts lancent juste l’alerte.
Une faille qui risque de rendre ChatGPT méconnaissable
Selon Benjamin Flesch, un chercheur en cybersécurité, le problème réside dans l’API de ChatGPT. Celle-ci gère les requêtes HTTP POST vers un point de terminaison particulier, permettant aux utilisateurs de soumettre des liens via un paramètre nommé « urls »… et ce, sans aucune limite.
Traduction : un individu malveillant pourrait y insérer des milliers de liens dans une seule requête, tous dirigés vers une cible unique. Résultat : les serveurs d’OpenAI se transforment en une armée numérique, bombardant la cible de requêtes et causant un déni de service.
Ce n’est toutefois pas la première fois que des outils d’IA générative sont détournés. Et, ce ne serait certainement pas la dernière.
Jusqu’à présent, les abus ciblaient surtout les fonctionnalités de l’outil : création de codes malveillants, rédaction d’e-mails de phishing ou, pire, instructions pour fabriquer des explosifs. Mais cette fois, c’est l’infrastructure elle-même qui est mise en péril.
Comment ravoir notre ChatGPT ?
Heureusement, Flesch n’a pas alerté sans proposer une solution. En plus, elle est à portée de main.
OpenAI n’aurait qu’à limiter le nombre d’URLs par requête, éviter les doublons et ajouter des restrictions sur le débit des requêtes. De simples ajustements qui pourraient couper l’herbe sous le pied des hackers.
Toutefois au-delà de cette vulnérabilité spécifique, ce cas soulève une question plus large : jusqu’où ira l’abus des outils d’IA ? OpenAI et d’autres créateurs d’outils similaires ont pourtant redoublé d’efforts pour protéger leurs systèmes avec des garde-fous, bloquant certaines requêtes jugées sensibles.
Et là encore, un nouveau « sport » est apparu : le « jailbreaking » des IA. Des pirates rivalisent d’imagination pour contourner les restrictions éthiques et sécuritaires.
Bref, espérons seulement qu’OpenAI saura colmater la brèche avant que la situation ne s’envenime. Et cher lecteur utilisateur de ChatGPT, soyez prudent, le mal est vraiment partout !
Et au fait, dans le cas échéant, êtes-vous prêt à revivre sans ChatGPT ? Partagez dans le commentaire comment vous allez vous y prendre !
Restez à la pointe de l'information avec LEBIGDATA.FR !
- Partager l'article :
