LEBIGDATA.FR I.A, Cloud & Cybersécurité
Si ChatGPT peut briller dans des usages parfaitement innocents, il peut aussi être détourné pour des opérations bien moins reluisantes. Leur capacité à générer du contenu en masse, à partir d’une grande quantité de données, fait toute leur force – et leur faiblesse. Et ce qu’ont découvert les chercheurs en cybersécurité de SentinelOne en est la preuve.
Pour faire simple, des spammeurs ont trouvé le moyen de jouer aux petits malins avec ChatGPT. En exploitant le chatbot, ils ont généré des messages différents pour chaque destinataire, suffisamment personnalisés pour passer sous le radar des filtres anti-spam.
Résultat : Plus de 80 000 sites web ont reçu ces charmants messages indésirables en l’espace de seulement quatre mois. Je vous explique dans cet article comment ça s’est exactement passé.
Comment ils ont exploité ChatGPT pour faire des spams ?
En gros, derrière cette opération se cache AkiraBot. En général, ce robot de spam crée un message unique à chaque fois. Il insère même le nom du site ciblé et une courte description de son activité.
Le tout est envoyé via des formulaires de contact ou des widgets de chat en direct intégrés aux sites visés. Du spam qui a presque l’air professionnel.
Cette fois par contre, les spammeurs ont dopé l’AkiraBot de script Python qui changent régulièrement les noms de domaine utilisés dans les messages. Et pour parfaire l’ensemble, ils ont utilisé l’API de ChatGPT (avec le modèle gpt-4o-mini) pour rédiger chaque message sur mesure.
Pour mener à bien leur mission, ils donnaient une consigne très claire à ChatGPT : « Tu es un assistant marketing très utile. » Ensuite, ils lui demandaient de générer un message en adaptant quelques variables (comme le nom du site) à chaque envoi.
Les messages diffusés par AkiraBot sont de la pure pub déguisée, envoyée à la chaîne dans le but de vendre des services SEO.
À noter que les plateformes mises en avant par le bot affichent des commentaires tous très positifs sur TrustPilot… Ce qui sent bon l’avis généré par IA.
L’IA peut jouer le rôle de complice malveillant
L’histoire d’AkiraBot nous rappelle en effet que les outils les plus brillants peuvent avoir une face sombre. Tout dépend de qui l’utilise et de comment il l’utilise. Et c’est justement ce pourquoi les chercheurs de SentinelLabs tirent la sonnette d’alarme.
« L’utilisation par AkiraBot de contenus de spam générés par des modèles de langage tels que ChatGPT démontre les nouveaux défis que pose l’intelligence artificielle pour la protection des sites web contre les attaques de spams. »
Heureusement, une fois informée, OpenAI a coupé l’accès au compte responsable, désactivé la clé API utilisée. La startup a également lancé une enquête pour neutraliser toutes les ressources associées.
D’ailleurs, pour être clair, la firme rappelle que l’usage de ses services à des fins de spam va totalement à l’encontre de ses conditions d’utilisation.
Quoi qu’il en soit, le mal est déjà fait. En janvier, les archives laissées par ce bot (à ne pas confondre avec le groupe de ransomware du même nom) comptaient plus de 420 000 sites visés, dont 80 000 touchés avec succès.
Alors, qu’est-ce que vous en pensez ?
Restez à la pointe de l'information avec LEBIGDATA.FR !
- Partager l'article :
