LEBIGDATA.FR I.A, Cloud & Cybersécurité
L’essor des clones vocaux créés par l’IA représente une menace pour la sécurité de vos proches. Le FBI propose une solution simple mais efficace pour se défendre : utiliser un mot de passe secret.
Mardi, le FBI a alerté les Américains face à une menace technologique grandissante, qui est les escroqueries par clonage vocal alimentées par l’IA. Pour se protéger, l’agence recommande de partager un mot ou une phrase secrète avec vos proches. Les criminels utilisent désormais des outils de synthèse vocale pour imiter la voix de membres de la famille. De même, ils s’en servent pour se faire passer pour eux en situation d’urgence, manipulant ainsi la confiance et semant la confusion.
Menace de clone IA ? Un mot de passe secret pour protéger votre famille ?
« Créez un mot ou une phrase secrète avec votre famille pour vérifier leur identité », conseille le FBI dans un récent communiqué d’intérêt public (I-120324-PSA). Cette astuce simple peut déjouer les escroqueries impliquant des clones vocaux générés par l’IA.
Par exemple, vous pouvez partager avec vos proches une phrase unique et mémorable comme « Le moineau vole à minuit » ou « Greg est le roi des burritos ». Cela permet de vérifier votre identité si jamais vous vous retrouvez face à des situations suspectes. Néanmoins, vous devez veiller à ce qu’elle reste secrète et bien évidemment différente de ces exemples.
Par ailleurs, selon le FBI, il faut rester vigilant face au ton de voix et au choix des mots dans les appels inattendus prétendant venir d’un membre de la famille. Les criminels utilisent désormais des outils d’IA pour générer des enregistrements vocaux convaincants. Cela leur permet d’imiter des proches demandant de l’aide financière ou réclamant une rançon.
Cette alerte s’inscrit dans une campagne plus large visant à sensibiliser le public aux nouvelles techniques de fraude utilisant des modèles génératifs d’IA. Rappelons que ces derniers permettent de créer des clones vocaux réalistes avec une facilité déconcertante.
Limitez l’accès à vos données pour éviter les arnaques basées sur l’IA
Les clones vocaux frauduleux s’appuient généralement sur des échantillons publics de votre voix, comme ceux tirés de podcasts ou d’interviews enregistrées. Si vous n’êtes pas une figure publique ou semi-publique, vos chances d’être ciblé restent donc plus faibles.
Cependant, l’avertissement du FBI ne se limite pas aux arnaques vocales. Je dois reconnaître que les criminels peuvent aussi utiliser des modèles d’IA pour créer des photos de profil réalistes. C’est aussi le cas des documents d’identité falsifiés et des chatbots sophistiqués intégrés à des sites frauduleux.
Ces outils permettent de développer du contenu trompeur et masquer par la même occasion les indices habituels d’escroquerie. Parmi ces erreurs, on peut citer des erreurs grammaticales flagrantes ou des visuels peu crédibles.
Comme pour les deepfakes basés sur des images publiques, le FBI conseille de restreindre l’accès à vos enregistrements vocaux et à vos photos en ligne. Pour réduire les risques, il faudra rendre les comptes de réseaux sociaux privés et limiter les abonnés à des personnes de confiance.
Du mot secret dans la lutte contre les clones IA ? Pourquoi ?
Un développeur d’IA connu sous le nom d’Asara Near a eu pour fois l’idée d’utiliser un mot ou une phrase secrète pour contrer les clones vocaux alimentés par l’IA. Puis, elle l’a tweeté le 27 mars 2023 pour le partager avec les utilisateurs.
« Il peut être utile d’établir un mot de preuve d’humanité que vos contacts de confiance peuvent vous demander », a-t-elle déclaré. Elle expliquait que cela permettrait de vérifier l’identité en cas d’appels ou de vidéos suspects. De ce fait, nous pouvons empêcher ainsi les deepfakes ou les clones vocaux de duper leurs victimes.
Depuis, cette idée a gagné en popularité, notamment après que Rachel Metz l’a explorée en février dans un article pour Bloomberg. « L’idée devient courante dans la communauté de recherche en IA », a-t-elle noté.
Bien que les mots de passe soient utilisés depuis l’Antiquité pour vérifier l’identité, leur pertinence dans le contexte des fraudes modernes montre à quel point cette invention simple reste puissante.
Je dois avouer que dans un monde de technologie avancée et d’usurpation d’identité sophistiquée, une solution aussi ancienne qu’un mot secret peut encore faire la différence. Et vous, partagez-vous le même avis ?
Restez à la pointe de l'information avec LEBIGDATA.FR !
- Partager l'article :
