LEBIGDATA.FR I.A, Cloud & Cybersécurité
L'avènement de l'Intelligence Artificielle (IA) a apporté de nombreux avantages, mais elle a également créé de nouvelles opportunités pour les arnaqueurs. En France, les cas d'arnaques impliquant des fausses voix générées par l'IA ont considérablement augmenté ces dernières années. Cela suscite une inquiétude croissante parmi les autorités et le public.
Ces fausses voix sont utilisées pour des fraudes financières, des appels de phishing, des escroqueries par téléphone et bien plus encore. Les conséquences peuvent être désastreuses pour les victimes. Ils peuvent perdre des sommes importantes d'argent ou être victimes d'une violation de leur vie privée. Les autorités sont de plus en plus préoccupées par cette tendance alarmante. Ainsi, ils cherchent des moyens de protéger les consommateurs contre ces arnaques sophistiquées.
Une nouvelle arnaque aux voix IA falsifiées inquiète les familles
Un reportage diffusé sur TF1 a présenté le témoignage d'une mère et de sa fille qui ont vécu une expérience traumatisante aux États-Unis. Pendant que Briana, la fille de Jennifer Destefano, était en voyage de neige, sa mère a reçu un appel d'un numéro inconnu. Lorsqu'elle a répondu, elle a entendu la voix de sa fille en train de pleurer et de crier à l'aide. Un homme a ensuite pris le téléphone pour réclamer une rançon.
Artificial Intelligence (AI) scams using voice cloning are the new frontier for fraudsters targeting consumers @iiDENTIFii #Africa #ArtificialIntelligence #Scams #VoiceCloning #Technology #Fraud
— APO Group English (@APO_source) April 18, 2023
Read more: https://t.co/amq42x2Z9T pic.twitter.com/30tAZiU8rC
Malgré la panique, Jennifer a réussi à localiser sa fille en quelques minutes. Elle a découvert que les ravisseurs avaient utilisé une intelligence artificielle pour imiter la voix de Briana et tromper sa mère. La jeune fille est maintenant inquiète que les criminels puissent avoir collecté d'autres informations sur elle. Depuis quelques mois, les outils de l'IA, tels que les simulateurs de discussion écrite et les générateurs de fausses images, font souvent les gros titres de l'actualité.
Imposture technologique : comment l'IA révolutionne l'arnaque vocale
L'avancée de la technologie a donné naissance à des dispositifs de clonage vocal. Cela permet de reproduire une voix à partir d'un enregistrement sonore de la personne que l'on souhaite imiter. Sinead Bovell, spécialiste en technologie à New York, affirme que la majorité des moins de 25 ans ont une empreinte sonore en ligne. Cela compliquera de plus en plus la vérification d'identité dans un monde où ces outils informatiques sont accessibles.
Pour utiliser ces logiciels, il n'est pas nécessaire d'être un expert en informatique, car de nombreux tutoriels sont disponibles en ligne. Axel Monnier, journaliste chez TF1, a testé le système en utilisant un enregistrement de sa voix personnelle. Par contre, les résultats n'ont pas été très probants. Cependant, avec une voix anglophone, l'IA peut imiter de manière impressionnante la voix de personnalités publiques.
Les risques à considérer lors de son utilisation
Il est important de faire preuve de responsabilité et d'éthique lors de l'utilisation de l'intelligence artificielle (IA) car celle-ci peut engendrer certains risques. L'un des plus importants est la perte d'emplois. De plus, l'IA a la capacité d'automatiser des tâches qui étaient auparavant réalisées par des travailleurs humains. Cela provoque des perturbations économiques et sociales considérables. Un autre risque est associé à la prise de décision automatisée.
De plus, l'utilisation malveillante de l'IA est un autre danger, comme le piratage informatique ou la création de deepfakes. La confidentialité et la sécurité des données peuvent également être mises en danger. Ainsi, l'IA peut collecter et utiliser des données personnelles sans autorisation. Enfin, si l'IA devient suffisamment avancée, elle pourrait échapper au contrôle humain. Cela pourrait avoir des conséquences imprévues et potentiellement dangereuses pour la société dans son ensemble.
- Partager l'article :
