LEBIGDATA.FR I.A, Cloud & Cybersécurité
L’intelligence artificielle a apparemment un côté obscur que beaucoup préfèrent ignorer. Aujourd’hui, nous assistons à une véritable explosion d’images pédocriminelles et celles-ci sont générées par l’IA. Ces contenus atteignent un « point de basculement » selon les experts. Ils sont devenus de plus en plus courants sur les plateformes ouvertes, là où personne ne s’y attendrait vraiment.
🔥 Nous recommandons ArtSpace
ArtSpace est le meilleur générateur d’image pour de nombreuses raisons. Intuitif, il offre des options diversifiées pour inspirer votre créativité.
Profitez de –10 % de remise supplémentaire avec le code PUBLITHINGS10.
Dans notre monde d’aujourd’hui, les machines peuvent créer des clichés aussi réalistes qu’il est presque impossible de distinguer le faux du vrai. Malheureusement, certains utilisent ce pouvoir pour générer des images d’abus sexuels sur mineurs. Selon l’Internet Watch Foundation (IWF), une organisation qui traque les contenus illégaux en ligne, la situation est en train de devenir incontrôlable. Le nombre d’images pédocriminelles générées par l’IA pullulent sur le Web ouvert.
L’IA et les images pédocriminelles à un point de basculement critique
Les outils d’IA sont incroyablement puissants. Par contre, les malfrats les détournent pour créer des choses vraiment sombres, et quand je dis sombre, je parle des images d’abus sexuels sur les enfants. Qui plus est, la gravité du problème est en train de gagner de l’ampleur ! Pourtant, ces images circulent partout sur Internet et pas seulement du dark web. Elles inondent également le web ouvert. Je trouve aussi surprenant que 80 % des signalements d’images d’abus proviennent de membres du public.
Derek Ray-Hill, le directeur général par intérim de l’IWF, a déclaré que ces clichés pédocriminelles sont si sophistiqués qu’il est clair que les outils d’IA derrière leur création ont été sûrement « entraînés » à partir de vraies images et vidéos d’enfants victimes d’abus. Il explique aussi que « les derniers mois montrent que ce problème ne va pas disparaître et qu’il s’aggrave même ».
À quel point ces images IA sont-elles réelles ?
Un analyste de l’IWF a aussi parlé d’un moment où les autorités ne savent plus si une image est celle d’un véritable enfant en détresse ou juste une création d’IA très réaliste. Les enquêteurs doivent donc décider si une personne réelle est en danger à partir d’une photo qui pourrait être totalement fabriquée !
Au cours des six derniers mois, précédant septembre 2023, l’IWF a pris des mesures contre 74 signalements d’images pédocriminelles générées par l’IA, comparé à 70 sur toute l’année précédente. Un seul signalement peut correspondre à une page web contenant plusieurs photos. Ces photos sont si réalistes qu’elles enfreignent les lois britanniques.
Par ailleurs, les types de contenu rapportés par l’IWF incluent des deepfakes. Ces vidéos incluent des scènes pornographiques adultes modifiées en abus d’enfants. Nous avons aussi vu des cas où des photos d’enfants habillés trouvées en ligne sont « nudifiés » avec des outils d’IA. On y retrouve même des images de célébrités « rajeunies » pour les faire apparaître comme des enfants dans des scénarios d’abus.
Instagram à la rescousse ?
De son côté, Instagram prend des mesures pour lutter contre des crimes comme la sextorsion. Cette arnaque pousse des victimes à envoyer des images intimes. Les pirates utilisent ces dernières ensuite pour les faire chanter. Pour contrer cela, Instagram a mis en place une fonctionnalité qui floute les images dénudées envoyées dans les messages privés. Les utilisateurs peuvent choisir de les voir ou non, et un rappel s’affiche pour les encourager à bloquer l’expéditeur ou signaler la conversation. Instagram a déployé ce changement d’abord pour les adolescents, et celui-ci s’activera par défaut.
Des serveurs aux quatre coins du monde hébergent tout ce contenu généré par l’IA. Mais plus de la moitié de ces images se trouvent en Russie et aux États-Unis. En outre, le Japon et les Pays-Bas stockent aussi une grande quantité de ce contenu. L’IWF, pour sa part, compile les URL avec ces images pédocriminelles créées par l’IA. Ensuite, l’organisation partage ces adresses de pages avec les entreprises technologiques qu’elles bloquent ce genre de contenus.
Et vous, avez-vous déjà rencontré ce genre de contenu en ligne ? Comment réagiriez-vous face à ce type de danger numérique ? Croyez-vous que des solutions efficaces existent pour contrer ce phénomène ? Partagez votre opinion dans les commentaires !
Restez à la pointe de l'information avec LEBIGDATA.FR !
- Partager l'article :
