LEBIGDATA.FR I.A, Cloud & Cybersécurité
Un internaute chinois a été arrêté par la police après avoir créé et diffusé une fausse information à l'aide de ChatGPT. Cette interpellation liée à l'IA est une première en Chine et dans le monde entier, mais certainement pas la dernière…
L'IA ChatGPT offre de nombreuses possibilités. Depuis le lancement de l'outil fin 2022, les internautes font preuve de beaucoup d'inventivité en utilisant ce chatbot pour gagner de l'argent, pour automatiser leur travail ou même pour créer des malwares.
Toutefois, en Chine, ChatGPT est tout simplement interdit. Pour y accéder, les citoyens n'ont d'autre choix que d'utiliser un VPN. Et cela peut leur attirer de graves ennuis…
La police de la province de Gansu, située dans le nord-ouest du pays, annonce dans un communiqué qu'elle vient d'arrêter un homme ayant utilisé l'outil pour créer de fausses informations et les diffuser en ligne.
Il génère une Fake News et la diffuse dans toute la Chine
Le dénommé Hong est soupçonné d'avoir généré un faux article sur un accident de train. Il l'a ensuite posté en ligne afin de faire le buzz et d'en tirer profit.
Après avoir découvert l'article le 25 avril 2023, la police a trouvé de multiples versions de la même histoire avec différents lieux d'accident postées simultanément sur 20 comptes de la plateforme Baijiahao.
Au total, l'article a reçu 15 000 vues avant que les autorités n'interpellent le plaisantin le 5 mai 2023. Il est détenu et interrogé dans la ville de Dongguan, dans la province du Guangdong au sud du pays.
Dans son communiqué, la police de Gansu reproche à Hong d'avoir « utilisé la technologie moderne pour fabriquer de fausses informations, les propager sur internet et les disséminer largement ».
Elle ajoute que « son comportement équivaut à chercher des querelles et à provoquer du trouble ». Il risque donc d'être poursuivi pour ces motifs.
Les accidents de train sont un sujet très sensible en Chine depuis la collision survenue à Wenzhou. Ce drame avait causé 40 décès, et les médias avaient échoué à fournir des informations.
La première arrestation liée à ChatGPT
Toujours selon la police, il s'agit de la première affaire criminelle du pays liée à un chatbot IA. C'est aussi vraisemblablement une première mondiale.
Cette arrestation fait suite à la nouvelle loi votée par la Cyberspace Administration en janvier 2023 pour réguler l'usage des deepfakes.
Pour rappel, le terme de deepfake désigne le contenu hautement réaliste généré par l'IA. Jusqu'à présent, il s'agissait principalement de vidéos ou d'images comme les photos du Pape en doudoune Balenciaga créé par MidJourney.
Avec l'arrivée des chatbots comme ChatGPT, le contenu textuel est maintenant aussi concerné. Pour tout savoir sur les DeepFakes, consultez notre dossier complet en suivant ce lien.
La nouvelle loi chinoise interdit aux utilisateurs de générer du contenu DeepFake sur des sujets déjà interdits par les lois existantes sur l'internet chinois lourdement censuré. Elle définit aussi les procédures à suivre pour supprimer le contenu offensant ou faux.
En outre, cette arrestation survient au beau milieu d'une campagne de 100 jours lancée par la division internet du Ministère de la Sécurité Publique en mars 2023 pour enrayer la diffusion de rumeurs sur internet.
Chine : une approche de l'IA radicalement différente
Depuis le début 2023, les géants de l'internet chinois tels que Baidu et Alibaba ont promis de rattraper leur retard sur OpenAI en lançant leurs propres applications similaires à ChatGPT.
L'IA Wenxin Yiyan ou ERNIE Bot a été lancée par Baidu en mars 2023, et Alibaba a lancé Tongyi Quianwen deux mois plus tard.
Dans un document publié en avril 2023 pour solliciter l'avis du public, le régulateur chinois du cyberespace propose que les services d'IA générative soient soumis à des évaluations de sécurité obligatoires avant de pouvoir être lancés.
Les fournisseurs de services devront aussi vérifier l'identité des utilisateurs, et fournir des détails sur leur ampleur et le type de données qu'ils utilisent, sur leurs algorithmes de bases et d'autres informations techniques.
Entre méfiance et contrôle, la façon dont la Chine aborde l'IA peut sembler trop autoritaire d'un point de vue occidental. Toutefois, de notre côté du globe, l'absence totale de régulation de l'industrie pose aussi de graves problèmes.
Les DeepFakes prolifèrent déjà le web à tel point qu'il devient difficile de distinguer le réel, et de nombreux travailleurs craignent d'être sauvagement remplacés par une IA dans un futur proche.
Des milliers d'experts dont Elon Musk ont signé une lettre appelant à faire une pause de six mois pour prendre le temps de réglementer le secteur, et certains craignent même que l'IA contrôle l'humanité en créant sa propre religion.
Il faudra patienter quelques années pour découvrir quelle approche de l'IA s'avère la plus judicieuse, entre celle de la Chine et celle de l'Occident…
- Partager l'article :
