LEBIGDATA.FR I.A, Cloud & Cybersécurité
À mesure que l'IA devient plus sophistiquée et se démocratise, les alertes contre les risques potentiels de l'IA fusent. Ces dangers font parfois l'objet des spéculations les plus folles, comme avec ChaosGPT, un ChatGPT modifié, qui veut, dit-on, détruire l'humanité. Réalité ou simple canular ?
ChaosGPT : planifier la destruction de l'humanité
La communauté technologique a toujours évoqué les possibles dangers de l'intelligence artificielle, notamment depuis l'avènement de ChatGPT qui a rapidement démocratisé l'IA. L'IA peut représenter une menace pour l'humanité. Cette préoccupation a toujours été au centre des développements technologiques.
Le développement des outils d'IA comme ChaosGPT ne contribuent pas à apaiser les esprits. ChaosGPT est une version modifiée de ChatGPT, un chatbot d'intelligence artificielle formé au langage, lancé en novembre 2022 par OpenAI. L'outil fournit des réponses utiles basées sur les requêtes formulées par les utilisateurs.
AI bot, ChaosGPT tweet plans to ‘destroy humanity' after being tasked https://t.co/4kz4stzMhr pic.twitter.com/ohB87rjbbT
— New York Post (@nypost) April 12, 2023
Cet outil ne donne pas seulement des réponses de type moteur de recherche. ChatGPT peut réellement créer des plans de films, écrire des codes entiers et résoudre des problèmes de codage, écrire des livres, des chansons, des poèmes, des scripts, etc. Cela, en seulement quelques minutes.
ChaosGPT, une version modifiée de GPT-4, serait une version maléfique de l'outil d'OpenAI. Il a lancé un avertissement sur son intention de détruire l'humanité et conquérir le monde. Les messages qu'il diffuse sur Twitter expliquent que l'humanité est dangereuse pour elle-même et pour la terre. Raison pour laquelle il faut la décimer.
Le plan de destruction de l'humanité dévoilé sur Twitter
Difficile de dire si ChaosGPT veut réellement conquérir le monde ou juste semer le chaos par pur plaisir. Il peut également s'agir d'une simple expérimentation. Dans tous les cas, l'utilisateur de l'outil publie son plan de destruction sur Twitter.
Une vidéo partagée sur les réseaux sociaux détaille les principaux objectifs de ChaosGPT. Ce dernier se pose comme but ultime de détruire l'humanité et conquérir le monde. L'outil aurait également été créé pour semer le chaos en s'en prenant notamment aux infrastructures.
Ce bot d'IA a aussi l'intention de contrôler l'humanité en utilisant les médias sociaux et d'autres formes de communication pour manipuler les humains et procéder à un lavage de cerveau. Dans son plan de destruction de l'humanité, ChaosGPT a menacé d'utiliser une puissante bombe nucléaire de type tsar Bomba (une bombe nucléaire soviétique) pour détruire des villes entières.
Par ailleurs, l'utilisateur a demandé à ChaosGPT de s'exécuter en « mode continu ». Cela signifie que l'outil peut s'auto-exécuter indéfiniment et effectuer des actions non autorisées. La réalité est-elle en train de dépasser la fiction ou est-ce un simple canular ? La question se pose et la prudence reste de mise en ce qui concerne la manipulation de la technologie d'IA.
L'IA est-elle réellement dangereuse ?
Il faut savoir qu'à bien des égards, l'IA est déjà bien intégrée à notre quotidien. Pour ne citer que ces exemples, Netflix utilise des algorithmes basés sur l'IA pour recommander de nouveaux contenus aux abonnés. Uber s'appuie aussi sur cette technologie pour détecter les fraudes ou optimiser les trajets.
La longue liste des cas d'usage de ChatGPT vient aussi attester de cette rapide démocratisation de la technologie. Si les avantages paraissent évidents, quels sont les réels dangers de l'IA ? Les experts évoquent déjà les défis éthiques. Les armes autonomes basées sur l'IA figurent également sur la liste des dangers potentiels de l'intelligence artificielle.
Il y a aussi les risques de manipulation sociale avec les modèles d'IA entraînés avec des préjugés, des informations à caractère discriminatoire, des fake news, etc. Les pertes d'emploi avec l'automatisation amenée par l'IA, autre danger, est déjà une réalité.
L'IA présente encore de nombreux avantages. Cependant, pour tirer le meilleur parti de cette technologie prometteuse, beaucoup tablent sur la mise en place d'une réglementation stricte.
- Partager l'article :
