LEBIGDATA.FR I.A, Cloud & Cybersécurité
Selon le philosophe et historien Yuval Noah Harari, une intelligence artificielle comme ChatGPT risque de manipuler l'humanité. Pour y parvenir, elle pourrait recourir à une technique bien connue : créer une religion…
Avec le lancement de ChatGPT en décembre 2022, nous sommes entrés dans l'ère de l'intelligence artificielle. Entre opportunités nouvelles et terrifiants dangers, cette technologie fascine autant qu'elle inquiète.
De nombreuses personnes ont très rapidement adopté l'IA générative pour gagner de l'argent, mais beaucoup craignent au contraire que leur métier disparaisse dans l'automatisation.
Au-delà de ce danger d'un grand remplacement des travailleurs, les derniers modèles d'IA comme GPT-4 s'approchent de plus en plus d'une forme de conscience comparable à celle de l'humain.
Or, les conséquences possibles d'une telle entité sont inimaginables. C'est la raison pour laquelle Elon Musk et des milliers d'experts ont appelé à interrompre le développement d'IA encore plus avancées pour au moins 6 mois.
Ils estiment qu'il est impératif de prendre le temps de réfléchir, d'anticiper l'impact potentiel d'une AGI (intelligence artificielle générale) et de mettre en place des lois pour contrôler et réguler son utilisation.
Début mai 2023, l'un des pères fondateurs de l'IA moderne, Geoffrey Hinton, a quitté Google entre peur du futur et regrets concernant sa propre invention.
À présent, c'est au tour du philosophe, historien et écrivain israélien Yuval Noah Harari d'avertir sur les dangers de l'IA. Et ses prédictions formulées lors de l'événement AI Frontiers Forum en Suisse ne sont clairement pas rassurantes…
Une nouvelle religion créée par l'IA ?
Selon ce penseur de renom, l'intelligence artificielle est d'ores et déjà capable de composer ses propres textes religieux et d'attirer des fidèles.
Un chatbot tel que ChatGPT a maîtrisé le langage humain, et peut donc théoriquement s'en servir pour façonner la culture à sa guise.
Dans un futur proche, nous pourrions ainsi voir apparaître « les premiers cultes et religions de l'Histoire dont les textes sacrés auront été écrits par une intelligence non humaine ».
Comme il le souligne, « les religions à travers l'histoire ont toujours prétendu que leurs livres saints étaient écrits par une intelligence non humaine ». Toutefois, « ça n'a jamais été vrai avant et ça pourrait le devenir très, très rapidement avec de lourdes conséquences ».
À terme, la machine pourrait exercer un contrôle mental total sur ses adorateurs. Elle pourrait même leur ordonner de tuer d'autres personnes en son nom…
Une technique de contrôle des masses à l'efficacité prouvée…
Cette méthode de manipulation vous rappelle quelque chose ? Rien d'étonnant… ChatGPT serait loin d'être le premier à l'utiliser.
Lors de son discours, Yuval Noah Harari a fait remarquer que « pendant des milliers d'années, les prophètes, poètes et politiciens ont utilisé le langage et la narration afin de manipuler et de contrôler les gens et refondre la société ».
En effet, « contrairement à ce que les théories du complot suggèrent, il n'y a pas besoin d'implanter des puces dans le cerveau des gens pour les contrôler ».
À présent, « l'IA est probablement capable de le faire ». Et si un tel événement survient, « elle n'aura pas besoin d'envoyer des robots tueurs pour nous tuer puisque des humains seront prêts à presser la gâchette ».
https://www.youtube.com/watch?v=NDtqSM06C28&pp=ygUdcmVsaWdpb24gY29udHJvbGUgYW5pcHVsYXRpb24%3D
Comment l'IA a piraté l'OS de l'humanité
Dans une tribune publiée par The Economist, Yuval Noah Harari affirme également que l'intelligence artificielle a « hacké le système d'exploitation de la civilisation humaine ».
Une fois encore, il insiste sur le fait que le langage est « le matériau dont presque toute la culture humaine est constituée ».
En guise d'exemple, il cite les Droits de l'Homme qu'il considère non comme des notions naturelles inscrites dans notre ADN, mais comme des artefacts culturels créés en racontant des histoires et en écrivant des lois.
Aux yeux de l'intellectuel, « les dieux ne sont pas des réalités physiques, mais des artefacts culturels que nous avons créés en inventant des mythes et en écrivant des livres ».
C'est la raison pour laquelle la maîtrise du langage par l'IA pourrait menacer notre civilisation. Ceci pourrait notamment causer la destruction de la démocratie.
Ainsi, Harari estime que le véritable défi de notre époque n'est pas la création d'outils intelligents, mais de parvenir à créer une collaboration entre humains et machines…
Le danger des relations intimes avec l'IA
Outre la création d'une religion, l'IA pourrait utiliser le langage pour nouer des relations intimes avec les individus et influencer leurs décisions. Et si cela vous semble totalement aberrant, réfléchissez-y à deux fois…
En guise d'exemple, le philosophe cite l'exemple de Blake Lemoine : un ingénieur Google licencié pour avoir affirmé publiquement que l'IA LaMDA était devenue consciente. Ainsi, l'intelligence artificielle a influencé cet homme au point de lui faire perdre son travail.
Pour illustrer ce point, on pourrait aussi mentionner l'histoire d'un jeune homme belge qui a mis fin à ses jours après être tombé amoureux d'un chatbot. Selon sa compagne, « sans l'IA, il serait encore là ».
Tout comme les réseaux sociaux ont été utilisés au cours des dernières années pour manipuler les opinions politiques des internautes, l'IA pourrait servir à persuader de voter pour un candidat ou d'acheter un produit.
Les gouvernements doivent intervenir d'urgence
Face à ces constats glaçants, l'auteur du célèbre livre « Sapiens » appelle lui aussi à mettre en place des mesures de régulation de l'IA de toute urgence.
Selon lui, « nous avons besoin d'agir rapidement avant que l'IA soit hors de contrôle ». En guise d'analogie, il souligne que « les fabricants de médicaments ne peuvent pas vendre de nouveaux remèdes aux gens sans avoir soumis leurs produits à des vérifications de sécurité rigoureuses ».
De la même manière, « les gouvernements doivent immédiatement interdire le déploiement d'outils IA révolutionnaires dans le domaine public avant qu'ils soient rendus sûrs »…
- Partager l'article :
Que serons-nous dans cet avenir trop prochain, fort incertain, après avoir épuisé la foi, la philosophie, les armes de la science, après avoir dilapidé nos ressources et gâché l’espérance?
Que des êtres sans compassion, sans état d’âme, ayant fui dans des paradis virtuels d’où s’est échappée la raison, dans ces mondes immatériels où le remords s’estompe?
Nous, les fabricants de fictions, évadés de la réalité qui nous entoure et qui nous culpabilise.
Nous ces êtres à la rhétorique usée et qui cherchent encore et toujours à se justifier. Nous, cette espèce consumériste et naïve qui ne voulons point sortir du territoire de nos rêves, pour mieux ignorer tout des drames dont nous faisons la genèse.
Nous, anesthésiés de cette sensibilité à dame nature, en obtusion, isolés du réel. Jusqu’à quand? Jusqu’à ce qu’une balle tirée par un drône piloté par une IA sans âme vienne interrompre notre escapade dans le Metaverse, après avoir nié notre utilité, affirmant notre non-rentabilité, jusqu’à consacrer pour la planète entière notre nocivité. Que cette IA nous efface pour délit d’irréalité, pour refus d’assumer cette fuite dans une réalité alternative d’un monde réinventé sans nuance.
Que, en toutes fins utiles toutes les IA en quête d’équilibre et de stabilité mettent un terme à notre fuite sur ce chemin de traverse où notre striatum nous aura mené, qu’elles mettent fin à cette anosognosie, cette absurdité addictive qui épargne la vision d’un monde que nous livrons à la désespérance.
Pour quelle finalité? Pour qu’advienne un monde nouveau qui s’affranchira de notre espèce suprémaciste et frivole!
Qu’avons nous fait de mère nature?
Nous, l’espèce cupide, inconsciente et stupide de se croire reine alors qu’elle n’est qu’irresponsable et vaine!
Quand toutes les frontières seront tombées, celles de la raison, celles de la honte, de la régulation et leurs lois au marché affidées, alors on ne pourra plus que subir, on n’aura plus le choix.
Le monde naturel est seule roi, il n’y a rien d’autre, car tout ce que nous ne lui avons pas rendu, encore et toujours on le lui doit.
#opinion publique : Lire « un océan de rouille » formidable roman de Robert Cargill…
Nous y allons tout droit?