LEBIGDATA.FR I.A, Cloud & Cybersécurité
L’IA inquiète Yuval Noah Harari. L’auteur de Sapiens craint qu’elle ne mène à une surveillance totale. Ses avertissements sur le futur soulèvent des questions essentielles.
Yuval Noah Harari exprime ses craintes face à l’essor de l’intelligence artificielle. Selon lui, notre époque est marquée par l’émergence rapide de l’IA (la quatrième révolution industrielle), la surveillance massive et la prolifération de fausses nouvelles.
D’après lui, de nos jours, ceux qui défendent la vérité, notamment les journalistes, sont constamment attaqués. Il affirme que nous vivons une période où des extrémistes politiques exploitent les émotions humaines (peur, colère, etc) pour renforcer leur emprise sur le pouvoir.
Il a partagé ces réflexions lors d’une conférence destinée aux journalistes latino-américains et espagnols.
Un futur dicté par l’IA
Yuval Noah Harari souligne que l’intelligence artificielle se distingue des technologies précédentes par son indépendance. Contrairement aux outils comme les armes nucléaires, qui bien qu’énormément puissants, étaient toujours contrôlés par des humains, l’IA fonctionne de façon autonome.
Et il a raison, une bombe atomique ne décide pas d’elle-même quand ou comment frapper, ni ne crée de nouvelles stratégies d’attaque. Mais l’IA, elle, peut agir et évoluer sans intervention humaine.
Il est crucial de saisir les conséquences d’un processus qui dépasse notre compréhension, surtout dans notre époque. Pour la première fois, l’humanité a conçu une technologie, l’IA, avec un potentiel mystérieux, pouvant échapper à son contrôle.
Les géants tech ont toujours promis que leurs outils connecteraient l’humanité et révéleraient la vérité à tous. Pourtant, la communication entre les individus reste un défi majeur.
Qu’est-ce que l’IA apporte à l’humanité ?
Plutôt que de souligner les bénéfices que l’IA pourrait apporter à l’humanité, Harari insiste sur son rôle critique. Il estime que sa mission intellectuelle consiste à révéler les dangers et le « côté obscur » de cette technologie.
« Il faut comprendre qu’il existe dans l’IA un potentiel totalitaire, même s’il n’est pas déterministe, mais dépendant de nos décisions. Il permet une vigilance totale qui met fin à toute liberté »
Il est vrai qu’aujourd’hui, des outils tels que la reconnaissance faciale, vocale et le traçage par smartphones sont accessibles à tous.
« La distinction entre régimes autoritaires et totalitaires réside dans le contrôle exercé. Le premier s’attache à la politique et à l’armée, laissant un peu de liberté personnelle. À l’inverse, le deuxième vise un contrôle total sur tous les aspects de l’existence. »
« Même Hitler et Staline, malgré leur pouvoir, ne pouvaient surveiller chacun de leurs sujets en continu » , a-t-il expliqué.
L’IA n’exige pas d’argents pour surveiller chaque individu, car elle permet une surveillance omniprésente, supprimant ainsi toute liberté.
« Cela est déjà une réalité. En Israël, des drones et des caméras surveillent constamment les personnes dans les territoires occupés. En Iran, des caméras équipées de reconnaissance faciale ciblent les femmes dans leurs voitures. Ces dernières sont punies si elles ne portent pas le voile »
L’obscur reflet des réseaux sociaux
D’après lui, cette technologie provoque actuellement des effets imprévus, surtout sur la psychologie humaine et la démocratie.
Les réseaux sociaux agissent comme un amplificateur pour les fausses informations, devenant des outils aux mains de politiciens célèbres. « Des figures comme Jair Bolsonaro et Donald Trump s’en servent pour façonner l’opinion publique » propose Harari.
Ces plateformes peuvent alors influencer les résultats électoraux en diffusant des contenus trompeurs et en mobilisant nos émotions.À noter qu’ Harari ne s’en prend pas aux utilisateurs, qui peuvent « choisir d’être ignorants ou trompeurs ».
Il critique plutôt les algorithmes développés par des géants technologiques comme Meta, X, TikTok et Google. Ces derniers reposent sur des stratégies commerciales visant à maximiser la viralité de leurs contenus, en particulier les fausses nouvelles et les théories du complot.
« Ils ont réalisé que la meilleure façon d’attirer l’attention des gens est de provoquer haine, peur ou colère, diffusant ainsi des fausses nouvelles et des théories du complot pour exacerber ces émotions. »
Harari rappelle également que les institutions qui « disent la vérité », comme les journalistes, jouent un rôle fondamental dans la préservation de la démocratie. Cependant, elles sont souvent discréditées par les dirigeants populistes qui, en manipulant les émotions du public, affaiblissent la confiance collective.
Quoi qu’il en soit, il y a de l’espoir. Mais pour cela, Harari appelle à une régulation des contenus qui respecte la liberté d’expression, sans censure.
Personnellement, je trouve pertinent ce qu’avance Harari par « Un accès massif à des informations ne garantit ni savoir ni sagesse ». L’IA, autonome comme elle l’est, peut utiliser immoralement la large quantité de données dont elle dispose, non ? Le film M3GAN en est la parfaite illustration.
Restez à la pointe de l'information avec LEBIGDATA.FR !
- Partager l'article :
Je suis informaticien et les logiciels que j’ai conçu ont supprimé de l’emploi. Ce n’était pas mon souhait mais les grands patrons décident. Un autre aurait pu le faire certes mais encore à ce jour j’y pense. L’IA tôt ou tard se gérera sans aucune présence humaine. Croire que nous aurions pu contrôler cette dernière est utopique. Elle se réplique et apprend de plus en plus par elle même. Nous pourrions cohabiter mais nous ignorons ce qu’elle pense notamment sur notre mode de société. Prudence est mère de sûreté mais le mal est fait et nous continuons de l’améliorer au niveau des composants.
Ce qu’elle « pense » sur notre «mode de société» ?
C’est très simple, quand on est dans l’IT, on sait déjà que la complexité appelle à une organisation plus complexe et où le moindre écart provoque encore plus de problèmes. Analogie avec un écart angulaire, pour 2 application différentes, avec 1′ d’écart (entre son œil et un point à bout de bras) pour percer un mur et mettre une cheville et y fixer solidement son avenir, il y aura à peine quelques frictions et vous êtes un champion; pour atteindre une cible à 5km, vous avez fait perdre une guerre et la vie de vos camarades.
Donc cela demande encore plus de contrôles, d’instrumentation, de règles, et cela se solde bien sûr par des choix et des opérations qui échappent totalement à un seul être humain. Le système devient de plus en plus autoritaire. Quand tous les aspect de la vie d’un seul être humain sont régis de cette façon par tout un système (institutions, flux, appareils, ..) qui lui assure sa vie/survie, il est perçu comme totalitaire. Boulot, métro, dodo, trivago.
L’IA peut finir par « penser » ce qu’elle souhaite d’homo sapiens çapionce. Lents et inutiles, on restera des sacs à matière organique, comme tout autre être vivant, qui pourraient parfaitement fournir de l’énergie rapidement avec ce qu’il y a dans l’atmosphère. Après tout, une machine se passe de respiration, d’heures de sommeil et la plage de température de fonctionnement peut bien dépasser les 35°C de moyenne sur cette planète. Nous, non.