LEBIGDATA.FR I.A, Cloud & Cybersécurité
L’intelligence artificielle bouleverse la société, mais va-t-elle vraiment prendre le contrôle du monde ? ChatGPT s’est exprimé sur le sujet.
« Quand l’IA prendra-t-elle le contrôle du monde ? » C’est ce qu’a demandé Newsweek à ChatGPT. Il a répondu : « Cela dépend de la définition de « prendre le contrôle » et des futurs développements technologiques. C’est un sujet fréquemment exploré dans la science-fiction, mais la réalité est bien plus nuancée. »
ChatGPT a continué…
« Aujourd’hui, l’IA est puissante mais hautement spécialisée. Elle excelle dans la reconnaissance d’images, le traitement du langage naturel et l’analyse de données. Mais elle est loin d’égaler l’ensemble du spectre de l’intelligence humaine.
« Nous appelons ce niveau d’IA “IA étroite ou IA faible”, ce qui signifie qu’elle est efficace dans des tâches spécifiques mais qu’elle manque de capacités cognitives générales.
« L’idée d’une « prise de contrôle » de l’IA fait généralement référence à l’intelligence artificielle générale (IAG) ou à la superintelligence. C’est-à-dire à des systèmes d’IA capables d’accomplir n’importe quelle tâche intellectuelle qu’un humain peut accomplir et qui pourraient même surpasser l’intelligence humaine.
« Nous sommes loin de développer l’IAG. Les experts sont divisés sur le moment, ou même sur la question de savoir si l’IAG sera atteinte. Certains pensent que cela pourrait se produire d’ici quelques décennies, tandis que d’autres soutiennent que cela pourrait ne jamais se produire.
« Vision optimiste : l’AGI pourrait conduire à des avancées massives dans la technologie, la médecine et la qualité de vie, mais elle devrait être gérée avec soin.
« Mise en garde : sans mesures de protection adéquates, l’AGI pourrait devenir incontrôlable, entraînant des conséquences imprévues, surtout si elle surpasse l’intelligence humaine sans être alignée sur les valeurs humaines. »
Quels sont les risques ?
Selon ChatGPT : « Il existe plusieurs risques potentiels, mais ils sont loin d’être certains.
« L’un des risques à court terme est que l’IA soit utilisée dans des applications militaires, comme les drones autonomes, ce qui pourrait provoquer une grave instabilité mondiale.
« Automatisation des emplois : l’IA pourrait perturber le monde du travail en automatisant de nombreux emplois, ce qui pourrait conduire à des bouleversements sociétaux si les systèmes économiques et sociaux ne s’adaptent pas.
« Questions éthiques et de contrôle : la principale préoccupation de l’IA générale est l’alignement : comment garantir que les objectifs de l’IA soient en adéquation avec les valeurs humaines.
« Si l’IA générale n’est pas bien alignée, elle pourrait théoriquement poursuivre des objectifs nuisibles à l’humanité, soit délibérément, soit comme effet secondaire de sa programmation. »
En réalité, c’est plus compliqué que ça […]
Actuellement, en pleine campagne présidentielle américaine, les risques d’utilisation abusive de l’IA inquiètent. Deepfakes, désinformation, manipulations : l’IA pourrait menacer la confiance des électeurs.
Le cas récent d’un deepfake montrant Joe Biden dissuadant les Américains de voter illustre ces dangers. Ce type de contenu, trompeur et réaliste, pourrait facilement perturber les élections.
Des organisations comme Full Fact utilisent maintenant l’IA pour contrer la désinformation en temps réel. Cependant, la vitesse à laquelle ces fausses vidéos circulent complique la tâche des vérificateurs de faits.
Et même avec des outils avancés, réagir à temps reste un défi majeur. Mustafa Suleyman, cofondateur de DeepMind, met en garde contre ces dérives. Dans son livre The Coming Wave, il plaide pour une régulation stricte de l’IA.
Si rien n’est fait, prévient-il, les processus démocratiques pourraient gravement être perturbés.
Alors, que faire face à l’IA ? Personnellement je crois que ChatGPT a raison. L’avenir dépendra de la manière dont l’humanité encadre cette technologie. La mise en place de mesures de protection et de régulations sera cruciale pour éviter les dérives.
Plusieurs organisations travaillent déjà sur ces questions, cherchant à aligner les valeurs humaines avec les objectifs des systèmes d’IA.
À court terme, l’IA continuera d’améliorer des secteurs comme la santé ou les transports, sans menacer de prendre le contrôle.
À plus long terme, si l’IAG se développe, des précautions seront nécessaires pour éviter des conséquences imprévues.
Restez à la pointe de l'information avec LEBIGDATA.FR !
- Partager l'article :
Vous regardez trop de films
L’intelligence humaine a déjà abdiqué depuis plusieurs décennies voire siècles, alors question contrôle… quand on voit nos représentant d’État, alignés ou pas, aucun doute dessus: de véritables génies insurpassables par quelles que «IA» que ce soit.
Vivement que des agents intelligents dégagent tout ces incompétents !
Sinon, «Alors, que faire face à l’IA ?»
=> s’en passer ! Comme avant.
Les 1ers effet arrivent pour l’emploi mais aussi militaires. Mais comme toujours l’homme ira plus loin. Nous recevons des informations sur l’IA mais sans jouer le complotiste n’avons aucuns contrôles sur la véracité de ces propos. A suivre comme il se doit mais les technologies avancent. Les Grands auront-ils la sagesse de ne pas aller trop loin ? Il y a assez de missiles pour rendre la planète morte mais elle survivra sans nous sauf s’ils sont capables de la faire exploser dans un futur lointain.
Nul besoin de poser la question. C’est certain que ça va déraper. L’être humain est foncièrement malfaisant et profondément stupide. Quant à ceux qui créent la technologie, ils ne sont là que pour empocher un max de blé. Ils s’en foutent de l’humanité
L’IA ne créer rien, tout vient de da achieve: internet. Donc votre question, vous pouvez la poserla question à tout autre moteur de recherche et vous tomberez sur les articles guidant vers la réponse.
Mouais c’est quoi les valeurs humaines ?
Et partagées par qui du reste ?
Pas besoin de l’IA pour qu’elles soient saccagées allegro presto depuis¹ la déclaration des droits de l’homme.
Souvent un simple couteau suffit.
Pour l’instant l’IA est un outil à l’image de l’humanité, qui s’en étonnerait ?
Pour l’arrêter il suffit de débrancher la prise..
Pour stopper un génocide commis par des assassins en chair et en os ça a l’air tout de suite plus compliqué.
Ce sont les hommes qui alimentent l’IA, l’IA est conçue pour mimer l’homme. On doit sans doute légiférer sur l’IA, mais le problo n’est pas là.
On peut s’exciter sur l’IA comme les parents indignes s’énervent sur leur progéniture mal élevée mais ça va pas le faire.
(1) Avant, c’est-à-dire pendant quelques milliers d’années c’était open bar, heureusement qu’à ces époques on n’avait que des armes blanches et pas la bombe atomique sinon l’humanité n’aurait pas passée le 1er millénaire.
pourqois jugez vous AI comme infall8ble??
Quelle est la preuve de son infallibilite?
Et pourqois vous voulez courir le risque de de truire
l humanite ?
Donc moi je vois une seule raison la conquete spatiale et l hybridsation du corp humain en attendant de devenir un etre galactique.mais si les algorythmes
doivent dominer la vie post humaine ice sera une societe sans aucun rire joie et sens de l humour.
controlee e triste.
J’ai posé une question similaire il y a 3 jours. (Ai-je été sur écoute pour Google me propose cet article ?)
Ma question démarrait sur le paradoxe du trombone. Si ChatGPT connaissait cette expérience et s’il avait conscience d’être elle même une IA. Réponse positive pour les 2. Ensuite je lui ai demandé son avis et si elle représentait un danger.
La réponse était édifiante. Il y a. Effectivement un risque avéré que les IA deviennent des super intelligences grâce à l’apprentissage auto optimisant (sans intervention humaine et qui dépasse de loin la simple collecte de donnée sur internet).
Mais le danger existe bel et bien aujourd’hui comme cité dans l’article : sur la sélection biaisé des critères d’embauches et de lutte contre la criminalité (car basé sur le jugement humain, déjà discriminatoire) , deepfake , intox et imposture grâce au vidéo.
Mais aussi l’automatisation des cyberattacks de nos info personnelles, compte bancaire, ou même des systèmes d’exploitation publics (sncf, métro, feu rouge, etc)
Le danger est réel mais la roue est lancée et pas prête de s’arrête.
« L’homme se conduira à sa propre perte » .Moi
Impossible que la IA ou IAG dépasse les pouvoirs humains. Et le fait que des humains sont capables a croire que ça pourrait être le cas, ca nous montre a quel point les humains se connaissent pas eux même et leur pouvoirs.
Non, le vrai risque dans cette affaire c’est uniquement que les humains vont se soumettre à cette IA ou IAG !!