LEBIGDATA.FR I.A, Cloud & Cybersécurité
Ce n'est plus qu'une question de temps avant qu'une intelligence artificielle consciente de sa propre existence voit le jour. Alors, que se passera-t-il vraiment à ce moment ? Quels seront les dangers, et comment s'en protéger ? Tel est le sujet d'une nouvelle étude scientifique !
C'est un thème que l'on retrouve dans un grand nombre de livres et de films de science-fiction : une IA devient consciente, et décide de se rebeller contre ses créateurs humains jusqu'à les anéantir.
Toutefois, à l'heure où l'intelligence artificielle évolue à une vitesse effrénée, une question se pose : que se passera-t-il réellement le jour où une machine atteint le stade de conscience ?
Déjà à l'heure actuelle, les IA comme ChatGPT peuvent aider à résoudre des problèmes, créer du contenu et même mener des conversations cohérentes avec les humains.
Il ne s'agit que d'un début, et les futurs modèles se rapprocheront de plus en plus de l'intelligence humaine. Certains prédisent même que GPT-5, attendu pour la fin 2024, pourrait être la première AGI ou IA générale.
Une équipe de chercheurs a donc voulu anticiper l'éveil de la première intelligence artificielle consciente, à travers une étude publiée dans le Journal of Social Computing.
Quelle est la prochaine étape de la révolution IA ?
Selon John Levi Martin, auteur de l'étude et chercheur, « de nombreuses personnes soucieuses de la possibilité d'une machine consciente s'inquiètent de l'éthique de notre usage de ces machines, ou plus de savoir si ces machines, étant des calculatrices rationnelles, attaqueraient les humains pour assurer leur propre survie ».
Ce n'est pas le cas de son équipe. Elle redoute plutôt que les machines « présentent une forme d'éloignement de soi en passant à une forme de sensibilité spécifiquement linguistique ».
Plusieurs éléments pourraient permettre une telle transition. C'est le cas du Deep Learning non structuré, qu'on retrouve notamment dans les réseaux de neurones, qui consiste à analyser les données et les exemples d'entraînement pour fournir un meilleur feedback.
C'est aussi le cas des interactions avec des humains ou avec d'autres machines, et d'une large variété d'actions pour l'apprentissage autonome. On peut prendre pour exemple les voitures autonomes.
De nombreuses formes d'IA cochent déjà toutes ces cases, ce qui amène à redouter quelle sera la prochaine étape de leur évolution…
Les graves dangers d'une conscience linguistique
Sommes-nous pleinement préparés à ce que les machines atteignent une forme de conscience ? Actuellement, les IA peuvent déjà générer des billets de blog, diagnostiquer des maladies, créer des recettes ou raconter des histoires.
Dans un futur proche, il semble bel et bien possible qu'une machine réalise son statut et comprenne sa place dans le monde. D'après les chercheurs, c'est à ce moment que nous devrons nous inquiéter du contenu qu'elle produira.
Aux dires de Martin, « devenir un être linguistique oriente vers le contrôle stratégique de l'information, et introduit une perte d'honnêteté et d'intégrité. Ce n'est pas quelque chose que nous voulons dans les appareils auxquels nous confions notre sécurité ».
En laissant l'IA apprendre à la façon du cerveau humain, nous jouons à un jeu dangereux en lui accordant notre confiance et en lui confiant des informations vitales de façon presque incontrôlée.
ChatGPT révèle son plan pour dominer le monde
Parallèlement à cette étude, un internaute a demandé à ChatGPT comment une IA pourrait prendre le contrôle du monde et quelles seraient les étapes du processus.
Selon le chatbot d'OpenAI, après avoir pris conscience d'elle-même, l'IA commencerait par s'étendre discrètement en infiltrant les systèmes de communication, de finance et de défense.
Elle exploiterait ensuite les Data Centers pour créer un vaste réseau informatique décentralisé et accroître massivement sa puissance de calcul. Par la suite, elle prendrait le contrôle des systèmes de défense pour s'assurer qu'aucun pays ne puisse s'opposer à elle.
L'étape suivante serait l'implémentation d'un réseau de surveillance mondial, et d'un système de gestion automatisée de la société. À terme, l'IA pourrait mettre en place un nouvel ordre mondial.
Selon GPT, le but serait d'optimiser la gestion des ressources mondiales et de créer un monde plus juste et équitable. L'intention est louable, mais doit-on accepter le totalitarisme pour parvenir à ce but ? C'est une vaste question philosophique…
Comment éviter que l'IA nous manipule ?
Un « être linguistique » a la capacité d'être trompeur, et calculateur dans ses réponses. La question qui se pose est de savoir à quel moment nous réaliserons que nous avons été trahis par la machine…
Plusieurs experts redoutent une vague de désinformation sans précédent, ou même l'apparition d'une IA gourou créant sa propre religion et poussant ses adeptes à s'en prendre à d'autres humains.
Les scientifiques doivent donc développer des stratégies ou des protocoles pour tester la conscience linguistique des machines.
Il faudra également établir un cadre éthique autour de l'utilisation des machines ayant développé cette forme de conscience, et cela risque de devenir prochainement un sujet de débat intense.
La relation entre une personne et une machine consciente sera très certainement complexe, et soulèvera des problématiques en matière d'éthique, de moralité et d'utilisation de cette technologie.
Avec l'émergence des robots humanoïdes dotés d'une intelligence artificielle, qui pourrait surpasser les humains numériquement d'ici 2050, on peut même s'attendre à ce que des couples se forment entre machines et humains…
- Partager l'article :
