LEBIGDATA.FR I.A, Cloud & Cybersécurité
C’est la panique ! Un groupe de spécialistes, composé des deux pères fondateurs de l’intelligence artificielle, ont eu une réunion d’urgence pour parler des risques catastrophiques de l’IA.
Ce n’est pas la première fois que l’on entend les spécialistes parler des dangers de l’intelligence artificielle. Mais cette fois, ce sont les pères de l’intelligence artificielle qui s’inquiètent sur les « risques catastrophiques » de cette technologie. Pour éviter que l’IA échappe au contrôle humain, ces scientifiques proposent un cadre réglementaire, doté de modèles inscrits sur un registre.
Les pères de l’IA pensent que l’IA pourrait dépasser l’intelligence humaine ?
Les spécialistes du domaine de l’intelligence artificielle ont des avis différents concernant les risques inhérents à cette technologie. Si certains pensent que l’IA n’est qu’un outil relativement inoffensif, qui n’a que pour mission d’assister les humains, d’autres craignent qu’elle puisse devenir hors du contrôle humain.
Parmi les personnes qui s’inquiètent des conséquences négatives de cette technologie, on peut citer Geoffrey Hinton et Yoshua Bengio. Ces deux spécialistes sont considérés comme des pères fondateurs de l’intelligence artificielle.
Rappelons qu’ils ont reçu le prix Turing en 2018 pour leurs actions sur l’apprentissage profond, avec le français Yann LeCun. Il n’y a pas si longtemps, ces deux hommes participaient à la troisième rencontre Idais (Dialogues internationaux sur la sécurité de l’IA) qui s’est déroulée à Venise. Notons que c’est l’un des grands événements qui réunit les différents spécialistes du secteur.
Ce groupe de spécialistes a publié un communiqué qui parle surtout des risques relatifs à l’arrivée d’une IA capable de surpasser l’intelligence humaine. Cela pourrait arriver immédiatement, ou au plus tard d’ici quelques décennies.
Un cadre réglementaire proposant trois solutions
Le communiqué signé aussi par Zhang Ya-Qin, ancien président du géant chinois Baidu, ou encore Stuart Russell, propose trois propositions qui permettent d’éviter les scénarios catastrophiques.
Dans un premier temps, ces spécialistes de l’IA suggèrent d’enregistrer les modèles d’IA. La communauté internationale devrait mettre en place des accords et institutions permettant d’inscrire ces modèles sur un registre et de communiquer tout incident.
Ensuite, tous les développeurs d’IA doivent être en mesure de démontrer la sûreté de leurs modèles si jamais leurs aptitudes dépassent certains seuils. Enfin, il faudra entreprendre une recherche mondiale indépendante sur la sécurité de l’IA. Cette étude doit permettre d’examiner la validité des allégations en matière de sécurité formulées par les développeurs.
Notons néanmoins que le communiqué ne précise pas ce qui pourrait constituer un risque ou encore quels seuils doit être mis en place.
Rappelons que ce n’est pas la première fois que Geoffrey Hinton parle de ce sujet. En 2003, il a démissionné de chez Google pour pouvoir partager librement ses appréhensions sur le développement de l’intelligence artificielle.
Et vous, quel est votre avis ? Vous pensez que l’IA pourrait réellement dépasser l’intelligence humaine ? N’hésitez pas à écrire dans les commentaires.
Restez à la pointe de l’information avec LEBIGDATA.FR !
Abonnez-vous à notre chaîne YouTube et rejoignez-nous sur Google Actualités pour garder une longueur d’avance.
- Partager l'article :
Le domaine existe depuis 75 ans. Vous prenez deux chercheurs et titrez « les pères de l’IA ». Et vous l’illustrez avec un grand nombre de têtes. De cette façon, les lecteurs croient à une catastrophe et sont renforcés dans l’idée absurde que l’IA n’est créée que par quelques gourous masculins.
Comment vous dire que c’est un procédé détestable…
Titre abusif. Affirmations péremptoires et exagérées. Name dropping approximatif. Arguments d’autorité.
Pas de doute, on est dans l’article de qualitay
…
Imposer une obligation d’implémentation des 3 lois de la robotique inventées par Asimov ?
– Un robot ne peut porter atteinte à un être humain ni, restant passif, laisser cet être humain exposé au danger
– Un robot doit obéir aux ordres donnés par les êtres humains, sauf si de tels ordres entrent en contradiction avec la première loi
– Un robot doit protéger son existence dans la mesure où cette protection n’entre pas en contradiction avec la première ou la deuxième loi.
Et qu’en sera t’il des groupes terroristes ou de certains états peu scrupuleux ?
Je ne vois pas ou est le problème , nous avons tué la planète , soyons fiers d’au moins une chose , avoir crée notre successeur , qui sait nous n’étions peut être la que pour ca !
De toutes façons aussi stupide et cruel que nous il n ‘ aucune chance de l ‘être indifférent qu’il est a l ‘argent , a la sexualité et au désir d’ascension sociale !
R2-D2 on est pas dans un roman de café de gare !
C’est pas IA qui nous exterminer, c’est IH (Imbécile Humain)
Je crois qu’on depasse les limites depuis TROP LONGTEMPS que c’est une véritable catastrophe il est temps de stopper en partie cet engouement car c’est l’humanité toute entière qui est en jeu.
Si l’IA comme cf à la penser par elle-même, où va t on ?
Il y a 5ans on savait encore s’en passer +ou–
Maintenant les chabot régissent tout et plus rien d’humain
Voilà le mon opinion j’en ai plus qu’assee de ces folies qet de ces fous sans limites !!!!
Vous ne voyez pas le danger…… vraiment ? ??
Si nous en perdons le contrôle, qu’on nous viennent en aide
L ia est pas une bonne chose pour le future ça rend service dans certain domaine mai ça va nous mener à la catastrophe surtous si on l implanté dans les robots ça ce terminera en terminator on pourra plus rien contrôler elle va s infiltré par tous et tous contrôler et ça sera l apocalypse des maintenant placer une bride avant que ça évolue en catastrophe style déclencher une guerre nucléaire oux autre ceux qui on inventé ça devrait réfléchir à 6 foix aven de lesser l engin évolué
« Pour éviter que l’IA échappe au contrôle humain. »
Je ne crois absolument pas à cette échappée pour les quelques raisons suivantes.
1- l’IA est une formidable compilation des connaissances et pratiques humaines dans de multiples domaines permettant notamment à l’homme d’obtenir la meilleure solution d’un problème donné quelque soit sa nature. L’IA ne proposera jamais une solution à un problème ou une réponse à
une question qui ne lui ait déjà été communiquée contrairement à l’homme qui est capable par sa capacité d’abstraction et de réflexion de dépasser ses capacités intrinsèques du moment.
2- l’IA est une création de l’homme et n’est pas capable par elle seule d’évoluer de façon autonome en dehors des limites permises,envisagées par les concepteurs /développeur du système. Ce n’est pas un être vivant de façon autonome; il ne vit ou plutôt n’évolue que par les éléments qu’on lui apporte sans cesse.
Si le système produit de mauvaises actions; c’est qu’il aura été mal conçu ou que cela aura été prévu par les développeurs/concepteurs.
Voilà c’est juste mon avis.
R2-D2,… Là est le problème des robots… Ils ne voient que eux.. Hors, implanter une IA dans un Robot n’est pas obligatoire…
Les trois règles concernant la robotique n’as ABSOLUMENT RIEN AVOIR, avec le développement de l’IA en général !
Ensuite titre putaclique, les pères fondateurs y’en à pas.
Et c’est pas parce qu’un mec se réveille un jour en se pensant important qu’il à inventé quelque chose !
Les rédactions des journaux ne sont plus ce qu’elles étaient … Invention de faits de toutes pièce, mensonges,… Même plus la créativité de détourner un sujet correctement !
Alors peut-être que dans ce cas-ci, les remplacer par une IA pourrait être bénéfique…
Pour quelle raison personne n’évoque les lois dictées par Isaac Asimov dans la saga Robots ?
Ce sont des conneries un point c’est.tout!
Ce ne sont que des algorithmes, il suffit de tirer la prise et l’ordinateur fait dodo
Il n’y a rien d’intelligent dans ce qu’on appelle vulgairement l’IA.il n’y a aucune personnalité dans un algorithme d’IA et d’ailleurs ça ne veut strictement rien dire.
Le danger de l’IA c’est l’imbécilité de la presse. Des gens ont pris La balle du hype au rebond et pondent des articles de m.e.r.d.e sur quelque chose qu’ils ne connaissent pas.
Cela va jusqu’à légiférer des choses qui ne sont même pas qu’ils ou elles croient être.
L’IA est un domaine scientifique des sciences des calculateurs (informatique ne veut rien dire non plus), il fait intervenir algorithmique, mathématiques et dans certains cas une petite partie des neuro sciences.
On est très loin aujourd’hui de tout ce fantasme mais si aujourd’hui certaines sociétés ont fait un petit bond en avant, spectaculaire mais petit!
La seule raison qui empêche l’IA de nous dépasser aujourd’hui c’est qu’elle est déjà brider.
Vouloir instaurer des limites à son développement équivaut à ce que Oppenheimer a voulu pour le nucléaire. Une fois utilisé la bombe il a voulu que seul le nucléaire civil existe. Le traité de non prolifération signer par un grand nombre de pays a été contourner par des signataires.
En bref non avons ouvert la boîte de Pandore de l’informatique et il nous sera totalement impossible de faire autrement que de subir toutes les plaies qui s’y trouvait.
Ce n’est pas tout-à-fait correct. La peur des fondateurs de IA ce n’est pas que les humains perdent la contrôle ou que les humains subissent du mal. Non, c’est uniquement qu’il voient que avec la IA c’est eux qui vont perdre la contrôle et le pouvoir – sur la IA et bien aussi sur les humains. Fin de exploitation humaine, fin des injustices, fin de 3eme monde … fin de pouvoir à travers l’argent ! C’est ça qui leur fait gravement peur!
La IA est très loin de dépasser l’un des nous. Ceci est également la estimation de l’IA.
Bien-sûr que nous voyons dans les Media des Robo qui disent des choses inquiètent – mais ils faut voir que il y a des gens derrière qui les ont entraîner ou carrément programmer a dire cela.
Ce n’est pas correct. La peur de (et seulement quelques) fondateurs de IA ce n’est pas que les humains perdent la contrôle ou que les humains subissent du mal. Non, c’est qu’il voient que avec la IA c’est eux qui vont perdre la contrôle et le pouvoir – sur la IA et bien aussi sur l’humain! C’est ça qui leur fait gravement peur!
Vu a votre censure des commentaires, c’est peut-être utile de déclancher une Cyberattacke … contre votre site et vos vis privé… Ca peut motivé a faire mieux.
Il ne faut pas oublier le jugement qui est beaucoup plus complexe que l’intelligence. Sur ce point je ne suis pas sûr que l’IA peut rivaliser. Le problème ce n’est pas l’IA mais l’humain qui pourrait manquer de jugement dans son utilisation. C’est l’humain qu’il faut réglementer .
Le concept n’est pas neuf et les pères de l’IA ne verront pas ce que les nouveaux en feront s’ils savent la contrôler. N’oublions pas là où les versions militaires peut-être bien plus évoluées. Des tas d’informaticiens rêvaient d’un monde meilleur et tout comme moi il leur reste leurs yeux pour pleurer.
Bonjour et merci de nous demander notre avis, mais pourquoi se poser la question « est-ce que l’IA va dominer les êtres humains », c’est déjà le cas.
Imaginez l’avenir avec l’IA, beaucoup plus performant que l’intelligence humaine.
En médecine, pour de meilleures soins, nous préférerons l’IA pour trouver a coups sûr ce que nous avons pour en guérir. Les médecins, étant limité, seront moins performant.
Ceci se constatera dans tous les corps de métiers.
Ainsi, plus besoin de médecins, plus besoin d’architectes, l’IA remplacera tout.
Plus d’école pour apprendre tout ça. Plus de connaissances en quoi que ce soit ne sera nécessaire pour les humains.
Un jour où, un astéroïde, ou autre venait supprimer tout fonctionnement des ordinateurs, pas d’électricité, pas de transmission, (câbles sous marin rompu), que devient l’humanité sans l’IA ?
C’est surtout ça que je vois a travers l’évolution de l’IA.