La peur des humains de perdre le contrôle, une vision disproportionnée des risques de l’IA et une faible tolérance aux pannes des machines sont les plus grands obstacles qui pourraient entraver les progrès de l’IA à l’heure actuelle.
Selon Zack Kass, futurologue de l’IA et ancien responsable de la commercialisation chez OpenAI, le seuil technologique de l’IA dépasse déjà notre seuil sociétal. Ainsi, il est temps de prendre du recul et de considérer l’impact humain du travail.
« Je prédis que les choses vont devenir bizarres avant de devenir géniales », a déclaré Zack Kass. « Et nous allons devoir l’accepter. Tout progrès a un coût. Mais l’une des choses les plus intéressantes auxquelles nous devons commencer à nous préparer dans cette transition est de comprendre l’idée des seuils technologiques et sociétaux. »
« Le seuil technologique consiste simplement à se demander ce qu’une machine peut faire », explique Kass. « Le seuil sociétal pose les questions suivantes : « Que voulons-nous qu’une machine fasse ? Ou sommes-nous prêts à la laisser faire ? »
Ces défis sont relatifs au développement des véhicules autonomes, que Kass considère comme le « baromètre » de l’adoption de l’IA. « Je pense que le véhicule autonome nous permettra de mieux comprendre la manière dont nous envisageons la technologie, en particulier en ce qui concerne l’IA », a-t-il ajouté.
C’est pour cela qu’il souligne les trois défis auxquels les véhicules autonomes, ou par extension l’IA pourraient être confrontés.
La perte de contrôle, le principal obstacle qui freine l’IA
Zack Kass a expliqué que « les humains aiment avoir le contrôle ».
« Nous aimons monter dans une voiture, appuyer sur la pédale, tourner le volant et contrôler cette énorme machine,» a-t-il ajouté.
Effectivement, tant que les humains auront toujours ce besoin de tout contrôler, nous ne pouvons pas réellement atteindre un certain niveau de développement de l’intelligence artificielle.
Les craintes disproportionnées pourraient devenir un obstacle pour l’IA
« Quinze fois plus de personnes aux États-Unis ont peur de prendre l’avion que de conduire », a déclaré Kass.
« L’un est empiriquement sûr et l’autre est empiriquement dangereux. De plus, les gens n’apprécient pas à quel point les véhicules autonomes sont efficaces. La plupart des gens ne savent pas qu’aujourd’hui, 50 000 personnes conduiront des véhicules autonomes en Arizona sans accident. 10 000 dans la région de la baie de San Francisco. »
Je dois avouer que beaucoup de gens sont toujours perplexes quant à l’utilisation de l’IA. Certains ont peur que cette technologie puisse un jour contrôler l’humain. D’autres pensent également que l’IA pourrait voler leur travail.
Néanmoins, il est important de rappeler que la technologie n’est pas encore actuellement à ce genre de développement.
Faible tolérance aux pannes des machines
« Les humains ont une tolérance exceptionnelle aux pannes humaines, et nous n’avons aucune tolérance aux pannes mécaniques », a-t-il observé.
« C’est pourquoi 20 000 personnes peuvent mourir chaque année à cause de conducteurs ivres, et nous sommes tout à fait disposés à dire que c’est simplement le prix à payer pour faire des affaires. Mais si une Tesla en pilotage automatique dévie dans la mauvaise voie, tout le monde appelle pour arrêter le programme. »
« Imposer aux machines ou à l’IA des normes plus élevées n’est pas nécessairement une mauvaise chose », a-t-il ajouté. « C’est pourquoi le bâtiment dans lequel je me trouve ne s’effondrera jamais, c’est pourquoi les avions que nous pilotons ne tombent pas du ciel. Et il n’a jamais été aussi sûr de voler qu’aujourd’hui. Nous intégrons tellement de robustesse dans nos systèmes mécaniques. Nos attentes concernant les livraisons de ces technologies sont très élevées. »
Je pense qu’avec le temps et surtout à l’habitude, les humains pourraient en finir avec cette faible tolérance. Donc, les craintes ou la confusion liées à l’IA diminuent à mesure que nous voyons de plus en plus de touches humaines ajoutées aux solutions.
Et vous, qu’en pensez-vous ? Dites-nous en commentaire d’autres obstacles qui pourraient freiner l’IA.
- Partager l'article :
Extrêmement passionnante l analyse de ce Monsieur Zack Kaas sur les futurs développements et évolutions qui vont obligatoirement avoir lieux dans des délais très rapides dans tous les domaines! Il raisonne clairement et avec… mesures! je le comprend. Tout ce qu il présente par ses 3 obstacles à l IA c est que dans son fond de pensée les obstacles seront… franchis rapidement. Et l humain dérangé, puis quelques peux dérangés si habituera avant de la…rechercher! Tout cela associés aux lunettes en IA réal X et les liaisons prochaines avec les planètes du Space que de formidables découvertes en créations révolutionnaires à venir !!! Jules Verne entend tu?
Merci Thank you merci a vous pour l article et à vous Toutes et Tous!
La difficulté c’est la temporalité. Certains parle de l’IA dans 5 ans, d’autre a 100 ans.
Une IA probabiliste comme elles le sont actuellement n’est pas intelligente.
Imaginons une telle IA entraînée avec des données de l’époque romaine. A la question comment est la terre ? Elle répondra plate. Veut-on la réponse la plus probable ou la réponse correcte ?
l’IA actuellement disponible est probabiliste, elle ne renvoie que fe que la majorité pense.
Est-ce que les quelques thèses académiques sur l’inefficacité des compléments alimentaires sont plus importants que les dizaines de milliers d’informations qui disent le contraire sur youtube, Facebook, TikTok… Est-ce celui qui parle le plus fort qui a raison ? Pour l’IA oui.
Pour vVBD j ai bien suivis vos réflexions et analyses. En dehors des 3 dernières lignes tout me va bien, et, Jusqu a votre interrogation, Veut on une réponse probable ou une réponse correct?? Certes il y a un choix à faire! Et suivant le ou les cas en de nombreux domaines industriels, commerces , climats et… Militaires , je pense que si on a pas de réponses et si on hésite entres 2 ou 3 ( en dehors des nombreux Sachants et Grands ex Stratèges des plateaux TV , qui disent tout et ses contraires les lendemains ) il me semble à ce que je ferais moi même, il sera toujours interressant de comparer ses propres analyses personnelle ou d un groupe de personnes faisant partie du « carré » avec celles des probabilités d’une IA !!! Cela peut aider voire confirmer une Stratégie à mettre en oeuvres. Donc c est pour moi une tr belle évolution qui va vite évoluer pour devenir onligatoirement encore plus Performantes! et c est bien parti à voire les intérêts portés par les Militaires des… États.
Merci Thank you merci a vous et à Tous.
Pour moi, cet article fort intéressant ne parle pas de l’IA, mais des véhicules autonomes. L’IA est très vaste. J’invite à lire les travaux de Mr Villani pour l’assemblée nationale.
Personnellement, je me méfie de plusieurs types d’IA et je préfère l’inverse AI (Aide à l’intelligence) ou encore mieux 2AI : » Aide et Accompagnement de l’intelligence ». Les IA qui apprennent toutes seules, sans synchro avec l’humain sont abandonnées au bout de 6 mois, parce que personne ne comprend plus rien. Ensuite, celles comme ChatGPT : c’est un amplificateur des âneries répétées et répétées. Par exemple le contexte concernant l’économie a changé (le monde est plus rapide et l’énergie disponible est considérable). Donc, les règles comptables sont dépassées, puisque plus un système va vite, plus il faut anticiper et malheureusement, l’univers comptable reste dans l’illusion des comptes justes alors qu’une branche de l’IA, la fuzzy logic a montré depuis les années 90, que la logique formelle ne marche pas pour les systèmes complexes. Et Dieu sait que l’économie est complexe. Essayez ChatGPT avec la question : « En quoi l’économie viole t’elle les lois de base du pilotage d’un système ». Je n’ai pas encore trouvé une seule réponse disant clairement :1- le monde économique accélère, mais aucun économiste ne parle des outils à mettre en place pour gérer l’anticipation. 2- Un système complexe ne peut pas se diriger avec des lois formelles ; ceci est prouvé depuis les années 90, où il y a eu 14 thèses en logique formelle pour faire piloter un vélo par un robot. La 15ème en fuzzy logic a réussi. Mais l’économie et en particulier la comptabilité ose dire qu’une valeur incertaine a une valeur nulle. Donc, plus on prépare l’avenir, plus on créé de la valeur nulle… Cherchez l’erreur et Chat GPT tourne autour du pot dans des réponses ambigües du genre : comptablement pas de valeur, mais on sait que la valeur est très importante pour les entreprises.
En fait, l’économie doit passer en fuzzy logic … Problème, ceux qui enseignent l’économie ne connaissent rien aux lois du pilotage !