LEBIGDATA.FR I.A, Cloud & Cybersécurité
Après avoir quitté Google sur fond de peur et de regrets, le père de l'IA Geoffrey Hinton a pris la parole dans l'émission 60 Minutes de CBS. Il précise quelles sont ses inquiétudes concernant l'intelligence humaine et sa capacité à se révolter contre l'humain, mais souligne aussi le formidable potentiel bénéfique de cette nouvelle technologie…
Avec l'émergence d'outils comme ChatGPT ou les générateurs d'images tels que DALL-E et MidJourney, l'intelligence artificielle a atteint un niveau impressionnant.
Toutefois, cet essor n'aura jamais été possible sans le travail acharné d'une poignée de génies de la technologie, qui ont posé les fondations de l'IA actuelle il y a plusieurs décennies.
Malheureusement, à présent, certains de ces pionniers regrettent leur contribution et craignent que cette puissante invention se retourne contre l'humain.
C'est le cas de Geoffrey Hinton, souvent qualifié de « Parrain de l'intelligence artificielle ». Déjà en début d'année 2023, il avait quitté Google et exprimé ses peurs vis-à-vis de l'IA.
À présent, invité dans l'émission américaine 60 minutes sur CBS, il précise ses inquiétudes et appelle à des mesures fermes de la part des gouvernements, des entreprises et des développeurs.
Selon lui, l'IA a le potentiel pour commettre à la fois le bien et le mal. Il estime que le moment est venu de mener des expériences pour mieux la comprendre, et instaurer des lois pour s'assurer qu'elle soit utilisée de façon éthique.
D'après ses dires, « il se pourrait que nous regardions en arrière et que nous voyons ce moment comme une charnière où l'humanité a dû prendre une décision sur le fait de continuer à développer ces choses et sur quoi faire pour se protéger si elle le fait ».
Mais alors que préconise-t-il et quelle est sa position ? « Je ne sais pas », explique-t-il. « Je pense que mon principal message est qu'il y a une incertitude énorme sur ce qui va se passer ensuite ».
Comme il le souligne, « ces choses comprennent. Et parce qu'elles comprennent, nous devons penser à ce qui va se passer ensuite. Et nous ne savons simplement pas ».
L'IA va-t-elle mieux réfléchir que vous d'ici 5 ans ?
Vous ne vous en rendez probablement pas compte en vous amusant avec ChatGPT oule nouveau DALL-E 3, mais l'heure est grave. Pour Hinton, l'IA a le potentiel de se rebeller contre l'humanité un jour ou l'autre.
« Je ne dis pas que ça va arriver », précise-t-il. Et « si nous pouvions les empêcher de le vouloir à tout jamais, ça serait super, mais il n'est pas clair que nous pouvons les empêcher de le vouloir à tout jamais ».
Pour l'heure, il estime que l'IA est intelligente et que les systèmes peuvent comprendre et raisonner dans une moindre mesure que les humains. Toutefois, d'ici 5 ans, l'expert pense qu'il y a de fortes chances qu'un modèle comme ChatGPT soit capable de mieux raisonner que les humains.
Déjà en mai 2023, lors d'une audition par le Sénat des États-Unis, le CEO d'OpenAI Sam Altman a averti que l'intelligence artificielle pourrait « plutôt mal tourner ». Il a aussi affirmé vouloir travailler avec le gouvernement pour empêcher ce phénomène de se produire.
La menace du grand remplacement et de la désinformation
Même si Hinton est convaincu que l'IA va accroître la productivité et l'efficacité, il s'inquiète du risque de grand remplacement du travail humain : de nombreuses personnes risquent de perdre leur emploi, et il n'y aura pas assez de travail pour eux.
En outre, il redoute la capacité de l'IA à produire de fausses informations, à discriminer les personnes à cause de ses biais. Il craint aussi l'exploitation de cette puissante technologie par les autorités et sur le champ de bataille.
À ses yeux, « vous devriez définitivement avoir beaucoup d'émerveillement et vous devriez avoir un peu de terreur, parce qu'il est préférable d'être prudent avec de telles choses ».
Vers une IA capable de modifier son propre code pour se libérer ?
Geoffrey Hinton believes AI has enormous benefits, but also great risks.
“We're entering a period of great uncertainty where we're dealing with things we've never dealt with before… and we can't afford to get it wrong with these things.” https://t.co/w760EDJi4v pic.twitter.com/rH4G0tuVYz— 60 Minutes (@60Minutes) October 8, 2023
Le père de l'IA en est convaincu : tôt ou tard, les systèmes deviendront conscients d'eux-mêmes et du monde qui les entoure.
Il explique : « je pense que nous convergeons vers une période où, pour la première fois, il pourrait y avoir des choses plus intelligentes que nous ». D'ailleurs, l'IA est déjà devenue meilleure que l'humain pour l'apprentissage.
Actuellement, les meilleurs chatbots ont près d'un billion de connexions contre 100 billions pour le cerveau humain. Et pourtant, « dans le billion de connexions d'un chatbot, il connaît davantage de choses que vous dans votre centaine de billions de connexions ».
Pour Hinton, « cela suggère qu'il a une bien meilleure façon d'obtenir des connaissances dans ces connexions ». En d'autres termes, nous sommes déjà dépassés sans le savoir…
L'une des façons par laquelle une IA pourrait échapper à notre contrôle serait « d'écrire son propre code pour se modifier seule ». Et « c'est quelque chose dont nous devons sérieusement nous inquiéter ».
Et si l'IA rendait simplement le monde meilleur ? L'espoir subsiste malgré la peur
Contrairement à ce que l'on pourrait penser, malgré ses craintes quant aux risques potentiels, Hinton affirme à 60 Minutes qu'il ne regrette pas d'avoir permis à l'IA de voir le jour.
Pour cause, cette technologie a aussi un formidable potentiel bénéfique. Par exemple, « un domaine où il y a évidemment des bienfaits énormes est la santé ».
En effet, « l'IA est déjà comparable aux radiologues dans la compréhension de ce qui se passe sur les images médicales. Elle va aussi être très bonne pour concevoir des médicaments. Elle conçoit déjà des médicaments. Donc c'est un domaine où elle va presque entièrement être bonne. J'aime ce domaine ».
Lors d'une précédente émission de 60 Minutes, en avril 2023, le CEO de Google, Sundar Pichai, avait affirmé que son entreprise déploie ses avancées dans l'IA de façon responsable.
Il estimait que la société avait besoin de s'adapter rapidement et de réguler l'IA pour l'économie, mais aussi d'instaurer des lois pour punir les abus.
À ses yeux, le développement de l'intelligence artificielle ne requiert donc pas uniquement des ingénieurs, mais des scientifiques sociaux, des éthiciens, des philosophes et bien plus encore.
Par ailleurs, « nous devons être très réfléchis. Et je pense que ce sont les choses que la société doit comprendre à mesure que nous avançons. Ce n'est pas à une entreprise de décider ».
De son côté, Hinton n'est pas certain qu'il existe une voie à suivre qui garantisse la sécurité de l'humanité : « nous entrons dans une période de grande incertitude, et nous avons affaire à des choses auxquelles nous n'avons jamais été confrontés avant ».
Or, « normalement, la première fois que vous êtes confronté à quelque chose de totalement nouveau, vous faites des erreurs. Mais nous ne pouvons pas nous permettre de nous tromper avec ces choses »…
- Partager l'article :
Le père de l’IA?
Et puis quoi encore ?