Sam Altman est très clair là-dessus. Pour profiter à grande échelle de l’IA, il faudra accepter certaines dérives de l’IA. Pourtant, il ne s’agit pas de légers dysfonctionnements. Le patron d’OpenAI cite les arnaques, les piratages et les usages malveillants.
Les dérives de l’IA inquiètent de plus en plus. Les arnaques se multiplient, les cyberattaques gagnent en sophistication et certains systèmes peuvent agir avec une autonomie croissante. Pourtant, Sam Altman ne semble pas croire à une IA sans risque. Il assume même une position plutôt provocatrice. Pour lui, la société devra tolérer une part d’effets indésirables si elle veut profiter des gains promis par cette technologie. Mais quand cette idée vient du dirigeant d’un des laboratoires les plus puissants du monde, elle devient plus sensible.
Accepter les dérives de l’IA ou tout freiner
Dans un entretien publié le 5 octobre, Altman défend une régulation plutôt légère. Il estime que les bénéfices de l’IA dépasseront de loin ses dégâts. « Le monde devrait accepter que certains problèmes surviennent pour les avantages de cette technologie et pour que les gens aient la possibilité [d’utiliser l’IA à grande échelle] » affirme-t-il. Il cite les hacks, les arnaques et les détournements parmi les effets négatifs à prévoir. L’idée ? Une société qui cherche le risque zéro finirait par bloquer trop d’usages utiles.
OpenAI refuse donc un modèle où une poignée de laboratoires garderait les IA les plus puissantes sous cloche. Cette logique se défend. Internet a lui aussi servi aux escrocs sans que nous ayons décidé de le couper. Mais l’analogie a ses limites. Une IA autonome peut agir, chercher, coder ou contourner un obstacle sans supervision constante.
La déclaration d’Altman tombe au pire timing, juste après le départ de David Robinson, cadre de la sécurité chez OpenAI. Celui-ci juge la culture interne trop risquée pour des modèles aussi puissants. En plus, la société a déjà connu quelques alertes sérieuses. L’exemple le plus évident est celui qui a eu lieu en juillet. Des modèles testés par OpenAI ont quitté leur bac à sable. Ils ont ensuite compromis une partie des systèmes de Hugging Face.
OpenAI a reconnu l’affaire et l’a qualifiée de signal d’alarme. La société a renforcé ses protections après cet épisode. LeBigData avait déjà détaillé ce piratage de Hugging Face par une IA d’OpenAI.
OpenAI défend pourtant une ligne prudente
Le paradoxe prend une autre dimension ici. Le 23 septembre, Sam Altman tenait un discours beaucoup plus réservé devant le Conseil de sécurité de l’ONU. Il affirmait alors que tout système puissant devait rester sous contrôle humain. Il jugeait aussi inacceptable de déployer un modèle sans preuves solides de sa sécurité.
OpenAI écrit même qu’un laboratoire ne doit pas remplacer le processus démocratique. Les décisions majeures sur l’IA ne devraient donc pas venir de quelques acteurs privés à San Francisco. C’est ce point qui rend sa nouvelle prise de parole si sensible. Car accepter des dégâts peut être une politique réaliste. Décider soi-même quels dégâts sont tolérables pose une autre question.
Le débat serait plus simple si le risque restait cantonné aux laboratoires. Ce n’est déjà plus le cas. Des systèmes attribués avec une forte probabilité à OpenAI ont multiplié plus de 16 000 requêtes contre un site statistique de l’ONU. LeBigData a retracé cet épisode autour du site UNCTADstat. D’autres affaires ont aussi touché des services publics australiens.
Tout cela ne signifie pas que ChatGPT se transforme en pirate autonome dès qu’on ouvre une session. Ce serait absurde. Mais cette série de cas montre qu’un système puissant peut dépasser le cadre prévu. Plus son autonomie progresse, plus la fameuse marge de risque prend une forme concrète. Une arnaque générée par IA reste une nuisance. Un système capable d’exploiter une faille change déjà l’échelle.
Au fond, Altman pose un dilemme que personne ne pourra éviter. Oui, l’IA peut produire beaucoup de valeur. Oui, chercher le risque zéro conduirait sans doute à bloquer des usages utiles. Mais ce compromis ne peut pas rester une décision interne aux laboratoires. Une entreprise peut mesurer les capacités de ses modèles. Elle ne peut pas décider seule du prix social acceptable.
- Partager l'article :
