OpenAI, l’entreprise à l’origine de ChatGPT vient de renvoyer 3 employés. Mais pourquoi ? Je vous explique tout dans cet article.
Dans une déclaration transmise au Wall Street Journal, OpenAI explique avoir mené une enquête. Il a alors été établi que les personnes concernées avaient manipulé des données sensibles en dehors du cadre autorisé.
Ce faisant, ils ont contourné ses règles de gestion des données et rompu les procédures prévues pour protéger les informations internes.
Que savons-nous des 3 employés licenciés par OpenAI ?
Les trois salariés en question ont été identifiés. Selon le Wall Street Journal, il s’agit de Jasmine Wang, Tomek Korbak et Mikita Balesni. OpenAI n’a toutefois pas communiqué officiellement leurs noms.
Si l’on en croit Bloomberg, deux des trois travaillaient dans la recherche en sécurité. Le troisième supervisait des programmes de recherche.
Au moins deux membres du groupe participaient donc directement aux travaux consacrés à la sûreté des systèmes d’intelligence artificielle.
Selon les informations rapportées, l’enquête interne d’OpenAI a mis en évidence un « pattern of misconduct ». Autrement dit, elle pointe plusieurs comportements considérés comme contraires à ses procédures.
L’un de ces manquements concerne le partage d’informations de recherche avec un organisme extérieur spécialisé dans l’évaluation des IA. Son identité n’a pas été rendue publique.
Pour le moment, il n’y a toujours aucune précision sur les données réellement transmises. OpenAI n’a publié ni document, ni exemple précis, ni niveau de classification des informations concernées.
Une source proche du dossier indique néanmoins qu’une partie des informations concernait la conception même de certains systèmes développés par OpenAI.
Bon à savoir
Pour rappel, ces trois salariés avaient tous publiquement exprimé des inquiétudes sur les risques de l’IA. Mikita Balesni écrivait le 10 septembre qu’il estimait à plus de 10 % le risque qu’une IA provoque la disparition de l’humanité.
Tomek Korbak avait également critiqué publiquement certains choix d’OpenAI. Jasmine Wang soutenait, pour sa part, un ralentissement du développement des modèles les plus avancés.
Est-ce que cela a un quelconque lien avec leur manquement au règlement ? Rien ne permet de l’affirmer pour l’instant. Tout comme aucune preuve publique ne montre que leurs opinions sur la sécurité ont motivé leur licenciement.
- Partager l'article :