LEBIGDATA.FR I.A, Cloud & Cybersécurité
Les ambitions d’OpenAI pour une intelligence artificielle de niveau humain semblent vaciller. Avec la dissolution de son équipe « AGI Readiness » et le départ d’un cadre influent, la route vers une intelligence artificielle générale (AGI) pourrait être plus chaotique qu’on ne l’imaginait. Faut-il repenser nos attentes ou persister dans ce rêve ?
L’annonce récente d’OpenAI a de quoi surprendre les passionnés de technologie. Apparemment, l’équipe « AGI Readiness », dédiée à la préparation d’une IA de niveau humain, est en pleine déroute. Miles Brundage, l’un des principaux conseillers dans ce projet, a décidé de quitter l’entreprise. La réduction de cette équipe stratégique révèle donc une fracture interne au sein d’OpenA. La course à l’innovation s’accélère au détriment des préoccupations de sécurité.
L’IA générale d’OpenAI ne verra pas le monde ?
Alors, OpenAI a récemment fait un choix. Ils ont dissous leur équipe AGI Readiness. Celle qui était censée préparer le terrain pour l’arrivée de l’intelligence artificielle générale (AGI). Miles Brundage, l’homme à la tête de cette équipe, a quitté le navire ce 23 octobre. Il a été très clair, car selon lui, « ni OpenAI ni aucun autre laboratoire de pointe n’est prêt [pour l’AGI], et le monde n’est pas prêt non plus ».
Miles Brundage a passé six ans à plancher sur la sécurité de l’IA chez OpenAI. Il estime même que les dirigeants au sein de l’entreprise partagent cette prise de conscience. J’ai l’impression qu’il ne s’agit pas d’un simple changement de carrière. D’ailleurs, il a souligné que la société bride de plus en plus sa liberté de recherche. Pour lui, il est crucial que des voix indépendantes s’expriment sur les politiques d’IA, sans biais ni conflits d’intérêts. Donc selon ses mots, c’est depuis l’extérieur d’OpenAI qu’il pourra avoir le plus d’impact sur la gouvernance mondiale de l’IA.
Si vous ajoutez à cela les récents départs de figures emblématiques comme Jan Leike, un autre chercheur majeur, et même du cofondateur Ilya Sutskever, cela commence à ressembler à une fissure sérieuse dans la culture d’entreprise d’OpenAI. Leike a même déclaré que « la culture et les processus de sécurité ont été relégués au second plan par rapport aux produits brillants ». Je dirais que l’obsession pour les produits à succès a pris le dessus. OpenAI a donc mis de côté la sécurité.
L’équilibre entre recherche et rentabilité, un dilemme difficile
OpenAI n’est plus la petite organisation à but non lucratif qui faisait rêver les fans. Depuis 2019, elle a basculé vers un modèle hybride, oscillant entre recherche fondamentale et pression commerciale. Par conséquent, l’entreprise doit devenir rentable dans les deux ans pour éviter de rembourser une part de ses 6,6 milliards de dollars de financement. Cette situation n’a fait qu’exacerber les tensions au sein de l’équipe.
Pour Miles Brundage, cette mutation vers la commercialisation représente un vrai souci. Dès 2019, il avait exprimé ses craintes. Le cadre redoute que la mission initiale d’OpenAI, dédiée à une IA bienveillante et accessible à tous, soit mise en péril.
Même si celui-ci a quitté OpenAI, l’entreprise lui a quand même proposé un soutien pour ses projets futurs. Notamment du côté financements, crédits API et accès anticipé aux modèles, sans conditions. Je sais qu’il est difficile de dire s’il acceptera cette offre. Mais cela montre qu’il n’y a pas de coupure nette entre lui et OpenAI.
Selon vous, les ambitions d’OpenAI sont-elles toujours réalisables ? Avec tous ces départs, croyez-vous que l’AGI soit encore à portée de main, ou est-ce un rêve lointain ? Dites-nous ce que vous en pensez en commentaire !
Restez à la pointe de l'information avec LEBIGDATA.FR !
- Partager l'article :
