LEBIGDATA.FR I.A, Cloud & Cybersécurité
Les géants de l'intelligence artificielle veulent alimenter leurs IA comme ChatGPT à l'aide d'énergie nucléaire, afin de réduire leur impact environnemental. Toutefois, cette décision stratégique pourrait amener des risques considérables… une fausse bonne idée ?
Au fil des siècles, l'électricité est devenue si omniprésente que nous n'y pensons plus. Comme si de rien n'était, nous allumons nos lampes, nos ordinateurs et nos télévisions tout au long de la journée. Pourtant, en moyenne, chaque foyer français consomme 4679 kWh par an.
Ce n'est toutefois rien en comparaison avec les géants de la technologie qui développent les chatbots comme ChatGPT. Ces IA requièrent en effet du hardware extrêmement exigeant en énergie comme les puces GPU utilisées pour leur entraînement et leur exécution.
Même si les entreprises du secteur comme OpenAI et Google sont très discrètes concernant la quantité d'énergie absorbée au quotidien par leurs modèles, certains chercheurs estiment que l'entraînement de GPT-3 a lui seul a requis 1287 MWh d'énergie.
C'est à peu près l'équivalent de ce que consomment 200 foyers français pendant une année complète. Et ce, uniquement pour entraîner l'IA !
En ce qui concerne le fonctionnement de ChatGPT au quotidien, un chercheur de l'Université de Washington estime qu'il représente 1000 MWh par jour.
Cette consommation massive a un lourd impact sur l'environnement. Selon un article publié dans le Journal of Machine Learning Research de juin 2023, l'entraînement de GPT-3 a émis 500 tonnes métriques de carbone. Pour atteindre la même émission carbone, une voiture devrait parcourir un million de miles.
Toutefois, selon Sasha Luccioni, responsable du climat chez Hugging Face, la vraie problématique n'est « pas la consommation d'énergie, mais aussi la taille du modèle, le temps qu'a pris son entraînement, et le type de hardware utilisé ».
Les mini réacteurs nucléaires, une source d'énergie viable pour l'IA ?
Afin d'y remédier, Microsoft et OpenAI cherchent de nouvelles voies plus économiques et écologiques pour leurs futurs projets IA. L'une des pistes envisagées risque toutefois de susciter la controverse : l'énergie nucléaire.
Le 25 septembre 2023, Microsoft a publié une offre d'emploi pour un poste de chef de projet de technologie nucléaire qui « dirigera les initiatives du projet pour tous les aspects d'infrastructure d'énergie nucléaire » sur lesquels reposeront les modèles IA.
Dans le détail, cet expert sera chargé d'implémenter un cadre pour de petits réacteurs nucléaires (SMR ou small modular reactors). Il s'agit de réacteurs nucléaires d'une fraction de la taille des réacteurs classiques.
Ceci les rend plus faciles et moins chers à acheter et gérer, tout en créant une source d'énergie plus propre. De même, le CEO d'OpenAI, Sam Altman, a créé la startup d'énergie nucléaire Oklo devenue publique en juillet 2023.
Il a également investi 375 millions de dollars dans la startup de fusion nucléaire Helion Energy. D'ailleurs, Microsoft a signé un accord pour commencer à acheter de l'énergie à cette dernière à partir de 2028 !
Une grave menace potentielle
Il est trop tôt pour prédire sur quoi aboutiront ces investissements, mais il est clair que le nucléaire est l'option la plus fiable aux yeux de ces géants pour réduire les coûts liés à leurs modèles IA.
Or, cette alternative est critiquée par de nombreux spécialistes. Selon Luccioni, « le nucléaire est très discutable en termes de durabilité. Il n'est pas renouvelable, et il y a aussi le problème des déchets nucléaires ».
À ses yeux, « si vous voulez vraiment être durable ou bénéfique pour la planète, vous pouvez investir massivement dans le solaire ou l'éolien ».
Les avantages indéniables du nucléaire peinent à compenser les craintes que suscite l'idée de laisser de puissants réacteurs à disposition d'entreprises privées motivées uniquement par le profit…
Des alternatives moins dangereuses pour le futur de l'IA
D'autres solutions plus simples existent pour réduire les besoins énergétiques de l'IA. Comme le souligne le professeur Mosharaf Chowdhury de l'Université du Michigan, « si vous réduisez votre consommation d'énergie, votre impact carbone va diminuer ».
Il a lui-même contribué au développement d'un logiciel dénommé Zeus, permettant d'analyser l'efficacité énergétique de l'entraînement d'une IA.
Son équipe a découvert que le logiciel peut réduire la consommation énergétique des modèles jusqu'à 75%.
🤖 Researchers at University of Michigan have created Zeus, an open-source optimization framework to reduce energy consumption of deep learning models. By adjusting two software knobs, Zeus maintains accuracy while minimizing energy usage. #AI #Sustainability 🌎
— Krypton AI (@KryptonAi) April 25, 2023
Le co-auteur, Jae-Won Chung de l'Université du Michigan, souligne que « depuis le début du Deep Learning, les gens ont réalisé que plus les réseaux de neurones sont larges et profonds, plus ils sont performants. Donc ils les font de plus en plus larges. »
Et c'est cette augmentation de taille qui accroît le besoin de GPU. Si l'on prend en considération le nombre d'entreprises impliquées dans le secteur de l'IA, le danger environnemental causé par cette technologie semble clair…
Le but de ces chercheurs est de rendre l'entraînement et l'exécution de l'IA plus efficace pour éviter cette catastrophe. Néanmoins, comme l'explique Luccioni, la façon la plus simple de s'assurer que les entreprises fassent le choix de l'efficacité énergétique est d'imposer la transparence.
☕️ Bon dimanche l'équipe !
Une petite nouvelle intéressante ce matin sur Microsoft.
(2 min de lecture)
Microsoft a annoncé le recrutement d'un expert en nucléaire pour alimenter ses data centers d'IA.
L'entreprise a choisi l'énergie nucléaire pour ses propriétés propres et… pic.twitter.com/l85l8ZZEQC— RenX.eth (@X1000Ren) October 8, 2023
L'enregistrement et le reporting des données de consommation peuvent offrir aux utilisateurs et aux régulateurs une vision claire de ce que les modèles dévorent vraiment et de ce qui doit être fait à ce sujet.
Jusqu'au lancement de ChatGPT, les entreprises de l'IA faisaient preuve d'une transparence exemplaire. Tout a changé avec l'introduction de cet outil, et les champions de l'open source comme OpenAI et Google ont changé de stratégie pour cacher leurs secrets commerciaux à leurs concurrents.
Ceci pose non seulement un risque pour l'environnement, mais amène aussi d'autres types de dangers. Les experts ne sont plus en mesure d'évaluer les biais ou la cybersécurité des modèles IA…
- Partager l'article :
