L’envers du décor des agents IA : comment IBM et Together AI préparent l’infrastructure cloud de 2027

Pour soutenir l’essor des systèmes autonomes, l’infrastructure d’agents IA doit changer en matière de densité de calcul et de coût d’exécution. L’accord de 240 millions de dollars entre IBM et Together AI, appuyé par NVIDIA, préfigure les architectures cloud qui industrialiseront l’inférence à très grande échelle dès 2027.

IBM et Together AI ont scellé un partenariat pluriannuel de 240 millions de dollars. C’est pour déployer un cluster d’inférence de dernière génération sur IBM Cloud au premier trimestre 2027. Cette initiative s’appuie sur le grand déploiement de systèmes NVIDIA HGX B300. Ainsi que de l’interconnexion réseau Ethernet NVIDIA Spectrum-X. Face au passage des simples chatbots vers des agents décisionnels autonomes, la demande de puissance brute pour traiter l’inférence en continu modifie en profondeur l’équilibre économique et matériel du cloud.

La course aux puces B300 pour construire l’usine à tokens de l’après-2026

Le déploiement annoncé sur IBM Cloud représente le premier cluster dédié à grande échelle configuré spécifiquement pour l’inférence avec des architectures HGX B300. Les modèles conversationnels classiques sont sollicités de manière ponctuelle. Alors que les agents IA fonctionnent via des boucles d’action complexes, de l’appel d’API et du raisonnement séquentiel. 

Ces flux de travail génèrent une consommation exponentielle de jetons. Together AI traite déjà plus de 400 000 milliards de tokens par mois pour plus d’un million de développeurs. La start-up adapte donc son infrastructure d’agents IA pour anticiper cette saturation.

Pour répondre à cette charge, l’association des puces B300 et du réseau NVIDIA Enterprise Systems – HGX & Spectrum-X Networking vise à multiplier par 30 le rendement des centres de calcul par rapport aux générations précédentes. Le réseau Ethernet Spectrum-X joue ici un rôle crucial. Car il élimine les blocages lors du transfert de données entre les nœuds GPU. 

Cette optimisation garantit un débit haut et une latence ultra-faible. Ce sont deux conditions indispensables pour maintenir la viabilité financière de l’inférence en temps réel. Pour les DSI, l’équation devient enfin prévisible. Celle de stabiliser la rentabilité des déploiements grâce à une meilleure efficience énergétique et matérielle par token produit.

Pourquoi l’infrastructure d’agents IA de 2027 repose sur l’Open Source d’entreprise ?

Cette alliance avec IBM s’inscrit dans l’expansion rapide de Together AI. La jeune entreprise est valorisée à 8,3 milliards de dollars après une levée de fonds de 800 millions de dollars. La start-up cherche ainsi à démocratiser une pile logicielle ouverte et modulaire. Afin d’éviter aux grands groupes la dépendance vis-à-vis des modèles propriétaires fermés. 

L’accès à une infrastructure d’agents IA hautement performante permet donc de faire tourner des modèles open source de pointe. Avec des coûts de calcul nettement inférieurs à ceux des API propriétaires.

De son côté, IBM apporte la sécurité, la conformité réglementaire et la gestion du cloud hybride requises par les secteurs sensibles comme la finance ou la santé. D’après  l’annonce officiel du partenariat, les grands groupes refusent à présent de compromettre la confidentialité de leurs données ou de subir des tarifs imprévisibles pour exploiter l’IA. 

Ainsi, IBM et Together AI préparent le terrain pour les architectures de 2027. Ils associent la flexibilité des modèles ouverts à une infrastructure d’agents IA souveraine et sécurisée. Pour les CTO et architectes SI, le signal est que l’avenir des systèmes autonomes dépendra également de la capacité des infrastructures à exécuter des milliards d’opérations simultanées de façon robuste et économique.

ARTICLES SIMILAIRES