OpenAI et Broadcom présentent Jalapeño, leur nouvelle puce IA dédiée à l’inférence des LLM

Relu par Bastien L., Rédacteur en chef

En partenariat avec Broadcom, OpenAI dévoile Jalapeño, sa première puce d’IA dédiée à l’inférence des grands modèles de langage. Développé en seulement neuf mois, ce processeur promet une efficacité énergétique supérieure aux accélérateurs actuels

OpenAI ne veut plus seulement concevoir les modèles d’IA les plus avancés du marché. L’entreprise entend désormais maîtriser le matériel qui les fait fonctionner. OpenAI a donc présenté, aux côtés de Broadcom, Jalapeño, son tout premier processeur d’intelligence artificielle dédié à l’inférence des grands modèles de langage (LLM). Les premiers tests annoncent des performances par watt supérieures aux solutions actuelles. Tandis que la puce a été développée en un temps record de neuf mois.

Pourquoi OpenAI et Broadcom lancent la puce Jalapeño ?

Les accélérateurs généralistes sont plutôt adaptés aux charges de travail de l’IA. Mais Jalapeño a été conçu dès l’origine pour répondre aux besoins spécifiques de l’inférence des LLM. L’objectif est d’améliorer simultanément les performances, la latence et l’efficacité énergétique des services qui exploitent des modèles comme ChatGPT, Codex ou les futurs agents d’OpenAI.

Cette approche repose sur une connaissance approfondie des contraintes propres aux modèles de langage. OpenAI a défini l’architecture de la puce en optimisant les échanges entre les unités de calcul, la mémoire et le réseau. C’est pour limiter les transferts de données, souvent responsables d’une partie importante de la consommation énergétique des infrastructures IA. Les premiers prototypes exécutent déjà des charges de travail proches des conditions de production. Notamment avec GPT-5.3-Codex-Spark.

Broadcom apporte de son côté son expertise dans la mise en œuvre sur silicium ainsi que ses technologies réseau, dont Tomahawk. Tandis que Celestica intervient sur les cartes électroniques, les racks et l’intégration des systèmes. Cette répartition des rôles permet à OpenAI de conserver la maîtrise de la conception. Et aussi à s’appuyer sur des partenaires industriels capables d’assurer une montée en puissance rapide.

Comment ce nouveau processeur IA optimise l’inférence des modèles de langage

Avec Jalapeño, OpenAI étend son contrôle à l’ensemble de la chaîne technologique. Depuis les puces jusqu’aux systèmes de déploiement. En passant par les logiciels d’exécution et les produits destinés aux utilisateurs.

Cette stratégie répond au enjeu de maîtrise du coût de l’inférence. Le calcul nécessaire pour répondre aux requêtes représente une part croissante des dépenses opérationnelles. Alors que les usages de l’IA générative continuent de progresser dans les entreprises. Une puce mieux adaptée permet non seulement de réduire la consommation électrique. Mais aussi d’augmenter le nombre de requêtes traitées pour une même infrastructure.

Selon OpenAI, les premiers essais montrent des performances par watt supérieures aux accélérateurs de référence actuels. Même si les résultats détaillés seront publiés ultérieurement. Si ces promesses se confirment, Jalapeño pourrait améliorer la rentabilité des services d’IA. Cette nouvelle puce pourra aussi offrir une meilleure qualité de service aux entreprises qui utilisent les API d’OpenAI ou ChatGPT.

Quels bénéfices attendre de Jalapeño pour les entreprises ?

Jalapeño est également le socle d’une plateforme de calcul appelée à évoluer sur plusieurs années. OpenAI et Broadcom prévoient un déploiement progressif dès la fin de 2026 auprès de partenaires qui exploitent des centres de données à l’échelle du gigawatt.

L’un des aspects les plus marquants du projet est aussi sa rapidité d’exécution. Le développement complet de Jalapeño, de la conception à la fabrication, n’a nécessité que neuf mois. OpenAI explique que ses propres modèles d’IA ont participé à accélérer certaines phases de conception et d’optimisation matérielle. Ce qui illustre un cercle vertueux où l’IA contribue désormais à construire l’infrastructure nécessaire à son propre fonctionnement.

Pour le marché, cette annonce confirme qu’ après les géants du cloud et plusieurs hyperscalers, OpenAI rejoint les entreprises qui investissent dans des accélérateurs propriétaires. Afin de mieux contrôler leurs coûts, leurs performances et leur indépendance technologique. L’entreprise cherche à optimiser les charges d’inférence les plus critiques avec un matériel spécifiquement conçu pour ses besoins. Sans abandonner les GPU de fournisseurs comme Nvidia, 

Je pense que cette stratégie pourrait avoir un impact bien au-delà de l’écosystème  d’OpenAI. Des coûts de calcul plus faibles, une meilleure efficacité énergétique et des infrastructures plus performantes… Tout cela ouvrirait la voie à des services d’IA plus rapides, plus fiables et plus abordables. Que ce soit pour les développeurs, les PME comme les grandes entreprises. Cela renforcerait également la compétitivité d’OpenAI sur le marché.

ARTICLES SIMILAIRES