Jalapeño, la puce maison d’OpenAI pour réduire ses coûts

OpenAI veut réduire sa dépendance aux puces externes. Le groupe américain a dévoilé mercredi « Jalapeño », sa première puce développée en interne avec Broadcom, conçue pour accélérer l’exécution des modèles d’intelligence artificielle et en réduire les coûts.

Cette nouvelle puce est pensée pour l’inférence, c’est-à-dire la phase durant laquelle un modèle déjà entraîné répond aux demandes des utilisateurs. Elle ne vise donc pas l’entraînement initial des modèles, un processus plus long et beaucoup plus coûteux en puissance de calcul.

Selon OpenAI, les premiers tests montrent que Jalapeño pourrait offrir de meilleures performances par watt que les puces actuellement utilisées. L’entreprise indique aussi que ses propres modèles d’IA ont contribué à accélérer le développement de cette nouvelle génération de semi-conducteurs.

Développée avec Broadcom, Jalapeño doit fonctionner avec un large éventail de modèles d’intelligence artificielle, et pas uniquement avec ceux d’OpenAI. Son déploiement est prévu dans les centres de données de Microsoft et d’autres partenaires à partir de cette année.

Avec cette puce, OpenAI cherche à mieux contrôler une partie stratégique de son infrastructure. Les semi-conducteurs sont devenus l’un des nerfs de la guerre dans l’IA générative, un marché où Nvidia domine largement grâce à des processeurs particulièrement adaptés aux besoins de calcul des grands modèles.

La démarche d’OpenAI s’inscrit dans un mouvement plus large. Google, Amazon et Microsoft ont également investi ces dernières années dans leurs propres puces afin de réduire leurs coûts, d’améliorer les performances et de sécuriser leurs capacités de calcul.

Pour OpenAI, Jalapeño représente une étape importante dans la course à l’efficacité. En optimisant l’inférence, l’entreprise espère rendre ses services d’IA plus rapides, plus fiables et moins coûteux à grande échelle.

Infomag
Infomag
InfoMagazine se propose de délivrer l’information IT stratégique aux cadres et dirigeants, à travers une newsletter quotidienne et un site web qui couvre toute l'actualité Informatique, économique et fintech