Équipe d'ingénieurs travaillant sur des systèmes de calcul IA dans un bureau moderne.

Google étend sa gamme de TPU avec les systèmes 8tx et 8i Max

Google étoffe son portefeuille de TPU de huitième génération en introduisant deux systèmes inédits, le TPU 8tx et le TPU 8i Max, pour adresser les défis croissants posés par l’ère des agents autonomes. Après avoir présenté les TPU 8t et 8i lors de Google Cloud Next en avril, l’entreprise étend désormais sa gamme à quatre systèmes en une seule année, une première selon blog.google.

L’évolution des cas d’usage, qui s’étend désormais à l’entraînement des modèles Gemini, aux charges de travail agentiques, et à l’installation directe des TPU par les clients dans leurs propres centres de données, a nécessité cette diversification. Les entreprises clientes, allant des laboratoires de pointe aux sociétés de trading, sollicitent des accélérateurs capables de raisonner sur des fenêtres de contexte extrêmement larges ou qui offrent des capacités de chiffrement spécifiques, comme le soulignent les communications de Google Cloud.

Adapter le matériel à la complexité des agents IA

Le passage du calcul humain au calcul d’agents modifie profondément les exigences infrastructurelles. Les nouveaux systèmes répondent à deux problématiques urgentes : assurer la confidentialité des données au niveau matériel et gérer des modèles capables de traiter des millions de jetons.

Le TPU 8tx est spécifiquement conçu pour l’inférence sécurisée et confidentielle, ciblant les secteurs réglementés comme les gouvernements. Contrairement au chiffrement standard qui nécessite de déchifrer les données en mémoire pour le traitement, ce nouveau système intègre la sécurité directement au niveau matériel. Il fonctionne sur le même silicium que le TPU 8t, mais est couplé à des processeurs AMD EPYC de cinquième génération. Cela permet de garder les poids des modèles et les informations sensibles protégés et isolés même pendant leur utilisation active. En adoptant le réseau Boardfly à faible latence, le TPU 8tx maintient les agents multi-étapes en mouvement, offrant jusqu’à deux fois moins de délai que le TPU 8t, sans perte notable de performance.

En parallèle, le TPU 8i Max est une réponse directe au « mur de la mémoire ». Lorsque des dizaines d’agents collaborent sur une base de code ou des heures de vidéo, la bande passante mémoire devient rapidement le goulot d’étranglement. En combinant deux puces TPU 8i en un seul paquet, ce système double la puissance de calcul, le SRAM et la bande passante HBM par rapport au TPU 8i standard. Les processeurs restent ainsi équipés des données essentielles, empêchant les arrêts de travail dus à la saturation.

Vue de dessus de cartes de circuits intégrés spécialisés et de câbles de connexion sur un bureau.

Au-delà des puces : l’importance du système

Google insiste sur la différence entre la conception d’une nouvelle puce et celle d’un nouveau système. Développer une puce est un processus long, dicté par la physique des semi-conducteurs. En revanche, un système représente l’art d’organiser le calcul, le réseau et le stockage autour de cette puce afin de répondre à des besoins précis et en évolution.

Cette approche modulaire, héritée des premières conceptions de TPU, permet à Google de livrer des supercalculateurs spécialisés en quelques mois au lieu d’attendre des années. Le TPU 8t, quant à lui, demeure le pilier de la formation massive, conçu pour un « goodput » maximal, c’est-à-dire l’intelligence utile fournie par watt d’énergie utilisé.

L’introduction de ces systèmes spécialisés, alliée aux annonces récentes concernant PyTorch, vise à rendre ces accélérateurs plus accessibles aux développeurs et aux clients Cloud. Il faut surveiller comment ces architectures hybrides, qui mélangent des composants custom et des stacks logiciels ouverts, vont influencer la vitesse à laquelle les entreprises pourront déployer leurs propres capacités d’agents IA en interne.

Sources