
SGLang intègre TorchTPU pour servir des LLM sur Google TPUs
Le moteur de service SGLang étend son support aux accélérateurs Google TPUs grâce à un plugin natif PyTorch. Cela permet de déployer des modèles massifs en exploitant les capacités spécifiques du TPUv7.