L’opérateur KubeRay, qui permet de déployer des applications Ray sur Kubernetes, franchit une étape importante en rejoignant la CNCF. Ce mouvement vise à structurer l’écosystème PARK, cette pile logicielle — PyTorch, modèles d’IA, Ray et Kubernetes — qui est en train de devenir la référence pour l’IA en production. En intégrant KubeRay sous la gouvernance Linux Foundation, les équipes gagnent en confiance quant à la neutralité et à l’ouverture de cet outil.

KubeRay est en substance le pont qui relie les applications d’IA distribuées bâties avec Ray à l’orchestration des ressources offerte par Kubernetes. Selon l’annonce de la CNCF, le projet fournit trois définitions de ressources personnalisées (CRD) essentielles pour gérer ces charges de travail dans un environnement réel.

Le concept de RayCluster est fondamental : il gère le cycle de vie complet d’un cluster Ray. Cela inclut la création, la suppression, l’autoscaling et la garantie de tolérance aux pannes. Pour les besoins ponctuels, le RayJob est conçu pour les tâches de traitement par lots ou l’entraînement distribué ; il provisionne un cluster éphémère, soumet le travail, puis le détruit automatiquement une fois terminé, optimisant ainsi l’utilisation des accélérateurs.

Pour les services d’inférence en ligne qui doivent tourner longtemps, le RayService prend le relais. Il orchestre à la fois le cluster sous-jacent et le graphe de déploiement Ray Serve, ce qui permet des mises à jour sans interruption de service et une haute disponibilité. Des entreprises comme Spotify utilisent KubeRay pour faire évoluer leurs plateformes ML internes sur GKE.

Intégration dans l’écosystème cloud-native

Ce qui fait la force de KubeRay, ce n’est pas seulement sa gestion des ressources de base, mais aussi sa capacité à s’imbriquer dans les outils que les équipes DevOps utilisent déjà. L’opérateur s’interface avec des systèmes d’observabilité comme Prometheus et Grafana, permettant de surveiller la latence de Ray Serve ou l’exécution des tâches en parallèle des métriques Kubernetes classiques. De plus, il s’agrège nativement avec des planificateurs comme Kueue et Volcano, ce qui est essentiel quand on gère des ressources rares comme les GPU ou les TPU, car cela permet de mettre en place un gang scheduling ou des quotas multi-locataires.

En parallèle de cette standardisation, d’autres acteurs travaillent sur la sécurisation des environnements d’IA. Google, par exemple, donne à disposition gVisor, un bac à sable de code utilisé par Anthropic et OpenAI, illustrant une tendance forte vers le renforcement de l’isolation des agents d’IA sur des infrastructures ouvertes.

Le projet KubeRay, qui est désormais un sandbox de la CNCF, s’est appuyé sur une communauté très active. Les mainteneurs encouragent ceux qui veulent s’impliquer à rejoindre le canal Slack dédié ou les réunions bimensuelles. Si l’outil est un pilier de la stack PARK, il reste vrai que la complexité de l’orchestration d’IA ne disparaît pas, même avec des abstractions puissantes. Il faut désormais surveiller comment cet opérateur va évoluer face aux besoins croissants de modèles toujours plus volumineux.

Sources

• GitHub – kuberay-project/kuberay: A toolkit to run Ray applications on Kubernetes, github.com
• Donating KubeRay to CNCF, CNCF, 9 novembre 2026 (contenu sous licence CC BY 3.0)
• Kubernetes, mark II? Why Google’s giving away gVisor, a code sandbox used by Anthropic and OpenAI, The New Stack, 6 novembre 2026