Étiquette : CUDA

Vue rapprochée d'un ensemble complexe de câbles et de cartes électroniques à l'intérieur d'un boîtier de serveur ou d'un système de traitement de données.

NVIDIA DAQIRI déplace le traitement des données haute bande passante vers le GPU

L’annonce d’NVIDIA DAQIRI présente une bibliothèque logicielle conçue pour acheminer les données d’instruments et de capteurs à haute bande passante directement dans des flux de travail prêts pour le GPU. Ce mécanisme permet de court-circuiter l’ancienne logique « collecter, stocker, analyser plus tard » au profit d’un traitement en temps réel, de l’inférence IA et du contrôle automatisé directement à la périphérie.

Le goulot d’étranglement, selon developer.nvidia.com, réside dans l’obligation de rédiger des données massives sur disque avant qu’elles puissent être traitées. Dans des domaines comme les lignes de fabrication automatisées ou les instruments scientifiques de nouvelle génération, arriver à une conclusion critique trop tardive annule l’utilité de l’information. DAQIRI transforme ainsi tout nœud d’acquisition d’instrument en un supercalculateur périphérique apte à l’IA.

En substance, la bibliothèque agit comme une couche d’acquisition de données logicielle. Elle abstrait les opérations complexes de bas niveau, comme la gestion du réseau à haute vitesse ou le mouvement de mémoire GPU. Un développeur peut interagir avec le flux de données brut en utilisant des outils familiers comme C++ ou Python, même si le capteur en question communique via Ethernet. DAQIRI ingère alors les données sans qu’il soit nécessaire de modifier le matériel ou le logiciel du capteur lui-même.

Vue aérienne d'un laboratoire scientifique spécialisé montrant un chercheur devant des moniteurs affichant des flux de données complexes en temps réel.

De l’acquisition au calcul sur GPU

Le flux de travail est pensé pour être en amont des moteurs d’exécution en aval. DAQIRI prépare les flux UDP et RoCE v2 bruts pour les convertir en formats de mémoire accessibles par CUDA. Cela ouvre une voie propre vers des outils spécialisés de NVIDIA, tels que Holoscan pour le traitement de capteurs, TensorRT pour l’inférence optimisée, ou encore Omniverse pour la visualisation de jumeaux numériques.

Cette approche permet de ne transporter que les découvertes, et non le volume brut de données. En effectuant une réduction de données et une extraction en temps réel à la périphérie, on soulage considérablement la pression exercée sur les systèmes de stockage centraux, les infrastructures réseau locales et les ressources cloud.

Un cas d’usage illustre parfaitement cette puissance : la recherche d’extraterrestres. À l’Allen Telescope Array, par exemple, DAQIRI permet de faire entrer des téraoctets de données de capteurs directement en mémoire GPU. Le cadre de traitement CyberEther utilise ensuite les bibliothèques CUDA-X, y compris cuFFT, pour effectuer les calculs en vol. Ce système peut gérer 2,4 téraoctets par seconde en utilisant des cartes NVIDIA RTX PRO 6000 Blackwell, permettant aux agents IA d’analyser des signaux en heures ce qui prendrait des semaines aux humains.

Vers une automatisation des systèmes

Au-delà de l’analyse, DAQIRI ouvre la porte à des instruments véritablement autonomes. En connectant les lectures des capteurs directement à des modèles d’IA, il devient possible d’implémenter une triage en temps réel, des boucles de rétroaction fermées, une inspection automatisée et un comportement adaptatif du système. L’un des avantages clairs, selon developer.nvidia.com, est de pouvoir exécuter la reconstruction ou l’inférence en temps réel pendant que l’expérience ou la production est en cours.

Le chemin vers l’implémentation est rendu accessible grâce à l’abstraction des mécanismes complexes de mouvement de données. En configurant un fichier YAML, on définit le chemin de flux brut, on alloue des régions mémoire GPU spécifiques — une pour les paquets bruts (rx_packets) et une autre pour les tenseurs reconfigurés (rx_tensor) — puis on lie cette configuration à l’interface physique de réception.

Une fois cette configuration en place, le code applicatif devient minimaliste : on initialise DAQIRI, on demande le prochain paquet traité, et on a immédiatement un tenseur GPU prêt à être envoyé à un modèle ou à un noyau CUDA. Il suffit ensuite de rendre les tampons à DAQIRI pour qu’ils soient réutilisés dans le cycle suivant. Il faudra surveiller comment ces outils de traitement périphérique se greffent sur les standards industriels pour que cette promesse d’autonomie devienne une norme établie dans la science et l’industrie.

Sources

Crédits photo