DDN et Nebul accélèrent l'inférence d'IA souveraine avec DDN Infinia

DDN Infinia aide Nebul à réutiliser le contexte des modèles sur son cloud d'IA propulsé par NVIDIA, les tests montrant des réponses en tokens près de dix fois plus rapides

BERLIN--(BUSINESS WIRE)--DDN, leader mondial des solutions d'IA et d'intelligence des données, annonce aujourd'hui au GTC Berlin 2026 que le fournisseur européen de cloud IA Nebul utilise DDN Infinia pour accélérer l'inférence d'IA de charges de travail souveraines sur son infrastructure propulsée par NVIDIA. Plus précisément, DDN Infinia sert à stocker et à réutiliser le cache clé-valeur (KV), ce qui réduit le travail GPU nécessaire pour servir les modèles d'IA.

Lors des tests, DDN a aidé les charges de travail d'IA souveraine de Nebul à trouver des réponses plus rapidement et à moindre coût :

• Temps d'obtention du premier token près de dix fois plus rapide avec DDN Infinia que le cache propre à Nebul sur CPU et en mémoire.
• Réponses de tokens jusqu'à cinq fois plus rapides que les solutions alternatives.
• 2,5 fois plus de tokens d'entrée par seconde à partir des mêmes GPU.
• Coût par million de tokens d'entrée près de 60 % inférieur en rechargeant le contexte au lieu de le recalculer.

Les tests ont couvert des charges de travail allant de courtes invites à de grands contextes en jetons sous une demande concurrente. Nebul a mesuré les résultats sur ses propres plateformes, avec les mêmes huit GPU, le même modèle et les mêmes charges de travail des deux côtés.

À mesure que l'IA entre en production, la performance d'inférence dépend de plus en plus de l'efficacité avec laquelle l'infrastructure peut préserver et réutiliser le travail déjà réalisé par les GPU. Infinia stocke le cache KV afin qu'il soit accessible à l'ensemble du parc de GPU plutôt que de rester lié à un seul serveur GPU. Si un GPU est remplacé ou qu'une charge de travail est replanifiée, le contexte précédemment généré peut être restauré, pour autant que la clé demeure disponible, plutôt que reconstruit à partir de zéro.

« Chaque fois qu'un GPU reconstruit un contexte qu'il a déjà traité, il consacre des cycles à répéter du travail », déclare Alex Bouzari, CEO et cofondateur de DDN. « En rendant ce contexte accessible sur l'ensemble du parc de GPU de Nebul, Infinia contribue à offrir une inférence plus rapide et un usage plus productif de la capacité GPU, tout en gardant les données à l'intérieur de l'environnement souverain. »

Garder le contexte d'IA disponible sur l'ensemble du parc de GPU

DDN Infinia étend les contrôles de données de Nebul au cache KV utilisé pendant l'inférence. La portée locataire, sous-locataire et jeu de données reste attachée au contexte stocké, tandis que la capacité de cache peut être gérée sans interrompre l'inférence.

Dans les environnements multilocataires, DDN Infinia aide Nebul à :

• Restaurer le contexte des modèles sur l'ensemble du parc de GPU : Infinia stocke les blocs KV en dehors des serveurs GPU individuels, de sorte que le contexte précédemment généré peut être restauré lorsque la clé demeure disponible.
• Maintenir l'isolement des données des locataires : la portée locataire, sous-locataire et jeu de données fait partie de l'espace de noms des clés, de sorte que le contexte sauvegardé reste isolé entre locataires.
• Gérer la pression sur le cache sans interrompre l'inférence : Infinia applique des politiques d'éviction au niveau du jeu de données et du locataire à mesure que la capacité se remplit, ce qui permet à l'inférence de se poursuivre pendant que les données de cache plus anciennes sont supprimées.

« La souveraineté de l'IA ne devrait pas se faire au détriment de la performance », déclare Arnold Juffer, CEO de Nebul. « Avec DDN Infinia, nous pouvons réutiliser le contexte des modèles sur l'ensemble de notre infrastructure GPU au lieu de consacrer de précieux cycles GPU à le recalculer. Cela rend l'inférence plus rapide et plus efficiente tout en gardant la totalité de la charge de travail d'IA à l'intérieur de l'environnement souverain. »

Soutenir les charges de travail d'IA souveraine en environnement d'entreprise

Les clients de Nebul illustrent les types de charges de travail d'IA réglementées et propriétaires qui alimentent la demande d'infrastructures d'IA souveraines.

Centric, société européenne de premier plan en TI et en logiciels dont les solutions soutiennent environ 70 % des municipalités néerlandaises, utilise Nebul pour exécuter l'inférence de modèles d'IA souverains avec une sécurité et une observabilité de calibre entreprise. En gardant les charges de travail d'IA et les données à l'intérieur de l'infrastructure européenne de Nebul, Centric peut intégrer l'IA à ses logiciels et services tout en conservant le contrôle, la sécurité et la visibilité opérationnelle qu'exigent les environnements du secteur public.

Leukeleu, établie à Utrecht, exécute son assistant d'IA privé, SureGPT, sur Nebul tout en laissant les données de chaque client sous le contrôle de ce client. SureGPT est conçu pour les organisations qui veulent utiliser l'IA sur des documents internes tels que des stratégies de conseil, des modèles financiers, des feuilles de route produit et d'autres renseignements propriétaires, tout en gardant les données de chaque client sous le contrôle de ce client.

Pour de plus amples renseignements à propos de DDN Infinia, rendez-vous sur www.ddn.com.

À propos de DDN

DDN est le premier fournisseur mondial de plateformes de stockage et de gestion de données pour l'IA, portant plus de 20 ans d'innovation dans le calcul haute performance, l'entreprise et les plus grands déploiements d'IA au monde. Avec ses plateformes EXA, Infinia et de gestion intelligente des données, DDN offre des performances, une échelle et une valeur commerciale inégalées aux clients qui bâtissent les usines d'IA de nouvelle génération, les clouds hyperscale et les initiatives d'IA souveraine. DDN est le partenaire de confiance de milliers d'entreprises parmi les plus gourmandes en données au monde, notamment les principaux laboratoires nationaux, institutions de recherche, entreprises, hyperscalers, sociétés financières et innovateurs en véhicules autonomes. Pour plus d'informations, consultez www.ddn.com.

À propos de Nebul

Nebul est le cloud intelligent européen : une plateforme intégrée d'IA et d'infonuagique qui réunit l'intelligence, l'infrastructure et la prestation. L'entreprise aide les organisations à transformer leurs données, leurs connaissances et leur expertise en une intelligence qu'elles détiennent et contrôlent. En tant que partenaire Elite de NVIDIA, Nebul exploite une infrastructure SuperCluster bâtie sur le calcul accéléré NVIDIA, conçue pour les charges de travail exigeantes d'entraînement et d'inférence. Elle y associe des modèles, des capacités de données, des applications d'IA et du soutien en ingénierie, accompagnant ses clients de la mise en œuvre à la production et à l'usage soutenu. Nebul est conçu et exploité en Europe. Ouvert sur le monde. Pour plus d'informations : nebul.com

Suivez Nebul : LinkedIn, X et YouTube

Suivez DDN : LinkedIn, X et YouTube

Le texte du communiqué issu d’une traduction ne doit d’aucune manière être considéré comme officiel. La seule version du communiqué qui fasse foi est celle du communiqué dans sa langue d’origine. La traduction devra toujours être confrontée au texte source, qui fera jurisprudence.