NVIDIA Nemotron 3.5 : l'IA moins chère qui change tout
NVIDIA mise sur Nemotron 3.5 pour réduire le coût de l'inférence IA. Découvrez comment ce détail technique accélère l'adoption de l'IA.
Quand on pense à NVIDIA, on imagine des puces, des data centers, des chiffres qui donnent le vertige. Mais la sortie de Nemotron 3.5 raconte une autre histoire, plus subtile. Une entreprise dont le business repose sur la vente de calcul a tout intérêt à rendre l'inférence moins chère. Pas par générosité : parce que chaque appel de modèle moins coûteux multiplie le nombre d'appels, donc la demande de calcul. Vous voyez le paradoxe ? NVIDIA n'a pas besoin que son modèle domine le marché. Il a besoin que toujours plus d'entreprises construisent et fassent tourner de l'IA.
Un modèle pensé pour l'économie de l'inférence
Le modèle s'appelle Nemotron 3.5 Super VL. Il affiche 120 milliards de paramètres, mais n'en active que 12 milliards par token grâce à une architecture hybride Mamba-Transformer de type Mixture-of-Experts. Il gère le texte, les images, la vidéo et jusqu'à un million de tokens de contexte. Sur le papier, c'est solide. Mais ce n'est pas là que se joue la vraie différence.
Le détail qui change tout : le décodage spéculatif natif
Un modèle de langage génère normalement un token à la fois. Le décodage spéculatif propose plusieurs tokens d'avance, puis les vérifie ensemble. NVIDIA intègre cette prédiction multi-tokens directement dans le modèle, au lieu de dépendre d'un drafter séparé, et l'entraîne spécifiquement pour améliorer le taux d'acceptation. Cette approche était déjà présente dans Nemotron 3 Super ; la version 3.5 la pousse plus loin avec un pré-entraînement de 100 milliards de tokens dédié à la prédiction et une optimisation supplémentaire de l'acceptation.
Résultat : la longueur moyenne de brouillon acceptée passe de 3,79 à 4,61 tokens, soit environ 22 % de plus par cycle de vérification. Combiné à l'activation parcimonieuse, au cache d'état hybride et à la quantification NVFP4, NVIDIA annonce 2,43 fois le débit de service du BF16 sur sa charge de travail interactive évaluée. Artificial Analysis a de son côté observé environ 630 tokens de sortie par seconde avec un prompt de 100K tokens sur un endpoint de pré-lancement.
Pourquoi cette obsession du coût parle de l'avenir agentique
Un agent ne fait pas un seul appel à un modèle. Il en fait des centaines : récupérer des documents, utiliser des outils, vérifier des résultats, corriger des erreurs. Le coût de ces étapes intermédiaires détermine ce qui est économiquement viable. Si chaque appel coûte cher, les agents restent des démonstrations. S'il devient négligeable, ils deviennent des produits.
Chaque entreprise a sa propre stratégie pour monétiser l'IA : Anthropic parie sur l'automatisation du travail coûteux, OpenAI sur la distribution et la monétisation de l'intelligence, Meta sur l'amélioration de ses activités existantes. NVIDIA joue une carte différente. Il ne cherche pas à gagner la course aux modèles. Il veut que la couche d'inférence soit assez bon marché pour que tout le monde se lance.
Ce que vous pouvez en retenir concrètement
Si vous concevez ou utilisez des systèmes d'IA, cette annonce a des implications directes :
- Le coût par token devient un critère de conception aussi important que la qualité brute.
- Les architectures hybrides et le décodage spéculatif natif réduisent la facture sans sacrifier la capacité.
- Les agents deviennent réalistes quand leurs boucles d'appels intermédiaires sont bon marché.
- Un long contexte abordable ouvre la porte à des cas d'usage qui restaient trop chers hier.
Pourquoi c'est important
Parce que la vraie bataille de l'IA ne se joue pas seulement sur qui a le meilleur modèle, mais sur qui rend l'intelligence assez abordable pour être partout. Comprendre cette logique vous aide à mieux choisir vos outils, à anticiper les coûts et à repérer les innovations qui comptent vraiment pour votre travail.
Conclusion
NVIDIA nous rappelle une vérité simple : l'innovation la plus utile n'est pas toujours la plus spectaculaire. Rendre l'inférence moins chère, c'est rendre l'IA plus accessible, plus fréquente, plus intégrée. Et c'est peut-être là que se construit l'avenir agentique dont tout le monde parle. La prochaine fois que vous évaluez un modèle, regardez aussi le prix de chaque token. C'est souvent lui qui décide de ce que vous pourrez réellement construire.
Points clés à retenir
- Nemotron 3.5 Super VL active seulement 12 milliards de paramètres sur 120, ce qui réduit le coût par token.
- Le décodage spéculatif natif augmente d'environ 22 % la longueur de brouillon acceptée par cycle.
- NVIDIA annonce 2,43 fois le débit du BF16 sur sa charge de travail interactive évaluée.
- La stratégie de NVIDIA vise à faire baisser le coût de l'inférence pour multiplier les usages de l'IA.
- Les agents deviennent viables quand leurs centaines d'appels intermédiaires coûtent peu.