NVIDIA Nemotron 3 Super 120B A12B (Q5_K_M)sur CPU Only

Q5_K_M CPU Only

Aperçu

NVIDIA Nemotron 3 Super 120B A12B est un modèle de langage moe de 123.61B paramètres par NVIDIA, avec des capacités en code, multilingual, thinking, tool-calls. Il prend en charge une fenêtre de contexte allant jusqu’à 262,144 tokens.

Nemotron 3 Super 120B A12B est un modèle hybride Mamba-2 Transformer LatentMoE de 123,61 milliards de paramètres de NVIDIA, activant 12 milliards de paramètres par token via 22 des 512 experts routés plus 1 expert partagé. Entraîné sur plus de 25 billions de tokens, il cible le raisonnement agentique, la génération de code, l'appel d'outils et la conversation multilingue dans 7 langues. Une fenêtre de contexte de 256K, un mode de raisonnement activable et la prédiction multi-tokens permettent une inférence à haut débit pour des workflows multi-agents complexes. Sa structure MoE se quantifie bien en GGUF pour un déploiement auto-hébergé sur des configurations multi-GPU.

Avec la quantification Q5_K_M (niveau de qualité medium), le modèle pèse 99.97 Go. Cela dépasse les 0 Go de VRAM de CPU Only. L'inférence reste possible via le déchargement CPU ou le chargement mappé en mémoire depuis le disque, mais avec des performances considérablement réduites.

Une configuration CPU uniquement sans acceleration GPU. L'inference s'execute entierement sur le CPU, ce qui est nettement plus lent que les configurations avec GPU, mais ne necessite aucun materiel specialise. Les performances et la taille maximale du modele dependent de la RAM disponible. Adaptee aux tests, au developpement ou aux deployments sans GPU disponible.

Configuration matérielle requise

Taille du modèle	99.97 GB
VRAM disponible	0 GB
VRAM utilisée	0 GB
RAM min requise	100 GB
Couches GPU	0 / 88
Taille du contexte	262 144
Backend	cpu
Flash attention	Non

Notes de performance

Mixture-of-Experts

Il s'agit d'un modèle Mixture-of-Experts avec 512 experts au total, dont 22 sont actifs par token. Seuls les experts actifs nécessitent un accès GPU rapide — les poids des experts inactifs peuvent résider dans la RAM système avec un impact minimal sur la vitesse de génération.

Lire le guide de déploiement MoE →

Performances réduites

88 des 88 couches s'exécutent sur le CPU. Votre système nécessite au moins 100 Go de RAM. Si la RAM système est insuffisante, les données seront lues depuis le disque à la demande, avec un impact significatif sur les performances.

Déploiement

Serveur Local

Commande

helmfile --state-values-file <(curl -s https://www.prositronic.eu/values/nemotron-3-super-120b-a12b/q5_k_m/cpu.yaml) apply

Fichier values.yaml

/values/nemotron-3-super-120b-a12b/q5_k_m/cpu.yaml

Chargement des valeurs…

Installer llama.cpp

Installez llama.cpp depuis les instructions de compilation officielles pour votre plateforme et backend.

Télécharger le modèle

curl -L -o nemotron-3-super-120b-a12b.gguf "https://huggingface.co/unsloth/NVIDIA-Nemotron-3-Super-120B-A12B-GGUF/resolve/main/UD-Q5_K_M/NVIDIA-Nemotron-3-Super-120B-A12B-UD-Q5_K_M-00001-of-00004.gguf"

Démarrer le serveur

llama-server \
  -m nemotron-3-super-120b-a12b.gguf \
  --n-gpu-layers 0 \
  --ctx-size 262144

Vérifier

curl http://localhost:8080/health

Explorer

• Configurer un déploiement
• Parcourir les modèles
• Parcourir le matériel

Autres quantifications

• NVIDIA Nemotron 3 Super 120B A12B (Q8_0)
• NVIDIA Nemotron 3 Super 120B A12B (Q4_K_M)

Autre matériel

• NVIDIA Nemotron 3 Super 120B A12B on NVIDIA A100 80GB
• NVIDIA Nemotron 3 Super 120B A12B on NVIDIA H100
• NVIDIA Nemotron 3 Super 120B A12B on NVIDIA RTX 3090

Questions fréquemment posées

De combien de VRAM NVIDIA Nemotron 3 Super 120B A12B (Q5_K_M) a-t-il besoin ?

La quantification Q5_K_M de NVIDIA Nemotron 3 Super 120B A12B nécessite 99.97 Go. Les 0 Go de VRAM de CPU Only sont insuffisants pour les couches GPU, l'inférence s'exécute donc sur le CPU.

Puis-je exécuter NVIDIA Nemotron 3 Super 120B A12B sur CPU Only ?

C'est possible mais non recommandé. CPU Only n'a pas assez de VRAM pour accélérer NVIDIA Nemotron 3 Super 120B A12B (Q5_K_M), l'inférence reposera donc sur le CPU et la RAM système.

Qu'est-ce que la quantification ?

La quantification réduit la précision numérique d'un modèle de son format virgule flottante original vers une représentation plus compacte. Cela réduit la taille du fichier et l'empreinte VRAM, rendant possible l'exécution de grands modèles sur du matériel grand public. Le compromis est une légère réduction de la qualité de sortie. Q5_K_M compresse NVIDIA Nemotron 3 Super 120B A12B de sa taille originale à 99.97 Go.

Quelle quantification choisir pour NVIDIA Nemotron 3 Super 120B A12B ?

Q5_K_M est une quantification qualité moyenne. Les quants de meilleure qualité (Q8, Q6) préservent davantage la précision du modèle mais nécessitent plus de VRAM. Les quants inférieurs (Q4, Q3, Q2) réduisent l'utilisation de la VRAM au prix d'une certaine qualité. Choisissez en fonction de votre matériel disponible et de vos exigences de qualité.

Pourquoi certaines couches sont-elles déchargées sur le CPU ?

CPU Only dispose de 0 Go de VRAM, mais NVIDIA Nemotron 3 Super 120B A12B (Q5_K_M) nécessite environ 99.97 Go. Seules 0 des 88 couches tiennent dans la VRAM ; les couches restantes s'exécutent sur le CPU, ce qui est plus lent mais fonctionnel.

Qu'est-ce que MoE et comment cela affecte-t-il le déploiement ?

NVIDIA Nemotron 3 Super 120B A12B utilise une architecture Mixture-of-Experts (MoE) avec 512 experts, dont 22 sont actifs par token. Cela signifie que seule une fraction des poids du modèle est utilisée à chaque étape d'inférence, permettant aux modèles MoE d'avoir un plus grand nombre total de paramètres tout en restant efficaces lors de l'inférence.

Dernière mise à jour : 12 mars 2026