Qwen3.5 35B A3B (Q8_K_XL)sur CPU Only

Q8_K_XL CPU Only

Aperçu

Qwen3.5 35B A3B est un modèle de langage moe de 35.95B paramètres par Qwen, avec des capacités en code, multilingual, thinking, tool-calls, vision. Il prend en charge une fenêtre de contexte allant jusqu’à 262,144 tokens.

Qwen3.5 35B A3B est un modèle « Mixture-of-Experts » de l'équipe Qwen d'Alibaba avec 35 milliards de paramètres totaux mais seulement 3 milliards actifs par token, répartis sur 256 experts pour une efficacité extrême. Il est nativement multimodal, traitant texte, images et vidéo, avec des capacités de réflexion intégrées pour le raisonnement « chain-of-thought ». Le modèle prend en charge une fenêtre de contexte de 262K et couvre plus de 200 langues. Publié sous licence Apache 2.0, il offre des performances de premier plan à une fraction du coût de calcul, se quantifiant efficacement pour un déploiement auto-hébergé sur du matériel grand public.

Avec la quantification Q8_K_XL (niveau de qualité high), le modèle pèse 36.04 Go. Cela dépasse les 0 Go de VRAM de CPU Only. L'inférence reste possible via le déchargement CPU ou le chargement mappé en mémoire depuis le disque, mais avec des performances considérablement réduites.

Une configuration CPU uniquement sans acceleration GPU. L'inference s'execute entierement sur le CPU, ce qui est nettement plus lent que les configurations avec GPU, mais ne necessite aucun materiel specialise. Les performances et la taille maximale du modele dependent de la RAM disponible. Adaptee aux tests, au developpement ou aux deployments sans GPU disponible.

Configuration matérielle requise

Taille du modèle	36.04 GB
VRAM disponible	0 GB
VRAM utilisée	0 GB
RAM min requise	36 GB
Couches GPU	0 / 40
Taille du contexte	262 144
Backend	cpu
Flash attention	Non

Notes de performance

Mixture-of-Experts

Il s'agit d'un modèle Mixture-of-Experts avec 256 experts au total, dont 8 sont actifs par token. Seuls les experts actifs nécessitent un accès GPU rapide — les poids des experts inactifs peuvent résider dans la RAM système avec un impact minimal sur la vitesse de génération.

Lire le guide de déploiement MoE →

Performances réduites

40 des 40 couches s'exécutent sur le CPU. Votre système nécessite au moins 36 Go de RAM. Si la RAM système est insuffisante, les données seront lues depuis le disque à la demande, avec un impact significatif sur les performances.

Déploiement

Serveur Local

Commande

helmfile --state-values-file <(curl -s https://www.prositronic.eu/values/qwen3-5-35b-a3b/q8_k_xl/cpu.yaml) apply

Fichier values.yaml

/values/qwen3-5-35b-a3b/q8_k_xl/cpu.yaml

Chargement des valeurs…

Installer llama.cpp

Installez llama.cpp depuis les instructions de compilation officielles pour votre plateforme et backend.

Télécharger le modèle

curl -L -o qwen3-5-35b-a3b.gguf "https://huggingface.co/unsloth/Qwen3.5-35B-A3B-GGUF/resolve/main/Qwen3.5-35B-A3B-UD-Q8_K_XL.gguf"

Démarrer le serveur

llama-server \
  -m qwen3-5-35b-a3b.gguf \
  --n-gpu-layers 0 \
  --ctx-size 262144

Vérifier

curl http://localhost:8080/health

Explorer

• Configurer un déploiement
• Parcourir les modèles
• Parcourir le matériel

Autres quantifications

• Qwen3.5 35B A3B (Q4_K_M)

Autre matériel

• Qwen3.5 35B A3B on NVIDIA A100 80GB
• Qwen3.5 35B A3B on NVIDIA H100
• Qwen3.5 35B A3B on NVIDIA RTX 3090

Questions fréquemment posées

De combien de VRAM Qwen3.5 35B A3B (Q8_K_XL) a-t-il besoin ?

La quantification Q8_K_XL de Qwen3.5 35B A3B nécessite 36.04 Go. Les 0 Go de VRAM de CPU Only sont insuffisants pour les couches GPU, l'inférence s'exécute donc sur le CPU.

Puis-je exécuter Qwen3.5 35B A3B sur CPU Only ?

C'est possible mais non recommandé. CPU Only n'a pas assez de VRAM pour accélérer Qwen3.5 35B A3B (Q8_K_XL), l'inférence reposera donc sur le CPU et la RAM système.

Qu'est-ce que la quantification ?

La quantification réduit la précision numérique d'un modèle de son format virgule flottante original vers une représentation plus compacte. Cela réduit la taille du fichier et l'empreinte VRAM, rendant possible l'exécution de grands modèles sur du matériel grand public. Le compromis est une légère réduction de la qualité de sortie. Q8_K_XL compresse Qwen3.5 35B A3B de sa taille originale à 36.04 Go.

Quelle quantification choisir pour Qwen3.5 35B A3B ?

Q8_K_XL est une quantification haute qualité. Les quants de meilleure qualité (Q8, Q6) préservent davantage la précision du modèle mais nécessitent plus de VRAM. Les quants inférieurs (Q4, Q3, Q2) réduisent l'utilisation de la VRAM au prix d'une certaine qualité. Choisissez en fonction de votre matériel disponible et de vos exigences de qualité.

Pourquoi certaines couches sont-elles déchargées sur le CPU ?

CPU Only dispose de 0 Go de VRAM, mais Qwen3.5 35B A3B (Q8_K_XL) nécessite environ 36.04 Go. Seules 0 des 40 couches tiennent dans la VRAM ; les couches restantes s'exécutent sur le CPU, ce qui est plus lent mais fonctionnel.

Qu'est-ce que MoE et comment cela affecte-t-il le déploiement ?

Qwen3.5 35B A3B utilise une architecture Mixture-of-Experts (MoE) avec 256 experts, dont 8 sont actifs par token. Cela signifie que seule une fraction des poids du modèle est utilisée à chaque étape d'inférence, permettant aux modèles MoE d'avoir un plus grand nombre total de paramètres tout en restant efficaces lors de l'inférence.

Comment exécuter Qwen3.5 35B A3B (Q8_K_XL) avec Ollama ?

Exécutez ollama run qwen3.5:35b-a3b-q8_k_xl pour démarrer Qwen3.5 35B A3B (Q8_K_XL). Ollama télécharge automatiquement les poids du modèle au premier lancement.

Dernière mise à jour : 13 mars 2026