Skip to content

Qwen 3 235B A22B Dimensionnement VRAM et Cluster GPU

Calculez dans votre navigateur l'empreinte GPU exacte de Qwen 3 235B A22B : poids, cache KV GQA/MLA et parallélisme tensoriel sur A100, H100, H200 et RTX 5090.

Architecture MoE
Paramètres totaux
235B
Poids actifs
22B
Contexte max
128k jetons
Cluster recommandé
4x H100 (80GB FP8) or 8x H100 (BF16)

Mémoire VRAM de Qwen 3 235B A22B selon la précision (Lot 1)

PrécisionPoids du modèleCache KV (8k)Activations + CUDATotal estimé
FP16 / BF16470.0 GB1.47 GB~3 GB474.5 GB
FP8 / INT8235.0 GB0.73 GB~3 GB238.7 GB
INT4 / AWQ / GPTQ117.5 GB0.73 GB~3 GB121.2 GB

Évolution du cache KV pour Qwen 3 235B A22B (FP16 / Lot 1)

Qwen 3 235B A22B repose sur Grouped-Query Attention (4 têtes KV / 64 têtes Query) et consomme le cache KV suivant selon la fenêtre de contexte :

Contexte 8k
1.47 GB
Contexte 32k
5.88 GB
Contexte 128k
23.50 GB

Calculateur VRAM interactif

Ajustez taille de lot, contexte, quantification et mode d'exécution (Inférence, LoRA ou Full Fine-Tune).

Calculateur VRAM LLM gratuit

Calculez avec précision la mémoire GPU requise pour l'inférence, le fine-tuning complet et l'entraînement LoRA. Dimensionnez votre cluster pour Llama, DeepSeek, Qwen, Mistral ou un modèle personnalisé sur GPU NVIDIA.

Paramètres du modèle et de la charge

Quantification et précision

Mode d'exécution

8,192 jetons
4,09632,76865,536131,072
1
1163264

Répartition de la VRAM

Poids du modèle470 GB
Cache KV1.47 GB
Mémoire d'activation1.18 GB
Environnement CUDA2 GB
VRAM totale requise474.64 GB

Outils développeur Denpex

Installez l'extension Denpex pour VS Code et Open VSX (plus de 2 000 installations actives) pour le diagnostic en temps réel. Analysez vos journaux hors ligne dans le navigateur avec notre analyseur de journaux GPU.

Dimensionnement matériel et recommandations GPU

Nombre minimal estimé de GPU nécessaires pour héberger 474.64 Go de VRAM avec marge pour la concurrence.

Accélérateur GPUVRAM par GPUNombre requisUtilisation estimée
NVIDIA B200192 GB3 GPU82%
NVIDIA H200141 GB4 GPU84%
NVIDIA H10080 GB6 GPU99%
NVIDIA A10080 GB6 GPU99%
NVIDIA RTX PRO 6000 Blackwell96 GB5 GPU99%
NVIDIA L40S48 GB10 GPU99%
NVIDIA RTX 509032 GB15 GPU99%
NVIDIA RTX 409024 GB20 GPU99%

Déboguer un OOM ou arrêt vLLM sur Qwen 3 235B A22B

En cas d'erreur CUDA out of memory, manque de cache KV ou timeout NCCL avec Qwen 3 235B A22B, ouvrez ces fiches en français.

Autres modèles populaires

Questions fréquentes

Quelle VRAM faut-il pour les seuls poids de Qwen 3 235B A22B ?

Les poids de Qwen 3 235B A22B demandent environ 470.0 Go en FP16, 235.0 Go en FP8/INT8 et 117.5 Go en INT4. En production, ajoutez le cache KV, les activations et la marge CUDA.

Quelle configuration GPU est recommandée pour déployer Qwen 3 235B A22B ?

La base recommandée est 4x H100 (80GB FP8) or 8x H100 (BF16) (Tensor Parallelism 4 (FP8) or TP 8 / EP 8 (BF16)). Prévoyez une marge HBM et NVLink suffisante pour absorber les requêtes longues concurrentes.

Combien pèse le cache KV FP16 de Qwen 3 235B A22B à 8k et 32k jetons ?

Pour un lot unitaire en FP16, le cache KV utilise environ 1.47 Go à 8k jetons et 5.88 Go à 32k jetons. Cette valeur est multipliée par la concurrence sous vLLM.

Essayez Denpex pendant 30 jours. GRATUIT.

Sans carte bancaire. Sans abonnement automatique. Vérifiez l'utilité de Denpex sur un incident que vous connaissez déjà.

Démarrer votre évaluation Team gratuite de 30 jours

Jusqu'à 50 diagnostics par jour pendant 30 jours. Vérifiez votre e-mail professionnel pour activer votre essai d'entreprise, rejouez un incident déjà résolu et comparez les preuves avec la cause confirmée par votre équipe.

Utilisez votre adresse d'entreprise, par exemple alex@votreentreprise.fr.

Qui est éligible ?

Tout domaine d'entreprise vérifié active l'évaluation Team gratuite de 30 jours (jusqu'à 50 diagnostics/jour), quel que soit votre hébergeur mail. En cas d'échec de vérification automatique, contactez support@denpex.com. Le diagnostic local dans l'extension éditeur ne nécessite aucun compte.

Vous utilisez une adresse personnelle (Gmail, Outlook, Orange) ou un cluster solo ? Créer un compte gratuit à 0 $ (sans e-mail pro) pour conserver 7 jours d'historique, ou envoyez un journal d'erreur pour une démonstration.