DeepSeek V3 671B Requisitos de VRAM e Cluster GPU
Calcule direto no navegador a memória GPU necessária para DeepSeek V3 671B: pesos, cache KV GQA/MLA e Tensor Parallelism em A100, H100, H200 e RTX 5090.
Uso de VRAM do DeepSeek V3 671B por precisão (Batch 1)
| Precisão | Pesos do modelo | Cache KV (8k) | Ativações + CUDA | Total estimado |
|---|---|---|---|---|
| FP16 / BF16 | 1342.0 GB | 0.54 GB | ~3 GB | 1345.5 GB |
| FP8 / INT8 | 671.0 GB | 0.27 GB | ~3 GB | 674.3 GB |
| INT4 / AWQ / GPTQ | 335.5 GB | 0.27 GB | ~3 GB | 338.8 GB |
Crescimento do cache KV no DeepSeek V3 671B (FP16 / Batch 1)
DeepSeek V3 671B usa Multi-Head Latent Attention (dimensão comprimida 576), escalando a memória KV com o tamanho do contexto assim:
Calculadora VRAM interativa
Ajuste tamanho de batch, contexto, quantização e modo (Inferência, LoRA ou Full Fine-Tune).
Calculadora gratuita de VRAM para LLM
Calcule com precisão os requisitos de memória GPU para inferência, ajuste fino completo e treinamento LoRA. Planeje a arquitetura do seu cluster para Llama, DeepSeek, Qwen e modelos personalizados em GPUs NVIDIA.
Parâmetros do modelo e carga de trabalho
Quantização e precisão
Modo de execução
Detalhamento de VRAM
Ferramentas para desenvolvedores Denpex
Instale a extensão Denpex para VS Code e Open VSX com mais de 2.000 instalações ativas. Analise logs localmente no navegador sem upload com o nosso analisador de logs GPU.
Dimensionamento de hardware e recomendações de GPU
Quantidade mínima estimada de GPUs para hospedar 1345.2 GB de VRAM com folga para concorrência.
| Acelerador GPU | VRAM por GPU | Quantidade necessária | Uso estimado |
|---|---|---|---|
| NVIDIA B200 | 192 GB | 8 GPUs | 88% |
| NVIDIA H200 | 141 GB | 10 GPUs | 95% |
| NVIDIA H100 | 80 GB | 17 GPUs | 99% |
| NVIDIA A100 | 80 GB | 17 GPUs | 99% |
| NVIDIA RTX PRO 6000 Blackwell | 96 GB | 15 GPUs | 93% |
| NVIDIA L40S | 48 GB | 29 GPUs | 97% |
| NVIDIA RTX 5090 | 32 GB | 43 GPUs | 98% |
| NVIDIA RTX 4090 | 24 GB | 57 GPUs | 98% |
Depurando OOM ou falhas vLLM ao rodar DeepSeek V3 671B
Se ocorrer CUDA out of memory, falta de cache KV ou travamento NCCL com DeepSeek V3 671B, confira estes guias em português.
Separe fragmentação de alocador da falta real de memória na GPU.
Corrija No available memory for the cache blocks ajustando TP e max_model_len.
Soluções para EngineCore morreu e limites de /dev/shm no container.
Analisador de logs offline e utilitários gratuitos em português.
Calculadoras de outros modelos populares
Perguntas frequentes
Quanta VRAM apenas os pesos do DeepSeek V3 671B consomem?
Em FP16 os pesos usam cerca de 1342.0 GB, em FP8/INT8 cerca de 671.0 GB e em INT4 cerca de 335.5 GB. Em produção, some o cache KV, ativações e margem CUDA.
Qual configuração de GPUs é recomendada para servir o DeepSeek V3 671B?
O baseline recomendado é 8x H200 (141GB) or 16x H100 (80GB) (Tensor Parallelism 8 on H200 or TP 8 / PP 2 on H100). Em contextos longos ou alta concorrência, garanta folga em HBM e largura de banda NVLink.
Quanto o cache KV FP16 do DeepSeek V3 671B consome em 8k e 32k tokens?
Com batch 1 em FP16, usa aproximadamente 0.54 GB em 8k tokens e 2.14 GB em 32k tokens, crescendo proporcionalmente às requisições simultâneas.
Experimente o Denpex por 30 dias. GRÁTIS.
Sem cartão de crédito. Sem assinatura automática. Veja se o Denpex ajuda em um incidente que você já conhece.
Inicie sua avaliação Team gratuita de 30 dias
Até 50 diagnósticos por dia durante 30 dias. Verifique seu e-mail corporativo para ativar uma avaliação elegível, reproduza um incidente já resolvido e compare as evidências com a causa confirmada pela sua equipe.