Skip to content

DeepSeek V3 671B Requisitos de VRAM e Cluster GPU

Calcule direto no navegador a memória GPU necessária para DeepSeek V3 671B: pesos, cache KV GQA/MLA e Tensor Parallelism em A100, H100, H200 e RTX 5090.

Arquitetura MoE
Parâmetros totais
671B
Pesos ativos
37B
Contexto máximo
128k tokens
Cluster recomendado
8x H200 (141GB) or 16x H100 (80GB)

Uso de VRAM do DeepSeek V3 671B por precisão (Batch 1)

PrecisãoPesos do modeloCache KV (8k)Ativações + CUDATotal estimado
FP16 / BF161342.0 GB0.54 GB~3 GB1345.5 GB
FP8 / INT8671.0 GB0.27 GB~3 GB674.3 GB
INT4 / AWQ / GPTQ335.5 GB0.27 GB~3 GB338.8 GB

Crescimento do cache KV no DeepSeek V3 671B (FP16 / Batch 1)

DeepSeek V3 671B usa Multi-Head Latent Attention (dimensão comprimida 576), escalando a memória KV com o tamanho do contexto assim:

Contexto 8k
0.54 GB
Contexto 32k
2.14 GB
Contexto 128k
8.58 GB

Calculadora VRAM interativa

Ajuste tamanho de batch, contexto, quantização e modo (Inferência, LoRA ou Full Fine-Tune).

Calculadora gratuita de VRAM para LLM

Calcule com precisão os requisitos de memória GPU para inferência, ajuste fino completo e treinamento LoRA. Planeje a arquitetura do seu cluster para Llama, DeepSeek, Qwen e modelos personalizados em GPUs NVIDIA.

Parâmetros do modelo e carga de trabalho

Quantização e precisão

Modo de execução

8,192 tokens
4,09632,76865,536131,072
1
1163264

Detalhamento de VRAM

Pesos do modelo1342 GB
Cache KV0.54 GB
Overhead de ativação0.67 GB
Runtime CUDA2 GB
VRAM total necessária1345.2 GB

Ferramentas para desenvolvedores Denpex

Instale a extensão Denpex para VS Code e Open VSX com mais de 2.000 instalações ativas. Analise logs localmente no navegador sem upload com o nosso analisador de logs GPU.

Dimensionamento de hardware e recomendações de GPU

Quantidade mínima estimada de GPUs para hospedar 1345.2 GB de VRAM com folga para concorrência.

Acelerador GPUVRAM por GPUQuantidade necessáriaUso estimado
NVIDIA B200192 GB8 GPUs88%
NVIDIA H200141 GB10 GPUs95%
NVIDIA H10080 GB17 GPUs99%
NVIDIA A10080 GB17 GPUs99%
NVIDIA RTX PRO 6000 Blackwell96 GB15 GPUs93%
NVIDIA L40S48 GB29 GPUs97%
NVIDIA RTX 509032 GB43 GPUs98%
NVIDIA RTX 409024 GB57 GPUs98%

Depurando OOM ou falhas vLLM ao rodar DeepSeek V3 671B

Se ocorrer CUDA out of memory, falta de cache KV ou travamento NCCL com DeepSeek V3 671B, confira estes guias em português.

Calculadoras de outros modelos populares

Perguntas frequentes

Quanta VRAM apenas os pesos do DeepSeek V3 671B consomem?

Em FP16 os pesos usam cerca de 1342.0 GB, em FP8/INT8 cerca de 671.0 GB e em INT4 cerca de 335.5 GB. Em produção, some o cache KV, ativações e margem CUDA.

Qual configuração de GPUs é recomendada para servir o DeepSeek V3 671B?

O baseline recomendado é 8x H200 (141GB) or 16x H100 (80GB) (Tensor Parallelism 8 on H200 or TP 8 / PP 2 on H100). Em contextos longos ou alta concorrência, garanta folga em HBM e largura de banda NVLink.

Quanto o cache KV FP16 do DeepSeek V3 671B consome em 8k e 32k tokens?

Com batch 1 em FP16, usa aproximadamente 0.54 GB em 8k tokens e 2.14 GB em 32k tokens, crescendo proporcionalmente às requisições simultâneas.

Experimente o Denpex por 30 dias. GRÁTIS.

Sem cartão de crédito. Sem assinatura automática. Veja se o Denpex ajuda em um incidente que você já conhece.

Inicie sua avaliação Team gratuita de 30 dias

Até 50 diagnósticos por dia durante 30 dias. Verifique seu e-mail corporativo para ativar uma avaliação elegível, reproduza um incidente já resolvido e compare as evidências com a causa confirmada pela sua equipe.

Use seu e-mail da empresa, por exemplo alex@suaempresa.com.

Quem é elegível?

Domínios corporativos ativam a avaliação gratuita de 30 dias após a verificação do e-mail e domínio. Se a validação automática falhar, fale com support@denpex.com. O diagnóstico local na extensão do editor dispensa conta.

Usando e-mail pessoal (Gmail, Outlook) ou cluster solo? Criar conta gratuita de $0 (não exige e-mail corporativo) para salvar histórico de 7 dias, ou envie um log de falha para demonstração ao vivo.