Skip to content

DeepSeek V4 Pro Requisitos de VRAM e Cluster GPU

Calcule direto no navegador a memória GPU necessária para DeepSeek V4 Pro: pesos, cache KV GQA/MLA e Tensor Parallelism em A100, H100, H200 e RTX 5090.

Arquitetura MoE
Parâmetros totais
1600B
Pesos ativos
49B
Contexto máximo
1024k tokens
Cluster recomendado
8x B200 (192GB) (INT4) or 16x H200 (141GB) (FP8)

Uso de VRAM do DeepSeek V4 Pro por precisão (Batch 1)

PrecisãoPesos do modeloCache KV (16k)Ativações + CUDATotal estimado
FP16 / BF163200.0 GB30.50 GB~3 GB3233.5 GB
FP8 / INT81600.0 GB15.25 GB~3 GB1618.3 GB
INT4 / AWQ / GPTQ800.0 GB15.25 GB~3 GB818.3 GB

Crescimento do cache KV no DeepSeek V4 Pro (FP16 / Batch 1)

DeepSeek V4 Pro usa Multi-Head Attention padrão, escalando a memória KV com o tamanho do contexto assim:

Contexto 8k
15.25 GB
Contexto 32k
61.00 GB
Contexto 128k
244.00 GB

Calculadora VRAM interativa

Ajuste tamanho de batch, contexto, quantização e modo (Inferência, LoRA ou Full Fine-Tune).

Calculadora gratuita de VRAM para LLM

Calcule com precisão os requisitos de memória GPU para inferência, ajuste fino completo e treinamento LoRA. Planeje a arquitetura do seu cluster para Llama, DeepSeek, Qwen e modelos personalizados em GPUs NVIDIA.

Parâmetros do modelo e carga de trabalho

Quantização e precisão

Modo de execução

8,192 tokens
4,09632,76865,536131,072
1
1163264

Detalhamento de VRAM

Pesos do modelo3200 GB
Cache KV15.25 GB
Overhead de ativação0.76 GB
Runtime CUDA2 GB
VRAM total necessária3218.01 GB

Ferramentas para desenvolvedores Denpex

Instale a extensão Denpex para VS Code e Open VSX com mais de 2.000 instalações ativas. Analise logs localmente no navegador sem upload com o nosso analisador de logs GPU.

Dimensionamento de hardware e recomendações de GPU

Quantidade mínima estimada de GPUs para hospedar 3218.01 GB de VRAM com folga para concorrência.

Acelerador GPUVRAM por GPUQuantidade necessáriaUso estimado
NVIDIA B200192 GB17 GPUs99%
NVIDIA H200141 GB23 GPUs99%
NVIDIA H10080 GB41 GPUs98%
NVIDIA A10080 GB41 GPUs98%
NVIDIA RTX PRO 6000 Blackwell96 GB34 GPUs99%
NVIDIA L40S48 GB68 GPUs99%
NVIDIA RTX 509032 GB101 GPUs100%
NVIDIA RTX 409024 GB135 GPUs99%

Depurando OOM ou falhas vLLM ao rodar DeepSeek V4 Pro

Se ocorrer CUDA out of memory, falta de cache KV ou travamento NCCL com DeepSeek V4 Pro, confira estes guias em português.

Calculadoras de outros modelos populares

Perguntas frequentes

Quanta VRAM apenas os pesos do DeepSeek V4 Pro consomem?

Em FP16 os pesos usam cerca de 3200.0 GB, em FP8/INT8 cerca de 1600.0 GB e em INT4 cerca de 800.0 GB. Em produção, some o cache KV, ativações e margem CUDA.

Qual configuração de GPUs é recomendada para servir o DeepSeek V4 Pro?

O baseline recomendado é 8x B200 (192GB) (INT4) or 16x H200 (141GB) (FP8) (Tensor Parallelism 8 with Expert Parallelism 8 or Pipeline Parallelism 2). Em contextos longos ou alta concorrência, garanta folga em HBM e largura de banda NVLink.

Quanto o cache KV FP16 do DeepSeek V4 Pro consome em 8k e 32k tokens?

Com batch 1 em FP16, usa aproximadamente 15.25 GB em 8k tokens e 61.00 GB em 32k tokens, crescendo proporcionalmente às requisições simultâneas.

Experimente o Denpex por 30 dias. GRÁTIS.

Sem cartão de crédito. Sem assinatura automática. Veja se o Denpex ajuda em um incidente que você já conhece.

Inicie sua avaliação Team gratuita de 30 dias

Até 50 diagnósticos por dia durante 30 dias. Verifique seu e-mail corporativo para ativar uma avaliação elegível, reproduza um incidente já resolvido e compare as evidências com a causa confirmada pela sua equipe.

Use seu e-mail da empresa, por exemplo alex@suaempresa.com.

Quem é elegível?

Domínios corporativos ativam a avaliação gratuita de 30 dias após a verificação do e-mail e domínio. Se a validação automática falhar, fale com support@denpex.com. O diagnóstico local na extensão do editor dispensa conta.

Usando e-mail pessoal (Gmail, Outlook) ou cluster solo? Criar conta gratuita de $0 (não exige e-mail corporativo) para salvar histórico de 7 dias, ou envie um log de falha para demonstração ao vivo.