Skip to content
Memória GPU / Fragmentação

CUDA out of memory: Falta de VRAM ou fragmentação

Um erro CUDA out of memory indica que a GPU excedeu a capacidade livre de HBM ou que o alocador PyTorch não encontrou bloco contíguo disponível.

Assinatura típica no log

torch.OutOfMemoryError: CUDA out of memory. Tried to allocate 2.00 GiB (GPU 0; 79.15 GiB total capacity; 75.80 GiB already allocated; 1.12 GiB free)

Causa raiz e diferenciação de cascatas

Quando `allocated` está bem abaixo do limite da GPU e `reserved` encosta no máximo, há fragmentação. Quando ambos lotam, pesos, ativações ou cache KV passaram da memória física.

Comandos de evidência antes de reiniciar

nvidia-smi --query-compute-apps=pid,process_name,used_memory --format=csv
export PYTORCH_CUDA_ALLOC_CONF="expandable_segments:True,max_split_size_mb:128"
python3 -c "import torch; print(torch.cuda.memory_summary())"

Passos seguros de triagem e correção

  1. Conferir a diferença entre `already allocated` e `reserved in total by PyTorch` no traceback.
  2. Com grande diferença reservada, definir `PYTORCH_CUDA_ALLOC_CONF=expandable_segments:True`.
  3. Na falta real de capacidade, ativar activation checkpointing, reduzir micro-batch ou ampliar TP/FSDP.
Diagnóstico ao vivo sem cadastro

Analise seu log de GPU grátis para achar o primeiro erro

Endereços IP, chaves e caminhos locais são mascarados no seu navegador.

Antes de enviar, confira tratamento de dados em nuvem e opções locais offline.

training_logs.txt
Não tem um log à mão? Escolha um exemplo:

Arquivos grandes são compactados no navegador. Apenas as evidências selecionadas são enviadas ao diagnóstico.

3 diagnósticos em nuvem grátis por dia

Perguntas frequentes

Por que ocorre CUDA OOM se o nvidia-smi ainda mostra VRAM livre?

A memória já reservada pode estar fragmentada sem blocos contínuos suficientes ou outro processo compartilha a mesma placa.

Como estimar quanta VRAM o modelo exige antes de rodar?

Use a calculadora gratuita em /pt/vram-calculator para calcular pesos e cache KV por contexto.

Outros guias de falhas GPU em português

Documentação técnica completa em inglês:Abrir referência completa em inglês

Experimente o Denpex por 30 dias. GRÁTIS.

Sem cartão de crédito. Sem assinatura automática. Veja se o Denpex ajuda em um incidente que você já conhece.

Inicie sua avaliação Team gratuita de 30 dias

Até 50 diagnósticos por dia durante 30 dias. Verifique seu e-mail corporativo para ativar uma avaliação elegível, reproduza um incidente já resolvido e compare as evidências com a causa confirmada pela sua equipe.

Use seu e-mail da empresa, por exemplo alex@suaempresa.com.

Quem é elegível?

Domínios corporativos ativam a avaliação gratuita de 30 dias após a verificação do e-mail e domínio. Se a validação automática falhar, fale com support@denpex.com. O diagnóstico local na extensão do editor dispensa conta.

Usando e-mail pessoal (Gmail, Outlook) ou cluster solo? Criar conta gratuita de $0 (não exige e-mail corporativo) para salvar histórico de 7 dias, ou envie um log de falha para demonstração ao vivo.