CUDA out of memory: Falta de VRAM ou fragmentação
Um erro CUDA out of memory indica que a GPU excedeu a capacidade livre de HBM ou que o alocador PyTorch não encontrou bloco contíguo disponível.
Assinatura típica no log
torch.OutOfMemoryError: CUDA out of memory. Tried to allocate 2.00 GiB (GPU 0; 79.15 GiB total capacity; 75.80 GiB already allocated; 1.12 GiB free)Causa raiz e diferenciação de cascatas
Quando `allocated` está bem abaixo do limite da GPU e `reserved` encosta no máximo, há fragmentação. Quando ambos lotam, pesos, ativações ou cache KV passaram da memória física.
Comandos de evidência antes de reiniciar
nvidia-smi --query-compute-apps=pid,process_name,used_memory --format=csv
export PYTORCH_CUDA_ALLOC_CONF="expandable_segments:True,max_split_size_mb:128"
python3 -c "import torch; print(torch.cuda.memory_summary())"Passos seguros de triagem e correção
- Conferir a diferença entre `already allocated` e `reserved in total by PyTorch` no traceback.
- Com grande diferença reservada, definir `PYTORCH_CUDA_ALLOC_CONF=expandable_segments:True`.
- Na falta real de capacidade, ativar activation checkpointing, reduzir micro-batch ou ampliar TP/FSDP.
Analise seu log de GPU grátis para achar o primeiro erro
Endereços IP, chaves e caminhos locais são mascarados no seu navegador.
Antes de enviar, confira tratamento de dados em nuvem e opções locais offline.
Arquivos grandes são compactados no navegador. Apenas as evidências selecionadas são enviadas ao diagnóstico.
Perguntas frequentes
Por que ocorre CUDA OOM se o nvidia-smi ainda mostra VRAM livre?
A memória já reservada pode estar fragmentada sem blocos contínuos suficientes ou outro processo compartilha a mesma placa.
Como estimar quanta VRAM o modelo exige antes de rodar?
Use a calculadora gratuita em /pt/vram-calculator para calcular pesos e cache KV por contexto.
Outros guias de falhas GPU em português
Experimente o Denpex por 30 dias. GRÁTIS.
Sem cartão de crédito. Sem assinatura automática. Veja se o Denpex ajuda em um incidente que você já conhece.
Inicie sua avaliação Team gratuita de 30 dias
Até 50 diagnósticos por dia durante 30 dias. Verifique seu e-mail corporativo para ativar uma avaliação elegível, reproduza um incidente já resolvido e compare as evidências com a causa confirmada pela sua equipe.