Kostenlose Diagnose- und Rechen-Tools für GPU-Cluster
Lokale Log-Parser, Diagnose-Referenzen und Kapazitätsrechner ohne Konto und ohne Upload sensibler Daten. Jedes Tool zeigt nachvollziehbare Evidenz und den nächsten Triage-Schritt.
Nutzen Sie NVIDIA Compute Sanitizer? Minimale CUDA-Reproduktion & Memcheck-Anleitung zeigt isolierte Prüfkommandos für Ihren Workload-Host außerhalb des Browsers.
- Browser-Log-Analyse ohne Daten-Upload
Offline GPU-Log-Analyzer
Analysieren Sie große PyTorch-, NCCL-, vLLM- und Slurm-Logs lokal im Browser und trennen Sie Rank-Kaskaden, OOM und Hardware-Signale.
Offline GPU-Log-Analyzer öffnen - Passende Treiber, CUDA, Torch & FlashAttention
CUDA-, Treiber- & PyTorch-Kompatibilität
Ermitteln Sie kompatible NVIDIA-Treiber, CUDA-Toolkits und pip-/uv-/Docker-Kommandos ohne ABI-Konflikte.
CUDA-, Treiber- & PyTorch-Kompatibilität öffnen - Hardware, Software oder weitere Beweise
NVIDIA Xid-Fehlercode-Hub
Ordnen Sie NVRM Xid 79, 74 und 48 korrekt ein und sichern Sie UUID sowie dmesg vor jedem Reset.
NVIDIA Xid-Fehlercode-Hub öffnen - Erstes Signal statt letztem Watchdog-Timeout
NCCL Log-Decoder
Klassifiziert Bootstrap-, RDMA-Transport-, Duplicate-GPU- und Watchdog-Meldungen über alle Ranks.
NCCL Log-Decoder öffnen - Statusausgabe in verwertbare Evidenz wandeln
nvidia-smi Parser
Parst Speicher, Temperatur, Leistung, ECC-Zähler und Row-Remapper lokal direkt aus nvidia-smi Berichten.
nvidia-smi Parser öffnen - Fragmentierung von echtem Speichermangel trennen
PyTorch CUDA OOM Triage
Vergleicht reservierte und belegte Allokator-Pools und liefert PYTORCH_CUDA_ALLOC_CONF Empfehlungen.
PyTorch CUDA OOM Triage öffnen - Ungültige Speicherzugriffe und Race Conditions isolieren
Compute Sanitizer & Memcheck
Rezepte für memcheck, racecheck und synccheck vor kollektiven NCCL-Timeouts.
Compute Sanitizer & Memcheck öffnen - MFU, Durchsatz und Laufzeit auf H100/H200/B200
LLM-Trainingszeit & Cluster-Rechner
Schätzen Sie FLOPs, Model FLOPs Utilization und Trainingsdauer über Multi-Node-Cluster.
LLM-Trainingszeit & Cluster-Rechner öffnen - Gewichte, GQA/MLA KV-Cache & Tensor-Parallelismus
LLM VRAM-Rechner (Deutsch)
Berechnen Sie FP16-, FP8- und INT4-Speicherbedarf für DeepSeek, Llama, Qwen und Gemma auf A100, H100, H200 und RTX 5090.
LLM VRAM-Rechner (Deutsch) öffnen - Actor-, Reference-Policy & vLLM-Rollout HBM
GRPO & RL Post-Training VRAM-Rechner
Dimensioniert FSDP-Aktoren, Referenzmodelle und KV-Cache-Reserve für GRPO, DAPO und PPO.
GRPO & RL Post-Training VRAM-Rechner öffnen - Latenz, Parallelität und Speicherbudget planen
LLM Inferenz-Durchsatz & KV-Sizer
Schätzen Sie Token-Latenz, Prefill-Durchsatz und maximale Batch-Nebenläufigkeit im Serving.
LLM Inferenz-Durchsatz & KV-Sizer öffnen - NCCL-Interfaces und RoCE-Parameter prüfen
RoCEv2 & InfiniBand GID-Rechner
Bestimmt GID-Indizes und Pufferanforderungen für RoCEv2- und InfiniBand-Fabrics.
RoCEv2 & InfiniBand GID-Rechner öffnen - Partitionierter Speicher in ZeRO Stage 1, 2 und 3
DeepSpeed ZeRO & LoRA Rechner
Berechnet Parameter-, Gradienten- und Optimizer-Speicher beim verteilten Training.
DeepSpeed ZeRO & LoRA Rechner öffnen - Produktionsreife K8s-Manifeste & /dev/shm Linter
Kubernetes GPU Job Generator
Erstellt saubere Ressourcenlimits, Node-Selectors, Tolerations und Shared-Memory-Mounts.
Kubernetes GPU Job Generator öffnen - Datacenter GPU Manager & Busfehler dekodieren
DCGM & PCIe AER Decoder
Identifiziert PCIe-Link-Retrainings, thermische Limits und DCGM-Health-Signale im Log.
DCGM & PCIe AER Decoder öffnen - Cluster-Stillstand und Wiederherstellungszeiten bewerten
GPU-Ausfallkosten-Rechner
Modelliert Ausfallstunden, unproduktive Compute-Kosten und Einsparpotenzial durch schnellere Triage.
GPU-Ausfallkosten-Rechner öffnen - Saubere sbatch-Skripte für FSDP & Megatron
Slurm Multi-Node Generator
Generiert sbatch-Vorlagen mit korrekter GPU-Bindung, CPU-Affinität und NCCL-Umgebung.
Slurm Multi-Node Generator öffnen - Fabric-Fehlkonfigurationen vor Step 0 finden
NCCL Topologie-Linter
Prüft nvidia-smi topo -m, GPU-NIC-Affinität, ACS und memlock gegen Durchsatzverluste.
NCCL Topologie-Linter öffnen - Änderungen seit dem letzten stabilen Lauf finden
Umgebungs-Diff-Analyse
Vergleicht Treiber-, CUDA-, NCCL-, PyTorch- und Paketstände zweier Läufe.
Umgebungs-Diff-Analyse öffnen - Stabile Netz-Flags statt Trial-and-Error
NCCL Umgebungsvariablen-Generator
Erzeugt dokumentierte NCCL- und PyTorch-Umgebungsvariablen passend zu Interface und Jobgröße.
NCCL Umgebungsvariablen-Generator öffnen - InfiniBand, RoCEv2 und EFA optimal auslasten
NCCL Tuning-Leitfaden
Leitfaden für NCCL_NET_GDR_LEVEL, Puffergrößen und kollektive Algorithmen.
NCCL Tuning-Leitfaden öffnen - Ausfallmuster auf H100, A100 und H200 vergleichen
GPU Reliability Index
Strukturierte Auswertung häufiger Fehlermodi über Cluster-Architekturen hinweg.
GPU Reliability Index öffnen - SIGBUS Worker-Abstürze verhindern
PyTorch /dev/shm Rechner
Dimensioniert Shared Memory für Multi-Worker DataLoader in Docker und Kubernetes.
PyTorch /dev/shm Rechner öffnen - CDI- und Treiberkonflikte in Docker beheben
NVIDIA Container Toolkit Fix
Behebt device driver capabilities Fehler und Versionskonflikte mit nvidia-container-cli.
NVIDIA Container Toolkit Fix öffnen - libcudart.so und 4/8-Bit-Setup korrigieren
bitsandbytes CUDA Fix
Löst fehlende Shared Libraries und Compute-Capability-Fehler trotz erkannter GPU.
bitsandbytes CUDA Fix öffnen - CPU/GPU Tensor-Konflikte beim Indexing lösen
PyTorch Index Device Mismatch
Behebt Embedding- und Maskierungsfehler zwischen CPU und verschiedenen CUDA-Ranks.
PyTorch Index Device Mismatch öffnen - Pipeline-Bubbles und Overlap messen
PyTorch Profiler Bubble Analyzer
Analysiert Kineto- und HTA-Traces lokal auf Kommunikationswartezeiten und Straggler.
PyTorch Profiler Bubble Analyzer öffnen - 14 Flotten-Diagnosen für Logs und Benchmarks
GPU Fleet Command Suite
Auswertung von gpud, HTA, SuperBench, NHC und nccl-tests lokal oder über die CLI.
GPU Fleet Command Suite öffnen