GPU 叢集工程師專用免費診斷與計算工具箱
無須登入即可隨時使用的診斷參考、本機日誌解析器與效能規劃計算機。 每個工具皆清楚標示其能確立的範圍與尚需更多證據的事故情境。
正在使用 NVIDIA 計算淨化器?請參閱最小化 CUDA 重現與記憶體檢查指南。儀器檢測執行於您隔離的工作負載環境中,不會上傳至此瀏覽器。
- 零資料外傳的瀏覽器端日誌診斷
離線 GPU 日誌分析器
直接在瀏覽器中解析數 GB 大小的 PyTorch、NCCL、vLLM 與 Slurm 訓練日誌,零網路傳輸。支援本機評估 Rank 瀑布流崩潰、OOM 與硬體掉卡。
開啟 離線 GPU 日誌分析器 - 精準對齊 NVIDIA 驅動、CUDA 與 FlashAttention
CUDA、驅動與 PyTorch 相容性解析器
快速尋找相容的 NVIDIA 驅動程式、CUDA 工具包、PyTorch 與 FlashAttention 版本,產出精準的 pip、uv 與 Docker 指令,避免二進位介面不相容。
開啟 CUDA、驅動與 PyTorch 相容性解析器 - 硬體異常、軟體衝突與證據保留
NVIDIA Xid 錯誤碼解碼器
貼上 NVRM Xid 記錄行以擷取錯誤代碼、故障類別、保固維修對照與事故證據保留動作,並直接深入完整調查。
開啟 NVIDIA Xid 錯誤碼解碼器 - 捕捉最初的錯誤證據而非最後的超時
NCCL 通訊日誌解碼器
分類 CUDA、引導通訊、傳輸層、重複 GPU 與超時特徵,精準標記次要包裝錯誤,直擊分散式訓練根源。
開啟 NCCL 通訊日誌解碼器 - 將 GPU 狀態轉化為可信的事件證據
nvidia-smi 狀態解析器
在瀏覽器本地解析 GPU 識別、記憶體、散熱、功耗、使用率、ECC 與資料列重映射欄位。標記僅作為客觀證據,不作自動硬體判定。
開啟 nvidia-smi 狀態解析器 - 區分記憶體碎片與真實容量耗盡
PyTorch CUDA OOM 顯存溢出排查
檢查 PyTorch 記憶體分配器傾印、保留池與已分配池,並獲得精準的記憶體回收、分配器設定與批次大小調整建議。
開啟 PyTorch CUDA OOM 顯存溢出排查 - 精準定位非法記憶體存取與執行緒競態
計算淨化器與記憶體檢查指南
提供 cuda-memcheck、racecheck 與 synccheck 的最小化重現範例,在通訊超時級聯發生前隔離非法記憶體存取。
開啟 計算淨化器與記憶體檢查指南 - 預訓練完成時間、模型利用率與雲端運算成本
大模型訓練時間與叢集費用計算機
計算 Chinchilla Token 浮點運算量、模型利用率、叢集吞吐量,以及 H100、H200 與 B200 叢集的雲端租賃成本。
開啟 大模型訓練時間與叢集費用計算機 - 模型權重、KV 快取、啟用值與張量並行規劃
大模型多節點 VRAM 顯存計算機
估算 H100、H200、B200 與 A100 叢集在極限上下文下的模型權重、KV 快取、優化器狀態與管線並行記憶體佔用。
開啟 大模型多節點 VRAM 顯存計算機 - 精算 GPU 顯存分配、並行併發上限與 Token 吞吐
大模型推論吞吐量與 KV 快取計算機
估算生產環境推論引擎的生成 Token 延遲、提示詞處理吞吐量與併發請求極限。
開啟 大模型推論吞吐量與 KV 快取計算機 - 解析 GID 索引、RoCE v2 參數與網卡介面
RoCEv2 與 InfiniBand NCCL GID 計算機
消除異質叢集網路互連中的 NCCL 介面綁定錯誤,正確對應網路裝置與網卡拓撲。
開啟 RoCEv2 與 InfiniBand NCCL GID 計算機 - 計算 ZeRO 1、2、3 階段的分散式記憶體開銷
DeepSpeed ZeRO 與 LoRA 記憶體計算機
計算分散式微調與預訓練工作負載中,參數、梯度與優化器狀態的精確記憶體佔用。
開啟 DeepSpeed ZeRO 與 LoRA 記憶體計算機 - 產出具備 GPU 裝置外掛的生產級叢集配置
Kubernetes GPU 作業清單產生器
配置 Kubernetes 資源請求、節點選擇器、容忍設定與共用記憶體儲存卷,確保叢集編排穩定運作。
開啟 Kubernetes GPU 作業清單產生器 - 解碼資料中心 GPU 管理器健康違規與 PCIe 匯流排錯誤
DCGM 與 PCIe AER 診斷錯誤解碼器
從原始診斷日誌中精準定位硬體退化、連結重訓練迴圈與散熱降頻事件。
開啟 DCGM 與 PCIe AER 診斷錯誤解碼器 - 評估運算能力損失與工程師排除成本
GPU 停機損失計算機
根據您的自訂參數計算 GPU 停機時數、基礎設施成本、人力損耗、每月財務暴露與情境式可恢復比例。
開啟 GPU 停機損失計算機 - 產出分散式訓練專用的生產級 sbatch 腳本
Slurm 多節點 GPU 批次腳本產生器
正確配置 PyTorch FSDP、DeepSpeed 與 Megatron 分散式任務所需的單節點 GPU 數、CPU 執行緒、主連接埠與 NCCL 參數。
開啟 Slurm 多節點 GPU 批次腳本產生器 - 在第 0 步之前攔截網路 fabric 配置失誤
NCCL 網路拓撲檢查器
貼上 nvidia-smi topo -m 與 NCCL 環境變數,自動檢查 GPU 對 NIC 親和性、PCIe ACS、記憶體鎖定極限與 NCCL 設定,預先揪出拖累頻寬或導致死鎖的隱患。
開啟 NCCL 網路拓撲檢查器 - 找出上次成功執行以來的所有環境變更
跨執行環境差異比對工具
比對上次成功與失敗執行的環境資產。自動比對驅動程式、CUDA、NCCL、PyTorch/JAX、pip 套件與 NCCL 環境變數,依據失敗類別排序變更點以加速排查。
開啟 跨執行環境差異比對工具 - 告別盲目複製網路論壇解答的除錯泥沼
NCCL 環境變數產生器
描述您的網路互連架構與作業型態,取得有理有據的 NCCL 與 PyTorch 環境配置,每個變數均附帶說明,讓您在架構審查時充分自信。
開啟 NCCL 環境變數產生器 - 針對 InfiniBand、RoCE v2 與 AWS EFA 優化 NCCL
NCCL 調校指南與參數優化器
調整 NCCL_NET_GDR_LEVEL、NCCL_BUFFSIZE、NCCL_CROSS_NIC 以及樹狀與環狀集合通訊演算法,將分散式訓練頻寬推向極致。
開啟 NCCL 調校指南與參數優化器 - 採購與架構決策最需要的真實叢集故障數據
GPU 可靠性指數資料庫
結合 Denpex 事故語料庫整理 H100、A100 與 H200 的真實故障模式與發生率,讓硬體決策有所依據而不依賴單純的規格書。
開啟 GPU 可靠性指數資料庫 - 徹底解決 DataLoader 背景工作被 Bus error 終止的痛點
PyTorch 資料載入器共用記憶體計算機
為多背景工作 PyTorch DataLoader 計算 Linux 共用記憶體容量。取得精準的 Docker --shm-size 與 Kubernetes emptyDir RAM 配置以消除匯流排錯誤。
開啟 PyTorch 資料載入器共用記憶體計算機 - 修復裝置驅動與容器化加速能力不匹配問題
NVIDIA 容器工具包與驅動修復工具
提供容器化工作負載中 Docker CDI、nvidia-container-cli 與驅動程式版本不符錯誤的分步排查指南。
開啟 NVIDIA 容器工具包與驅動修復工具 - 解決 4 位元與 8 位元量化載入時的函式庫錯誤
bitsandbytes CUDA 初始化失敗修復
修復 GPU 偵測正常但 CUDA 載入失敗、共用函式庫缺失,以及跨不同計算能力版本的量化相容性問題。
開啟 bitsandbytes CUDA 初始化失敗修復 - 修復張量與索引不在同一個運算裝置的常見錯誤
PyTorch 索引裝置不匹配修復
識別嵌入層查詢、遮罩操作與張量索引中,張量散落於 CPU 與不同 CUDA Rank 之間的跨裝置存取盲點。
開啟 PyTorch 索引裝置不匹配修復 - 在完全隔離的氣隙叢集中執行私密事故稽核
本機叢集診斷命令列工具
在單節點與多節點叢集本機進行零資料外傳的深度檢測,評估硬體計數器、網路 fabric 丟包與系統日誌。
開啟 本機叢集診斷命令列工具