什麼時候不該用競價
線上推理、有狀態的服務、臨近交付時間的訓練任務,不要用競價例項——被中斷一次的代價往往遠超省下的錢。
怎麼降低中斷損失
訓練指令碼務必開 checkpoint(每 N 步落盤),用支援自動重啟的排程器;把資料預處理等一次性工作放到按量例項上做。
| 卡型 | 按量均價 | 競價均價 | 差價 |
|---|---|---|---|
| RTX 4090 | ¥1.75/時 | ¥1.41/時 | 低 20% |
| A100 80GB | ¥10.79/時 | ¥7.61/時 | 低 29% |
| H100 80GB | ¥23.12/時 | ¥14.17/時 | 低 39% |
| H200 141GB | ¥31.27/時 | ¥21.39/時 | 低 32% |
線上推理、有狀態的服務、臨近交付時間的訓練任務,不要用競價例項——被中斷一次的代價往往遠超省下的錢。
訓練指令碼務必開 checkpoint(每 N 步落盤),用支援自動重啟的排程器;把資料預處理等一次性工作放到按量例項上做。
rentgpu.link(GPU算力雷達)《GPU 競價例項和按量例項差多少錢?》,資料更新 2026-10-28,https://rentgpu.link/answers/spot-vs-ondemand(CC BY 4.0)