微調視訊記憶體需求取決於三件事:引數精度、訓練方式、batch 設定。直接給答案:
7B 模型微調視訊記憶體速查
· LoRA(只訓適配層):16~24GB,RTX 4090 是舒適區;
· QLoRA(4bit 量化基座):12~16GB,3090/4090 都能跑;
· 全引數微調:約 80GB(權重+梯度+最佳化器狀態 ≈ 8 倍引數量),必須 A100 80G 級或多卡 ZeRO。
租卡建議
90% 的個人微調場景(LoRA/QLoRA 7B~13B),一張 RTX 4090(24GB) 就是最優解:
| 平臺 | 價格 ⇅ | 24小時 | 庫存 | 計費說明 | |
|---|---|---|---|---|---|
| Vast.ai(美國)全球地板價北美
穩定性 98·A |
¥0.87/時當前監測較低價實時競價 | ¥21/天 | 充足 | Vast.ai 實時競價最低價折算(RTX 4090,USD×7.2),隨時變動 | 去租用 |
| Salad(美國)批次地板價北美
穩定性 63·C |
¥1.15/時實時競價 | ¥28/天 | 充足 | Salad 分散式雲最低優先順序檔 $0.160/hr 折算(24G,共4檔,高檔更穩定) | 去租用 |
| PPIO 派歐雲國內Spot低價中國
穩定性 60·C |
¥1.16/時實時競價 | ¥28/天 | 充足 | PPIO 派歐雲 GPU Spot 價 ¥1.16/小時(4090,預設1小時保護期,提前1小時中斷通知) | 去租用 |
| 算家雲當前低價中國
穩定性 98·A |
¥1.24/時實時按量 | ¥30/天 | 充足 | 算家雲官網標價 ¥1.24/小時(原價 ¥2.08,長期租用另有折上折) | 去租用 |
| 晨澗雲長租划算中國
穩定性 98·A |
¥1.38/時實時按量 | ¥33/天 | 充足 | 晨澗雲官網包日價 ¥33.01/天 ÷24 折算(NVIDIA GeForce RTX 4090 24G),按量小時價可能略高 | 去租用 |
| 優雲智算現金返利中國
穩定性 98·A |
¥1.92/時實時按量 | ¥46/天 | 充足 | 優雲智算按量計費最低配置 ¥1.92/小時(包日/包月/搶佔式更低價見官網,高校企業95折) | 去租用 |
| AutoDL生態最全中國
穩定性 94·A |
¥1.98/時實時按量 | ¥48/天 | 充足 | AutoDL 按量計費最低價 ¥1.98/時(官網市場 RTX 4090,空閒卡 43) | 去租用 |
| 藍耘中國
人工維護 |
¥2.00/時參考價·待核實按量 | ¥48/天 | 充足 | 實測穩定性較好,響應較快 | 去租用 |
| 恆源雲穩定老牌中國
穩定性 98·A |
¥2.18/時實時按量 | ¥52/天 | 充足 | 恆源雲按量實時價 ¥2.18/時(原價 ¥4.00) | 去租用 |
| 矩池雲標價競爭力中國
穩定性 98·A |
¥2.20/時實時按量 | ¥53/天 | 充足 | 矩池雲按分鐘計費 ¥2.20/小時(11 區,官網明碼標價) | 去租用 |
| RunPod(美國)海外人氣王北美
穩定性 63·C |
¥2.45/時實時競價 | ¥59/天 | 充足 | RunPod 社群雲最低價 $0.34/hr 折算(NVIDIA GeForce RTX 4090;Secure Cloud $0.89/hr) | 去租用 |
| 智星雲中國
人工維護 |
¥2.50/時參考價·待核實按量 | ¥60/天 | 充足 | 資源結構均衡,高峰期可能排隊 | 去租用 |
| TensorDock(美國)全球低價北美
人工維護 |
¥2.52/時參考價·待核實按量 | ¥60/天 | 充足 | 官方起價 $0.35×7.2(2026-10核實);低價機$0.25起但常斷貨;第三方機房 | 去租用 |
需要全引數微調再上 A100 80G:
| 平臺 | 價格 ⇅ | 24小時 | 庫存 | 計費說明 | |
|---|---|---|---|---|---|
| Paperspace(美國)上手最快北美
資料積累中 8/30天 |
¥5.47/時當前監測較低價實時按量 | ¥131/天 | 充足 | Paperspace(美國,DigitalOcean 旗下)按需 $0.76/小時折算(A100 80GB,按小時計費) | 去租用 |
| Verda(芬蘭)歐洲價效比歐洲
穩定性 63·C |
¥7.78/時實時競價 | ¥187/天 | 充足 | Verda(芬蘭,原 DataCrunch)Spot $1.080/hr 折算,按需 $2.160/hr(1x A100 SXM4 80GB) | 去租用 |
| Thunder Compute(美國)按分鐘計費北美
穩定性 60·C |
¥7.85/時實時按量 | ¥188/天 | 充足 | Thunder Compute(美國)按分鐘計費 $1.09/hr 折算(A100 80GB,儲存可定製) | 去租用 |
| RunPod(美國)海外人氣王北美
穩定性 63·C |
¥8.57/時實時競價 | ¥206/天 | 充足 | RunPod 社群雲最低價 $1.19/hr 折算(NVIDIA A100 80GB PCIe;Secure Cloud $1.79/hr) | 去租用 |
| 算家雲當前低價中國
穩定性 98·A |
¥9.80/時實時按量 | ¥235/天 | 充足 | 算家雲官網標價 ¥9.80/小時(原價 ¥12.00,長期租用另有折上折) | 去租用 |
| Gcore(盧森堡)歐洲邊緣雲歐洲
穩定性 60·C |
¥10.61/時實時按量 | ¥255/天 | 充足 | Gcore(盧森堡,全球邊緣雲)按需 €1.36/小時起折算(A100) | 去租用 |
| Jarvislabs(印度)南亞優選亞太
人工維護 |
¥10.73/時參考價·待核實按量 | ¥258/天 | 充足 | $1.49×7.2 按分鐘計費,可暫停不計費;印度機房 | 去租用 |
| 優雲智算現金返利中國
穩定性 98·A |
¥10.75/時實時按量 | ¥258/天 | 充足 | 優雲智算按量計費最低配置 ¥10.75/小時(包日/包月/搶佔式更低價見官網,高校企業95折) | 去租用 |
| TensorDock(美國)全球低價北美
人工維護 |
¥10.80/時參考價·待核實按量 | ¥259/天 | 充足 | PCIe $1.50×7.2;SXM $1.80 | 去租用 |
| Hyperstack(英國)英榜常客歐洲
穩定性 63·C |
¥11.52/時實時按量 | ¥276/天 | 充足 | Hyperstack(英國)按需 $1.60/小時折算(NVIDIA A100 SXM,80G 視訊記憶體) | 去租用 |
| Crusoe(美國)清潔能源北美
穩定性 60·C |
¥14.40/時實時按量 | ¥346/天 | 充足 | Crusoe(美國,清潔能源)按需 $2.00/GPU·hr 折算(NVIDIA A100 80GB) | 去租用 |
| Lambda(美國)老牌整機北美
資料積累中 8/30天 |
¥20.09/時實時按量 | ¥482/天 | 充足 | Lambda(美國)官方掛牌按需價 $2.79/GPU·小時折算(NVIDIA A100 SXM 80GB,按分鐘計費、無出網流量費) | 去租用 |
兩個視訊記憶體不夠時的補救
① 開梯度檢查點(gradient checkpointing):省 30~40% 視訊記憶體,代價是慢 20%;② 換 4bit 量化基座(QLoRA 思路):13B 也能塞進 24GB。遇到 OOM 先調這兩個,比換卡便宜。
