選卡先看視訊記憶體
模型能不能跑起來取決於視訊記憶體,不是算力:7B 模型推理約需 16GB,7B 全參微調約需 160GB 以上(2 卡起),70B 推理約需 140GB+。卡選錯了,再便宜也跑不動。
省錢的三條實操建議
1. 能斷點續訓的任務用競價(spot)例項,通常便宜 30%~60%;2. 按分鐘計費的平臺比按小時計費省掉空轉時間;3. 先小卡跑通流程,再上大卡跑全量。
| 卡型 | 當前監測較低價 | 連續跑 30 天 | 平臺 |
|---|---|---|---|
| A100 80GB | ¥5.47/時 | ¥3938/月 | Paperspace(美國) |
| H100 80GB | ¥8.28/時 | ¥5962/月 | Paperspace(美國) |
| H200 141GB | ¥16.49/時 | ¥11873/月 | Jarvislabs(印度) |
| B200 180GB | ¥30.99/時 | ¥22313/月 | Verda(芬蘭) |
模型能不能跑起來取決於視訊記憶體,不是算力:7B 模型推理約需 16GB,7B 全參微調約需 160GB 以上(2 卡起),70B 推理約需 140GB+。卡選錯了,再便宜也跑不動。
1. 能斷點續訓的任務用競價(spot)例項,通常便宜 30%~60%;2. 按分鐘計費的平臺比按小時計費省掉空轉時間;3. 先小卡跑通流程,再上大卡跑全量。
rentgpu.link(GPU算力雷達)《訓練大模型租什麼 GPU 划算?》,資料更新 2026-10-28,https://rentgpu.link/answers/gpu-for-llm-training(CC BY 4.0)