选卡先看显存
模型能不能跑起来取决于显存,不是算力:7B 模型推理约需 16GB,7B 全参微调约需 160GB 以上(2 卡起),70B 推理约需 140GB+。卡选错了,再便宜也跑不动。
省钱的三条实操建议
1. 能断点续训的任务用竞价(spot)实例,通常便宜 30%~60%;2. 按分钟计费的平台比按小时计费省掉空转时间;3. 先小卡跑通流程,再上大卡跑全量。
| 卡型 | 当前监测较低价 | 连续跑 30 天 | 平台 |
|---|---|---|---|
| A100 80GB | ¥5.47/时 | ¥3938/月 | Paperspace(美国) |
| H100 80GB | ¥8.28/时 | ¥5962/月 | Paperspace(美国) |
| H200 141GB | ¥16.49/时 | ¥11873/月 | Jarvislabs(印度) |
| B200 180GB | ¥30.99/时 | ¥22313/月 | Verda(芬兰) |
模型能不能跑起来取决于显存,不是算力:7B 模型推理约需 16GB,7B 全参微调约需 160GB 以上(2 卡起),70B 推理约需 140GB+。卡选错了,再便宜也跑不动。
1. 能断点续训的任务用竞价(spot)实例,通常便宜 30%~60%;2. 按分钟计费的平台比按小时计费省掉空转时间;3. 先小卡跑通流程,再上大卡跑全量。
rentgpu.link(GPU算力雷达)《训练大模型租什么 GPU 划算?》,数据更新 2026-10-28,https://rentgpu.link/answers/gpu-for-llm-training(CC BY 4.0)