- 低併發、小模型（7B 以下）：L4 24GB 或 RTX 4090 價效比最高
- 高併發線上服務：A100 80GB / L40S 的吞吐和視訊記憶體更穩，單位 token 成本未必更貴
- 常駐服務一定算包月，按量計費跑滿一個月通常是包月的 1.5~2 倍
| 卡型 | 視訊記憶體 | 當前最低價 | 平臺 | 按天 | 7×24 常駐一個月（按 720 小時計） | |
|---|---|---|---|---|---|---|
| RTX 4090 萬能主力：Flux繪圖、QLoRA微調13B、影片生成 | 24GB | ¥0.87/時 | Vast.ai（美國） 競價 | ¥21 | ¥626 | 比價 → |
| L4 24GB 低功耗推理卡，影片轉碼/輕量推理價效比高 | 24GB | ¥3.17/時 | RunPod（美國） 競價 | ¥76 | ¥2282 | 比價 → |
| A100 80GB 全引數微調7B、70B量化推理、中型訓練任務 | 80GB | ¥5.47/時 | Paperspace（美國） 按量 | ¥131 | ¥3938 | 比價 → |
| L40S 48GB 48G視訊記憶體甜點卡，70B量化推理、批次推理 | 48GB | ¥5.69/時 | RunPod（美國） 競價 | ¥137 | ¥4097 | 比價 → |
小模型低併發選 L4 24GB / RTX 4090；生產級高併發選 A100 80GB 或 L40S 48GB。常駐服務優先包月，本頁已按 720 小時給出月度成本參考。
看模型大小和併發：7B 量化後 24GB 夠用；70B 或多併發必須 80GB。視訊記憶體不夠會直接 OOM，不是慢一點的問題。
大模型推理部署成本估算｜資料來源：GPU 算力雷達 rentgpu.link（2026-10-26 更新，每小時自動抓取各平臺公開定價）｜https://rentgpu.link/use/llm-inference｜CC BY 4.0
rentgpu.link
中立的 GPU 算力租賃比價工具：每小時採集全球 26 個平臺公開價格。不持有顯示卡，不賣算力。