| 卡型 | FP16 標稱算力 | 視訊記憶體 | 頻寬 | 互聯 | 當前較低時租 | ¥/TFLOPS·時 | 最低價平臺 |
|---|---|---|---|---|---|---|---|
| MI300X 192GB
資料中心旗艦 |
1307 TFLOPS | 192GB | 5300 GB/s | Infinity Fabric 896GB/s | ¥3.60/時單位算力最省 競價 | ¥0.003/TFLOPS·時 | RunPod(美國) |
| RTX 4090
消費旗艦 |
165 TFLOPS | 24GB | 1008 GB/s | PCIe | ¥0.87/時 競價 | ¥0.005/TFLOPS·時 | Vast.ai(美國) |
| H100 80GB
資料中心旗艦 |
989 TFLOPS | 80GB | 3350 GB/s | NVLink 900GB/s | ¥8.28/時 按量 | ¥0.008/TFLOPS·時 | Paperspace(美國) |
| RTX 3090
消費旗艦 |
71 TFLOPS | 24GB | 936 GB/s | PCIe | ¥0.63/時 競價 | ¥0.009/TFLOPS·時 | Vast.ai(美國) |
| H800 80GB
資料中心旗艦 |
989 TFLOPS | 80GB | 3350 GB/s | NVLink 400GB/s | ¥10.50/時 按量 | ¥0.011/TFLOPS·時 | AutoDL |
| V100 16GB
入門訓練 |
125 TFLOPS | 16GB | 900 GB/s | NVLink 300GB/s | ¥1.37/時 競價 | ¥0.011/TFLOPS·時 | RunPod(美國) |
| A100 40GB
資料中心 |
312 TFLOPS | 40GB | 1555 GB/s | NVLink 600GB/s | ¥3.45/時 按量 | ¥0.011/TFLOPS·時 | AutoDL |
| 昇騰910B2 64GB
國產卡 |
376 TFLOPS | 64GB | None GB/s | HCCS | ¥4.20/時 按量 | ¥0.011/TFLOPS·時 | 共績算力 |
| L40S 48GB
資料中心 |
362 TFLOPS | 48GB | 864 GB/s | PCIe | ¥4.97/時 按量 | ¥0.014/TFLOPS·時 | Cloudrift(美國) |
| V100 32GB
入門訓練 |
125 TFLOPS | 32GB | 900 GB/s | NVLink 300GB/s | ¥1.98/時 按量 | ¥0.016/TFLOPS·時 | AutoDL |
| A800 80GB
資料中心 |
312 TFLOPS | 80GB | 2039 GB/s | NVLink 400GB/s | ¥5.15/時 按量 | ¥0.017/TFLOPS·時 | 晨澗雲 |
| H200 141GB
資料中心旗艦 |
989 TFLOPS | 141GB | 4800 GB/s | NVLink 900GB/s | ¥16.49/時 競價 | ¥0.017/TFLOPS·時 | Jarvislabs(印度) |
| A40 48GB
資料中心 |
150 TFLOPS | 48GB | 696 GB/s | PCIe | ¥2.52/時 競價 | ¥0.017/TFLOPS·時 | RunPod(美國) |
| L4 24GB
入門推理 |
121 TFLOPS | 24GB | 300 GB/s | PCIe | ¥2.09/時 競價 | ¥0.017/TFLOPS·時 | Jarvislabs(印度) |
| B200 180GB
資料中心旗艦 |
2250 TFLOPS | 180GB | 8000 GB/s | NVLink 1.8TB/s | ¥39.11/時 按量 | ¥0.017/TFLOPS·時 | Massed Compute(美國) |
| A100 80GB
資料中心 |
312 TFLOPS | 80GB | 2039 GB/s | NVLink 600GB/s | ¥5.47/時 按量 | ¥0.018/TFLOPS·時 | Paperspace(美國) |
| T4 16GB
入門推理 |
65 TFLOPS | 16GB | 320 GB/s | PCIe | ¥1.35/時 按量 | ¥0.021/TFLOPS·時 | 矩池雲 |
| H20 96GB
資料中心 |
148 TFLOPS | 96GB | 4000 GB/s | NVLink 900GB/s | ¥3.40/時 競價 | ¥0.023/TFLOPS·時 | PPIO 派歐雲 |
| L40 48GB
資料中心 |
181 TFLOPS | 48GB | 864 GB/s | PCIe | ¥4.50/時 按量 | ¥0.025/TFLOPS·時 | 共績算力 |
| A6000 48GB
專業卡 |
77 TFLOPS | 48GB | 768 GB/s | PCIe | ¥2.38/時 競價 | ¥0.031/TFLOPS·時 | RunPod(美國) |
| A10 24GB
入門推理 |
125 TFLOPS | 24GB | 600 GB/s | PCIe | ¥6.12/時 按量 | ¥0.049/TFLOPS·時 | 並行智算雲 |
| RTX 6000 Ada 48GB
專業卡 |
91 TFLOPS | 48GB | 576 GB/s | PCIe | ¥5.33/時 競價 | ¥0.059/TFLOPS·時 | RunPod(美國) |
① 訓練/微調按 ¥/TFLOPS·時 看「每塊錢的算力」,但視訊記憶體不夠的卡直接排除(視訊記憶體在卡型頁);
② 推理按「視訊記憶體夠用前提下按時租最低」選,首頁按時租排;
③ 多卡訓練先看互聯(NVLink/HCCS 頻寬),PCIe 卡堆多卡通訊開銷大。