| 卡型 | FP16 标称算力 | 显存 | 带宽 | 互联 | 当前较低时租 | ¥/TFLOPS·时 | 最低价平台 |
|---|---|---|---|---|---|---|---|
| MI300X 192GB
数据中心旗舰 |
1307 TFLOPS | 192GB | 5300 GB/s | Infinity Fabric 896GB/s | ¥3.60/时单位算力最省 竞价 | ¥0.003/TFLOPS·时 | RunPod(美国) |
| RTX 4090
消费旗舰 |
165 TFLOPS | 24GB | 1008 GB/s | PCIe | ¥0.87/时 竞价 | ¥0.005/TFLOPS·时 | Vast.ai(美国) |
| H100 80GB
数据中心旗舰 |
989 TFLOPS | 80GB | 3350 GB/s | NVLink 900GB/s | ¥8.28/时 按量 | ¥0.008/TFLOPS·时 | Paperspace(美国) |
| RTX 3090
消费旗舰 |
71 TFLOPS | 24GB | 936 GB/s | PCIe | ¥0.63/时 竞价 | ¥0.009/TFLOPS·时 | Vast.ai(美国) |
| H800 80GB
数据中心旗舰 |
989 TFLOPS | 80GB | 3350 GB/s | NVLink 400GB/s | ¥10.50/时 按量 | ¥0.011/TFLOPS·时 | AutoDL |
| V100 16GB
入门训练 |
125 TFLOPS | 16GB | 900 GB/s | NVLink 300GB/s | ¥1.37/时 竞价 | ¥0.011/TFLOPS·时 | RunPod(美国) |
| A100 40GB
数据中心 |
312 TFLOPS | 40GB | 1555 GB/s | NVLink 600GB/s | ¥3.45/时 按量 | ¥0.011/TFLOPS·时 | AutoDL |
| 昇腾910B2 64GB
国产卡 |
376 TFLOPS | 64GB | None GB/s | HCCS | ¥4.20/时 按量 | ¥0.011/TFLOPS·时 | 共绩算力 |
| L40S 48GB
数据中心 |
362 TFLOPS | 48GB | 864 GB/s | PCIe | ¥4.97/时 按量 | ¥0.014/TFLOPS·时 | Cloudrift(美国) |
| V100 32GB
入门训练 |
125 TFLOPS | 32GB | 900 GB/s | NVLink 300GB/s | ¥1.98/时 按量 | ¥0.016/TFLOPS·时 | AutoDL |
| A800 80GB
数据中心 |
312 TFLOPS | 80GB | 2039 GB/s | NVLink 400GB/s | ¥5.15/时 按量 | ¥0.017/TFLOPS·时 | 晨涧云 |
| H200 141GB
数据中心旗舰 |
989 TFLOPS | 141GB | 4800 GB/s | NVLink 900GB/s | ¥16.49/时 竞价 | ¥0.017/TFLOPS·时 | Jarvislabs(印度) |
| A40 48GB
数据中心 |
150 TFLOPS | 48GB | 696 GB/s | PCIe | ¥2.52/时 竞价 | ¥0.017/TFLOPS·时 | RunPod(美国) |
| L4 24GB
入门推理 |
121 TFLOPS | 24GB | 300 GB/s | PCIe | ¥2.09/时 竞价 | ¥0.017/TFLOPS·时 | Jarvislabs(印度) |
| B200 180GB
数据中心旗舰 |
2250 TFLOPS | 180GB | 8000 GB/s | NVLink 1.8TB/s | ¥39.11/时 按量 | ¥0.017/TFLOPS·时 | Massed Compute(美国) |
| A100 80GB
数据中心 |
312 TFLOPS | 80GB | 2039 GB/s | NVLink 600GB/s | ¥5.47/时 按量 | ¥0.018/TFLOPS·时 | Paperspace(美国) |
| T4 16GB
入门推理 |
65 TFLOPS | 16GB | 320 GB/s | PCIe | ¥1.35/时 按量 | ¥0.021/TFLOPS·时 | 矩池云 |
| H20 96GB
数据中心 |
148 TFLOPS | 96GB | 4000 GB/s | NVLink 900GB/s | ¥3.40/时 竞价 | ¥0.023/TFLOPS·时 | PPIO 派欧云 |
| L40 48GB
数据中心 |
181 TFLOPS | 48GB | 864 GB/s | PCIe | ¥4.50/时 按量 | ¥0.025/TFLOPS·时 | 共绩算力 |
| A6000 48GB
专业卡 |
77 TFLOPS | 48GB | 768 GB/s | PCIe | ¥2.38/时 竞价 | ¥0.031/TFLOPS·时 | RunPod(美国) |
| A10 24GB
入门推理 |
125 TFLOPS | 24GB | 600 GB/s | PCIe | ¥6.12/时 按量 | ¥0.049/TFLOPS·时 | 并行智算云 |
| RTX 6000 Ada 48GB
专业卡 |
91 TFLOPS | 48GB | 576 GB/s | PCIe | ¥5.33/时 竞价 | ¥0.059/TFLOPS·时 | RunPod(美国) |
① 训练/微调按 ¥/TFLOPS·时 看「每块钱的算力」,但显存不够的卡直接排除(显存在卡型页);
② 推理按「显存够用前提下按时租最低」选,首页按时租排;
③ 多卡训练先看互联(NVLink/HCCS 带宽),PCIe 卡堆多卡通信开销大。