| GPUモデル | FP16 標称compute性能 | VRAM | 帯域幅 | インターネット接続 | 現においての较低時租 | ¥/TFLOPS·時 | 最低価格プラットフォーム |
|---|---|---|---|---|---|---|---|
| MI300X 192GB
データセンターのフラッグシップ |
1307 TFLOPS | 192GB | 5300 GB/s | Infinity Fabric 896GB/s | ¥3.60/時単位算力コスト最小 スポット | ¥0.003/TFLOPS・時間 | RunPod(米国) |
| RTX 4090
プレミアム課金プラン |
165 TFLOPS | 24GB | 1008 GB/s | PCIe | ¥0.87/時 スポット | ¥0.005/TFLOPS・時間 | Vast.ai(米国) |
| H100 80GB
データセンターのフラッグシップ |
989 TFLOPS | 80GB | 3350 GB/s | NVLink 900GB/s | ¥8.28/時 従量課金 | ¥0.008/TFLOPS・時間 | Paperspace(米国) |
| RTX 3090
プレミアム課金プラン |
71 TFLOPS | 24GB | 936 GB/s | PCIe | ¥0.63/時 スポット | ¥0.009/TFLOPS・時間 | Vast.ai(米国) |
| H800 80GB
データセンターのフラッグシップ |
989 TFLOPS | 80GB | 3350 GB/s | NVLink 400GB/s | ¥10.50/時 従量課金 | ¥0.011/TFLOPS・時間 | AutoDL |
| V100 16GB
入門レベルの学習用 |
125 TFLOPS | 16GB | 900 GB/s | NVLink 300GB/s | ¥1.37/時 スポット | ¥0.011/TFLOPS・時間 | RunPod(米国) |
| A100 40GB
データセンター |
312 TFLOPS | 40GB | 1555 GB/s | NVLink 600GB/s | ¥3.45/時 従量課金 | ¥0.011/TFLOPS・時間 | AutoDL |
| Ascend 910B2 64GB
国産GPU |
376 TFLOPS | 64GB | None GB/s | HCCS | ¥4.20/時 従量課金 | ¥0.011/TFLOPS・時間 | 共績算力 |
| L40S 48GB
データセンター |
362 TFLOPS | 48GB | 864 GB/s | PCIe | ¥4.97/時 従量課金 | ¥0.014/TFLOPS・時間 | Cloudrift(米国) |
| V100 32GB
入門レベルの学習用 |
125 TFLOPS | 32GB | 900 GB/s | NVLink 300GB/s | ¥1.98/時 従量課金 | ¥0.016/TFLOPS・時間 | AutoDL |
| A800 80GB
データセンター |
312 TFLOPS | 80GB | 2039 GB/s | NVLink 400GB/s | ¥5.15/時 従量課金 | ¥0.017/TFLOPS・時間 | MornAI |
| H200 141GB
データセンターのフラッグシップ |
989 TFLOPS | 141GB | 4800 GB/s | NVLink 900GB/s | ¥16.49/時 スポット | ¥0.017/TFLOPS・時間 | Jarvislabs(インド) |
| A40 48GB
データセンター |
150 TFLOPS | 48GB | 696 GB/s | PCIe | ¥2.52/時 スポット | ¥0.017/TFLOPS・時間 | RunPod(米国) |
| L4 24GB
入門レベルの推論 |
121 TFLOPS | 24GB | 300 GB/s | PCIe | ¥2.09/時 スポット | ¥0.017/TFLOPS・時間 | Jarvislabs(インド) |
| B200 180GB
データセンターのフラッグシップ |
2250 TFLOPS | 180GB | 8000 GB/s | NVLink 1.8TB/s | ¥39.11/時 従量課金 | ¥0.017/TFLOPS・時間 | Massed Compute(米国) |
| A100 80GB
データセンター |
312 TFLOPS | 80GB | 2039 GB/s | NVLink 600GB/s | ¥5.47/時 従量課金 | ¥0.018/TFLOPS・時間 | Paperspace(米国) |
| T4 16GB
入門レベルの推論 |
65 TFLOPS | 16GB | 320 GB/s | PCIe | ¥1.35/時 従量課金 | ¥0.021/TFLOPS・時間 | 矩池雲 |
| H20 96GB
データセンター |
148 TFLOPS | 96GB | 4000 GB/s | NVLink 900GB/s | ¥3.40/時 スポット | ¥0.023/TFLOPS・時間 | PPIO 派欧云 |
| L40 48GB
データセンター |
181 TFLOPS | 48GB | 864 GB/s | PCIe | ¥4.50/時 従量課金 | ¥0.025/TFLOPS・時間 | 共績算力 |
| A6000 48GB
プロフェッショナル向けGPU |
77 TFLOPS | 48GB | 768 GB/s | PCIe | ¥2.38/時 スポット | ¥0.031/TFLOPS・時間 | RunPod(米国) |
| A10 24GB
入門レベルの推論 |
125 TFLOPS | 24GB | 600 GB/s | PCIe | ¥6.12/時 従量課金 | ¥0.049/TFLOPS・時間 | Paratera |
| RTX 6000 Ada 48GB
プロフェッショナル向けGPU |
91 TFLOPS | 48GB | 576 GB/s | PCIe | ¥5.33/時 スポット | ¥0.059/TFLOPS・時間 | RunPod(米国) |
① トレーニング/ファインチューニングでは「1元あたりのTFLOPS·時間(¥/TFLOPS·時間)」で compute 効率を評価するが、VRAM 不足のGPUは即座に除外(VRAM容量はGPUモデル別ページに記載);
② 推論用途では「VRAMが十分な前提で、時間単位のレンタル価格が最も安い」ものを選択。トップページで時間単位レンタル価格順に並べ替え可能。
③ 複数GPUでのトレーニングではまずGPU間接続(NVLink/HCCS 帯域幅)を確認。PCIe接続GPUを複数枚使用すると通信オーバーヘッドが大きくなる。