| 推論に適したGPUモデル | 現において監視中の最低価格 | 1日単位 | プラットフォーム |
|---|---|---|---|
| RTX 4090 | ¥1.15/時 | ¥28/日 | Salad（米国） |
| L40S 48GB | ¥4.97/時 | ¥119/日 | Cloudrift（米国） |
| A6000 48GB | ¥2.38/時 | ¥57/日 | RunPod（米国） |
| RTX PRO 6000 96GB | ¥8.28/時 | ¥199/日 | Jarvislabs（インド） |
学習ではテンソル並列処理が必須であり、NVLink帯域幅が重要です。一方、推論はバッチ処理でコストを分散できるため、単体GPUのVRAMが十分で、エネルギー効率（ワット時あたりのcompute性能）が高いものがコストパフォーマンスに優れます。この点では、コンシューマー向けGPUがしばしば最適解となります。オンラインサービスではスポットインスタンスを避けてください——1回の強制終了による信頼性損失は、節約できた電気代をはるかに上回ります。
7Bモデル約8～10GB、14Bモデル約12～16GB、32Bモデル約24～32GB、70Bモデル約48～70GB（INT4/AWQ準拠）；さらにKVキャッシュおよびフレームワークオーバーヘッド分として20％の余裕を確保してください。具体的な必要VRAM量は、お使いのフレームワークでの実測を基準としてください。
rentgpu.link（GPU算力レーダー）『大規模言語モデルの推論に最適なGPUは？ — レンタル費用比較』、データ更新日：2026-11-12、https://rentgpu.link/answers/gpu-for-inference（CC BY 4.0）
rentgpu.link
中立的な GPU コンピュートレンタル価格比較ツール：45 分ごとに世界中の 31 社のプラットフォームの公開価格を収集。GPU を保有せず、コンピュートの販売も行いません。Chainfir Capital（鏈杉資本）より出資を受けています · サポート hi@rentgpu.link