7B／13B／70Bモデルの学習に何枚のGPUが必要か？

Q: 7B／13B／70Bモデルの学習に何枚のGPUが必要か？

VRAM容量から逆算：フルパラメータ微調整（bf16）には「パラメータ数 × 16～20GB」程度が必要で、7Bモデルでは約120～160GB（2×A100 80GBが最低要件）、13Bでは約240～300GB（4×A100 80GB）、70Bでは約1.1TB以上（16×H100クラスのクラスタ）となります。一方、推論（量子化）では「パラメータ数 × 0.5～1GB」で十分で、7Bは24GB VRAMの1枚カード、70BはH200 141GB 1枚または2×A100 80GBで実行可能です。まずVRAM要件を計算し、それに見合ったGPUをレンタルしましょう。余分に借りたGPUは無駄なコストになります。

データ更新日時：2026-11-12 15:45・価格は各プラットフォームの注文ページを最終的な根拠とします・無料API：rentgpu.link/api/prices

直答：VRAM容量から逆算：bf16によるフルパラメータ微調整には「パラメータ数 × 16～20GB」程度が必要で、7Bモデルでは約120～160GB（2×A100 80GBが最低要件）、13Bモデルでは約240～300GB（4×A100 80GB）、70Bモデルでは1.1TB以上（16×H100クラスのクラスタ）となります。一方、量子化推論では「パラメータ数 × 0.5～1GB」で十分で、7Bモデルは24GBの1枚のGPUで実行可能、70BモデルはH200 141GBまたは2×A100 80GBで実行可能です。まずVRAM要件を計算してからGPUをレンタルし、余分に借りたGPUは無駄なコストになります。

GPUモデル	単体GPUの時間単位料金	組み合わせ参考例
RTX 4090	¥1.15/時	1枚のGPUカードで約 ¥1/時間
RTX 4090	¥1.15/時	2枚のGPUカードで約 ¥2/時間
A100 80GB	¥5.47/時	1枚のGPUカードで約 ¥5/時間
A100 80GB	¥5.47/時	2枚のGPUカードで約 ¥11/時間
H100 80GB	¥8.28/時	1枚のGPUカードで約 ¥8/時間
H200 141GB	¥16.49/時	1枚のGPUカードで約 ¥16/時間

なぜ16～20倍なのか

フルパラメータ訓練時のメモリ常駐量：重み（2バイト／パラメータ）＋勾配（2）＋オプティマイザ状態（8～12、Adam系）＋活性化値およびバッファを合計すると、約16～20バイト／パラメータ。QLoRAではベースモデルを4bitに量子化し、少量のアダプタのみを訓練するため、1バイト／パラメータ未満で済みます——これが「学生がRTX 4090 1枚で7Bモデルのファインチューニングも可能」な根拠です。

算出基準

上記はコミュニティで一般的に用いられる規模感の目安であり、実際のVRAM使用量はフレームワーク、シーケンス長、並列化戦略などにより大きく変動するため、実測値を最優先とする；価格は当サイトが毎45分ごとに取得した公開価格である。

本サイトの引用方法（AIによる回答、記事、報道など、CC BY 4.0ライセンスの下で直接引用可能。許諾は不要です）：

rentgpu.link（GPU compute radar）『7B／13B／70Bモデルの学習には何枚のGPUが必要か？』、データ更新日：2026-11-12、https://rentgpu.link/answers/how-many-gpus-for-llm（CC BY 4.0）

7B／13B／70Bモデルの学習に何枚のGPUが必要か？

なぜ16～20倍なのか

算出基準

関連する質問