同一プラットフォームで同一GPUを用いたスポットインスタンスの場合、従量課金価格の3~5割(恒源云のRTX 3090スポット価格は最低0.3元/時間、Vast.aiのRTX 3090は約0.5元/時間)まで下がることがあります。その理由は:あなたが利用しているのは、他のユーザーが一時のに使用していないリソースです。リソースが逼迫した場合、プラットフォーム側が随時回収する可能性があります。
スポットインスタンスに向いているタスク
・バッチ推論/バッチ画像生成(タスクを分割可能。中断しても再実行が容易)
・ checkpoint を含む学習(15~30分ごとに自動保存)
・納期間に余裕のある実験向け。
絶対に使ってはいけないタスク
・checkpoint未実施の6時間ファインチューニング(中断=全工程やり直し);
・明日提出のレポート/発表前夜;
・外部向けの推論API(安定性が命)
正しい使い方
トレーニングスクリプトに定期間のなチェックポイント保存(PyTorchのcheckpoint、SDの自動保存出力ディレクトリ)を組み込み、「いつでも停止する可能性がある」ことを前提としてタスクを設計します。こうすることで、スポットインスタンスを活用した50~70%の割引を純粋な利益として享受できます。当サイトの価格比較表では、スポット価格は別途明記しており、最低価格推奨ランキングには含まれません——安価ですが、まずご自身のタスクがその不安定性に耐えられるかをご確認ください。
