L40のレンタル料金比較(クラウドGPU)
L40をクラウドで借りられる1社・1プランの料金を、1枚・1時間あたりの円で比べています。確認済みの最安はRunPodの129円($0.82)です。
1枚・1時間あたりの料金
濃い色の棒が確認済みの最安、斜線は価格要確認のプランです。
1か月使うといくら?
確認済みで最安のRunPod(129円/時)で、1枚を使った場合の目安です。ストレージや通信料などは含みません。
1日8時間×20日(160時間)20,640円
24時間つけっぱなし(730時間)94,170円
L40の主な仕様
データセンター向けのAda世代GPU。推論、画像生成、レンダリング向け。
- メーカー
- NVIDIA
- アーキテクチャ
- Ada Lovelace
- 発売年
- 2022年
- 区分
- データセンター向け
- メモリ
- 48GB GDDR6
- メモリ帯域
- 約864 GB/s
仕様はメーカーの公開情報にもとづく代表的な値です。クラウドによってはメモリ量の異なる版が提供されています。各プランのメモリは料金表を見てください。
VRAM 48GBでできることの目安
- 30B級を8bit、70B級を4bit量子化で推論(70B級は余裕が少ない)
- 動画生成モデルの推論
- 13B〜30B級のQLoRA微調整
必要なVRAMは、モデルのパラメータ数10億あたり16bitで約2GB、8bitで約1GB、4bit量子化で約0.5〜0.6GBが目安です。これに作業用のメモリ(KVキャッシュなど)として2〜3割を足して考えます。
同じくらいのVRAMのGPU
| GPU | VRAM | 最安(円/時) | 最安の事業者 |
|---|---|---|---|
| L40S | 48GB | 172円 | RunPod |
| RTX 6000 Ada | 48GB | 156円 | RunPod |
| RTX A6000 | 48GB | 93円 | RunPod |
| A40 | 48GB | 93円 | RunPod |