LLM 推論向け GPU クラウドの選び方
まずモデルのメモリ要件を確認し、課金対象の GPU 数、地域、料金種別を比べます。GPU 単価だけでは、モデルが収まるか、インスタンス全体でいくらかかるかは分かりません。
「現在」は、このビルドの対象日スナップショットにある比較条件を満たす観測値を指します。在庫の再確認や市場全体の最安値ではありません。GPU の全量割り当ての米ドル料金で、標準リージョンまたはリージョン未指定、税抜きまたは税区分不明が対象です。Spot は別集計です。古い記録、分割割り当て、広告上の開始価格、GPU 部分のみの料金は除外し、出典・税・市場・為替・課金条件をカードに残します。
価格観測日:2026-11-18
表は、データベースに保存したモデルカードの公称パラメータ数から理想的な重み容量を計算します。FP16 はパラメータあたり二バイト、密に格納した四ビット重みは半バイトです。単位は十進 GB で、GiB ではありません。実測 VRAM 要件ではなく、公称規模からの概算です。量子化メタデータ、KV キャッシュ、活性値、実行時メモリが加わり、文脈長や同時処理数でも変わります。容量は速度を保証せず、複数 GPU のメモリ利用には対応する分割構成が必要です。推定ツールとキャッシュ資料を確認してください。
| GPU モデル | 公称パラメータ数(十億) | FP16 重みのみ (GB) | 四ビット重みのみ (GB) |
|---|---|---|---|
| Llama 2 7B | 7 | 14 | 3.5 |
| Llama 2 13B | 13 | 26 | 6.5 |
| Llama 2 70B | 70 | 140 | 35 |
重み以外の余裕を確保し、対象の文脈長・バッチ・精度で試してください。以下の区分は、GPU あたりの VRAM 容量を重複なく分けたものです。最安観測値は候補であり、推奨や特定モデルの動作保証ではありません。モデル・事業者ページで GPU 数、場所、条件を確認してください。
| GPU あたりの VRAM 容量区分 | 料金タイプ | 観測最安 USD/GPU 時間 |
|---|---|---|
| 16 GB – < 24 GB | オンデマンド | RTX A4000 16GB · clore · $0.062 · オンデマンド |
| 16 GB – < 24 GB | Spot | RTX A4000 16GB · clore · $0.062 · Spot |
| 24 GB – < 48 GB | オンデマンド | V100 SXM2 32GB · clore · $0.074 · オンデマンド |
| 24 GB – < 48 GB | Spot | RTX 3090 24GB · clore · $0.067 · Spot |
| 48 GB – < 80 GB | オンデマンド | CMP 170HX 64GB · clore · $0.231 · オンデマンド |
| 48 GB – < 80 GB | Spot | CMP 170HX 64GB · clore · $0.231 · Spot |
| 80 GB+ | オンデマンド | A100 PCIe 80GB · clore · $0.354 · オンデマンド |
| 80 GB+ | Spot | A100 PCIe 80GB · clore · $0.250 · Spot |
観測データの実例と価格条件
$0.062 GPU あたり・毎時
インスタンスの最低課金額:USD $0.062/hr · 最低課金時間は不明
詳細・出典
SKU:113131 · 提供状況:利用可能 · A · 公式 API
報告された GPU 名:NVIDIA RTX A4000
報告された VRAM:16 GB
元の対象範囲の時間単価:USD $0.062/hr · インスタンス
提供元の課金単位:インスタンス時間
2/2
16 GB
16 GB
Listed whole-server daily price divided by 24 and GPU count. Platform service fees may apply; tax treatment unknown. Stablecoin-denominated USD price (USD-Blockchain).
API レコードのページ$0.062 GPU あたり・毎時
インスタンスの最低課金額:USD $0.062/hr · 最低課金時間は不明
詳細・出典
SKU:113131 · 提供状況:利用可能 · A · 公式 API
報告された GPU 名:NVIDIA RTX A4000
報告された VRAM:16 GB
元の対象範囲の時間単価:USD $0.062/hr · インスタンス
提供元の課金単位:インスタンス時間
2/2
16 GB
16 GB
Listed whole-server daily price divided by 24 and GPU count. Platform service fees may apply; tax treatment unknown. Stablecoin-denominated USD price (USD-Blockchain).
API レコードのページ$0.067 GPU あたり・毎時
インスタンスの最低課金額:USD $0.067/hr · 最低課金時間は不明
詳細・出典
SKU:112743 · 提供状況:利用可能 · A · 公式 API
報告された GPU 名:NVIDIA GeForce RTX 3090
報告された VRAM:24 GB
元の対象範囲の時間単価:USD $0.067/hr · インスタンス
提供元の課金単位:インスタンス時間
16/32
64 GB
24 GB
Listed whole-server daily price divided by 24 and GPU count. Platform service fees may apply; tax treatment unknown. Stablecoin-denominated USD price (USD-Blockchain).
API レコードのページ$0.074 GPU あたり・毎時
インスタンスの最低課金額:USD $0.295/hr · 最低課金時間は不明
詳細・出典
SKU:122717 · 提供状況:利用可能 · A · 公式 API
報告された GPU 名:Tesla V100SXM232GB
報告された VRAM:32 GB
元の対象範囲の時間単価:USD $0.295/hr · インスタンス
提供元の課金単位:インスタンス時間
24/48
192 GB
32 GB
Listed whole-server daily price divided by 24 and GPU count. Platform service fees may apply; tax treatment unknown. Stablecoin-denominated USD price (USD-Blockchain).
API レコードのページ$0.231 GPU あたり・毎時
インスタンスの最低課金額:USD $2.08/hr · 最低課金時間は不明
詳細・出典
SKU:115963 · 提供状況:利用可能 · A · 公式 API
報告された GPU 名:NVIDIA CMP 170HX
報告された VRAM:64 GB
元の対象範囲の時間単価:USD $2.08/hr · インスタンス
提供元の課金単位:インスタンス時間
4/8
32 GB
64 GB
Listed whole-server daily price divided by 24 and GPU count. Platform service fees may apply; tax treatment unknown. Stablecoin-denominated USD price (USD-Blockchain).
API レコードのページ$0.231 GPU あたり・毎時
インスタンスの最低課金額:USD $2.08/hr · 最低課金時間は不明
詳細・出典
SKU:115963 · 提供状況:利用可能 · A · 公式 API
報告された GPU 名:NVIDIA CMP 170HX
報告された VRAM:64 GB
元の対象範囲の時間単価:USD $2.08/hr · インスタンス
提供元の課金単位:インスタンス時間
4/8
32 GB
64 GB
Listed whole-server daily price divided by 24 and GPU count. Platform service fees may apply; tax treatment unknown. Stablecoin-denominated USD price (USD-Blockchain).
API レコードのページ$0.250 GPU あたり・毎時
インスタンスの最低課金額:USD $0.250/hr · 最低課金時間は不明
詳細・出典
SKU:124543 · 提供状況:利用可能 · A · 公式 API
報告された GPU 名:NVIDIA A100 80GB PCIe
報告された VRAM:80 GB
元の対象範囲の時間単価:USD $0.250/hr · インスタンス
提供元の課金単位:インスタンス時間
24/24
216 GB
80 GB
Listed whole-server daily price divided by 24 and GPU count. Platform service fees may apply; tax treatment unknown. Stablecoin-denominated USD price (USD-Blockchain).
API レコードのページ$0.354 GPU あたり・毎時
インスタンスの最低課金額:USD $0.354/hr · 最低課金時間は不明
詳細・出典
SKU:124543 · 提供状況:利用可能 · A · 公式 API
報告された GPU 名:NVIDIA A100 80GB PCIe
報告された VRAM:80 GB
元の対象範囲の時間単価:USD $0.354/hr · インスタンス
提供元の課金単位:インスタンス時間
24/24
216 GB
80 GB
Listed whole-server daily price divided by 24 and GPU count. Platform service fees may apply; tax treatment unknown. Stablecoin-denominated USD price (USD-Blockchain).
API レコードのページ公式資料
借りる前にジョブの総費用を確認: GPU Budget Kit($12)
関連ガイドと比較
- GPU のSpot料金とオンデマンド料金
- GPU 時間単価とインスタンス料金の違い
- GPU クラウド料金の用語集
- 現在の VRAM 容量あたりの最安 GPU
- Llama モデル
- Qwen モデル
- Qwen2.5 7B Instruct LLM 推論に最適なクラウド GPU(FP16)
- Qwen2.5 7B Instruct LLM 推論に最適なクラウド GPU(4 ビット量子化)
- Qwen2.5 14B Instruct LLM 推論に最適なクラウド GPU(FP16)
- Qwen2.5 14B Instruct LLM 推論に最適なクラウド GPU(4 ビット量子化)
- Qwen2.5 32B Instruct LLM 推論に最適なクラウド GPU(FP16)
- Qwen2.5 32B Instruct LLM 推論に最適なクラウド GPU(4 ビット量子化)
- Qwen2.5 72B Instruct LLM 推論に最適なクラウド GPU(FP16)
- Qwen2.5 72B Instruct LLM 推論に最適なクラウド GPU(4 ビット量子化)
- Mistral モデル
- Whisper 音声認識