概要
LLM推論に最適なGPUは何ですか？
LLM推論に最適なGPUは、モデルに約20%を加えた量をVRAMに収められる中で最も安価なものです。7〜8BモデルならRTX 4090 (24 GB)、32BをFP8または70Bを4-bitで動かすならL40S (48 GB)、70BをFP8で動かすならH200 (141 GB)、671BのDeepSeekなら8× H200です。2026年10月29日時点で、GPUwithCryptoはH200を$3.07/時間でレンタルでき、暗号資産で支払えます。
モデルサイズごとにどのGPUを使うべきですか？
必要なVRAM = 重み × 1.2 (詳しくはVRAMガイドをご覧ください)。当社の価格と、2026年10月29日に確認したプロバイダーのうち、セルフサーブのオンデマンドGPU時間単価として見つけた最小価格です。
| モデルサイズ (例) | 必要なVRAM | 最適なGPU | 理由 | GPUwithCrypto | 他社の最小価格 (GPUあたり) |
|---|---|---|---|---|---|
| BF16の7〜8B (Llama 3.1 8B, Mistral 7B) | 17.5〜19.2 GB | RTX 4090 24GB | BF16の重みに加え32Kトークンのキャッシュ (Llama 3.1 8Bでは4.3 GB) を収められます。FP8 Tensor Cores対応 | $0.28/時間 | $0.33 (Salad) |
| 128Kトークンコンテキストの7〜8B | 16 GB + 17.2 GBのキャッシュ = 33.2 GB | L40S 48GB | 128KトークンのBF16キャッシュだけで17.2 GB必要です | $0.82/時間 | $0.97 (Massed Compute) |
| FP8の30〜32B (Qwen2.5 32B) | 39 GB | L40S 48GB | 48 GB、FP8 Tensor Cores対応 (FP8密行列のピーク性能733 TFLOPS) | $0.82/時間 | $0.97 (Massed Compute) |
| BF16の30〜32B | 78 GB | A100 80GB | 当社のラインナップで最も手頃な80 GB GPUです。FP8 Tensor Cores非対応のため、BF16または4-bitで配信します | $0.92/時間 | $1.09 (Thunder Compute) |
| 4-bitの70〜72B | 42〜43.6 GB | L40S 48GB | 当社のラインナップで44 GBを超える最も手頃なGPU | $0.82/時間 | $0.97 (Massed Compute) |
| FP8の70〜72B (Llama 3.1 70B, Qwen2.5 72B) | 84〜87.2 GB | H200 141GB | H100を2台使う代わりに1台で済みます。KVキャッシュ用に54〜57 GBが残り、4,800 GB/s | $3.07/時間 | $3.62 (Massed Compute) |
| gpt-oss-120b (MXFP4) | 78.3 GB | H100 80GB | モデルカードは単一の80 GB GPUを対象としています。FP8 Tensor Core、3,350 GB/s（SXM） | $2.32/時間 | $2.73 (Massed Compute) |
| DeepSeek V4 Flash（284B MoE） | 191.5 GB | H200を2台 | FP4/FP8の重みで159.6 GBを占めます。SGLangは4× H200を記載しています | $6.14/時間 | $3.62 (Massed Compute) |
| FP8で405B（Llama 3.1 405B） | 486 GB | 4× H200 | 4台のGPUで564 GB。8× H100ではGPUが2倍必要になります | $12.28/時間 | $3.62 (Massed Compute) |
| 671B～1.6T MoE（DeepSeek-V3/R1 FP8、V4 Pro） | 805～1,037.6 GB | 8× H200 | 1ホストで1,128 GB。8× H100では640 GBしか載りません | $24.56/時間 | $3.62 (Massed Compute) |
価格確認日：
GPU時間あたり、USD、税別。スポット価格とマーケットプレイス価格は含みません。より安価な場合がありますが、GPUを取り戻される可能性があります。
推論ではなぜTFLOPSよりVRAMが重要なのですか？
VRAMはモデルがそもそも動くかどうかを決め、メモリ帯域がテキスト生成の速度上限を決めます。新しいトークンごとにアクティブな重みをメモリから1回ずつ読み出すため、小さなバッチサイズではGPUは演算ではなくメモリを待ちます。計算能力がより重要になるのは、長いプロンプト（prefill）と大量のユーザーをバッチ処理する場合です。
そのため、H200とH100はFP8のピーク演算性能が同じ（denseで1,979 TFLOPS、NVIDIA公表値）ですが、H200はメモリ容量が76%多く、43%速く転送します。4,800 GB/sに対して3,350 GB/sです。ここでの帯域とTFLOPSはNVIDIAのピーク値であり、当社による測定値ではありません。
どのGPUがどのモデルに合いますか？（VRAM順）
当社が貸し出す7種類のGPUを、モデルが載るかどうかを決めるGPUあたりのVRAMが多い順に並べました。第2の基準は帯域、第3の基準は1時間あたりの価格です。
-
1
NVIDIA B200
最大VRAM8,000 GB/sのHBM3eを180 GB（NVIDIAの8-GPU HGX値のGPUあたりの割合）、FP8およびFP4 Tensor Core。BF16の70Bモデル（168 GB）を1台のGPUに載せられます。
-
4,800 GB/sのHBM3eを141 GB。FP8の70Bモデル（84 GB）を載せ、KVキャッシュ用に57 GBが残ります。8台でDeepSeek-V3またはV4 Proが載ります。
-
3,350 GB/s（SXM）または2,000 GB/s（PCIe）のHBM3を80 GB、FP8 Tensor Core。gpt-oss-120b、またはBF16の32Bモデルが載ります。
-
2,039 GB/s（SXM）または1,935 GB/s（PCIe）のHBM2eを80 GB。FP8 Tensor Coreはありません。BF16または4-bitで配信します。
-
864 GB/sのGDDR6を48 GB、FP8 Tensor Core、NVLinkなし。FP8の32Bまたは4-bitの70Bが載ります。
-
GDDR7 32 GB、1,792 GB/s、FP8およびFP4 Tensor Cores。BF16で12Bモデル（28.8 GB）、または4-bitで32Bモデル（19.5 GB）を、長いコンテキストの余裕を残して収められます。
-
GDDR6X 24 GB、1,008 GB/s、FP8 Tensor Cores。BF16で7〜8Bモデルを収められます。
開示：このページはGPUwithCryptoが公開しています。競合他社の詳細は上記の日付時点での公開ウェブサイトに基づくものであり、その後変更されている可能性があります。
H200 1台はH100 2台よりお得ですか？
FP8の70Bモデルなら、はい。H200 1台に収まりますが、H100 2台では分割が必要になり、レイヤーごとにデータをやり取りすることになります。GPUwithCryptoによる2026年10月29日の価格調査では、13プロバイダー全体のオンデマンドH200の中央値はGPU時間あたり$5.29、16プロバイダー全体のH100は$4.16でした。H200は時間あたり27%高い代わりにVRAMが76%多く、メモリ1 GBあたりでは28%安くなります。
当社の価格では、H200 1台が$3.07/時間、H100 2台が時間あたり$4.64です。詳しい比較はH100 vs H200をご覧ください。
スポットやマーケットプレイスのGPUはどうですか？
安価な代わりに、ジョブの途中で消えることがあります。Vast.aiのマーケットプレイスで最も安いH100のオファーは、2026年10月29日時点で時間あたり$1.73でした（Vast.aiの公開価格フィード）。これは当社が確認したオンデマンドの最安値を下回っています。常時稼働が必要な推論サーバーでは、中断はダウンタイムを意味します。インスタンスはオンデマンドであり、Spotではありません。残高がある限りGPUを取り戻されることはなく、インスタンスは停止するまで稼働し続けます。使い分けはスポットGPUとはをご覧ください。
LLM推論GPUの質問
Llama 70Bを動かすにはどのGPUが必要ですか？
FP8ならH200 1台（必要84 GB、利用可能141 GB）、4-bitならL40S 1台（必要42 GB、利用可能48 GB）、BF16ならB200 1台（必要168 GB、利用可能180 GB）です。H100 2台でもFP8版を収められ、合計160 GBになります。
DeepSeek V4に最適なGPUは何ですか？
H200です。DeepSeek V4 Flashの重みは159.6 GBなので、少なくともH200 2台が必要で、SGLangのクックブックでは4台を記載しています。V4 Proは864.7 GB必要で、H200 8台が要ります。コマンドはDeepSeek V4ガイドにあります。
RTX 4090はLLM推論に向いていますか？
7〜8Bモデルなら、はい。24 GBでLlama 3.1 8BをBF16で収められ（オーバーヘッド込みで19.2 GB）、帯域幅1,008 GB/sを備えた当社ラインナップのエントリーGPUです。BF16で約10Bパラメータを超えるとメモリ不足になります。
A100は2026年でも推論に使えますか？
BF16および4-bitの80 GBまでのモデルなら、はい。当社ラインナップのエントリー80 GB GPUです。FP8 Tensor Coresがないため、FP8チェックポイントはL40S、H100、H200のほうがよく動きます。H100 vs A100をご覧ください。
これらのGPUは暗号資産でレンタルできますか？
はい。GPUwithCryptoでは$1へのチャージからBTC, USDT, USDC, ETH, SOL, LTC, XMRで支払えます。本人確認もカードも不要です。インスタンスは稼働中、そのGPU用に購入したGPU時間から時間単価で分単位で課金されます。インスタンスを停止すると課金も即座に停止します。
出典 (14)
- NVIDIA H200の仕様 — NVIDIA (read 2026-10-29)
- NVIDIA H100 仕様 — NVIDIA (read 2026-10-29)
- NVIDIA A100 仕様 — NVIDIA (read 2026-10-29)
- NVIDIA L40Sの仕様 — NVIDIA (read 2026-10-29)
- NVIDIA HGXプラットフォーム（B200） — NVIDIA (read 2026-10-29)
- NVIDIA Ada GPUアーキテクチャ白書（RTX 4090） — NVIDIA (read 2026-10-29)
- NVIDIA RTX Blackwellアーキテクチャ白書（RTX 5090） — NVIDIA (read 2026-10-29)
- Transformer Math 101 — EleutherAI (read 2026-10-29)
- gpt-oss-120bモデルカード — OpenAI / Hugging Face (read 2026-10-29)
- DeepSeek-V4クックブック — SGLang (read 2026-10-29)
- Massed Computeの料金 vm.massedcompute.com/pricing — Massed Compute (read 2026-10-29)
- SaladCloudの価格変更、2026年11月 blog.salad.com/saladcloud-price-changes-november-2026 — Salad (read 2026-10-29)
- Thunder Computeの料金 thundercompute.com/pricing — Thunder Compute (read 2026-10-29)
- Vast.aiの公開GPU価格フィード — Vast.ai (read 2026-10-29)