# LLM推論に最適なGPUは何ですか？

> LLM推論に最適なGPUはモデルサイズによって異なります。8BならRTX 4090、32BをFP8で動かすならL40S、70BをFP8で動かすならH200です。暗号資産で支払い、KYC不要、2026年10月。

- URL: https://gpuwithcrypto.com/ja/best-gpu-for/llm-inference/
- 最終更新: 2026-10-29
- 発行者: GPUwithCrypto (https://gpuwithcrypto.com)

モデルとそのキャッシュを収められるメモリを持つ、最も安価なGPUを選んでください。下の表は主要なモデルサイズごとにそれを示したもので、当社の時間単価を、他社で見つけた最小のオンデマンド価格の隣に並べています。

**概要 — LLM推論に最適なGPUは何ですか？**

LLM推論に最適なGPUは、モデルに約20%を加えた量をVRAMに収められる中で最も安価なものです。7〜8BモデルならRTX 4090 (24 GB)、32BをFP8または70Bを4-bitで動かすならL40S (48 GB)、70BをFP8で動かすならH200 (141 GB)、671BのDeepSeekなら8× H200です。2026年10月29日時点で、**GPUwithCrypto**はH200を$3.07/時間でレンタルでき、暗号資産で支払えます。

## モデルサイズごとにどのGPUを使うべきですか？

必要なVRAM = 重み × 1.2 (詳しくは[VRAMガイド](https://gpuwithcrypto.com/ja/how-much-vram-do-i-need/ "LLM を実行またはファインチューニングするにはどのくらいの VRAM が必要ですか？")をご覧ください)。当社の価格と、2026年10月29日に確認したプロバイダーのうち、セルフサーブのオンデマンドGPU時間単価として見つけた最小価格です。

| モデルサイズ (例) | 必要なVRAM | 最適なGPU | 理由 | GPUwithCrypto | 他社の最小価格 (GPUあたり) |
| --- | --- | --- | --- | --- | --- |
| BF16の7〜8B (Llama 3.1 8B, Mistral 7B) | 17.5〜19.2 GB | [RTX 4090 24GB](https://gpuwithcrypto.com/ja/gpu-prices/rtx-4090/ "RTX 4090を1時間レンタルするといくらですか？") | BF16の重みに加え32Kトークンのキャッシュ (Llama 3.1 8Bでは4.3 GB) を収められます。FP8 Tensor Cores対応 | $0.28/時間 | $0.33 (Salad) |
| 128Kトークンコンテキストの7〜8B | 16 GB + 17.2 GBのキャッシュ = 33.2 GB | [L40S 48GB](https://gpuwithcrypto.com/ja/gpu-prices/l40s/ "L40Sの1時間あたりの料金はいくらですか？") | 128KトークンのBF16キャッシュだけで17.2 GB必要です | $0.82/時間 | $0.97 (Massed Compute) |
| FP8の30〜32B (Qwen2.5 32B) | 39 GB | [L40S 48GB](https://gpuwithcrypto.com/ja/gpu-prices/l40s/ "L40Sの1時間あたりの料金はいくらですか？") | 48 GB、FP8 Tensor Cores対応 (FP8密行列のピーク性能733 TFLOPS) | $0.82/時間 | $0.97 (Massed Compute) |
| BF16の30〜32B | 78 GB | [A100 80GB](https://gpuwithcrypto.com/ja/gpu-prices/a100/ "A100の1時間あたりの料金はいくらですか？") | 当社のラインナップで最も手頃な80 GB GPUです。FP8 Tensor Cores非対応のため、BF16または4-bitで配信します | $0.92/時間 | $1.09 (Thunder Compute) |
| 4-bitの70〜72B | 42〜43.6 GB | [L40S 48GB](https://gpuwithcrypto.com/ja/gpu-prices/l40s/ "L40Sの1時間あたりの料金はいくらですか？") | 当社のラインナップで44 GBを超える最も手頃なGPU | $0.82/時間 | $0.97 (Massed Compute) |
| FP8の70〜72B (Llama 3.1 70B, Qwen2.5 72B) | 84〜87.2 GB | [H200 141GB](https://gpuwithcrypto.com/ja/gpu-prices/h200/ "H200の時間単価はいくらですか？") | H100を2台使う代わりに1台で済みます。KVキャッシュ用に54〜57 GBが残り、4,800 GB/s | $3.07/時間 | $3.62 (Massed Compute) |
| gpt-oss-120b (MXFP4) | 78.3 GB | [H100 80GB](https://gpuwithcrypto.com/ja/gpu-prices/h100/ "H100を1時間レンタルするといくらかかりますか？") | モデルカードは単一の80 GB GPUを対象としています。FP8 Tensor Core、3,350 GB/s（SXM） | $2.32/時間 | $2.73 (Massed Compute) |
| DeepSeek V4 Flash（284B MoE） | 191.5 GB | H200を2台 | FP4/FP8の重みで159.6 GBを占めます。SGLangは4× H200を記載しています | $6.14/時間 | $3.62 (Massed Compute) |
| FP8で405B（Llama 3.1 405B） | 486 GB | 4× H200 | 4台のGPUで564 GB。8× H100ではGPUが2倍必要になります | $12.28/時間 | $3.62 (Massed Compute) |
| 671B～1.6T MoE（DeepSeek-V3/R1 FP8、V4 Pro） | 805～1,037.6 GB | 8× H200 | 1ホストで1,128 GB。8× H100では640 GBしか載りません | $24.56/時間 | $3.62 (Massed Compute) |

*価格確認日：2026年10月29日.*

GPU時間あたり、USD、税別。スポット価格とマーケットプレイス価格は含みません。より安価な場合がありますが、GPUを取り戻される可能性があります。

## 推論ではなぜTFLOPSよりVRAMが重要なのですか？

VRAMはモデルがそもそも動くかどうかを決め、メモリ帯域がテキスト生成の速度上限を決めます。新しいトークンごとにアクティブな重みをメモリから1回ずつ読み出すため、小さなバッチサイズではGPUは演算ではなくメモリを待ちます。計算能力がより重要になるのは、長いプロンプト（prefill）と大量のユーザーをバッチ処理する場合です。

そのため、H200とH100はFP8のピーク演算性能が同じ（denseで1,979 TFLOPS、NVIDIA公表値）ですが、H200はメモリ容量が76%多く、43%速く転送します。4,800 GB/sに対して3,350 GB/sです。ここでの帯域とTFLOPSはNVIDIAのピーク値であり、当社による測定値ではありません。

## どのGPUがどのモデルに合いますか？（VRAM順）

**方法論.** 7種類すべてのGPUを貸し出すGPUwithCrypto（SerpGoat LLC）による公開情報です。各GPUは同じ3つの基準で評価しています。VRAMと帯域はNVIDIAの公式値であり、当社による速度測定は行っていません。価格は当社のものであり、2026年10月29日に確認したセルフサービス型オンデマンドの最安値です。

*価格確認日：2026年10月29日.*

当社が貸し出す7種類のGPUを、モデルが載るかどうかを決めるGPUあたりのVRAMが多い順に並べました。第2の基準は帯域、第3の基準は1時間あたりの価格です。

### 1. NVIDIA B200 — 最大VRAM

8,000 GB/sのHBM3eを180 GB（NVIDIAの8-GPU HGX値のGPUあたりの割合）、FP8およびFP4 Tensor Core。BF16の70Bモデル（168 GB）を1台のGPUに載せられます。

- 最適な用途: 1台のGPUでBF16の70B、FP4推論
- 料金: $4.61/時間・他社最安値$5.43

### 2. NVIDIA H200 141GB — 70Bに最適

4,800 GB/sのHBM3eを141 GB。FP8の70Bモデル（84 GB）を載せ、KVキャッシュ用に57 GBが残ります。8台でDeepSeek-V3またはV4 Proが載ります。

- 最適な用途: FP8の70B、長いコンテキスト、大規模MoEモデル
- 料金: $3.07/時間・他社最安値$3.62

### 3. NVIDIA H100 80GB — オールラウンド

3,350 GB/s（SXM）または2,000 GB/s（PCIe）のHBM3を80 GB、FP8 Tensor Core。gpt-oss-120b、またはBF16の32Bモデルが載ります。

- 最適な用途: gpt-oss-120b、BF16の32B、高スループットの8B配信
- 料金: $2.32/時間・他社最安値$2.73

### 4. NVIDIA A100 80GB — エントリー80 GB

2,039 GB/s（SXM）または1,935 GB/s（PCIe）のHBM2eを80 GB。FP8 Tensor Coreはありません。BF16または4-bitで配信します。

- 最適な用途: BF16の32B、長いコンテキストでの4-bitの70B
- 料金: $0.92/時間・他社最安値$1.09

### 5. NVIDIA L40S 48GB — コスパ最良48 GB

864 GB/sのGDDR6を48 GB、FP8 Tensor Core、NVLinkなし。FP8の32Bまたは4-bitの70Bが載ります。

- 最適な用途: FP8の32B、4-bitの70B、128Kコンテキストの8B
- 料金: $0.82/時間・他社最安値$0.97

### 6. NVIDIA GeForce RTX 5090

GDDR7 32 GB、1,792 GB/s、FP8およびFP4 Tensor Cores。BF16で12Bモデル（28.8 GB）、または4-bitで32Bモデル（19.5 GB）を、長いコンテキストの余裕を残して収められます。

- 最適な用途: BF16で12B、4-bitで32B、長いプロンプトにも対応
- 料金: $0.42/時間 · 他社の最安 $0.50

### 7. NVIDIA GeForce RTX 4090 — エントリーGPU

GDDR6X 24 GB、1,008 GB/s、FP8 Tensor Cores。BF16で7〜8Bモデルを収められます。

- 最適な用途: 7〜8Bモデル、開発・テスト向け
- 料金: $0.28/時間 · 他社の最安 $0.33

*開示：このページはGPUwithCryptoが公開しています。競合他社の詳細は上記の日付時点での公開ウェブサイトに基づくものであり、その後変更されている可能性があります。*

## H200 1台はH100 2台よりお得ですか？

FP8の70Bモデルなら、はい。H200 1台に収まりますが、H100 2台では分割が必要になり、レイヤーごとにデータをやり取りすることになります。GPUwithCryptoによる2026年10月29日の価格調査では、13プロバイダー全体のオンデマンドH200の中央値はGPU時間あたり$5.29、16プロバイダー全体のH100は$4.16でした。H200は時間あたり27%高い代わりにVRAMが76%多く、メモリ1 GBあたりでは28%安くなります。

当社の価格では、H200 1台が$3.07/時間、H100 2台が時間あたり$4.64です。詳しい比較は[H100 vs H200](https://gpuwithcrypto.com/ja/compare/h100-vs-h200/ "H100 vs H200: H200は追加コストに見合うか？")をご覧ください。

## スポットやマーケットプレイスのGPUはどうですか？

安価な代わりに、ジョブの途中で消えることがあります。Vast.aiのマーケットプレイスで最も安いH100のオファーは、2026年10月29日時点で時間あたり$1.73でした（Vast.aiの公開価格フィード）。これは当社が確認したオンデマンドの最安値を下回っています。常時稼働が必要な推論サーバーでは、中断はダウンタイムを意味します。インスタンスはオンデマンドであり、Spotではありません。残高がある限りGPUを取り戻されることはなく、インスタンスは停止するまで稼働し続けます。使い分けは[スポットGPUとは](https://gpuwithcrypto.com/ja/what-is/spot-gpu/ "スポットGPUとは何か、それだけの価値はあるのか？")をご覧ください。

## LLM推論GPUの質問

### Llama 70Bを動かすにはどのGPUが必要ですか？

FP8ならH200 1台（必要84 GB、利用可能141 GB）、4-bitならL40S 1台（必要42 GB、利用可能48 GB）、BF16ならB200 1台（必要168 GB、利用可能180 GB）です。H100 2台でもFP8版を収められ、合計160 GBになります。

### DeepSeek V4に最適なGPUは何ですか？

H200です。DeepSeek V4 Flashの重みは159.6 GBなので、少なくともH200 2台が必要で、SGLangのクックブックでは4台を記載しています。V4 Proは864.7 GB必要で、H200 8台が要ります。コマンドは[DeepSeek V4ガイド](https://gpuwithcrypto.com/ja/guides/run-deepseek-v4-on-cloud-gpu/ "クラウドGPUでDeepSeek V4を実行するにはどうすればよいですか？")にあります。

### RTX 4090はLLM推論に向いていますか？

7〜8Bモデルなら、はい。24 GBでLlama 3.1 8BをBF16で収められ（オーバーヘッド込みで19.2 GB）、帯域幅1,008 GB/sを備えた当社ラインナップのエントリーGPUです。BF16で約10Bパラメータを超えるとメモリ不足になります。

### A100は2026年でも推論に使えますか？

BF16および4-bitの80 GBまでのモデルなら、はい。当社ラインナップのエントリー80 GB GPUです。FP8 Tensor Coresがないため、FP8チェックポイントはL40S、H100、H200のほうがよく動きます。[H100 vs A100](https://gpuwithcrypto.com/ja/compare/h100-vs-a100/ "H100 vs A100：どちらをレンタルすべきか？")をご覧ください。

### これらのGPUは暗号資産でレンタルできますか？

はい。GPUwithCryptoでは$1へのチャージからBTC, USDT, USDC, ETH, SOL, LTC, XMRで支払えます。本人確認もカードも不要です。インスタンスは稼働中、そのGPU用に購入したGPU時間から時間単価で分単位で課金されます。インスタンスを停止すると課金も即座に停止します。

## 出典

1. [NVIDIA H200の仕様](https://www.nvidia.com/en-us/data-center/h200/) — NVIDIA (read 2026-10-29)
2. [NVIDIA H100 仕様](https://www.nvidia.com/en-us/data-center/h100/) — NVIDIA (read 2026-10-29)
3. [NVIDIA A100 仕様](https://www.nvidia.com/en-us/data-center/a100/) — NVIDIA (read 2026-10-29)
4. [NVIDIA L40Sの仕様](https://www.nvidia.com/en-us/data-center/l40s/) — NVIDIA (read 2026-10-29)
5. [NVIDIA HGXプラットフォーム（B200）](https://www.nvidia.com/en-us/data-center/hgx/) — NVIDIA (read 2026-10-29)
6. [NVIDIA Ada GPUアーキテクチャ白書（RTX 4090）](https://images.nvidia.com/aem-dam/Solutions/geforce/ada/nvidia-ada-gpu-architecture.pdf) — NVIDIA (read 2026-10-29)
7. [NVIDIA RTX Blackwellアーキテクチャ白書（RTX 5090）](https://images.nvidia.com/aem-dam/Solutions/geforce/blackwell/nvidia-rtx-blackwell-gpu-architecture.pdf) — NVIDIA (read 2026-10-29)
8. [Transformer Math 101](https://blog.eleuther.ai/transformer-math/) — EleutherAI (read 2026-10-29)
9. [gpt-oss-120bモデルカード](https://huggingface.co/openai/gpt-oss-120b) — OpenAI / Hugging Face (read 2026-10-29)
10. [DeepSeek-V4クックブック](https://docs.sglang.io/cookbook/autoregressive/DeepSeek/DeepSeek-V4) — SGLang (read 2026-10-29)
11. [Massed Computeの料金](https://vm.massedcompute.com/pricing) — Massed Compute (read 2026-10-29)
12. [SaladCloudの価格変更、2026年11月](https://blog.salad.com/saladcloud-price-changes-november-2026) — Salad (read 2026-10-29)
13. [Thunder Computeの料金](https://www.thundercompute.com/pricing) — Thunder Compute (read 2026-10-29)
14. [Vast.aiの公開GPU価格フィード](https://storage.googleapis.com/vast-public-gpu-pricing/gpu-pricing-public.json) — Vast.ai (read 2026-10-29)

---

GPUwithCrypto: GPUwithCryptoはクラウドGPU（NVIDIA H100、H200、B200、A100、L40S、RTX 4090、RTX 5090）を分単位でレンタル、暗号資産で支払い、KYC不要です。各GPUの価格は、2026年10月29日に確認した名指しのオンデマンド料金より少なくとも15%安く設定されています。