概要
L40S vs A100 推論・ファインチューニング比較は？
L40S vs A100 推論・ファインチューニング比較： 48 GBに収まるモデルでのFP8推論や画像・動画生成にはL40Sを選んでください。ファインチューニング、48〜80 GBのモデル、マルチGPUジョブにはA100 80GBを選んでください。NVLinkを備え、帯域は最大2.4倍です。2026年10月29日時点で、GPUwithCrypto はL40Sを$0.82/時間、A100 80GBを$0.92/時間でレンタルしており、KYC不要、暗号資産で支払いできます。
L40SとA100のスペックはどう比較されますか？
2026年10月29日に確認したNVIDIA公式の数値です。NVIDIAはこれらのカードについてdenseとsparseの両方のTensor値を掲載していますが、表はdenseピークTFLOPSを示しています。ピーク値はベンチマークではありません。
| スペック | L40S | A100 80GB SXM | A100 80GB PCIe |
|---|---|---|---|
| アーキテクチャ | Ada Lovelace | Ampere | Ampere |
| メモリ | 48 GB GDDR6 | 80 GB HBM2e | 80 GB HBM2e |
| メモリ帯域幅 | 864 GB/s | 2,039 GB/s | 1,935 GB/s |
| FP16 / BF16 Tensor、dense | 362.05 TFLOPS | 312 TFLOPS | 312 TFLOPS |
| FP8 Tensor、dense | 733 TFLOPS | N/A | N/A |
| NVLink | いいえ | 600 GB/s | 600 GB/s (2-GPUブリッジ) |
| PCIe | Gen4 x16 | Gen4 | Gen4 |
| 最大消費電力 | 350 W | 400 W | 300 W |
| 発売 | 2023 | 2020 | 2021 |
Sparse値：L40SはBF16で733 TFLOPS、FP8で1,466 TFLOPS、A100はBF16で624 TFLOPSです。NVIDIAはAmpereでFP8は利用不可としています。L40Sのページには「NVLink Support: No」と記載されています。
L40SはA100より速いですか？
演算ではわずかに上です。L40Sはdense BF16で362.05 TFLOPSに対しA100は312 TFLOPS（1.16倍）で、さらにA100にはないFP8で733 TFLOPSを備えます。メモリでは劣ります。A100 80GB SXMは2,039 GB/sで、L40Sの864 GB/sの2.36倍です（A100 PCIeでは2.24倍）。これらはNVIDIAのピーク値であり、ベンチマークではありません。
- トークン単位のLLMデコードは主に帯域に依存し、A100が優位です。
- 画像・動画のdiffusionや大バッチのprefillは計算負荷が高く、L40Sの高いピーク性能とFP8が有利です。
- マルチGPU作業はA100が有利です。L40SにはNVLinkがないため、GPU間はPCIe Gen4で通信します。
インスタンスのGPU数はホストにより1〜8基です。開始前に、ダッシュボードに各ホストの国、GPU数、フォームファクター（SXMまたはPCIe）、インターコネクトが表示されます。
48 GBに収まるモデルはどれで、80 GBが必要なのはどれですか？
推論の目安：メモリ ≈ パラメータ数（十億）× パラメータあたりのバイト数 × 1.2。BF16で2バイト、FP8で1、4-bitで0.5です（EleutherAI）。LoRAの見積もり = パラメータあたり2バイト × 1.2。QLoRA ≈ 10億パラメータあたり0.75 GB。計算式とその他のモデル：VRAMガイド。
| モデルとタスク | 必要なメモリ | L40S 48GB | A100 80GB |
|---|---|---|---|
| Mistral 7B、BF16推論 | 17.5 GB | 1 GPU | 1 GPU |
| Llama 3.1 8B、BF16推論 | 19.2 GB | 1 GPU | 1 GPU |
| Llama 3.1 8B、LoRAファインチューニング | 19.2 GB | 1 GPU | 1 GPU |
| FLUX.1 [dev]、BF16ウェイト | 24 GB + テキストエンコーダ | 1 GPU | 1 GPU |
| FLUX.1 [dev]、LoRAファインチューニング | 28.8 GB | 1 GPU | 1 GPU |
| Llama 3.1 70B、4-bit推論 | 42 GB | 1 GPU | 1 GPU |
| Qwen2.5 72B、4-bit推論 | 43.6 GB | 1 GPU | 1 GPU |
| Llama 3.1 70B、QLoRAファインチューニング | 52.5 GB | 2 GPU（1枚ではギリギリ） | 1 GPU |
| Llama 3.1 70B、FP8推論 | 84 GB | 2 GPU、NVLinkなし | GPU 2基、FP8による高速化なし |
| Llama 3.1 70B、LoRAファインチューニング | 168 GB | 4 GPUs | GPU 3基 |
単純適合 = 見積もりを合計メモリに収められるカード枚数。マルチGPUのオーバーヘッドやドライバが予約するメモリは考慮していません。QLoRAの著者らは65Bモデルを48 GBのGPU 1枚でファインチューニングしたと報告しており、これが「ギリギリ」の根拠です。FLUX.1はT5-XXL、CLIP-L、VAEも読み込むため、ステップ間でCPUにオフロードできます。
L40SとA100の時間あたりの価格はいくらですか？
GPU時間あたり、USD。「最安値」と「中央値」は、GPUwithCryptoによる2026年10月29日の価格調査に基づくセルフサービス・オンデマンドの定価です。スポット価格とマーケットプレイス価格は除外しています。Vast.aiはマーケットプレイスのため別掲しています。すべてのGPU：価格。
| GPU | GPUwithCrypto | 他社のオンデマンド最低価格 | オンデマンド中央値 | 調査したプロバイダー | Vast.aiの最低オファー |
|---|---|---|---|---|---|
| L40S 48GB | $0.82/時間 | $0.97（Massed Compute） | $1.67 | 11 | $0.33 |
| A100 80GB | $0.92/時間 | $1.09（Thunder Compute） | $2.23 | 13 | $0.48（SXM）、$0.34（PCIe） |
価格確認日：
最低価格ではA100 80GBはL40Sより時間あたり12%高いです。中央値では約3割高くなります。Vast.aiの数値：Vast.aiの公開価格フィード、2026年10月29日時点でレンタル可能な最安オファー。税抜き。
VRAM 1 GBあたり、TFLOPSあたりではどちらが安いですか？
GBあたりではA100、TFLOPSあたりではL40Sが安いです。GPUwithCryptoの2026年10月29日の価格調査によると、時間あたり価格 ÷ メモリのGB数で計算しています：
- A100 80GB： 最低オンデマンド価格で1 GB-時間あたり1.36セント（$1.09 ÷ 80）、中央値で2.79セント（$2.23 ÷ 80）。
- L40S 48GB： 最低価格で1 GB-時間あたり2.02セント（$0.97 ÷ 48）、中央値で3.48セント（$1.67 ÷ 48）。
A100のメモリ1 GBは、最低価格で時間あたり33%安く、中央値で20%安くなります。GPUwithCryptoでは同じ割り算が$0.012と$0.017になります。
最低価格での1ドルあたり、L40SはピークBF16演算で30%多く（$1/時間あたり373 vs 286 TFLOPS）、FP8で756 TFLOPS/$/時間です。A100 SXMは1ドルあたり2.1倍の帯域（$1/時間あたり1,871 vs 891 GB/s）です。
1つのジョブのコストはL40SとA100でどう違いますか？
計算例（前提条件であり、ベンチマークではありません）：
- Llama 3.1 8Bを1か月（720時間）配信。 どちらのカード1枚にも収まります。L40Sはスループットがトラフィックに足りるなら安い選択です。
- Llama 3.1 70BのQLoRAファインチューニングを24時間で計画。 約52.5 GB必要：A100 1枚、またはL40S 2枚です。両構成で同じ24時間と仮定すると、A100は最低価格で44%安く、中央値で33%安くなります。
2つのジョブのコスト
| 価格の基準 | 8B配信、720時間：L40S | 8B配信、720時間：A100 | 70B QLoRA、24時間：2 × L40S | 70B QLoRA、24時間：1 × A100 |
|---|---|---|---|---|
| GPUwithCrypto | $590.40 | $662.40 | 2 × $19.68 | $22.08 |
| 他社のオンデマンド最低価格 | $698.40 | $784.80 | $46.56 | $26.16 |
| オンデマンド中央値 | $1,202.40 | $1,605.60 | $80.16 | $53.52 |
価格確認日：
時間は前提条件です。GPU時間のみ。
推論用とファインチューニング用では、それぞれ何をレンタルすべきですか？
推論用には、モデルが48 GBにKVキャッシュの余地を残して収まる場合、L40Sをレンタルしてください: BF16の7B〜8Bモデル、4ビットの70Bモデル、FLUXやSDXLによる画像・動画生成が該当します。FP8チェックポイントはFP8 Tensor Coresで動作します。モデルに48〜80 GBが必要な場合、長いコンテキストや大きなバッチでキャッシュが埋まる場合、またはデコード速度が帯域幅で制限される場合は、A100 80GBをレンタルしてください。
ファインチューニング用には、A100 80GBが安全なデフォルトです。70BモデルのQLoRAは1枚のカードに収まり、600 GB/sのNVLinkがマルチGPU実行を後押しします。7B〜8BモデルのLoRAとFLUX LoRAはどちらのカードにも収まります。
詳細: LLM推論に最適なGPU、ComfyUIとFluxに最適なGPU、Llama 70Bをファインチューニングするのに最適なGPU。
L40SとA100に関する質問
推論ではL40SはA100より優れていますか？
48 GBに収まるモデルや、FP8・画像生成では、はい: 高密度BF16ピークが1.16倍で、FP8 Tensor Coresを備えています。より大きなモデルや帯域幅で制限されるデコードでは、A100 80GBが80 GBと2.36倍の帯域幅（SXM）でリードします。これらはNVIDIAのピーク値であり、ベンチマークではありません。
L40Sはファインチューニングに適していますか？
7B〜8BモデルのLoRAとFLUX LoRAでは、はい: 48 GBに収まります。70BモデルのQLoRAは当社の目安で約52.5 GBを必要とし、L40S 1枚ではギリギリです。L40SにはNVLinkがないため、マルチGPUファインチューニングはPCIe経由で実行されます。
L40SはA100と比べて1時間あたりいくらですか？
2026年10月29日時点で、当社が見つけたセルフサービス従量課金の最安値はL40Sが$0.97、A100 80GBが$1.09でした。中央値はそれぞれ$1.67と$2.23でした。GPUwithCryptoは$0.82/時間と$0.92/時間を請求します。
L40SはNVLinkに対応していますか？
いいえ。NVIDIAのL40Sページには「NVLink Support: No」と記載されており、GPUはPCIe Gen4 x16で双方向64 GB/sで通信します。A100 80GBは600 GB/sのNVLinkを備えています。
L40SやA100を暗号資産でレンタルできますか？
はい。GPUwithCryptoは両方をBTC, USDT, USDC, ETH, SOL, LTCでレンタルでき、身分証明もカードも不要です。2026年10月29日時点で従量課金のL40S価格がある11プロバイダーのうち、5社が暗号資産を受け付けています: Massed Compute、RunPod（先にKYC）、Paperspace/DigitalOcean、Vultr、Spheron。
L40SまたはA100を暗号資産でレンタル
L40S $0.82/時間 · A100 80GB $0.92/時間 · 分単位で課金 · KYC不要。
出典 (10)
- NVIDIA L40S GPU — NVIDIA (read 2026-10-29)
- NVIDIA A100 Tensor Core GPU — NVIDIA (read 2026-10-29)
- NVIDIA A100データシート — NVIDIA (read 2026-10-29)
- Transformer Math 101 — EleutherAI (read 2026-10-29)
- QLoRA: Efficient Finetuning of Quantized LLMs — arXiv (read 2026-10-29)
- LoRA: Low-Rank Adaptation of Large Language Models — arXiv (read 2026-10-29)
- FLUX.1 [dev]モデルカード — Black Forest Labs / Hugging Face (read 2026-10-29)
- Massed Computeの料金 vm.massedcompute.com/pricing — Massed Compute (read 2026-10-29)
- Thunder Computeの料金 thundercompute.com/pricing — Thunder Compute (read 2026-10-29)
- Vast.aiの公開GPU価格フィード — Vast.ai (read 2026-10-29)