Kort antwoord
H100 vs H200: is de H200 de extra kosten waard?
H100 vs H200: de H200 is de extra kosten waard wanneer je model niet in 80 GB past. Hij heeft 141 GB en 1,43 keer de bandbreedte, met dezelfde SXM-piekrekenkracht. Op 29 oktober 2026 kostte hij 33% meer per uur tegen de laagste on-demand prijzen die we vonden, maar Llama 3.1 70B in FP8 past op één H200 in plaats van twee H100s. GPUwithCrypto verhuurt beide voor crypto, zonder KYC: H200 $3,07/uur, H100 $2.32/uur.
Hoe verhouden de specs van de H100 en H200 zich tot elkaar?
Officiële NVIDIA-cijfers, gelezen op 29 oktober 2026. Tensor-cijfers zijn dense piek-TFLOPS. NVIDIA drukt Hopper Tensor-waarden alleen met sparsity af, dus dense = NVIDIAs cijfer ÷ 2, gemarkeerd met (d). Piekcijfers zijn geen benchmarks.
| Spec | H100 SXM | H100 PCIe | H200 SXM | H200 NVL (PCIe) |
|---|---|---|---|---|
| Geheugen | 80 GB HBM3 | 80 GB HBM2e | 141 GB HBM3e | 141 GB HBM3e |
| Geheugenbandbreedte | 3.350 GB/s | 2.000 GB/s | 4.800 GB/s | 4.800 GB/s |
| FP16 / BF16 Tensor, dense | 989,5 TFLOPS (d) | — | 989,5 TFLOPS (d) | 835,5 TFLOPS (d) |
| FP8 Tensor, dense | 1.979 TFLOPS (d) | — | 1.979 TFLOPS (d) | 1.670,5 TFLOPS (d) |
| NVLink | 900 GB/s | 600 GB/s (bridge) | 900 GB/s | 900 GB/s (2- of 4-weg bridge) |
| PCIe | Gen5 | Gen5 | Gen5 | Gen5 |
| Max. vermogen | 700 W | 350 W | 700 W | 600 W |
| Lancering | 2022 | 2022 | 2023 | 2024 |
(d) = NVIDIAs cijfer 'with sparsity' ÷ 2. NVIDIA bestempelt de H200-tabel als 'Preliminary specifications. May be subject to change.' Geen enkele huidige officiële pagina geeft H100 PCIe Tensor-waarden als dense of sparse.
Is de H200 sneller dan de H100?
Niet in ruwe rekenkracht. De H200 SXM en de H100 SXM delen dezelfde dense piek: 989,5 TFLOPS BF16 en 1.979 TFLOPS FP8. De H200 verandert het geheugen: 141 GB in plaats van 80 GB (1,76 keer) en 4.800 GB/s in plaats van 3.350 GB/s (1,43 keer). Dit zijn NVIDIAs piekcijfers, geen benchmarks.
- Compute-bound jobs (training, lange prompt prefill) halen geen piekvoordeel uit de H200.
- Memory-bound decoding kan op de piek tot de bandbreedteverhouding van 1,43× winnen.
- Capaciteit is de grote winst. Een model dat twee H100s nodig heeft, draait op één H200, zonder splitsing over GPU's.
De H200 NVL is een PCIe-kaart met dezelfde 141 GB, een limiet van 600 W en lagere pieken (835,5 TFLOPS BF16 dense). Instances hebben 1 tot 8 GPU's, afhankelijk van de host. Voordat je start toont het dashboard het land, het aantal GPU's, de form factor (SXM of PCIe) en de interconnect van elke host.
Welke modellen passen op één H200 maar niet op één H100?
Vuistregel: geheugen ≈ parameters (miljarden) × bytes per parameter × 1,2, met 2 bytes voor BF16, 1 voor FP8 en 0,5 voor 4-bit (EleutherAI). Lange contexten voegen KV cache toe: Llama 3.1 70B gebruikt 320 KiB per token in BF16, dus één context van 131.072 tokens voegt 42,9 GB toe. Formule en meer modellen: VRAM-gids.
| Model en precisie | Benodigd geheugen | H100 80GB | H200 141GB |
|---|---|---|---|
| Llama 3.1 8B, BF16 | 19.2 GB | 1 GPU | 1 GPU |
| Llama 3.1 70B, QLoRA fine-tune | 52.5 GB | 1 GPU | 1 GPU |
| Llama 3.1 70B, FP8 | 84 GB | 2 GPU's | 1 GPU |
| Qwen2.5 72B, FP8 | 87.2 GB | 2 GPU's | 1 GPU |
| Llama 3.1 70B, FP8 + één context van 128K tokens | ≈ 113 GB | 2 GPU's | 1 GPU |
| Llama 3.1 70B, BF16 | 168 GB | 3 GPU's | 2 GPU's |
| Llama 3.1 405B, 4-bit | 243 GB | 4 GPU's | 2 GPU's |
| Llama 3.1 405B, FP8 | 486 GB | 7 GPU's | 4 GPU's |
| DeepSeek-V3 / R1, FP8 (native) | ≈ 805 GB | 11 GPU's (over één 8-GPU-node) | 6 GPU's (één 8-GPU-node) |
Naïeve fit = het aantal kaarten waarvan het totale geheugen de schatting bevat; het negeert tensor-parallel-overhead en geheugen dat door de driver wordt gereserveerd. DeepSeek publiceert de V3- en R1-gewichten in FP8; alle 671B parameters moeten resident zijn, hoewel 37B actief zijn per token. Cijfers voor de KV-cache gebruiken de architectuur uit het Llama 3-paper (80 lagen, 8 KV-heads, headgrootte 128).
Hoeveel kosten de H100 en H200 per uur?
Per GPU-uur, USD. 'Laagste' en 'mediaan' zijn self-serve on-demand lijstprijzen uit GPUwithCrypto's prijscontrole van 29 oktober 2026; spot- en marketplace-prijzen zijn uitgesloten. Vast.ai is een marketplace en wordt apart getoond. Alle GPU's: prijzen.
| GPU | GPUwithCrypto | Laagste on-demand elders | Mediaan on-demand | Gecontroleerde providers | Laagste aanbod op Vast.ai |
|---|---|---|---|---|---|
| H100 80GB | $2.32/uur | $2,73 (Massed Compute) | $4.16 | 16 | $1,73 (H100 SXM) |
| H200 141GB | $3,07/uur | $3,62 (Massed Compute, H200 NVL) | $5.29 | 13 | $3,00 (H200 NVL) |
Prijzen gecontroleerd op
Massed Compute vermeldt de form factor van zijn H100 van $2,73 niet. Vast.ai-cijfers: de openbare prijsfeed van Vast.ai, goedkoopste huuraanbod op 29 oktober 2026. Exclusief belastingen.
Is de H200 goedkoper per GB geheugen?
Ja. Volgens GPUwithCrypto's prijscontrole van 29 oktober 2026 kost de H200 33% meer per uur dan de H100, maar 25% minder per GB geheugen. Berekend als uurprijs ÷ GB:
- H200: 2,57 cent per GB-uur bij de laagste on-demand prijs ($3,62 ÷ 141), 3,75 cent bij de mediaan ($5,29 ÷ 141).
- H100: 3,41 cent per GB-uur bij de laagste prijs ($2,73 ÷ 80), 5,20 cent bij de mediaan ($4,16 ÷ 80).
Bij de mediaan is de H200 28% goedkoper per GB. Bij GPUwithCrypto geeft dezelfde deling $0.022 en $0.029, waarbij elke GPU minstens 15% onder zijn genoemde on-demand referentie ligt.
Voor bandbreedte levert de goedkoopste H200 8% meer GB/s per dollar dan de goedkoopste H100 (1.326 vs 1.227 GB/s per $/uur, met de H100 op zijn SXM-cijfer).
Wat kost het om Llama 70B op H100's te draaien versus op een H200?
Eén H200 kost minder dan twee H100's. Uitgewerkt voorbeeld (aanname): je draait Llama 3.1 70B in FP8 (≈ 84 GB) rond de klok. Dat vereist twee H100's of één H200. Bij de laagste prijzen die we vonden kost één H200 34% minder dan twee H100's; bij de mediaan 36% minder.
Twee H100's leveren wel twee keer de piekrekenkracht van één H200. Dat maakt alleen uit als je serving rekenkrachtgebonden is bij een grote batch.
Llama 3.1 70B in FP8: twee H100's of één H200
| Prijsbasis | 2 × H100, 24 u | 1 × H200, 24 u | 2 × H100, 720 u | 1 × H200, 720 u |
|---|---|---|---|---|
| GPUwithCrypto | 2 × $55.68 | $73.68 | 2 × $1,670.40 | $2,210.40 |
| Laagste on-demand elders | $131.04 | $86.88 | $3,931.20 | $2,606.40 |
| Mediaan on-demand | $199.68 | $126.96 | $5,990.40 | $3,808.80 |
Prijzen gecontroleerd op
Draaiuren zijn een aanname. Alleen GPU-tijd; opslag en netwerk extra waar de provider die in rekening brengt.
Wanneer moet ik de H100 huren in plaats daarvan?
Wanneer het model in 80 GB past. Dan moet de H200 je taak 1,33 keer sneller uitvoeren om zich terug te verdienen bij de laagste prijzen ($3,62 ÷ $2,73), of 1,27 keer bij de mediaan ($5,29 ÷ $4,16). Onze twee prijzen houden ongeveer dezelfde verhouding van 1,33 aan, omdat elk minstens 15% onder zijn genoemde referentie ligt ($3.62 en $2.73).
- Rekenkrachtgebonden werk dat in 80 GB past: de H100 wint. Piekrekenkracht is gelijk, de prijs niet.
- Bandbreedtegebonden decoding dat in 80 GB past: de 1,43× piekbandbreedtevoorsprong van de H200 ligt net boven het prijsverschil van 1,33×. Test je eigen workload voordat je je voor een maand vastlegt.
- Fine-tuning van 8B-modellen, QLoRA op 70B, notebooks: de H100, of een goedkopere A100 80GB.
Huur de H200 voor 70B-klasse FP8-serving op één GPU, lange contexten, 405B-modellen op minder GPU's, en DeepSeek-V3 of R1 op één 8-GPU-node.
Vragen over de H100 en de H200
Is de H200 sneller dan de H100?
Niet voor rekenkracht: de SXM-versies delen dezelfde dense piek, 989,5 TFLOPS BF16 en 1.979 TFLOPS FP8 (afgeleid van NVIDIA's sparse-cijfers). De H200 heeft 1,43 keer de geheugenbandbreedte en 1,76 keer het geheugen, wat helpt bij geheugen-gebonden decoding en grote modellen.
Hoeveel meer kost een H200 per uur dan een H100?
Op 29 oktober 2026 waren de laagste self-serve on-demand prijzen die we vonden $3,62 voor een H200 en $2,73 voor een H100, 33% verschil. De medianen waren $5,29 en $4,16. GPUwithCrypto rekent $3,07/uur en $2.32/uur.
Kan ik Llama 3.1 70B op één H200 draaien?
Ja in FP8: ongeveer 84 GB met de × 1,2-regel, met ruimte voor KV-cache in 141 GB. In BF16 is ongeveer 168 GB nodig, dus twee H200's. Op H100's vereist de FP8-versie twee kaarten.
Moet ik twee H100's huren of één H200?
Voor een model tussen 80 en 141 GB, één H200: hij kost 34% minder dan twee H100's bij de laagste prijzen van 29 oktober 2026 en voorkomt dat het model wordt opgesplitst. Twee H100's zijn zinvol als je twee keer de piekrekenkracht nodig hebt.
Kan ik een H200 betalen met crypto?
Ja. GPUwithCrypto verhuurt de H200 voor BTC, USDT, USDC, ETH, SOL, LTC, XMR, zonder KYC. Van de 13 providers met een on-demand H200-prijs op 29 oktober 2026 accepteren er 4 crypto: Massed Compute, Paperspace/DigitalOcean, Spheron en RunPod, dat eerst om KYC vraagt.
Huur een H200 of een H100 met crypto
H200 $3,07/uur · H100 $2.32/uur · per minuut gefactureerd · zonder KYC.
Bronnen (10)
- NVIDIA H200 Tensor Core GPU — NVIDIA (read 2026-10-29)
- NVIDIA H200 NVL — NVIDIA (read 2026-10-29)
- NVIDIA H100 Tensor Core GPU — NVIDIA (read 2026-10-29)
- NVIDIA H100 PCIe product brief (PB-11133-001) — NVIDIA (read 2026-10-29)
- The Llama 3 Herd of Models (Table 3) — arXiv (read 2026-10-29)
- Transformer Math 101 — EleutherAI (read 2026-10-29)
- DeepSeek-V3 model card — DeepSeek / Hugging Face (read 2026-10-29)
- Qwen2.5-72B-Instruct model card — Qwen / Hugging Face (read 2026-10-29)
- Massed Compute-prijzen vm.massedcompute.com/pricing — Massed Compute (read 2026-10-29)
- Openbare GPU-prijsfeed van Vast.ai — Vast.ai (read 2026-10-29)