Kort antwoord
H100 vs A100: welke moet ik huren?
H100 vs A100: huur de A100 80GB voor memory-bound inference en LoRA fine-tuning van modellen die in 80 GB passen; huur de H100 voor compute-bound training, FP8 of taken die snel klaar moeten zijn. Per 29 oktober 2026 verhuurt GPUwithCrypto de H100 voor $2.32/uur en de A100 80GB voor $0,92/uur, betaald met crypto zonder KYC. De H100 verdient zich alleen terug als hij je taak ongeveer 2,5 keer sneller uitvoert.
Hoe verhouden de specs van de H100 en A100 zich?
Officiële NVIDIA-cijfers, gelezen op 29 oktober 2026. Tensor-cijfers zijn dense piek-TFLOPS. NVIDIA drukt H100 Tensor-waarden alleen met sparsity af, dus de dense H100-waarden zijn NVIDIA's cijfer ÷ 2, gemarkeerd met (d). Piekcijfers zijn geen benchmarks.
| Spec | H100 SXM | H100 PCIe | A100 80GB SXM | A100 80GB PCIe |
|---|---|---|---|---|
| Architectuur | Hopper | Hopper | Ampere | Ampere |
| Geheugen | 80 GB HBM3 | 80 GB HBM2e | 80 GB HBM2e | 80 GB HBM2e |
| Geheugenbandbreedte | 3.350 GB/s | 2.000 GB/s | 2.039 GB/s | 1.935 GB/s |
| FP16 / BF16 Tensor, dense | 989,5 TFLOPS (d) | — (1) | 312 TFLOPS | 312 TFLOPS |
| FP8 Tensor, dense | 1.979 TFLOPS (d) | — | N.v.t. (2) | N.v.t. (2) |
| NVLink | 900 GB/s | 600 GB/s (bridge) | 600 GB/s | 600 GB/s (2-GPU bridge) |
| PCIe | Gen5 | Gen5 | Gen4 | Gen4 |
| Max. vermogen | 700 W | 350 W | 400 W | 300 W |
| Lancering | 2022 | 2022 | 2020 | 2021 |
(d) NVIDIA vermeldt 1.979 TFLOPS (BF16) en 3.958 TFLOPS (FP8) met sparsity; dense is de helft. Het sparse-cijfer van de A100 is 624 TFLOPS. (1) Geen enkele huidige officiële pagina geeft Tensor-waarden voor de H100 PCIe als dense of sparse; een NVIDIA-blog noemt 1.513 TFLOPS BF16 zonder te zeggen welke. (2) NVIDIA vermeldt FP8 als niet beschikbaar op Ampere.
Wat is sneller, de H100 of de A100?
Op papier doet de H100 SXM 3,17 keer zoveel dense BF16-rekenwerk als een A100 (989,5 vs. 312 TFLOPS) en heeft hij 1,64 keer zoveel geheugenbandbreedte (3.350 vs. 2.039 GB/s). Dit zijn NVIDIA's piekcijfers, geen benchmarks. Gebruik de twee ratio's als planningsgrenzen, niet als gemeten snelheid.
- Rekengebonden werk (training, fine-tuning met grote batch, lange prompt-prefill) volgt de TFLOPS-ratio nauwer.
- Geheugengebonden werk (token-voor-token LLM-decodering bij kleine batch) volgt de bandbreedte-ratio nauwer.
- FP8 draait op de Tensor Cores van de H100 met 1.979 TFLOPS dense. De A100 heeft geen FP8 Tensor Cores, dus een FP8-checkpoint krijgt daar geen FP8-versnelling.
De H100 PCIe is een andere kaart. Zijn 2.000 GB/s ligt dicht bij de 1.935 GB/s van een A100 80GB PCIe. Instances hebben 1 tot 8 GPU's, afhankelijk van de host. Voordat je start toont het dashboard het land, het aantal GPU's, de form factor (SXM of PCIe) en de interconnect van elke host.
Welke modellen passen op een H100 of een A100?
Dezelfde modellen passen op beide, omdat beide 80 GB hebben. Vuistregel: geheugen ≈ parameters (miljarden) × bytes per parameter × 1,2, met 2 bytes voor BF16, 1 voor FP8/INT8 en 0,5 voor 4-bit. De 20% dekt KV-cache en activaties bij een bescheiden context en batch (EleutherAI). Lange contexten vragen meer: zie de VRAM-gids.
| Model en precisie | Benodigd geheugen | H100 80GB | A100 80GB |
|---|---|---|---|
| Llama 3.1 8B, BF16-inference | 19.2 GB | 1 GPU | 1 GPU |
| Llama 3.1 8B, LoRA-fine-tune (planning) | 19.2 GB | 1 GPU | 1 GPU |
| Llama 3.1 8B, volledige fine-tune | 128–144 GB + activaties | 2+ GPU's | 2+ GPU's |
| Llama 3.1 70B, 4-bit-inference | 42 GB | 1 GPU | 1 GPU |
| Llama 3.1 70B, QLoRA fine-tune | 52.5 GB | 1 GPU | 1 GPU |
| Llama 3.1 70B, FP8-inferentie | 84 GB | 2 GPU's | 2 GPU's, geen FP8-versnelling |
| Qwen2.5 72B, FP8-inferentie | 87.2 GB | 2 GPU's | 2 GPU's, geen FP8-versnelling |
| Llama 3.1 70B, BF16-inferentie | 168 GB | 3 GPU's | 3 GPU's |
| Llama 3.1 405B, FP8-inferentie | 486 GB | 7 GPU's | 7 GPU's, geen FP8-versnelling |
Naïeve schatting = het aantal 80 GB-kaarten waarvan het totale geheugen de schatting bevat; tensor-parallel overhead en door de driver gereserveerd geheugen worden genegeerd. LoRA-planning = 2 bytes per parameter × 1,2. QLoRA ≈ 0,75 GB per miljard parameters, gekalibreerd op het 65B-model uit de QLoRA-paper op één 48 GB GPU. Volledige fine-tune = 16–18 bytes per parameter (EleutherAI, Hugging Face).
Hoeveel kosten de H100 en A100 per uur?
Per GPU-uur, USD. 'Laagste' en 'mediaan' zijn self-serve on-demand lijstprijzen uit de prijscheck van GPUwithCrypto van 29 oktober 2026; spot- en marketplace-prijzen zijn uit beide uitgesloten. Vast.ai is een marketplace, dus het cijfer wordt apart getoond. Elke GPU-prijs staat op de prijspagina.
| GPU | GPUwithCrypto | Laagste on-demand elders | Mediaan on-demand | Gecontroleerde providers | Laagste aanbod op Vast.ai |
|---|---|---|---|---|---|
| H100 80GB | $2.32/uur | $2,73 (Massed Compute) | $4.16 | 16 | $1,73 (H100 SXM) |
| A100 80GB | $0,92/uur | $1,09 (Thunder Compute) | $2.23 | 13 | $0,48 (SXM), $0,34 (PCIe) |
Prijzen gecontroleerd op
Massed Compute en Thunder Compute vermelden de vormfactor van deze kaarten niet. Vast.ai-cijfers: de publieke prijsfeed van Vast.ai, goedkoopste huuraanbod op 29 oktober 2026. Exclusief belastingen.
Wat kost een GB VRAM per uur bij elk?
Volgens de prijscheck van GPUwithCrypto van 29 oktober 2026 kost een GB A100-geheugen per uur 2,5 keer minder dan een GB H100-geheugen. Berekend als uurprijs ÷ 80 GB:
- A100 80GB: 1,36 cent per GB-uur bij de laagste on-demand prijs ($1,09 ÷ 80), 2,79 cent bij de mediaan ($2,23 ÷ 80).
- H100 80GB: 3,41 cent per GB-uur bij de laagste prijs ($2,73 ÷ 80), 5,20 cent bij de mediaan ($4,16 ÷ 80).
Bij de mediaan krimpt het verschil tot 1,87 keer. Bij GPUwithCrypto geeft dezelfde deling $0.012 en $0.029, waarbij elke GPU minstens 15% onder de genoemde on-demand referentieprijs ligt.
Per dollar bij de laagste prijzen levert de H100 SXM 27% meer piek-BF16-rekenkracht (362 vs 286 TFLOPS per $/uur). De A100 SXM levert 52% meer bandbreedte per dollar (1.871 vs 1.227 GB/s per $/uur). Als je job meer geheugen dan rekenkracht nodig heeft, is de A100 de goedkopere 80 GB.
Wat kost één job op een H100 vs een A100?
De H100 is alleen per job goedkoper als hij de job sneller uitvoert dan zijn prijstoeslag. Dat break-even punt is 2,50 keer bij de laagste prijzen die we vonden ($2,73 ÷ $1,09) en 1,87 keer bij de mediaan ($4,16 ÷ $2,23). Beide GPUwithCrypto-prijzen liggen minstens 15% onder hun genoemde referenties (Massed Compute op $2.73, Thunder Compute op $1.09), dus ons break-even punt is ook ongeveer 2,5 keer.
Uitgewerkt voorbeeld (aanname, geen benchmark): een fine-tuning-job duurt 24 uur op één A100 80GB. Op een H100 SXM duurt hij 7,6 uur als hij de volledige BF16-piekverhouding van 3,17× haalt, of 14,6 uur als hij alleen de bandbreedteverhouding van 1,64× haalt.
Kosten van dezelfde job (24 A100-uren aangenomen)
| Prijsbasis | A100 80GB, 24 u | H100, 7,6 u (3,17× sneller) | H100, 14,6 u (1,64× sneller) |
|---|---|---|---|
| GPUwithCrypto | $22.08 | $17.63 | $33.87 |
| Laagste on-demand elders | $26.16 | $20.75 | $39.86 |
| Mediaan on-demand | $53.52 | $31.62 | $60.74 |
Prijzen gecontroleerd op
De uren zijn een aanname; de snelheidsverhoudingen zijn NVIDIA SXM-piekcijfers. GPUwithCrypto factureert per minuut, dus een run van 7,6 uur wordt als 7,6 uur gefactureerd.
Wanneer huur ik de H100 in plaats van de A100?
Huur de H100 als minstens één van deze waar is:
- Je traint of fine-tunet met grote batch. Compute-bound werk volgt de piekverhouding van 3,17× nauwer, en die verhouding ligt boven het break-even punt van 2,5×.
- Je serveert FP8-modellen. Alleen de H100 heeft FP8 Tensor Cores (1.979 TFLOPS dense).
- Je hebt meerdere GPU's nodig die snel met elkaar communiceren. H100 SXM NVLink loopt op 900 GB/s, tegen 600 GB/s op de A100.
- Een deadline is belangrijker dan de rekening.
Huur de A100 80GB als het model in 80 GB past en het werk memory-bound is: chat-inferentie met kleine batch, LoRA- en QLoRA-runs, evaluaties, notebooks. Als 80 GB te klein is, lees H100 vs H200. Voor een goedkopere 48 GB-kaart, lees L40S vs A100.
Vragen over de H100 en de A100
Is de H100 het waard ten opzichte van de A100?
Alleen als hij je job meer dan ongeveer 2,5 keer sneller uitvoert, de verhouding van de laagste uurprijzen op 29 oktober 2026. NVIDIA's piekcijfers geven de H100 SXM 3,17 keer de dense BF16-rekenkracht en 1,64 keer de bandbreedte. Compute-bound training haalt die lat op piek; bandbreedtegebonden inferentie niet.
Hoeveel kost een H100 per uur vergeleken met een A100?
Op 29 oktober 2026 was de laagste self-serve on-demand prijs die we vonden $2,73 voor een H100 80GB en $1,09 voor een A100 80GB; de medianen waren $4,16 en $2,23. GPUwithCrypto rekent $2.32/uur en $0,92/uur, betaald met crypto.
Kan een A100 FP8-modellen draaien?
De geheugenberekening is hetzelfde, maar NVIDIA vermeldt FP8 als niet beschikbaar op Ampere, dus de A100 heeft geen FP8 Tensor Core-versnelling. De H100 draait FP8 op 1.979 dense TFLOPS, de helft van NVIDIAs 3.958 sparse-waarde.
Kan ik Llama 3.1 70B op één H100 of A100 draaien?
Alleen in 4-bit: ongeveer 42 GB met de × 1,2-regel, wat op één kaart van 80 GB past. In FP8 is ongeveer 84 GB nodig (twee kaarten) en in BF16 ongeveer 168 GB (drie kaarten). Eén H200 met 141 GB past de FP8-versie.
Kan ik een H100 of A100 huren met crypto en zonder KYC?
Ja. GPUwithCrypto verhuurt beide per minuut, betaald in BTC, USDT, USDC, ETH, SOL, LTC, XMR, zonder ID, zonder selfie en zonder kaart. Van de 33 GPU-aanbieders die we op 29 oktober 2026 hebben gecheckt, accepteren er 14 crypto, en RunPod vraagt om KYC vóór de eerste cryptobetaling.
Huur een H100 of een A100 met crypto
H100 $2.32/uur · A100 80GB $0,92/uur · per minuut gefactureerd · zonder KYC.
Bronnen (12)
- NVIDIA H100 Tensor Core GPU — NVIDIA (read 2026-10-29)
- NVIDIA H100 PCIe product brief (PB-11133-001) — NVIDIA (read 2026-10-29)
- NVIDIA kondigt Hopper-architectuur aan (HBM3) — NVIDIA (read 2026-10-29)
- NVIDIA A100 Tensor Core GPU — NVIDIA (read 2026-10-29)
- NVIDIA A100 datasheet — NVIDIA (read 2026-10-29)
- Transformer Math 101 — EleutherAI (read 2026-10-29)
- Geheugenopbouw per model — Hugging Face (read 2026-10-29)
- QLoRA: Efficient Finetuning of Quantized LLMs — arXiv (read 2026-10-29)
- Llama 3.1 70B model card — Meta / Hugging Face (read 2026-10-29)
- Massed Compute-prijzen vm.massedcompute.com/pricing — Massed Compute (read 2026-10-29)
- Thunder Compute-prijzen thundercompute.com/pricing — Thunder Compute (read 2026-10-29)
- Openbare GPU-prijsfeed van Vast.ai — Vast.ai (read 2026-10-29)