Risposta rapida
H100 vs H200: vale la pena la H200 rispetto al costo extra?
H100 vs H200: la H200 vale il costo extra quando il tuo modello non entra in 80 GB. Ha 141 GB e 1,43 volte la bandwidth, con lo stesso picco di calcolo SXM. Al 29 ottobre 2026 costava il 33% in più all'ora ai prezzi on-demand più bassi che abbiamo trovato, eppure Llama 3.1 70B in FP8 entra in una H200 invece che in due H100. GPUwithCrypto noleggia entrambe per cripto, senza KYC: H200 $3.07/ora, H100 $2.32/ora.
Come si confrontano le specifiche di H100 e H200?
Dati ufficiali NVIDIA, letti il 29 ottobre 2026. I valori Tensor sono TFLOPS di picco dense. NVIDIA pubblica i valori Tensor di Hopper solo con sparsity, quindi dense = valore NVIDIA ÷ 2, indicato con (d). I valori di picco non sono benchmark.
| Specifica | H100 SXM | H100 PCIe | H200 SXM | H200 NVL (PCIe) |
|---|---|---|---|---|
| Memoria | 80 GB HBM3 | 80 GB HBM2e | 141 GB HBM3e | 141 GB HBM3e |
| Larghezza di banda della memoria | 3.350 GB/s | 2.000 GB/s | 4.800 GB/s | 4.800 GB/s |
| FP16 / BF16 Tensor, dense | 989,5 TFLOPS (d) | — | 989,5 TFLOPS (d) | 835,5 TFLOPS (d) |
| FP8 Tensor, dense | 1.979 TFLOPS (d) | — | 1.979 TFLOPS (d) | 1.670,5 TFLOPS (d) |
| NVLink | 900 GB/s | 600 GB/s (bridge) | 900 GB/s | 900 GB/s (bridge a 2 o 4 vie) |
| PCIe | Gen5 | Gen5 | Gen5 | Gen5 |
| Potenza massima | 700 W | 350 W | 700 W | 600 W |
| Lancio | 2022 | 2022 | 2023 | 2024 |
(d) = valore NVIDIA 'with sparsity' ÷ 2. NVIDIA etichetta la tabella della H200 come 'Preliminary specifications. May be subject to change.' Nessuna pagina ufficiale attuale riporta i valori Tensor della H100 PCIe come dense o sparse.
La H200 è più veloce della H100?
Non nel calcolo puro. La H200 SXM e la H100 SXM condividono lo stesso picco dense: 989,5 TFLOPS BF16 e 1.979 TFLOPS FP8. La H200 cambia la memoria: 141 GB invece di 80 GB (1,76 volte) e 4.800 GB/s invece di 3.350 GB/s (1,43 volte). Sono valori di picco NVIDIA, non benchmark.
- Carichi compute-bound (training, prefill di prompt lunghi) non ottengono alcun vantaggio di picco dalla H200.
- Il decoding memory-bound può guadagnare fino al rapporto di bandwidth di 1,43× al picco.
- La capacità è il grande guadagno. Un modello che richiede due H100 gira su una H200, senza split tra GPU.
La H200 NVL è una scheda PCIe con gli stessi 141 GB, un limite di 600 W e picchi inferiori (835,5 TFLOPS BF16 dense). Le istanze hanno da 1 a 8 GPU a seconda dell'host. Prima di avviare, la dashboard mostra per ogni host il paese, il numero di GPU, il form factor (SXM o PCIe) e l'interconnessione.
Quali modelli entrano in una H200 ma non in una H100?
Regola pratica: memoria ≈ parametri (miliardi) × byte per parametro × 1,2, con 2 byte per BF16, 1 per FP8 e 0,5 per 4-bit (EleutherAI). I contesti lunghi aggiungono KV cache: Llama 3.1 70B usa 320 KiB per token in BF16, quindi un contesto da 131.072 token aggiunge 42,9 GB. Formula e altri modelli: guida VRAM.
| Modello e precisione | Memoria necessaria | H100 80GB | H200 141GB |
|---|---|---|---|
| Llama 3.1 8B, BF16 | 19.2 GB | 1 GPU | 1 GPU |
| Llama 3.1 70B, fine-tuning con QLoRA | 52.5 GB | 1 GPU | 1 GPU |
| Llama 3.1 70B, FP8 | 84 GB | 2 GPU | 1 GPU |
| Qwen2.5 72B, FP8 | 87.2 GB | 2 GPU | 1 GPU |
| Llama 3.1 70B, FP8 + un contesto da 128K token | ≈ 113 GB | 2 GPU | 1 GPU |
| Llama 3.1 70B, BF16 | 168 GB | 3 GPU | 2 GPU |
| Llama 3.1 405B, 4-bit | 243 GB | 4 GPU | 2 GPU |
| Llama 3.1 405B, FP8 | 486 GB | 7 GPU | 4 GPU |
| DeepSeek-V3 / R1, FP8 (nativo) | ≈ 805 GB | 11 GPU (su un nodo da 8 GPU) | 6 GPU (un nodo da 8 GPU) |
La stima di base = il numero di schede la cui memoria totale contiene la stima; ignora l'overhead del tensor parallel e la memoria riservata dal driver. DeepSeek pubblica i pesi di V3 e R1 in FP8; tutti i 671B di parametri devono essere residenti anche se 37B sono attivi per token. I valori della KV cache usano l'architettura del paper di Llama 3 (80 layer, 8 KV head, head size 128).
Quanto costano all'ora le H100 e le H200?
Per GPU-ora, USD. "Più basso" e "mediano" sono prezzi di listino self-serve on-demand dal controllo prezzi di GPUwithCrypto del 29 ottobre 2026; i prezzi spot e del marketplace sono esclusi. Vast.ai è un marketplace, mostrato a parte. Tutte le GPU: prezzi.
| GPU | GPUwithCrypto | Lowest on-demand altrove | Median on-demand | Provider controllati | Offerta più bassa su Vast.ai |
|---|---|---|---|---|---|
| H100 80GB | $2.32/ora | $2.73 (Massed Compute) | $4.16 | 16 | $1.73 (H100 SXM) |
| H200 141GB | $3.07/ora | $3.62 (Massed Compute, H200 NVL) | $5.29 | 13 | $3.00 (H200 NVL) |
Prezzi verificati il
Massed Compute non indica il form factor della sua H100 a $2.73. Dati Vast.ai: il feed prezzi pubblico di Vast.ai, l'offerta noleggiabile più economica al 29 ottobre 2026. Tasse escluse.
La H200 costa meno per GB di memoria?
Sì. Secondo il controllo prezzi di GPUwithCrypto del 29 ottobre 2026, la H200 costa il 33% in più all'ora della H100 ma il 25% in meno per GB di memoria. Calcolato come prezzo orario ÷ GB:
- H200: 2,57 centesimi per GB-ora al prezzo on-demand più basso ($3.62 ÷ 141), 3,75 centesimi alla mediana ($5.29 ÷ 141).
- H100: 3,41 centesimi per GB-ora al prezzo più basso ($2.73 ÷ 80), 5,20 centesimi alla mediana ($4.16 ÷ 80).
Alla mediana la H200 costa il 28% in meno per GB. Su GPUwithCrypto la stessa divisione dà $0.022 e $0.029, con ogni GPU prezzata almeno il 15% sotto il suo riferimento on-demand indicato.
Sulla banda, la H200 al prezzo più basso offre l'8% in più di GB/s per dollaro della H100 al prezzo più basso (1.326 vs 1.227 GB/s per $/ora, con la H100 al suo valore SXM).
Quanto costa servire Llama 70B su H100 rispetto a una H200?
Una H200 costa meno di due H100. Esempio pratico (ipotesi): servi Llama 3.1 70B in FP8 (≈ 84 GB) 24 ore su 24. Servono due H100 o una H200. Ai prezzi più bassi che abbiamo trovato, una H200 costa il 34% in meno di due H100; alla mediana, il 36% in meno.
Due H100 offrono davvero il doppio della potenza di calcolo di picco di una H200. Questo conta solo se il tuo serving è limitato dal calcolo con batch grandi.
Llama 3.1 70B in FP8: due H100 o una H200
| Base del prezzo | 2 × H100, 24 h | 1 × H200, 24 h | 2 × H100, 720 h | 1 × H200, 720 h |
|---|---|---|---|---|
| GPUwithCrypto | 2 × $55.68 | $73.68 | 2 × $1,670.40 | $2,210.40 |
| Lowest on-demand altrove | $131.04 | $86.88 | $3,931.20 | $2,606.40 |
| Median on-demand | $199.68 | $126.96 | $5,990.40 | $3,808.80 |
Prezzi verificati il
Le ore di esecuzione sono un'ipotesi. Solo tempo GPU; storage e rete a parte dove il provider li addebita.
Quando conviene noleggiare la H100?
Quando il modello sta in 80 GB. Allora la H200 deve eseguire il tuo job 1,33 volte più velocemente per ripagarsi ai prezzi più bassi ($3.62 ÷ $2.73), o 1,27 volte alla mediana ($5.29 ÷ $4.16). I nostri due prezzi mantengono circa lo stesso rapporto di 1,33, perché ciascuno sta almeno il 15% sotto il suo riferimento indicato ($3.62 e $2.73).
- Lavoro limitato dal calcolo che sta in 80 GB: vince la H100. La potenza di picco è uguale, il prezzo no.
- Decoding limitato dalla banda che sta in 80 GB: il vantaggio del 1,43× di banda di picco della H200 sta appena sopra il divario di prezzo di 1,33×. Testa il tuo carico di lavoro prima di impegnarti per un mese.
- Fine-tuning di modelli 8B, QLoRA su 70B, notebook: la H100, o una A100 80GB più economica.
Noleggia la H200 per il serving FP8 di classe 70B su una GPU, contesti lunghi, modelli 405B su meno GPU e DeepSeek-V3 o R1 su un singolo nodo da 8 GPU.
Domande sulla H100 e sulla H200
La H200 è più veloce della H100?
Non per il calcolo: le versioni SXM condividono lo stesso picco dense, 989,5 TFLOPS BF16 e 1.979 TFLOPS FP8 (derivati dai valori sparse di NVIDIA). La H200 ha 1,43 volte la banda di memoria e 1,76 volte la memoria, il che aiuta il decoding limitato dalla banda e i modelli grandi.
Quanto costa in più all'ora una H200 rispetto a una H100?
Il 29 ottobre 2026 i prezzi self-serve on-demand più bassi che abbiamo trovato erano $3.62 per una H200 e $2.73 per una H100, con un divario del 33%. Le mediane erano $5.29 e $4.16. GPUwithCrypto applica $3.07/ora e $2.32/ora.
Posso eseguire Llama 3.1 70B su una singola H200?
Sì in FP8: circa 84 GB con la regola × 1,2, lasciando spazio per la KV cache in 141 GB. In BF16 servono circa 168 GB, quindi due H200. Su H100 la versione FP8 richiede due schede.
Meglio noleggiare due H100 o una H200?
Per un modello tra 80 e 141 GB, una H200: costa il 34% in meno di due H100 ai prezzi più bassi del 29 ottobre 2026 ed evita di dividere il modello. Due H100 hanno senso quando ti serve il doppio della potenza di calcolo di picco.
Posso pagare una H200 in criptovalute?
Sì. GPUwithCrypto noleggia la H200 a BTC, USDT, USDC, ETH, SOL, LTC, senza KYC. Dei 13 provider con un prezzo on-demand della H200 al 29 ottobre 2026, 4 accettano criptovalute: Massed Compute, Paperspace/DigitalOcean, Spheron e RunPod, che richiede prima il KYC.
Noleggia una H200 o una H100 in criptovalute
H200 $3.07/ora · H100 $2.32/ora · fatturazione al minuto · senza KYC.
Fonti (10)
- NVIDIA H200 Tensor Core GPU — NVIDIA (read 2026-10-29)
- NVIDIA H200 NVL — NVIDIA (read 2026-10-29)
- GPU NVIDIA H100 Tensor Core — NVIDIA (read 2026-10-29)
- NVIDIA H100 PCIe product brief (PB-11133-001) — NVIDIA (read 2026-10-29)
- The Llama 3 Herd of Models (Table 3) — arXiv (read 2026-10-29)
- Transformer Math 101 — EleutherAI (read 2026-10-29)
- DeepSeek-V3 model card — DeepSeek / Hugging Face (read 2026-10-29)
- Qwen2.5-72B-Instruct model card — Qwen / Hugging Face (read 2026-10-29)
- Prezzi di Massed Compute vm.massedcompute.com/pricing — Massed Compute (read 2026-10-29)
- Feed pubblico dei prezzi GPU di Vast.ai — Vast.ai (read 2026-10-29)