Kurze Antwort
H100 vs H200: Lohnt sich die H200 trotz des höheren Preises?
H100 vs H200: Die H200 ist den Aufpreis wert, wenn Ihr Modell nicht in 80 GB passt. Sie hat 141 GB und die 1,43-fache Bandbreite bei gleicher SXM-Spitzenrechenleistung. Am 29. Oktober 2026 kostete sie 33 % mehr pro Stunde bei den niedrigsten On-Demand-Preisen, die wir fanden, doch Llama 3.1 70B in FP8 passt auf eine H200 statt auf zwei H100s. GPUwithCrypto vermietet beide für Krypto, ohne KYC: H200 $3.07/Stunde, H100 $2.32/Stunde.
Wie vergleichen sich die Specs von H100 und H200?
Offizielle NVIDIA-Werte, gelesen am 29. Oktober 2026. Tensor-Werte sind dichte Spitzen-TFLOPS. NVIDIA gibt Hopper-Tensor-Werte nur mit Sparsity an, daher ist dicht = NVIDIAs Wert ÷ 2, gekennzeichnet mit (d). Spitzenwerte sind keine Benchmarks.
| Spec | H100 SXM | H100 PCIe | H200 SXM | H200 NVL (PCIe) |
|---|---|---|---|---|
| Speicher | 80 GB HBM3 | 80 GB HBM2e | 141 GB HBM3e | 141 GB HBM3e |
| Speicherbandbreite | 3.350 GB/s | 2.000 GB/s | 4.800 GB/s | 4.800 GB/s |
| FP16 / BF16 Tensor, dense | 989,5 TFLOPS (d) | — | 989,5 TFLOPS (d) | 835,5 TFLOPS (d) |
| FP8 Tensor, dense | 1.979 TFLOPS (d) | — | 1.979 TFLOPS (d) | 1.670,5 TFLOPS (d) |
| NVLink | 900 GB/s | 600 GB/s (Bridge) | 900 GB/s | 900 GB/s (2- oder 4-Wege-Bridge) |
| PCIe | Gen5 | Gen5 | Gen5 | Gen5 |
| Max. Leistungsaufnahme | 700 W | 350 W | 700 W | 600 W |
| Markteinführung | 2022 | 2022 | 2023 | 2024 |
(d) = NVIDIAs Wert „mit Sparsity“ ÷ 2. NVIDIA kennzeichnet die H200-Tabelle mit „Vorläufige Spezifikationen. Änderungen vorbehalten.“ Keine aktuelle offizielle Seite gibt H100-PCIe-Tensor-Werte als dicht oder mit Sparsity an.
Ist die H200 schneller als die H100?
Nicht bei der reinen Rechenleistung. Die H200 SXM und die H100 SXM teilen dieselbe dichte Spitzenleistung: 989,5 TFLOPS BF16 und 1.979 TFLOPS FP8. Die H200 ändert den Speicher: 141 GB statt 80 GB (1,76-fach) und 4.800 GB/s statt 3.350 GB/s (1,43-fach). Dies sind NVIDIAs Spitzenwerte, keine Benchmarks.
- Rechengebundene Jobs (Training, langes Prompt-Prefill) haben durch die H200 keinen Spitzenvorteil.
- Speichergebundene Dekodierung kann bei Spitzenlast bis zum 1,43-fachen Bandbreitenverhältnis gewinnen.
- Die Kapazität ist der große Gewinn. Ein Modell, das zwei H100s braucht, läuft auf einer H200, ohne Aufteilung über GPUs.
Die H200 NVL ist eine PCIe-Karte mit denselben 141 GB, einem 600-W-Limit und niedrigeren Spitzenwerten (835,5 TFLOPS BF16 dicht). Instanzen haben 1 bis 8 GPUs je nach Host. Vor dem Start zeigt das Dashboard das Land, die GPU-Anzahl, das Formfaktor (SXM oder PCIe) und die Interconnect-Verbindung jedes Hosts.
Welche Modelle passen auf eine H200, aber nicht auf eine H100?
Faustregel: Speicher ≈ Parameter (in Milliarden) × Bytes pro Parameter × 1,2, mit 2 Bytes für BF16, 1 für FP8 und 0,5 für 4-Bit (EleutherAI). Lange Kontexte kommen als KV-Cache hinzu: Llama 3.1 70B nutzt 320 KiB pro Token in BF16, ein Kontext mit 131.072 Token fügt also 42,9 GB hinzu. Formel und weitere Modelle: VRAM-Leitfaden.
| Modell und Präzision | Benötigter Speicher | H100 80GB | H200 141GB |
|---|---|---|---|
| Llama 3.1 8B, BF16 | 19.2 GB | 1 GPU | 1 GPU |
| Llama 3.1 70B, QLoRA-Fine-Tuning | 52.5 GB | 1 GPU | 1 GPU |
| Llama 3.1 70B, FP8 | 84 GB | 2 GPUs | 1 GPU |
| Qwen2.5 72B, FP8 | 87.2 GB | 2 GPUs | 1 GPU |
| Llama 3.1 70B, FP8 + ein Kontext mit 128K Token | ≈ 113 GB | 2 GPUs | 1 GPU |
| Llama 3.1 70B, BF16 | 168 GB | 3 GPUs | 2 GPUs |
| Llama 3.1 405B, 4-Bit | 243 GB | 4 GPUs | 2 GPUs |
| Llama 3.1 405B, FP8 | 486 GB | 7 GPUs | 4 GPUs |
| DeepSeek-V3 / R1, FP8 (nativ) | ≈ 805 GB | 11 GPUs (über einen 8-GPU-Knoten) | 6 GPUs (ein 8-GPU-Knoten) |
Naive fit = die Anzahl der Karten, deren Gesamtspeicher die Schätzung aufnimmt; Tensor-Parallel-Overhead und vom Treiber reservierter Speicher bleiben unberücksichtigt. DeepSeek veröffentlicht die V3- und R1-Gewichte in FP8; alle 671B Parameter müssen resident sein, obwohl pro Token nur 37B aktiv sind. Die KV-Cache-Werte verwenden die Architektur aus dem Llama-3-Paper (80 Schichten, 8 KV-Heads, Head-Größe 128).
Wie viel kosten H100 und H200 pro Stunde?
Pro GPU-Stunde in USD. „Niedrigster“ und „Median“ sind Self-Service-On-Demand-Listenpreise aus GPUwithCryptos Preisprüfung vom 29. Oktober 2026; Spot- und Marktplatzpreise sind ausgeschlossen. Vast.ai ist ein Marktplatz und wird getrennt dargestellt. Alle GPUs: Preise.
| GPU | GPUwithCrypto | Niedrigster On-Demand-Preis anderswo | Median On-Demand | Geprüfte Anbieter | Niedrigstes Angebot bei Vast.ai |
|---|---|---|---|---|---|
| H100 80GB | $2.32/Stunde | $2,73 (Massed Compute) | $4.16 | 16 | $1,73 (H100 SXM) |
| H200 141GB | $3.07/Stunde | 3,62 $ (Massed Compute, H200 NVL) | $5.29 | 13 | 3,00 $ (H200 NVL) |
Preise geprüft am
Massed Compute gibt das Formfaktor seiner 2,73-$-H100 nicht an. Vast.ai-Werte: der öffentliche Preis-Feed von Vast.ai, günstigstes mietbares Angebot am 29. Oktober 2026. Steuern ausgeschlossen.
Ist die H200 pro GB Speicher günstiger?
Ja. Laut GPUwithCryptos Preisprüfung vom 29. Oktober 2026 kostet die H200 33 % mehr pro Stunde als die H100, aber 25 % weniger pro GB Speicher. Berechnet als Stundenpreis ÷ GB:
- H200: 2,57 Cent pro GB-Stunde beim niedrigsten On-Demand-Preis (3,62 $ ÷ 141), 3,75 Cent beim Median (5,29 $ ÷ 141).
- H100: 3,41 Cent pro GB-Stunde beim niedrigsten Preis (2,73 $ ÷ 80), 5,20 Cent beim Median (4,16 $ ÷ 80).
Beim Median ist die H200 28 % günstiger pro GB. Bei GPUwithCrypto ergeben dieselbe Division $0.022 und $0.029, wobei jede GPU mindestens 15 % unter ihrer genannten On-Demand-Referenz liegt.
Bei der Bandbreite liefert die günstigste H200 8 % mehr GB/s pro Dollar als die günstigste H100 (1.326 gegenüber 1.227 GB/s pro $/Stunde, mit der H100 zu ihrem SXM-Wert).
Was kostet es, Llama 70B auf H100s gegenüber einer H200 zu betreiben?
Eine H200 kostet weniger als zwei H100s. Rechenbeispiel (Annahme): Sie betreiben Llama 3.1 70B in FP8 (≈ 84 GB) rund um die Uhr. Dafür braucht es zwei H100s oder eine H200. Zu den niedrigsten Preisen, die wir gefunden haben, kostet eine H200 34 % weniger als zwei H100s; beim Median 36 % weniger.
Zwei H100s liefern zwar die doppelte Spitzenrechenleistung einer H200. Das spielt nur eine Rolle, wenn Ihr Serving bei großem Batch compute-bound ist.
Llama 3.1 70B in FP8: zwei H100s oder eine H200
| Preisbasis | 2 × H100, 24 h | 1 × H200, 24 h | 2 × H100, 720 h | 1 × H200, 720 h |
|---|---|---|---|---|
| GPUwithCrypto | 2 × $55.68 | $73.68 | 2 × $1,670.40 | $2,210.40 |
| Niedrigster On-Demand-Preis anderswo | $131.04 | $86.88 | $3,931.20 | $2,606.40 |
| Median On-Demand | $199.68 | $126.96 | $5,990.40 | $3,808.80 |
Preise geprüft am
Die Laufzeiten sind eine Annahme. Nur GPU-Zeit; Speicher und Netzwerk kommen extra hinzu, wo der Anbieter sie berechnet.
Wann sollte ich stattdessen die H100 mieten?
Wenn das Modell in 80 GB passt. Dann muss die H200 Ihren Job 1,33-mal schneller ausführen, um sich zu den niedrigsten Preisen zu rechnen (3,62 $ ÷ 2,73 $), oder 1,27-mal beim Median (5,29 $ ÷ 4,16 $). Unsere beiden Preise halten etwa dasselbe Verhältnis von 1,33, weil jeder mindestens 15 % unter seiner genannten Referenz liegt ($3.62 und $2.73).
- Compute-bound Arbeit, die in 80 GB passt: die H100 gewinnt. Die Spitzenrechenleistung ist gleich, der Preis nicht.
- Bandbreitengebundenes Decoding, das in 80 GB passt: der 1,43-fache Bandbreitenvorsprung der H200 liegt knapp über der 1,33-fachen Preisdifferenz. Testen Sie Ihre eigene Workload, bevor Sie sich für einen Monat festlegen.
- Fine-Tuning von 8B-Modellen, QLoRA auf 70B, Notebooks: die H100 oder eine günstigere A100 80GB.
Mieten Sie die H200 für 70B-Klasse-FP8-Serving auf einer GPU, lange Kontexte, 405B-Modelle auf weniger GPUs und DeepSeek-V3 oder R1 auf einem einzelnen 8-GPU-Knoten.
Fragen zur H100 und zur H200
Ist die H200 schneller als die H100?
Nicht bei der Rechenleistung: die SXM-Versionen teilen dieselbe dichte Spitzenleistung, 989,5 TFLOPS BF16 und 1.979 TFLOPS FP8 (abgeleitet aus NVIDIAs Sparse-Werten). Die H200 hat die 1,43-fache Speicherbandbreite und den 1,76-fachen Speicher, was bandbreitengebundenem Decoding und großen Modellen zugutekommt.
Wie viel mehr kostet eine H200 pro Stunde als eine H100?
Am 29. Oktober 2026 waren die niedrigsten Self-Service-On-Demand-Preise, die wir fanden, 3,62 $ für eine H200 und 2,73 $ für eine H100, 33 % Unterschied. Die Mediane lagen bei 5,29 $ und 4,16 $. GPUwithCrypto berechnet $3.07/Stunde und $2.32/Stunde.
Kann ich Llama 3.1 70B auf einer einzelnen H200 ausführen?
Ja in FP8: etwa 84 GB mit der ×-1,2-Regel, was in 141 GB Platz für den KV-Cache lässt. In BF16 braucht es etwa 168 GB, also zwei H200s. Auf H100s braucht die FP8-Version zwei Karten.
Sollte ich zwei H100s oder eine H200 mieten?
Für ein Modell zwischen 80 und 141 GB eine H200: sie kostet zu den niedrigsten Preisen vom 29. Oktober 2026 34 % weniger als zwei H100s und vermeidet das Aufteilen des Modells. Zwei H100s sind sinnvoll, wenn Sie die doppelte Spitzenrechenleistung brauchen.
Kann ich eine H200 mit Krypto bezahlen?
Ja. GPUwithCrypto vermietet die H200 für BTC, USDT, USDC, ETH, SOL, LTC, ohne KYC. Von den 13 Anbietern mit einem On-Demand-H200-Preis am 29. Oktober 2026 akzeptieren 4 Krypto: Massed Compute, Paperspace/DigitalOcean, Spheron und RunPod, das zuerst KYC verlangt.
Eine H200 oder H100 mit Krypto mieten
H200 $3.07/Stunde · H100 $2.32/Stunde · minutengenaue Abrechnung · ohne KYC.
Quellen (10)
- NVIDIA H200 Tensor Core GPU — NVIDIA (read 2026-10-29)
- NVIDIA H200 NVL — NVIDIA (read 2026-10-29)
- NVIDIA H100 Tensor Core GPU — NVIDIA (read 2026-10-29)
- NVIDIA H100 PCIe Produktbrief (PB-11133-001) — NVIDIA (read 2026-10-29)
- The Llama 3 Herd of Models (Tabelle 3) — arXiv (read 2026-10-29)
- Transformer Math 101 — EleutherAI (read 2026-10-29)
- DeepSeek-V3 Model Card — DeepSeek / Hugging Face (read 2026-10-29)
- Qwen2.5-72B-Instruct Model Card — Qwen / Hugging Face (read 2026-10-29)
- Massed Compute-Preise vm.massedcompute.com/pricing — Massed Compute (read 2026-10-29)
- Öffentlicher GPU-Preisfeed von Vast.ai — Vast.ai (read 2026-10-29)