Kurze Antwort
H100 vs A100: Welche sollte ich mieten?
H100 vs A100: Mieten Sie die A100 80GB für speichergebundene Inferenz und LoRA-Fine-Tuning von Modellen, die in 80 GB passen; mieten Sie die H100 für rechengebundenes Training, FP8 oder Jobs, die schnell fertig sein müssen. Stand 29. Oktober 2026 vermietet GPUwithCrypto die H100 für $2.32/Stunde und die A100 80GB für $0.92/Stunde, bezahlt in Krypto ohne KYC. Die H100 lohnt sich nur, wenn sie Ihren Job etwa 2,5-mal schneller erledigt.
Wie vergleichen sich die Specs von H100 und A100?
Offizielle NVIDIA-Werte, gelesen am 29. Oktober 2026. Tensor-Werte sind dichte Peak-TFLOPS. NVIDIA gibt H100-Tensor-Werte nur mit Sparsity an, daher sind die dichten H100-Werte der NVIDIA-Wert ÷ 2, gekennzeichnet mit (d). Peak-Werte sind keine Benchmarks.
| Spec | H100 SXM | H100 PCIe | A100 80GB SXM | A100 80GB PCIe |
|---|---|---|---|---|
| Architektur | Hopper | Hopper | Ampere | Ampere |
| Speicher | 80 GB HBM3 | 80 GB HBM2e | 80 GB HBM2e | 80 GB HBM2e |
| Speicherbandbreite | 3.350 GB/s | 2.000 GB/s | 2.039 GB/s | 1.935 GB/s |
| FP16 / BF16 Tensor, dense | 989,5 TFLOPS (d) | — (1) | 312 TFLOPS | 312 TFLOPS |
| FP8 Tensor, dense | 1.979 TFLOPS (d) | — | N/A (2) | N/A (2) |
| NVLink | 900 GB/s | 600 GB/s (Bridge) | 600 GB/s | 600 GB/s (Bridge für 2 GPUs) |
| PCIe | Gen5 | Gen5 | Gen4 | Gen4 |
| Max. Leistungsaufnahme | 700 W | 350 W | 400 W | 300 W |
| Markteinführung | 2022 | 2022 | 2020 | 2021 |
(d) NVIDIA gibt 1.979 TFLOPS (BF16) und 3.958 TFLOPS (FP8) mit Sparsity an; dense ist die Hälfte. Der Sparsity-Wert der A100 beträgt 624 TFLOPS. (1) Keine aktuelle offizielle Seite gibt die Tensor-Werte der H100 PCIe als dense oder sparse an; ein NVIDIA-Blog nennt 1.513 TFLOPS BF16, ohne zu sagen, welcher Wert gemeint ist. (2) NVIDIA führt FP8 bei Ampere als nicht verfügbar.
Was ist schneller, die H100 oder die A100?
Auf dem Papier leistet die H100 SXM das 3,17-Fache an dichter BF16-Rechenleistung einer A100 (989,5 gegenüber 312 TFLOPS) und hat die 1,64-fache Speicherbandbreite (3.350 gegenüber 2.039 GB/s). Das sind NVIDIAs Spitzenwerte, keine Benchmarks. Nutzen Sie die beiden Verhältnisse als Planungsgrenzen, nicht als gemessene Geschwindigkeit.
- Rechengebundene Arbeit (Training, Fine-Tuning bei großem Batch, Prefill langer Prompts) folgt eher dem TFLOPS-Verhältnis.
- Speichergebundene Arbeit (Token-für-Token-Decoding von LLMs bei kleinem Batch) folgt eher dem Bandbreitenverhältnis.
- FP8 läuft auf den Tensor Cores der H100 mit 1.979 TFLOPS dense. Die A100 hat keine FP8-Tensor-Cores, daher bringt ein FP8-Checkpoint dort keinen FP8-Geschwindigkeitsvorteil.
Die H100 PCIe ist eine andere Karte. Ihre 2.000 GB/s liegen nahe an den 1.935 GB/s einer A100 80GB PCIe. Instanzen haben 1 bis 8 GPUs je nach Host. Vor dem Start zeigt das Dashboard das Land, die GPU-Anzahl, das Formfaktor (SXM oder PCIe) und die Interconnect-Verbindung jedes Hosts.
Welche Modelle passen auf eine H100 oder eine A100?
Dieselben Modelle passen auf beide, weil beide 80 GB haben. Faustregel: Speicher ≈ Parameter (in Milliarden) × Bytes pro Parameter × 1,2, mit 2 Bytes für BF16, 1 für FP8/INT8 und 0,5 für 4-Bit. Die 20 % decken KV-Cache und Aktivierungen bei moderatem Kontext und Batch ab (EleutherAI). Lange Kontexte brauchen mehr: siehe den VRAM-Leitfaden.
| Modell und Präzision | Benötigter Speicher | H100 80GB | A100 80GB |
|---|---|---|---|
| Llama 3.1 8B, BF16-Inferenz | 19.2 GB | 1 GPU | 1 GPU |
| Llama 3.1 8B, LoRA-Fine-Tuning (Planung) | 19.2 GB | 1 GPU | 1 GPU |
| Llama 3.1 8B, vollständiges Fine-Tuning | 128–144 GB + Aktivierungen | 2+ GPUs | 2+ GPUs |
| Llama 3.1 70B, 4-Bit-Inferenz | 42 GB | 1 GPU | 1 GPU |
| Llama 3.1 70B, QLoRA-Fine-Tuning | 52.5 GB | 1 GPU | 1 GPU |
| Llama 3.1 70B, FP8-Inferenz | 84 GB | 2 GPUs | 2 GPUs, keine FP8-Beschleunigung |
| Qwen2.5 72B, FP8-Inferenz | 87.2 GB | 2 GPUs | 2 GPUs, keine FP8-Beschleunigung |
| Llama 3.1 70B, BF16-Inferenz | 168 GB | 3 GPUs | 3 GPUs |
| Llama 3.1 405B, FP8-Inferenz | 486 GB | 7 GPUs | 7 GPUs, keine FP8-Beschleunigung |
Naive Schätzung = die Anzahl der 80-GB-Karten, deren Gesamtspeicher die Schätzung fasst; sie ignoriert Tensor-Parallel-Overhead und vom Treiber reservierten Speicher. LoRA-Planung = 2 Byte pro Parameter × 1,2. QLoRA ≈ 0,75 GB pro Milliarde Parameter, kalibriert am 65B-Modell aus dem QLoRA-Paper auf einer 48-GB-GPU. Vollständiges Fine-Tuning = 16–18 Byte pro Parameter (EleutherAI, Hugging Face).
Was kosten die H100 und die A100 pro Stunde?
Pro GPU-Stunde, USD. „Niedrigster“ und „Median“ sind Self-Serve-On-Demand-Listenpreise aus GPUwithCryptos Preisprüfung vom 29. Oktober 2026; Spot- und Marktplatzpreise sind aus beiden ausgeschlossen. Vast.ai ist ein Marktplatz, daher wird dessen Wert separat ausgewiesen. Alle GPU-Preise finden Sie auf der Preisseite.
| GPU | GPUwithCrypto | Niedrigster On-Demand-Preis anderswo | Median On-Demand | Geprüfte Anbieter | Niedrigstes Angebot bei Vast.ai |
|---|---|---|---|---|---|
| H100 80GB | $2.32/Stunde | $2,73 (Massed Compute) | $4.16 | 16 | $1,73 (H100 SXM) |
| A100 80GB | $0.92/Stunde | $1,09 (Thunder Compute) | $2.23 | 13 | $0,48 (SXM), $0,34 (PCIe) |
Preise geprüft am
Massed Compute und Thunder Compute geben das Formfaktor dieser Karten nicht an. Vast.ai-Werte: der öffentliche Preis-Feed von Vast.ai, günstigstes mietbares Angebot vom 29. Oktober 2026. Steuern ausgeschlossen.
Was kostet ein GB VRAM pro Stunde bei den einzelnen Modellen?
Laut GPUwithCryptos Preisprüfung vom 29. Oktober 2026 kostet ein GB A100-Speicher pro Stunde 2,5-mal weniger als ein GB H100-Speicher. Berechnet als Stundenpreis ÷ 80 GB:
- A100 80GB: 1,36 Cent pro GB-Stunde zum niedrigsten On-Demand-Preis ($1,09 ÷ 80), 2,79 Cent beim Median ($2,23 ÷ 80).
- H100 80GB: 3,41 Cent pro GB-Stunde zum niedrigsten Preis ($2,73 ÷ 80), 5,20 Cent beim Median ($4,16 ÷ 80).
Beim Median schrumpft die Differenz auf das 1,87-Fache. Bei GPUwithCrypto ergeben dieselbe Division $0.012 und $0.029, wobei jede GPU mindestens 15 % unter ihrer genannten On-Demand-Referenz liegt.
Pro Dollar zu den niedrigsten Preisen liefert die H100 SXM 27 % mehr Spitzenrechenleistung in BF16 (362 vs. 286 TFLOPS pro $/Stunde). Die A100 SXM liefert 52 % mehr Bandbreite pro Dollar (1.871 vs. 1.227 GB/s pro $/Stunde). Wenn Ihr Job eher Speicher als Rechenleistung braucht, ist die A100 die günstigere 80-GB-Option.
Was kostet ein Job auf einer H100 im Vergleich zu einer A100?
Die H100 ist nur dann pro Job günstiger, wenn sie den Job schneller ausführt als ihr Preisaufschlag beträgt. Diese Gewinnschwelle liegt bei den niedrigsten gefundenen Preisen bei 2,50 ($2,73 ÷ $1,09) und beim Median bei 1,87 ($4,16 ÷ $2,23). Beide GPUwithCrypto-Preise liegen mindestens 15 % unter ihren genannten Referenzen (Massed Compute bei $2.73, Thunder Compute bei $1.09), daher liegt auch unsere Gewinnschwelle bei etwa dem 2,5-Fachen.
Rechenbeispiel (Annahme, kein Benchmark): ein Fine-Tuning-Job dauert 24 Stunden auf einer A100 80GB. Auf einer H100 SXM dauert er 7,6 Stunden, wenn er das volle BF16-Spitzenverhältnis von 3,17× erreicht, oder 14,6 Stunden, wenn er nur das Bandbreitenverhältnis von 1,64× erreicht.
Kosten desselben Jobs (24 A100-Stunden angenommen)
| Preisbasis | A100 80GB, 24 h | H100, 7,6 h (3,17× schneller) | H100, 14,6 h (1,64× schneller) |
|---|---|---|---|
| GPUwithCrypto | $22.08 | $17.63 | $33.87 |
| Niedrigster On-Demand-Preis anderswo | $26.16 | $20.75 | $39.86 |
| Median On-Demand | $53.52 | $31.62 | $60.74 |
Preise geprüft am
Stunden sind eine Annahme; Geschwindigkeitsverhältnisse sind NVIDIA-SXM-Spitzenwerte. GPUwithCrypto rechnet pro Minute ab, daher wird ein 7,6-Stunden-Lauf mit 7,6 Stunden abgerechnet.
Wann sollte ich die H100 statt der A100 mieten?
Mieten Sie die H100, wenn mindestens eine der folgenden Bedingungen zutrifft:
- Sie trainieren oder fine-tunen mit großer Batch-Größe. Rechengebundene Arbeit folgt dem Spitzenverhältnis von 3,17× genauer, und dieses Verhältnis liegt über der Gewinnschwelle von 2,5×.
- Sie servieren FP8-Modelle. Nur die H100 hat FP8-Tensor-Cores (1.979 TFLOPS dicht).
- Sie brauchen mehrere GPUs, die schnell miteinander kommunizieren. NVLink auf der H100 SXM läuft mit 900 GB/s gegenüber 600 GB/s auf der A100.
- Eine Deadline ist wichtiger als die Rechnung.
Mieten Sie die A100 80GB, wenn das Modell in 80 GB passt und die Arbeit speichergebunden ist: Chat-Inferenz mit kleiner Batch-Größe, LoRA- und QLoRA-Läufe, Evaluierungen, Notebooks. Wenn 80 GB zu klein sind, lesen Sie H100 vs H200. Für eine günstigere 48-GB-Karte lesen Sie L40S vs A100.
Fragen zur H100 und zur A100
Lohnt sich die H100 gegenüber der A100?
Nur wenn sie Ihren Job mehr als etwa 2,5-mal schneller ausführt, dem Verhältnis der niedrigsten Stundenpreise vom 29. Oktober 2026. NVIDIAs Spitzenwerte ergeben für die H100 SXM das 3,17-Fache an dichter BF16-Rechenleistung und das 1,64-Fache an Bandbreite. Rechengebundenes Training übertrifft diese Schwelle in der Spitze; bandbreitengebundene Inferenz nicht.
Wie viel kostet eine H100 pro Stunde im Vergleich zu einer A100?
Am 29. Oktober 2026 lag der niedrigste gefundene Self-Serve-On-Demand-Preis bei $2,73 für eine H100 80GB und $1,09 für eine A100 80GB; die Mediane lagen bei $4,16 und $2,23. GPUwithCrypto berechnet $2.32/Stunde und $0.92/Stunde, zahlbar mit Krypto.
Kann eine A100 FP8-Modelle ausführen?
Die Speicherrechnung ist dieselbe, aber NVIDIA listet FP8 für Ampere als nicht verfügbar, daher hat die A100 keine FP8-Tensor-Core-Beschleunigung. Die H100 führt FP8 mit 1.979 dichten TFLOPS aus, die Hälfte von NVIDIAs Angabe von 3.958 mit Sparsity.
Kann ich Llama 3.1 70B auf einer H100 oder A100 ausführen?
Nur in 4-Bit: etwa 42 GB mit der × 1,2-Regel, was auf eine 80-GB-Karte passt. In FP8 braucht es etwa 84 GB (zwei Karten) und in BF16 etwa 168 GB (drei Karten). Eine H200 mit 141 GB fasst die FP8-Version.
Kann ich eine H100 oder A100 mit Krypto und ohne KYC mieten?
Ja. GPUwithCrypto vermietet beide pro Minute, mit Krypto bezahlt in BTC, USDT, USDC, ETH, SOL, LTC, XMR, ohne Ausweis, ohne Selfie und ohne Karte. Von den 33 GPU-Anbietern, die wir am 29. Oktober 2026 geprüft haben, akzeptieren 14 Krypto, und RunPod verlangt KYC vor der ersten Krypto-Zahlung.
Eine H100 oder A100 mit Krypto mieten
H100 $2.32/Stunde · A100 80GB $0.92/Stunde · minutenweise abgerechnet · ohne KYC.
Quellen (12)
- NVIDIA H100 Tensor Core GPU — NVIDIA (read 2026-10-29)
- NVIDIA H100 PCIe Produktbrief (PB-11133-001) — NVIDIA (read 2026-10-29)
- NVIDIA kündigt Hopper-Architektur an (HBM3) — NVIDIA (read 2026-10-29)
- NVIDIA A100 Tensor Core GPU — NVIDIA (read 2026-10-29)
- NVIDIA A100 Datenblatt — NVIDIA (read 2026-10-29)
- Transformer Math 101 — EleutherAI (read 2026-10-29)
- Anatomie des Modellspeichers — Hugging Face (read 2026-10-29)
- QLoRA: Efficient Finetuning of Quantized LLMs — arXiv (read 2026-10-29)
- Llama 3.1 70B Modellkarte — Meta / Hugging Face (read 2026-10-29)
- Massed Compute-Preise vm.massedcompute.com/pricing — Massed Compute (read 2026-10-29)
- Thunder Compute-Preise thundercompute.com/pricing — Thunder Compute (read 2026-10-29)
- Öffentlicher GPU-Preisfeed von Vast.ai — Vast.ai (read 2026-10-29)