Kurze Antwort
RTX 5090 vs H100 für KI: Wann reicht die günstige Karte?
RTX 5090 vs H100 für KI: Die günstige Karte reicht, wenn Ihr Modell, Ihr Kontext und Ihr Batch in 32 GB passen: 7B–8B-LLM-Inference und LoRA, SDXL- und FLUX-Bildgenerierung. Mieten Sie die H100 für 70B-Modelle, NVLink-Training oder alles über 32 GB. Stand 29. Oktober 2026 kostete die H100 bei den niedrigsten On-Demand-Preisen, die wir gefunden haben, 5,5-mal mehr pro Stunde. GPUwithCrypto vermietet die RTX 5090 für $0.42/Stunde, zahlbar mit Krypto, ohne KYC.
Wie vergleichen sich die Specs von RTX 5090 und H100?
Offizielle NVIDIA-Werte, gelesen am 29. Oktober 2026. Tensor-Werte sind dichte Peak-TFLOPS. GeForce-Karten haben zwei Tensor-Raten; die Tabelle verwendet FP32-Akkumulation, die Rate, die Mixed-Precision-Training und FP8-Inference-Kernel nutzen. Peak-Werte sind keine Benchmarks.
| Spec | GeForce RTX 5090 | H100 SXM | H100 PCIe |
|---|---|---|---|
| Architektur | Blackwell | Hopper | Hopper |
| Speicher | 32 GB GDDR7 | 80 GB HBM3 | 80 GB HBM2e |
| Speicherbandbreite | 1.792 GB/s | 3.350 GB/s | 2.000 GB/s |
| FP16 / BF16 Tensor, dense | 209,5 TFLOPS | 989,5 TFLOPS (d) | — |
| FP8 Tensor, dense | 419 TFLOPS | 1.979 TFLOPS (d) | — |
| FP4 Tensor, dicht | 1.676 TFLOPS | — | — |
| NVLink | Von NVIDIA nicht angegeben | 900 GB/s | 600 GB/s (Bridge) |
| PCIe | Gen5 | Gen5 | Gen5 |
| Max. Leistungsaufnahme | 575 W (gesamte Grafikleistung) | 700 W | 350 W |
| Markteinführung | 2025 | 2022 | 2022 |
(d) = NVIDIA gibt H100-Tensor-Werte nur mit Sparsity an; dicht = ÷ 2. Mit FP16-Akkumulation verdoppelt sich die RTX 5090 (FP16 419, FP8 838 TFLOPS dicht). NVIDIAs „3.352 AI TOPS“ für die 5090 sind sparse FP4. Keine aktuelle offizielle Seite gibt H100-PCIe-Tensor-Werte als dicht oder sparse an.
Wie viel schneller ist die H100 als die RTX 5090?
Im Peak erreicht die H100 SXM das 4,72-fache der dichten BF16- und FP8-Rechenleistung einer RTX 5090 (989,5 vs. 209,5 und 1.979 vs. 419 TFLOPS). Sie hat das 1,87-fache der Speicherbandbreite (3.350 vs. 1.792 GB/s) und 2,5-mal so viel Speicher. Das sind NVIDIAs Peak-Werte, keine Benchmarks.
Die RTX 5090 hat einen Vorteil: FP4-Tensor-Cores (1.676 TFLOPS dicht), die Hopper nicht hat. Sie helfen nur bei Modellen, die auf FP4 quantisiert sind.
Die Preislücke ist größer als die Rechenlücke. Bei den niedrigsten On-Demand-Preisen, die wir gefunden haben, kostete die H100 5,46-mal mehr pro Stunde ($2,73 ÷ $0,50); beim Median 4,95-mal ($4,16 ÷ $0,84). Pro Dollar liefert die RTX 5090 bei den niedrigsten Preisen 16 % mehr dichte BF16-Rechenleistung im Peak (419 vs. 362 TFLOPS pro $/Stunde) und beim Median 5 % mehr.
Welche Modelle passen in 32 GB, und welche brauchen eine H100?
Faustregel für Inference: Speicher ≈ Parameter (in Milliarden) × Bytes pro Parameter × 1,2, mit 2 Bytes für BF16, 1 für FP8 und 0,5 für 4-Bit (EleutherAI). Lange Kontexte kommen als KV-Cache dazu: 128 KiB pro Token für Llama 3.1 8B in BF16. Formel: VRAM-Guide.
| Modell und Aufgabe | Benötigter Speicher | RTX 5090 32GB | H100 80GB |
|---|---|---|---|
| SDXL 1.0 base, FP16 | 7 GB Gewichte | 1 GPU | 1 GPU |
| FLUX.1 [dev], FP8 | 12 GB Gewichte | 1 GPU | 1 GPU |
| FLUX.1 [dev], BF16 | 24 GB Gewichte + Text-Encoder | 1 GPU, Encoder auf die CPU ausgelagert | 1 GPU |
| FLUX.1 [dev], LoRA-Fine-Tuning | 28.8 GB | 1 GPU, knapp | 1 GPU |
| Mistral 7B, BF16 | 17.5 GB | 1 GPU | 1 GPU |
| Llama 3.1 8B, BF16 | 19.2 GB | 1 GPU | 1 GPU |
| Llama 3.1 8B, LoRA-Fine-Tuning | 19.2 GB | 1 GPU | 1 GPU |
| Llama 3.1 8B, BF16 + ein Kontext mit 128K Token | 16 + 17,2 = 33,2 GB | Nur mit einem FP8-KV-Cache (≈ 24,6 GB) | 1 GPU |
| Llama 3.1 70B, 4-Bit | 42 GB | 2 GPUs | 1 GPU |
| Llama 3.1 70B, QLoRA-Fine-Tuning | 52.5 GB | 2 GPUs | 1 GPU |
| Llama 3.1 70B, FP8 | 84 GB | 3 GPUs | 2 GPUs |
Naive Schätzung = die Anzahl der Karten, deren Gesamtspeicher die Schätzung aufnimmt; sie ignoriert den Overhead bei mehreren GPUs und den vom Treiber reservierten Speicher. FLUX.1-Pipelines laden außerdem T5-XXL, CLIP-L und ein VAE (nicht in den 12B enthalten); sie können zwischen den Schritten auf die CPU ausgelagert werden. Ein FP8-KV-Cache halbiert die Cache-Größe. LoRA-Planung = 2 Byte pro Parameter × 1,2; QLoRA ≈ 0,75 GB pro Milliarde Parameter.
Wie viel kosten die RTX 5090 und die H100 pro Stunde?
Pro GPU-Stunde in USD. „Niedrigster“ und „Median“ sind Self-Service-On-Demand-Listenpreise aus GPUwithCryptos Preisprüfung vom 29. Oktober 2026; Spot- und Marktplatzpreise sind ausgeschlossen. Vast.ai ist ein Marktplatz und wird getrennt dargestellt. Alle GPUs: Preise.
| GPU | GPUwithCrypto | Niedrigster On-Demand-Preis anderswo | Median On-Demand | Geprüfte Anbieter | Niedrigstes Angebot bei Vast.ai |
|---|---|---|---|---|---|
| RTX 5090 32GB | $0.42/Stunde | 0,50 $ (Salad, High Priority) | $0.84 | 3 | $0.39 |
| H100 80GB | $2.32/Stunde | $2,73 (Massed Compute) | $4.16 | 16 | $1,73 (H100 SXM) |
Preise geprüft am
Salad erhöht seinen High-Priority-Preis für die RTX 5090 laut eigener Preisänderungsmitteilung am 1. November 2026 auf 0,60 $. Die drei Anbieter der RTX 5090 sind Salad, Spheron (0,84 $) und RunPod (1,19 $). Vast.ai-Angaben: der öffentliche Preisfeed von Vast.ai, günstigstes mietbares Angebot am 29. Oktober 2026.
Was kostet ein GB VRAM pro Stunde bei den einzelnen Modellen?
Laut der Preisprüfung von GPUwithCrypto am 29. Oktober 2026 kostet ein GB RTX-5090-Speicher pro Stunde 54 % weniger als ein GB H100-Speicher. Berechnet als Stundenpreis ÷ GB:
- RTX 5090: 1,56 Cent pro GB-Stunde beim niedrigsten On-Demand-Preis (0,50 $ ÷ 32), 2,63 Cent beim Median (0,84 $ ÷ 32).
- H100: 3,41 Cent pro GB-Stunde beim niedrigsten Preis (2,73 $ ÷ 80), 5,20 Cent beim Median (4,16 $ ÷ 80).
Beim Median kostet die RTX 5090 pro GB etwa die Hälfte. Bei GPUwithCrypto ergibt dieselbe Division $0.013 und $0.029, wobei jede GPU mindestens 15 % unter ihrer genannten On-Demand-Referenz liegt. Der Haken: Mehr als 32 GB lassen sich auf einer einzelnen 5090 nicht kaufen.
Was kostet ein Job auf einer RTX 5090 im Vergleich zu einer H100?
Für einen Job, der in 32 GB passt, kostet die RTX 5090 weniger, selbst wenn die H100 ihren vollen Spitzenvorteil erreicht. Die H100 ist an der Spitze 4,72-mal schneller, kostet aber pro Stunde 5,46-mal mehr zu den niedrigsten Preisen und 4,95-mal mehr beim Median. Unsere beiden Preise liegen jeweils mindestens 15 % unter ihren genannten Referenzen ($0.50 und $2.73), sodass das Verhältnis bei GPUwithCrypto etwa gleich bleibt.
Rechenbeispiel (Annahme, kein Benchmark): Ein FLUX-LoRA-Lauf oder ein Bild-Batch dauert auf einer RTX 5090 10 Stunden. Auf einer H100 SXM dauert er 2,1 Stunden beim vollen mathematischen Verhältnis von 4,72× oder 5,3 Stunden beim Bandbreitenverhältnis von 1,87×.
Kosten desselben Jobs (10 RTX-5090-Stunden angenommen)
| Preisbasis | RTX 5090, 10 h | H100, 2,1 h (4,72× schneller) | H100, 5,3 h (1,87× schneller) |
|---|---|---|---|
| GPUwithCrypto | 4,20 $ | $4.87 | $12.30 |
| Niedrigster On-Demand-Preis anderswo | $5.00 | $5.73 | $14.47 |
| Median On-Demand | $8.40 | $8.74 | $22.05 |
Preise geprüft am
Die Stunden sind eine Annahme; die Geschwindigkeitsverhältnisse sind NVIDIA-Spitzenwerte (H100 SXM). Ab dem 1. November 2026 senkt Salads Preis von 0,60 $ für die RTX 5090 das Niedrigstpreis-Verhältnis auf 4,55, unter das Spitzenverhältnis von 4,72.
Wann brauche ich stattdessen die H100?
Mieten Sie die H100, wenn der günstigen Karte der Speicher oder die Verbindungen zwischen den GPUs ausgehen:
- Modelle über 32 GB auf einer GPU: Llama 3.1 70B in 4-Bit (42 GB), QLoRA auf 70B (52,5 GB), 8B-Modelle mit langen Kontexten in einem BF16-Cache.
- Multi-GPU-Training: H100 SXM NVLink läuft mit 900 GB/s. Die RTX-5090-Seite von NVIDIA erwähnt kein NVLink, planen Sie Multi-GPU-Arbeit daher über PCIe Gen5.
- Serving mit großen Batches oder Training unter Zeitdruck: 4,72-mal die dichte Spitzenrechenleistung.
Mieten Sie die RTX 5090 für ComfyUI, SDXL, FLUX, Videomodelle, die in 32 GB passen, 7B–8B-Chatmodelle und LoRA-Läufe. Siehe die beste GPU für ComfyUI und Flux. Für 80 GB zu einem niedrigeren Preis als die H100 lesen Sie H100 vs A100.
Fragen zur RTX 5090 und zur H100
Ist die RTX 5090 gut für KI?
Ja, für Arbeit, die in 32 GB passt: LLM-Inferenz und LoRA bei 7B–8B, Bildgenerierung mit SDXL und FLUX. Sie hat 209,5 dichte BF16-TFLOPS, 419 dichte FP8-TFLOPS und FP4-Tensor-Cores, zu etwa einem Fünftel des Stundenpreises der H100 am 29. Oktober 2026.
Kann eine RTX 5090 Llama 3.1 70B ausführen?
Nicht auf einer Karte. In 4-Bit braucht es etwa 42 GB, also zwei RTX 5090; in FP8 etwa 84 GB, also drei. Eine H100 80GB führt die 4-Bit-Version aus.
Ist die RTX 5090 schneller als die H100?
Nein. Die Spitzenwerte von NVIDIA ergeben für die H100 SXM 4,72-mal die dichte BF16- und FP8-Rechenleistung und 1,87-mal die Bandbreite. Die 5090 hat FP4-Tensor-Cores, die der H100 fehlen, und kostet pro Stunde deutlich weniger.
Wie viel kostet es, eine RTX 5090 pro Stunde zu mieten?
Am 29. Oktober 2026 war der niedrigste Self-Serve-On-Demand-Preis, den wir fanden, 0,50 $ (Salad, ab 1. November 0,60 $), und der Median der 3 Anbieter lag bei 0,84 $. Der öffentliche Preisfeed von Vast.ai zeigte ein günstigstes Marktplatzangebot von 0,39 $. GPUwithCrypto berechnet $0.42/Stunde.
Kann ich eine RTX 5090 mit Krypto mieten?
Ja. GPUwithCrypto vermietet sie für BTC, USDT, USDC, ETH, SOL, LTC, XMR, ohne KYC und ohne Karte. Die drei anderen Anbieter mit einem On-Demand-Preis für die RTX 5090 akzeptieren ebenfalls Krypto: Salad, Spheron und RunPod, das vor der ersten Krypto-Zahlung KYC verlangt.
Mieten Sie eine RTX 5090 oder eine H100 mit Krypto
RTX 5090 $0.42/Stunde · H100 $2.32/Stunde · minutengenau abgerechnet · ohne KYC.
Quellen (11)
- NVIDIA GeForce RTX 5090 — NVIDIA (read 2026-10-29)
- Whitepaper zur GPU-Architektur NVIDIA RTX Blackwell — NVIDIA (read 2026-10-29)
- NVIDIA H100 Tensor Core GPU — NVIDIA (read 2026-10-29)
- NVIDIA H100 PCIe Produktbrief (PB-11133-001) — NVIDIA (read 2026-10-29)
- Transformer Math 101 — EleutherAI (read 2026-10-29)
- The Llama 3 Herd of Models (Tabelle 3) — arXiv (read 2026-10-29)
- FLUX.1 [dev] Model Card — Black Forest Labs / Hugging Face (read 2026-10-29)
- Ankündigung SDXL 1.0 — Stability AI (read 2026-10-29)
- Preisänderungen bei SaladCloud, November 2026 blog.salad.com/saladcloud-price-changes-november-2026 — Salad (read 2026-10-29)
- Massed Compute-Preise vm.massedcompute.com/pricing — Massed Compute (read 2026-10-29)
- Öffentlicher GPU-Preisfeed von Vast.ai — Vast.ai (read 2026-10-29)