Jawaban singkat
RTX 5090 vs H100 untuk AI: kapan kartu murah sudah cukup?
RTX 5090 vs H100 untuk AI: kartu murah sudah cukup ketika model, konteks, dan batch Anda muat dalam 32 GB: inferensi dan LoRA LLM 7B–8B, pembuatan gambar SDXL dan FLUX. Sewa H100 untuk model 70B, pelatihan NVLink, atau apa pun di atas 32 GB. Pada 29 Oktober 2026, H100 berbiaya 5,5 kali lebih mahal per jam pada harga on-demand terendah yang kami temukan. GPUwithCrypto menyewakan RTX 5090 mulai $0.42/jam, dibayar dengan kripto, tanpa KYC.
Bagaimana perbandingan spesifikasi RTX 5090 dan H100?
Angka resmi NVIDIA, dibaca pada 29 Oktober 2026. Angka Tensor adalah puncak dense dalam TFLOPS. Kartu GeForce memiliki dua rate Tensor; tabel menggunakan akumulasi FP32, rate yang dipakai kernel pelatihan mixed-precision dan inferensi FP8. Angka puncak bukan benchmark.
| Spesifikasi | GeForce RTX 5090 | H100 SXM | H100 PCIe |
|---|---|---|---|
| Arsitektur | Blackwell | Hopper | Hopper |
| Memori | 32 GB GDDR7 | 80 GB HBM3 | 80 GB HBM2e |
| Bandwidth memori | 1.792 GB/s | 3.350 GB/s | 2.000 GB/s |
| FP16 / BF16 Tensor, dense | 209,5 TFLOPS | 989,5 TFLOPS (d) | — |
| FP8 Tensor, dense | 419 TFLOPS | 1.979 TFLOPS (d) | — |
| FP4 Tensor, dense | 1.676 TFLOPS | — | — |
| NVLink | Tidak dicantumkan oleh NVIDIA | 900 GB/s | 600 GB/s (bridge) |
| PCIe | Gen5 | Gen5 | Gen5 |
| Daya maksimum | 575 W (daya grafis total) | 700 W | 350 W |
| Peluncuran | 2025 | 2022 | 2022 |
(d) = NVIDIA mencetak nilai Tensor H100 hanya dengan sparsity; dense = ÷ 2. Dengan akumulasi FP16, RTX 5090 menjadi dua kali lipat (FP16 419, FP8 838 TFLOPS dense). Angka '3.352 AI TOPS' NVIDIA untuk 5090 adalah FP4 sparse. Tidak ada halaman resmi saat ini yang mencantumkan nilai Tensor H100 PCIe sebagai dense atau sparse.
Seberapa lebih cepat H100 dibandingkan RTX 5090?
Pada puncaknya, H100 SXM melakukan komputasi dense BF16 dan FP8 4,72 kali lipat dari RTX 5090 (989,5 vs 209,5 dan 1.979 vs 419 TFLOPS). Bandwidth memorinya 1,87 kali lebih besar (3.350 vs 1.792 GB/s) dan memorinya 2,5 kali lebih besar. Ini adalah angka puncak NVIDIA, bukan benchmark.
RTX 5090 punya satu keunggulan: FP4 Tensor Cores (1.676 TFLOPS dense), yang tidak dimiliki Hopper. Ini hanya membantu untuk model yang dikuantisasi ke FP4.
Selisih harga lebih besar daripada selisih komputasi. Pada harga on-demand terendah yang kami temukan, H100 berbiaya 5,46 kali lebih mahal per jam ($2,73 ÷ $0,50); pada median, 4,95 kali ($4,16 ÷ $0,84). Per dolar, RTX 5090 memberikan komputasi puncak BF16 16% lebih besar pada harga terendah (419 vs 362 TFLOPS per $/jam) dan 5% lebih besar pada median.
Model apa yang muat dalam 32 GB, dan mana yang membutuhkan H100?
Aturan praktis untuk inferensi: memori ≈ parameter (miliar) × byte per parameter × 1,2, dengan 2 byte untuk BF16, 1 untuk FP8, dan 0,5 untuk 4-bit (EleutherAI). Konteks panjang menambah KV cache: 128 KiB per token untuk Llama 3.1 8B dalam BF16. Rumus: panduan VRAM.
| Model dan tugas | Memori yang dibutuhkan | RTX 5090 32GB | H100 80GB |
|---|---|---|---|
| SDXL 1.0 base, FP16 | bobot 7 GB | 1 GPU | 1 GPU |
| FLUX.1 [dev], FP8 | bobot 12 GB | 1 GPU | 1 GPU |
| FLUX.1 [dev], BF16 | bobot 24 GB + text encoder | 1 GPU, encoder di-offload ke CPU | 1 GPU |
| FLUX.1 [dev], fine-tune LoRA | 28.8 GB | 1 GPU, ketat | 1 GPU |
| Mistral 7B, BF16 | 17.5 GB | 1 GPU | 1 GPU |
| Llama 3.1 8B, BF16 | 19.2 GB | 1 GPU | 1 GPU |
| Llama 3.1 8B, fine-tune LoRA | 19.2 GB | 1 GPU | 1 GPU |
| Llama 3.1 8B, BF16 + satu konteks 128K token | 16 + 17,2 = 33,2 GB | Hanya dengan KV cache FP8 (≈ 24,6 GB) | 1 GPU |
| Llama 3.1 70B, 4-bit | 42 GB | 2 GPU | 1 GPU |
| Llama 3.1 70B, fine-tune QLoRA | 52.5 GB | 2 GPU | 1 GPU |
| Llama 3.1 70B, FP8 | 84 GB | 3 GPU | 2 GPU |
Perkiraan naive = jumlah kartu yang total memorinya memuat estimasi; ini mengabaikan overhead multi-GPU dan memori yang direservasi driver. Pipeline FLUX.1 juga memuat T5-XXL, CLIP-L dan VAE (tidak termasuk dalam hitungan 12B); semuanya bisa di-offload ke CPU di antara langkah. KV cache FP8 memangkas ukuran cache menjadi separuh. Perencanaan LoRA = 2 byte per parameter × 1,2; QLoRA ≈ 0,75 GB per miliar parameter.
Berapa biaya per jam RTX 5090 dan H100?
Per GPU-jam, USD. 'Lowest' dan 'median' adalah harga list on-demand self-serve dari pengecekan harga GPUwithCrypto pada 29 Oktober 2026; harga spot dan marketplace tidak disertakan. Vast.ai adalah marketplace, ditampilkan terpisah. Semua GPU: pricing.
| GPU | GPUwithCrypto | Terendah on-demand di tempat lain | Median on-demand | Provider yang dicek | Penawaran terendah Vast.ai |
|---|---|---|---|---|---|
| RTX 5090 32GB | $0.42/jam | $0,50 (Salad, High Priority) | $0.84 | 3 | $0.39 |
| H100 80GB | $2.32/jam | $2,73 (Massed Compute) | $4.16 | 16 | $1,73 (H100 SXM) |
Harga diperiksa pada
Salad menaikkan harga RTX 5090 High Priority menjadi $0,60 pada 1 November 2026, menurut pemberitahuan perubahan harganya sendiri. Tiga penyedia RTX 5090 adalah Salad, Spheron ($0,84) dan RunPod ($1,19). Angka Vast.ai: feed harga publik Vast.ai, penawaran sewa termurah pada 29 Oktober 2026.
Berapa biaya per jam per GB VRAM di masing-masing kartu?
Menurut pengecekan harga GPUwithCrypto pada 29 Oktober 2026, satu GB memori RTX 5090 berbiaya 54% lebih murah per jam daripada satu GB memori H100. Dihitung sebagai harga per jam ÷ GB:
- RTX 5090: 1,56 sen per GB-jam pada harga on-demand terendah ($0,50 ÷ 32), 2,63 sen pada median ($0,84 ÷ 32).
- H100: 3,41 sen per GB-jam pada harga terendah ($2,73 ÷ 80), 5,20 sen pada median ($4,16 ÷ 80).
Pada median, RTX 5090 berbiaya sekitar setengahnya per GB. Di GPUwithCrypto pembagian yang sama menghasilkan $0.013 dan $0.029, tiap GPU dihargai setidaknya 15% di bawah referensi on-demand yang disebut. Catatannya: Anda tidak bisa membeli GB melebihi 32 pada satu 5090.
Berapa biaya satu job di RTX 5090 vs H100?
Untuk job yang muat dalam 32 GB, RTX 5090 lebih murah meskipun H100 mencapai keunggulan puncaknya penuh. H100 4,72 kali lebih cepat pada puncak tetapi berbiaya 5,46 kali lebih mahal per jam pada harga terendah dan 4,95 kali lebih mahal pada median. Kedua harga kami masing-masing setidaknya 15% di bawah referensi yang disebut ($0.50 dan $2.73), jadi rasio di GPUwithCrypto kurang lebih sama.
Contoh perhitungan (asumsi, bukan benchmark): satu run LoRA FLUX atau satu batch gambar memakan 10 jam di satu RTX 5090. Di H100 SXM memakan 2,1 jam pada rasio matematis penuh 4,72×, atau 5,3 jam pada rasio bandwidth 1,87×.
Biaya job yang sama (diasumsikan 10 jam RTX 5090)
| Dasar harga | RTX 5090, 10 jam | H100, 2,1 jam (4,72× lebih cepat) | H100, 5,3 jam (1,87× lebih cepat) |
|---|---|---|---|
| GPUwithCrypto | US$4,20 | $4.87 | $12.30 |
| Terendah on-demand di tempat lain | $5.00 | $5.73 | $14.47 |
| Median on-demand | $8.40 | $8.74 | $22.05 |
Harga diperiksa pada
Jam adalah asumsi; rasio kecepatan adalah angka puncak NVIDIA (H100 SXM). Mulai 1 November 2026, harga $0,60 RTX 5090 dari Salad menurunkan rasio harga terendah menjadi 4,55, di bawah rasio puncak 4,72.
Kapan saya perlu H100?
Sewa H100 ketika kartu murah kehabisan memori atau jalur antar-GPU:
- Model di atas 32 GB pada satu GPU: Llama 3.1 70B dalam 4-bit (42 GB), QLoRA pada 70B (52,5 GB), model 8B dengan konteks panjang dalam cache BF16.
- Pelatihan multi-GPU: H100 SXM NVLink berjalan pada 900 GB/s. Halaman RTX 5090 NVIDIA tidak menyebut NVLink, jadi rencanakan pekerjaan multi-GPU lewat PCIe Gen5.
- Serving atau pelatihan batch besar dengan tenggat: 4,72 kali matematika puncak dense.
Sewa RTX 5090 untuk ComfyUI, SDXL, FLUX, model video yang muat dalam 32 GB, model chat 7B–8B dan run LoRA. Lihat GPU terbaik untuk ComfyUI dan Flux. Untuk 80 GB dengan harga lebih murah dari H100, baca H100 vs A100.
Pertanyaan tentang RTX 5090 dan H100
Apakah RTX 5090 bagus untuk AI?
Ya, untuk pekerjaan yang muat dalam 32 GB: inferensi dan LoRA LLM 7B–8B, pembuatan gambar SDXL dan FLUX. Ia memiliki 209,5 dense BF16 TFLOPS, 419 dense FP8 TFLOPS dan FP4 Tensor Cores, dengan harga per jam sekitar seperlima H100 pada 29 Oktober 2026.
Bisakah RTX 5090 menjalankan Llama 3.1 70B?
Tidak pada satu kartu. Dalam 4-bit ia butuh sekitar 42 GB, jadi dua RTX 5090; dalam FP8 sekitar 84 GB, jadi tiga. Satu H100 80GB menjalankan versi 4-bit.
Apakah RTX 5090 lebih cepat dari H100?
Tidak. Angka puncak NVIDIA memberi H100 SXM 4,72 kali matematika dense BF16 dan FP8 serta 1,87 kali bandwidth. 5090 memiliki FP4 Tensor Cores, yang tidak dimiliki H100, dan berbiaya jauh lebih murah per jam.
Berapa biaya menyewa RTX 5090 per jam?
Pada 29 Oktober 2026 harga on-demand self-serve terendah yang kami temukan adalah $0,50 (Salad, naik menjadi $0,60 pada 1 November) dan median dari 3 penyedia adalah $0,84. Feed harga publik Vast.ai menunjukkan penawaran marketplace terendah $0,39. GPUwithCrypto menagih $0.42/jam.
Bisakah saya menyewa RTX 5090 dengan kripto?
Ya. GPUwithCrypto menyewakannya seharga BTC, USDT, USDC, ETH, SOL, LTC, XMR, tanpa KYC dan tanpa kartu. Tiga penyedia lain dengan harga on-demand RTX 5090 juga menerima kripto: Salad, Spheron, dan RunPod, yang meminta KYC sebelum pembayaran kripto pertama.
Sewa RTX 5090 atau H100 dengan kripto
RTX 5090 $0.42/jam · H100 $2.32/jam · ditagih per menit · tanpa KYC.
Sumber (11)
- NVIDIA GeForce RTX 5090 — NVIDIA (read 2026-10-29)
- Whitepaper arsitektur GPU NVIDIA RTX Blackwell — NVIDIA (read 2026-10-29)
- NVIDIA H100 Tensor Core GPU — NVIDIA (read 2026-10-29)
- NVIDIA H100 PCIe product brief (PB-11133-001) — NVIDIA (read 2026-10-29)
- Transformer Math 101 — EleutherAI (read 2026-10-29)
- The Llama 3 Herd of Models (Table 3) — arXiv (read 2026-10-29)
- Kartu model FLUX.1 [dev] — Black Forest Labs / Hugging Face (read 2026-10-29)
- Pengumuman SDXL 1.0 — Stability AI (read 2026-10-29)
- Perubahan harga SaladCloud, November 2026 blog.salad.com/saladcloud-price-changes-november-2026 — Salad (read 2026-10-29)
- Harga Massed Compute vm.massedcompute.com/pricing — Massed Compute (read 2026-10-29)
- Feed harga GPU publik Vast.ai — Vast.ai (read 2026-10-29)