Kısa yanıt
H100 vs H200: H200 ekstra maliyete değer mi?
H100 vs H200: modeliniz 80 GB'a sığmadığında H200 ekstra maliyete değer. 141 GB belleğe ve 1,43 kat bant genişliğine sahiptir, SXM tepe hesaplama gücü aynıdır. 29 Ekim 2026 itibarıyla bulduğumuz en düşük isteğe bağlı fiyatlarda saat başına %33 daha fazla tutuyordu, ancak FP8'deki Llama 3.1 70B iki H100 yerine tek bir H200'e sığar. GPUwithCrypto her ikisini de kripto ile, KYC olmadan kiralıyor: H200 $3.07/saat, H100 $2.32/saat.
H100 ve H200 özellikleri nasıl karşılaştırılır?
29 Ekim 2026'da okunan resmi NVIDIA değerleri. Tensor değerleri yoğun tepe TFLOPS'tur. NVIDIA, Hopper Tensor değerlerini yalnızca seyrekliğiyle basar, dolayısıyla yoğun = NVIDIA'nın değeri ÷ 2, (d) olarak işaretlenir. Tepe değerler benchmark değildir.
| Özellik | H100 SXM | H100 PCIe | H200 SXM | H200 NVL (PCIe) |
|---|---|---|---|---|
| Bellek | 80 GB HBM3 | 80 GB HBM2e | 141 GB HBM3e | 141 GB HBM3e |
| Bellek bant genişliği | 3.350 GB/s | 2.000 GB/s | 4.800 GB/s | 4.800 GB/s |
| FP16 / BF16 Tensor, dense | 989,5 TFLOPS (d) | — | 989,5 TFLOPS (d) | 835,5 TFLOPS (d) |
| FP8 Tensor, dense | 1.979 TFLOPS (d) | — | 1.979 TFLOPS (d) | 1.670,5 TFLOPS (d) |
| NVLink | 900 GB/s | 600 GB/s (köprü) | 900 GB/s | 900 GB/s (2 veya 4 yollu köprü) |
| PCIe | Gen5 | Gen5 | Gen5 | Gen5 |
| Maksimum güç | 700 W | 350 W | 700 W | 600 W |
| Çıkış | 2022 | 2022 | 2023 | 2024 |
(d) = NVIDIA'nın 'seyreklikle' değeri ÷ 2. NVIDIA, H200 tablosunu 'Ön özellikler. Değişebilir.' olarak etiketliyor. Mevcut hiçbir resmi sayfa, H100 PCIe Tensor değerlerini yoğun veya seyrek olarak vermiyor.
H200, H100'den daha hızlı mı?
Ham hesaplamada değil. H200 SXM ve H100 SXM aynı yoğun tepe değerini paylaşır: 989,5 TFLOPS BF16 ve 1.979 TFLOPS FP8. H200 belleği değiştirir: 80 GB yerine 141 GB (1,76 kat) ve 3.350 GB/s yerine 4.800 GB/s (1,43 kat). Bunlar NVIDIA'nın tepe değerleridir, benchmark değildir.
- Hesaplama sınırlı işler (eğitim, uzun prompt prefill) H200'den tepe avantajı elde etmez.
- Bellek sınırlı decoding, tepede 1,43× bant genişliği oranına kadar kazanç sağlayabilir.
- Kapasite büyük kazançtır. İki H100 gerektiren bir model tek bir H200 üzerinde çalışır, GPU'lar arasında bölünme olmaz.
H200 NVL, aynı 141 GB'a, 600 W sınıra ve daha düşük tepe değerlere sahip bir PCIe kartıdır (835,5 TFLOPS BF16 yoğun). Instance'larda host'a bağlı olarak 1 ila 8 GPU bulunur. Başlamadan önce dashboard her host'un ülkesini, GPU sayısını, form faktörünü (SXM veya PCIe) ve ara bağlantısını gösterir.
Tek bir H200'e sığıp tek bir H100'e sığmayan modeller hangileri?
Pratik kural: bellek ≈ parametreler (milyar) × parametre başına bayt × 1,2; BF16 için 2 bayt, FP8 için 1, 4-bit için 0,5 (EleutherAI). Uzun bağlamlar KV cache ekler: Llama 3.1 70B, BF16'da token başına 320 KiB kullanır, dolayısıyla 131.072 token'lık tek bir bağlam 42,9 GB ekler. Formül ve daha fazla model: VRAM rehberi.
| Model ve hassasiyet | Gereken bellek | H100 80GB | H200 141GB |
|---|---|---|---|
| Llama 3.1 8B, BF16 | 19.2 GB | 1 GPU | 1 GPU |
| Llama 3.1 70B, QLoRA ile ince ayar | 52.5 GB | 1 GPU | 1 GPU |
| Llama 3.1 70B, FP8 | 84 GB | 2 GPU | 1 GPU |
| Qwen2.5 72B, FP8 | 87.2 GB | 2 GPU | 1 GPU |
| Llama 3.1 70B, FP8 + tek 128K token'lık bağlam | ≈ 113 GB | 2 GPU | 1 GPU |
| Llama 3.1 70B, BF16 | 168 GB | 3 GPU | 2 GPU |
| Llama 3.1 405B, 4-bit | 243 GB | 4 GPU | 2 GPU |
| Llama 3.1 405B, FP8 | 486 GB | 7 GPU | 4 GPU |
| DeepSeek-V3 / R1, FP8 (yerel) | ≈ 805 GB | 11 GPU (tek bir 8 GPU'lu node üzerinde) | 6 GPU (tek bir 8 GPU'lu node) |
Naif fit = toplam belleği tahmini tutan kart sayısı; tensor-parallel ek yükünü ve sürücünün ayırdığı belleği yok sayar. DeepSeek, V3 ve R1 ağırlıklarını FP8 olarak yayımlar; token başına 37B aktif olsa da 671B parametrenin tamamı bellekte bulunmalıdır. KV cache değerleri, Llama 3 makalesinin mimarisini (80 katman, 8 KV head, head boyutu 128) kullanır.
H100 ve H200 saat başına ne kadar?
GPU-saat başına, USD. 'En düşük' ve 'medyan', GPUwithCrypto'nin 29 Ekim 2026 tarihli fiyat kontrolünden alınan self-servis on-demand liste fiyatlarıdır; spot ve pazaryeri fiyatları hariç tutulmuştur. Vast.ai bir pazaryeridir, ayrı gösterilir. Tüm GPU'lar: fiyatlandırma.
| GPU | GPUwithCrypto | Başka yerlerdeki en düşük talep üzerine | Medyan talep üzerine | Kontrol edilen sağlayıcılar | Vast.ai en düşük teklif |
|---|---|---|---|---|---|
| H100 80GB | $2.32/saat | $2.73 (Massed Compute) | $4.16 | 16 | $1.73 (H100 SXM) |
| H200 141GB | $3.07/saat | $3.62 (Massed Compute, H200 NVL) | $5.29 | 13 | $3.00 (H200 NVL) |
Fiyatlar tarihinde kontrol edildi
Massed Compute, $2.73'lük H100'ünün form faktörünü belirtmiyor. Vast.ai değerleri: Vast.ai'nin genel fiyat akışı, 29 Ekim 2026'daki en ucuz kiralanabilir teklif. Vergiler hariç.
H200, bellek GB'ı başına daha mı ucuz?
Evet. GPUwithCrypto'nin 29 Ekim 2026 tarihli fiyat kontrolüne göre, H200 saat başına H100'den %33 daha pahalı ama bellek GB'ı başına %25 daha ucuz. Saatlik fiyat ÷ GB olarak hesaplanır:
- H200: en düşük on-demand fiyatta GB-saat başına 2,57 sent ($3.62 ÷ 141), medyanda 3,75 sent ($5.29 ÷ 141).
- H100: en düşük fiyatta GB-saat başına 3,41 sent ($2.73 ÷ 80), medyanda 5,20 sent ($4.16 ÷ 80).
Medyanda H200, GB başına %28 daha ucuz. GPUwithCrypto için aynı bölme $0.022 ve $0.029 verir; her GPU, adı geçen on-demand referansının en az %15 altında fiyatlanır.
Bant genişliği açısından, en düşük fiyatlı H200, en düşük fiyatlı H100'e göre dolar başına %8 daha fazla GB/s sunar ($/saat başına 1.326'ya karşı 1.227 GB/s, H100 SXM değeriyle).
Llama 70B'yi H100'lerde vs bir H200'de sunmak ne kadar tutar?
Bir H200, iki H100'den daha ucuza gelir. İşlenmiş örnek (varsayım): Llama 3.1 70B'yi FP8 olarak (≈ 84 GB) 7/24 sunuyorsunuz. Bu iki H100 veya bir H200 gerektirir. Bulduğumuz en düşük fiyatlarda bir H200, iki H100'den %34 daha az maliyetlidir; medyanda %36 daha az.
İki H100 gerçekten de bir H200'ün iki katı tepe hesap gücü verir. Bu, yalnızca büyük batch'te sunumunuz compute-bound ise önemlidir.
Llama 3.1 70B FP8: iki H100 veya bir H200
| Fiyat temeli | 2 × H100, 24 s | 1 × H200, 24 s | 2 × H100, 720 s | 1 × H200, 720 s |
|---|---|---|---|---|
| GPUwithCrypto | 2 × $55.68 | $73.68 | 2 × $1,670.40 | $2,210.40 |
| Başka yerlerdeki en düşük talep üzerine | $131.04 | $86.88 | $3,931.20 | $2,606.40 |
| Medyan talep üzerine | $199.68 | $126.96 | $5,990.40 | $3,808.80 |
Fiyatlar tarihinde kontrol edildi
Çalışma saatleri bir varsayımdır. Yalnızca GPU zamanı; sağlayıcının ücretlendirdiği yerde depolama ve ağ ayrıca.
H100'ü ne zaman kiralamalıyım?
Model 80 GB'a sığdığında. Bu durumda H200'ün, en düşük fiyatlarda maliyetini çıkarması için işinizi 1,33 kat daha hızlı çalıştırması gerekir ($3.62 ÷ $2.73), medyanda 1,27 kat ($5.29 ÷ $4.16). İki fiyatımız da adı geçen referansının en az %15 altında olduğundan ($3.62 ve $2.73), aşağı yukarı aynı 1,33 oranını korur.
- 80 GB'a sığan compute-bound işler: H100 kazanır. Tepe hesap gücü eşit, fiyat değil.
- 80 GB'a sığan bant genişliği sınırlı decoding: H200'ün 1,43× tepe bant genişliği avantajı, 1,33× fiyat farkının hemen üstünde. Bir aya bağlanmadan önce kendi iş yükünüzü test edin.
- 8B modelleri fine-tune etme, 70B'de QLoRA, not defterleri: H100 veya daha ucuz bir A100 80GB.
H200'ü tek GPU'da 70B sınıfı FP8 sunumu, uzun context'ler, daha az GPU'da 405B modeller ve tek bir 8 GPU'lu node'da DeepSeek-V3 veya R1 için kiralayın.
H100 ve H200 hakkında sorular
H200, H100'den daha hızlı mı?
Hesap gücü için değil: SXM sürümleri aynı dense tepe değerini paylaşır, 989,5 TFLOPS BF16 ve 1.979 TFLOPS FP8 (NVIDIA'nın sparse değerlerinden türetilmiştir). H200'ün 1,43 kat bellek bant genişliği ve 1,76 kat belleği vardır; bu da bant genişliği sınırlı decoding'e ve büyük modellere yardımcı olur.
H200 saat başına H100'den ne kadar daha pahalı?
29 Ekim 2026'da bulduğumuz en düşük self-servis on-demand fiyatlar H200 için $3.62, H100 için $2.73'tü; arada %33 fark var. Medyanlar $5.29 ve $4.16'ydı. GPUwithCrypto ise $3.07/saat ve $2.32/saat alıyor.
Llama 3.1 70B'yi tek bir H200'de çalıştırabilir miyim?
FP8'de evet: × 1.2 kuralıyla yaklaşık 84 GB, 141 GB içinde KV cache için yer kalır. BF16'da yaklaşık 168 GB gerektirir, yani iki H200. H100'lerde FP8 sürümü iki kart gerektirir.
İki H100 mü yoksa bir H200 mü kiralamalıyım?
80 ile 141 GB arasında bir model için bir H200: 29 Ekim 2026'nın en düşük fiyatlarında iki H100'den %34 daha ucuza gelir ve modeli bölmekten kaçınırsınız. İki kat tepe hesap gücüne ihtiyaç duyduğunuzda iki H100 mantıklıdır.
H200 için kripto ile ödeme yapabilir miyim?
Evet. GPUwithCrypto, H200'ü KYC olmadan BTC, USDT, USDC, ETH, SOL, LTC, XMR karşılığında kiralar. 29 Ekim 2026'da on-demand H200 fiyatı olan 13 sağlayıcıdan 4'ü kripto kabul eder: Massed Compute, Paperspace/DigitalOcean, Spheron ve önce KYC isteyen RunPod.
Kripto ile H200 veya H100 kiralayın
H200 $3.07/saat · H100 $2.32/saat · dakika başına faturalandırılır · KYC yok.
Kaynaklar (10)
- NVIDIA H200 Tensor Core GPU — NVIDIA (read 2026-10-29)
- NVIDIA H200 NVL — NVIDIA (read 2026-10-29)
- NVIDIA H100 Tensor Core GPU — NVIDIA (read 2026-10-29)
- NVIDIA H100 PCIe ürün özeti (PB-11133-001) — NVIDIA (read 2026-10-29)
- The Llama 3 Herd of Models (Tablo 3) — arXiv (read 2026-10-29)
- Transformer Math 101 — EleutherAI (read 2026-10-29)
- DeepSeek-V3 model kartı — DeepSeek / Hugging Face (read 2026-10-29)
- Qwen2.5-72B-Instruct model kartı — Qwen / Hugging Face (read 2026-10-29)
- Massed Compute fiyatlandırması vm.massedcompute.com/pricing — Massed Compute (read 2026-10-29)
- Vast.ai herkese açık GPU fiyat akışı — Vast.ai (read 2026-10-29)