Коротка відповідь
H100 vs H200: чи варта H200 додаткових витрат?
H100 vs H200: H200 варта додаткових витрат, коли ваша модель не вміщується в 80 GB. Вона має 141 GB і в 1,43 раза більшу пропускну здатність, з тим самим піковим обчисленням SXM. Станом на 29 жовтня 2026 року вона коштувала на 33% більше за годину за найнижчими on-demand цінами, які ми знайшли, але Llama 3.1 70B у FP8 вміщується на одній H200 замість двох H100. GPUwithCrypto орендує обидві за криптовалюту, без KYC: H200 $3.07/година, H100 $2.32/годину.
Як порівнюються характеристики H100 і H200?
Офіційні дані NVIDIA, прочитані 29 жовтня 2026 року. Показники Tensor — це пікові щільні TFLOPS. NVIDIA публікує значення Hopper Tensor лише з розрідженістю, тож щільне = показник NVIDIA ÷ 2, позначено (d). Пікові показники — не бенчмарки.
| Характеристика | H100 SXM | H100 PCIe | H200 SXM | H200 NVL (PCIe) |
|---|---|---|---|---|
| Пам'ять | 80 GB HBM3 | 80 GB HBM2e | 141 GB HBM3e | 141 GB HBM3e |
| Пропускна здатність пам'яті | 3,350 GB/s | 2,000 GB/s | 4 800 GB/s | 4 800 GB/s |
| FP16 / BF16 Tensor, dense | 989.5 TFLOPS (d) | — | 989.5 TFLOPS (d) | 835,5 TFLOPS (d) |
| FP8 Tensor, dense | 1,979 TFLOPS (d) | — | 1,979 TFLOPS (d) | 1 670,5 TFLOPS (d) |
| NVLink | 900 GB/s | 600 GB/s (міст) | 900 GB/s | 900 GB/s (міст на 2 або 4 напрямки) |
| PCIe | Gen5 | Gen5 | Gen5 | Gen5 |
| Максимальна потужність | 700 W | 350 W | 700 W | 600 W |
| Запуск | 2022 | 2022 | 2023 | 2024 |
(d) = показник NVIDIA «with sparsity» ÷ 2. NVIDIA позначає таблицю H200 як «Preliminary specifications. May be subject to change.» Жодна поточна офіційна сторінка не наводить значення Tensor для H100 PCIe як щільні чи розріджені.
Чи швидша H200 за H100?
Не в чистій математиці. H200 SXM і H100 SXM мають однаковий щільний пік: 989,5 TFLOPS BF16 і 1 979 TFLOPS FP8. H200 змінює пам'ять: 141 GB замість 80 GB (у 1,76 раза) і 4 800 GB/s замість 3 350 GB/s (у 1,43 раза). Це пікові показники NVIDIA, а не бенчмарки.
- Завдання, обмежені обчисленнями (тренування, довгий prefill промпту), не отримують пікової переваги від H200.
- Декодування, обмежене пам'яттю, може виграти до співвідношення пропускної здатності 1,43× на піку.
- Ємність — головний виграш. Модель, якій потрібні дві H100, працює на одній H200, без розділення між GPU.
H200 NVL — це карта PCIe з тими самими 141 GB, лімітом 600 W і нижчими піками (835,5 TFLOPS BF16 щільних). Інстанси мають від 1 до 8 GPU залежно від хоста. Перед стартом дашборд показує країну кожного хоста, кількість GPU, форм-фактор (SXM або PCIe) та інтерконект.
Які моделі вміщуються на одній H200, але не на одній H100?
Практичне правило: пам'ять ≈ параметри (у мільярдах) × байтів на параметр × 1,2, де 2 байти для BF16, 1 для FP8 і 0,5 для 4-біт (EleutherAI). Довгі контексти додають KV cache: Llama 3.1 70B використовує 320 KiB на токен у BF16, тож один контекст на 131 072 токени додає 42,9 GB. Формула й більше моделей: VRAM guide.
| Модель і точність | Потрібна пам'ять | H100 80GB | H200 141GB |
|---|---|---|---|
| Llama 3.1 8B, BF16 | 19.2 GB | 1 GPU | 1 GPU |
| Llama 3.1 70B, fine-tune QLoRA | 52.5 GB | 1 GPU | 1 GPU |
| Llama 3.1 70B, FP8 | 84 GB | 2 GPU | 1 GPU |
| Qwen2.5 72B, FP8 | 87.2 GB | 2 GPU | 1 GPU |
| Llama 3.1 70B, FP8 + один контекст на 128K токенів | ≈ 113 GB | 2 GPU | 1 GPU |
| Llama 3.1 70B, BF16 | 168 GB | 3 GPU | 2 GPU |
| Llama 3.1 405B, 4-біт | 243 GB | 4 GPU | 2 GPU |
| Llama 3.1 405B, FP8 | 486 GB | 7 GPU | 4 GPU |
| DeepSeek-V3 / R1, FP8 (нативно) | ≈ 805 GB | 11 GPU (більше ніж на одному 8-GPU вузлі) | 6 GPU (один 8-GPU вузол) |
Naive fit = кількість карток, сумарна пам'ять яких вміщає оцінку; він ігнорує накладні витрати tensor-parallel і пам'ять, зарезервовану драйвером. DeepSeek публікує ваги V3 і R1 у FP8; усі 671B параметрів мають бути резидентними, хоча 37B активні на кожен токен. Показники KV cache використовують архітектуру зі статті Llama 3 (80 шарів, 8 KV heads, розмір head 128).
Скільки коштують H100 і H200 за годину?
За GPU-годину, USD. «Lowest» і «median» — це self-serve on-demand прайс-листи з перевірки цін GPUwithCrypto від 29 жовтня 2026 року; spot- і marketplace-ціни виключено. Vast.ai — це marketplace, показаний окремо. Усі GPU: ціни.
| GPU | GPUwithCrypto | Найнижча on-demand ціна в інших | Медіанна on-demand | Перевірено провайдерів | Найнижча пропозиція Vast.ai |
|---|---|---|---|---|---|
| H100 80GB | $2.32/годину | $2.73 (Massed Compute) | $4.16 | 16 | $1.73 (H100 SXM) |
| H200 141GB | $3.07/година | $3.62 (Massed Compute, H200 NVL) | $5.29 | 13 | $3.00 (H200 NVL) |
Ціни перевірено
Massed Compute не вказує форм-фактор свого H100 за $2.73. Дані Vast.ai: публічний прайс-фід Vast.ai, найдешевша пропозиція в оренду на 29 жовтня 2026 року. Податки не включено.
Чи H200 дешевший за ГБ пам'яті?
Так. Згідно з перевіркою цін GPUwithCrypto від 29 жовтня 2026 року, H200 коштує на 33% більше за годину, ніж H100, але на 25% менше за ГБ пам'яті. Обчислено як ціна за годину ÷ ГБ:
- H200: 2.57 цента за ГБ-годину за найнижчою on-demand ціною ($3.62 ÷ 141), 3.75 цента за медіаною ($5.29 ÷ 141).
- H100: 3.41 цента за ГБ-годину за найнижчою ціною ($2.73 ÷ 80), 5.20 цента за медіаною ($4.16 ÷ 80).
За медіаною H200 на 28% дешевший за ГБ. За GPUwithCrypto те саме ділення дає $0.022 і $0.029, причому кожен GPU коштує щонайменше на 15% нижче за названий on-demand референс.
За пропускною здатністю найдешевший H200 дає на 8% більше ГБ/с на долар, ніж найдешевший H100 (1,326 проти 1,227 ГБ/с на $/годину, з H100 за його показником SXM).
Скільки коштує обслуговувати Llama 70B на H100 проти H200?
Один H200 коштує менше, ніж два H100. Розрахунковий приклад (припущення): ви обслуговуєте Llama 3.1 70B у FP8 (≈ 84 GB) цілодобово. Для цього потрібні два H100 або один H200. За найнижчими знайденими цінами один H200 коштує на 34% менше, ніж два H100; за медіаною — на 36% менше.
Два H100 дають удвічі більше пікової математики, ніж один H200. Це важливо лише тоді, коли ваше обслуговування обмежене обчисленнями за великого батчу.
Llama 3.1 70B у FP8: два H100 або один H200
| Цінова база | 2 × H100, 24 год | 1 × H200, 24 год | 2 × H100, 720 год | 1 × H200, 720 год |
|---|---|---|---|---|
| GPUwithCrypto | 2 × $55.68 | $73.68 | 2 × $1,670.40 | $2,210.40 |
| Найнижча on-demand ціна в інших | $131.04 | $86.88 | $3,931.20 | $2,606.40 |
| Медіанна on-demand | $199.68 | $126.96 | $5,990.40 | $3,808.80 |
Ціни перевірено
Години роботи — це припущення. Лише час GPU; сховище та мережа додаються там, де провайдер за них бере плату.
Коли мені краще орендувати H100?
Коли модель вміщається в 80 GB. Тоді H200 має виконувати вашу задачу в 1.33 раза швидше, щоб окупитися за найнижчими цінами ($3.62 ÷ $2.73), або в 1.27 раза за медіаною ($5.29 ÷ $4.16). Наші дві ціни зберігають приблизно те саме співвідношення 1.33, бо кожна щонайменше на 15% нижче за свій названий референс ($3.62 і $2.73).
- Робота, обмежена обчисленнями, що вміщається в 80 GB: виграє H100. Пікова математика рівна, ціна — ні.
- Декодування, обмежене пропускною здатністю, що вміщається в 80 GB: перевага H200 у 1.43× пікової пропускної здатності трохи перевищує розрив у ціні 1.33×. Перевірте своє навантаження, перш ніж зобов'язуватися на місяць.
- Fine-tuning моделей 8B, QLoRA на 70B, ноутбуки: H100 або дешевший A100 80GB.
Орендуйте H200 для обслуговування FP8 моделей класу 70B на одному GPU, довгих контекстів, моделей 405B на меншій кількості GPU та DeepSeek-V3 або R1 на одному 8-GPU вузлі.
Питання про H100 і H200
Чи швидша H200 за H100?
Не для математики: версії SXM мають однаковий щільний пік, 989.5 TFLOPS BF16 і 1,979 TFLOPS FP8 (виведено з розріджених показників NVIDIA). H200 має в 1.43 раза більшу пропускну здатність пам'яті та в 1.76 раза більше пам'яті, що допомагає за декодування, обмеженого пам'яттю, і для великих моделей.
На скільки більше H200 коштує за годину, ніж H100?
Станом на 29 жовтня 2026 року найнижчі self-serve on-demand ціни, які ми знайшли, були $3.62 для H200 і $2.73 для H100, різниця 33%. Медіани становили $5.29 і $4.16. GPUwithCrypto бере $3.07/година і $2.32/годину.
Чи можу я запустити Llama 3.1 70B на одному H200?
Так, у FP8: близько 84 GB за правилом × 1.2, що залишає місце для KV cache у 141 GB. У BF16 потрібно близько 168 GB, тобто два H200. На H100 версія FP8 потребує двох карток.
Мені орендувати два H100 чи один H200?
Для моделі обсягом від 80 до 141 GB — один H200: він коштує на 34% менше, ніж два H100, за найнижчими цінами 29 жовтня 2026 року і дозволяє уникнути розділення моделі. Два H100 мають сенс, коли вам потрібно удвічі більше пікової математики.
Чи можу я оплатити H200 криптовалютою?
Так. GPUwithCrypto орендує H200 за BTC, USDT, USDC, ETH, SOL, LTC, XMR, без KYC. З 13 провайдерів з on-demand ціною H200 на 29 жовтня 2026 року 4 приймають криптовалюту: Massed Compute, Paperspace/DigitalOcean, Spheron і RunPod, який спершу вимагає KYC.
Орендуйте H200 або H100 за криптовалюту
H200 $3.07/година · H100 $2.32/годину · оплата щохвилини · без KYC.
Джерела (10)
- NVIDIA H200 Tensor Core GPU — NVIDIA (read 2026-10-29)
- NVIDIA H200 NVL — NVIDIA (read 2026-10-29)
- NVIDIA H100 Tensor Core GPU — NVIDIA (read 2026-10-29)
- NVIDIA H100 PCIe product brief (PB-11133-001) — NVIDIA (read 2026-10-29)
- The Llama 3 Herd of Models (Таблиця 3) — arXiv (read 2026-10-29)
- Transformer Math 101 — EleutherAI (read 2026-10-29)
- Картка моделі DeepSeek-V3 — DeepSeek / Hugging Face (read 2026-10-29)
- Картка моделі Qwen2.5-72B-Instruct — Qwen / Hugging Face (read 2026-10-29)
- Ціни Massed Compute vm.massedcompute.com/pricing — Massed Compute (read 2026-10-29)
- Публічний прайс-фід GPU Vast.ai — Vast.ai (read 2026-10-29)