Коротка відповідь
H100 vs A100: який орендувати?
H100 vs A100: орендуйте A100 80GB для inference, обмеженого пам'яттю, і LoRA fine-tuning моделей, що вміщаються в 80 GB; орендуйте H100 для тренування, обмеженого обчисленнями, FP8 або задач, які мають завершитися швидко. Станом на 29 жовтня 2026 GPUwithCrypto орендує H100 за $2.32/годину, а A100 80GB за $0.92/година, з оплатою в криптовалюті без KYC. H100 окупається, лише якщо виконує вашу задачу приблизно в 2.5 раза швидше.
Як порівнюються характеристики H100 і A100?
Офіційні дані NVIDIA, прочитано 29 жовтня 2026. Tensor-значення — dense пік TFLOPS. NVIDIA друкує значення H100 Tensor лише зі sparsity, тож dense-значення H100 — це показник NVIDIA ÷ 2, позначений (d). Пікові значення — не бенчмарки.
| Характеристика | H100 SXM | H100 PCIe | A100 80GB SXM | A100 80GB PCIe |
|---|---|---|---|---|
| Архітектура | Hopper | Hopper | Ampere | Ampere |
| Пам'ять | 80 GB HBM3 | 80 GB HBM2e | 80 GB HBM2e | 80 GB HBM2e |
| Пропускна здатність пам'яті | 3,350 GB/s | 2,000 GB/s | 2,039 GB/s | 1,935 GB/s |
| FP16 / BF16 Tensor, dense | 989.5 TFLOPS (d) | — (1) | 312 TFLOPS | 312 TFLOPS |
| FP8 Tensor, dense | 1,979 TFLOPS (d) | — | N/A (2) | N/A (2) |
| NVLink | 900 GB/s | 600 GB/s (міст) | 600 GB/s | 600 GB/s (міст на 2 GPU) |
| PCIe | Gen5 | Gen5 | Gen4 | Gen4 |
| Максимальна потужність | 700 W | 350 W | 400 W | 300 W |
| Запуск | 2022 | 2022 | 2020 | 2021 |
(d) NVIDIA вказує 1,979 TFLOPS (BF16) і 3,958 TFLOPS (FP8) зі sparsity; dense — половина. Показник A100 зі sparsity — 624 TFLOPS. (1) Жодна поточна офіційна сторінка не подає значення Tensor для H100 PCIe як dense чи sparse; у блозі NVIDIA згадано 1,513 TFLOPS BF16 без уточнення, які саме. (2) NVIDIA зазначає, що FP8 недоступний на Ampere.
Що швидше, H100 чи A100?
За характеристиками H100 SXM виконує у 3.17 раза більше dense-обчислень BF16, ніж A100 (989.5 проти 312 TFLOPS), і має у 1.64 раза більшу пропускну здатність пам'яті (3,350 проти 2,039 GB/s). Це пікові показники NVIDIA, а не бенчмарки. Використовуйте ці два співвідношення як орієнтири для планування, а не як виміряну швидкість.
- Обчислювально-залежні задачі (тренування, fine-tuning із великим batch, prefill довгих промптів) ближче відповідають співвідношенню TFLOPS.
- Задачі, залежні від пам'яті (LLM-декодування токен за токеном із малим batch) ближче відповідають співвідношенню пропускної здатності.
- FP8 працює на Tensor Cores H100 зі швидкістю 1,979 TFLOPS dense. В A100 немає Tensor Cores для FP8, тож FP8-чекпойнт не отримує там прискорення FP8.
H100 PCIe — це інша карта. Її 2,000 GB/s близькі до 1,935 GB/s у A100 80GB PCIe. Інстанси мають від 1 до 8 GPU залежно від хоста. Перед стартом дашборд показує країну кожного хоста, кількість GPU, форм-фактор (SXM або PCIe) та інтерконект.
Які моделі вміщуються на H100 або A100?
Ті самі моделі вміщуються на обох, бо в обох 80 GB. Практичне правило: пам'ять ≈ параметри (у мільярдах) × байтів на параметр × 1.2, де 2 байти для BF16, 1 для FP8/INT8 і 0.5 для 4-bit. Ці 20% покривають KV cache та активації за помірного контексту й batch (EleutherAI). Довгі контексти потребують більше: див. посібник з VRAM.
| Модель і точність | Потрібна пам'ять | H100 80GB | A100 80GB |
|---|---|---|---|
| Llama 3.1 8B, інференс BF16 | 19.2 GB | 1 GPU | 1 GPU |
| Llama 3.1 8B, fine-tuning LoRA (планування) | 19.2 GB | 1 GPU | 1 GPU |
| Llama 3.1 8B, повний fine-tuning | 128–144 GB + активації | 2+ GPU | 2+ GPU |
| Llama 3.1 70B, 4-bit інференс | 42 GB | 1 GPU | 1 GPU |
| Llama 3.1 70B, fine-tune QLoRA | 52.5 GB | 1 GPU | 1 GPU |
| Llama 3.1 70B, інференс FP8 | 84 GB | 2 GPU | 2 GPU, без прискорення FP8 |
| Qwen2.5 72B, інференс FP8 | 87.2 GB | 2 GPU | 2 GPU, без прискорення FP8 |
| Llama 3.1 70B, інференс BF16 | 168 GB | 3 GPU | 3 GPU |
| Llama 3.1 405B, інференс FP8 | 486 GB | 7 GPU | 7 GPU, без прискорення FP8 |
Naive fit = кількість карт на 80 GB, сумарна пам'ять яких вміщує оцінку; він ігнорує накладні витрати tensor-parallel і пам'ять, зарезервовану драйвером. Планування LoRA = 2 байти на параметр × 1.2. QLoRA ≈ 0.75 GB на мільярд параметрів, відкалібровано на моделі 65B зі статті про QLoRA на одному GPU на 48 GB. Повний fine-tune = 16–18 байтів на параметр (EleutherAI, Hugging Face).
Скільки коштують H100 та A100 за годину?
За GPU-годину, USD. «Lowest» і «median» — це self-serve on-demand прайс-листи з перевірки цін GPUwithCrypto від 29 жовтня 2026 року; spot- і marketplace-ціни виключено з обох. Vast.ai — це маркетплейс, тому його показник наведено окремо. Усі ціни на GPU є на сторінці цін.
| GPU | GPUwithCrypto | Найнижча on-demand ціна в інших | Медіанна on-demand | Перевірено провайдерів | Найнижча пропозиція Vast.ai |
|---|---|---|---|---|---|
| H100 80GB | $2.32/годину | $2.73 (Massed Compute) | $4.16 | 16 | $1.73 (H100 SXM) |
| A100 80GB | $0.92/година | $1.09 (Thunder Compute) | $2.23 | 13 | $0.48 (SXM), $0.34 (PCIe) |
Ціни перевірено
Massed Compute і Thunder Compute не вказують форм-фактор цих карт. Дані Vast.ai: публічний прайс-фід Vast.ai, найдешевша пропозиція оренди на 29 жовтня 2026 року. Без податків.
Скільки коштує гігабайт VRAM за годину на кожній?
Згідно з перевіркою цін GPUwithCrypto від 29 жовтня 2026 року, гігабайт пам'яті A100 коштує за годину у 2.5 раза менше, ніж гігабайт пам'яті H100. Обчислено як ціна за годину ÷ 80 GB:
- A100 80GB: 1.36 цента за GB-годину за найнижчою on-demand ціною ($1.09 ÷ 80), 2.79 цента за медіаною ($2.23 ÷ 80).
- H100 80GB: 3.41 цента за GB-годину за найнижчою ціною ($2.73 ÷ 80), 5.20 цента за медіаною ($4.16 ÷ 80).
За медіаною розрив скорочується до 1.87 раза. У GPUwithCrypto те саме ділення дає $0.012 і $0.029, причому кожен GPU коштує щонайменше на 15% менше за названий on-demand референс.
На долар за найнижчими цінами H100 SXM дає на 27% більше пікової математики BF16 (362 проти 286 TFLOPS на $/годину). A100 SXM дає на 52% більше пропускної здатності на долар (1,871 проти 1,227 GB/s на $/годину). Якщо вашій задачі потрібна пам'ять більше, ніж обчислення, A100 — дешевший варіант на 80 GB.
Скільки коштує одна задача на H100 проти A100?
H100 дешевший за задачу лише тоді, коли він виконує її швидше, ніж його цінова надбавка. Ця точка беззбитковості становить 2.50 раза за найнижчими знайденими цінами ($2.73 ÷ $1.09) і 1.87 раза за медіаною ($4.16 ÷ $2.23). Обидві ціни GPUwithCrypto щонайменше на 15% нижчі за названі референси (Massed Compute за $2.73, Thunder Compute за $1.09), тож наша точка беззбитковості також близько 2.5 раза.
Розрахунковий приклад (припущення, не бенчмарк): задача fine-tuning займає 24 години на одному A100 80GB. На H100 SXM вона займає 7.6 години, якщо отримує повне співвідношення пікової продуктивності BF16 у 3.17×, або 14.6 години, якщо отримує лише співвідношення пропускної здатності 1.64×.
Вартість тієї самої задачі (припущено 24 A100-години)
| Цінова база | A100 80GB, 24 год | H100, 7.6 год (у 3.17× швидше) | H100, 14.6 год (у 1.64× швидше) |
|---|---|---|---|
| GPUwithCrypto | $22.08 | $17.63 | $33.87 |
| Найнижча on-demand ціна в інших | $26.16 | $20.75 | $39.86 |
| Медіанна on-demand | $53.52 | $31.62 | $60.74 |
Ціни перевірено
Години — це припущення; співвідношення швидкості — пікові показники NVIDIA SXM. GPUwithCrypto виставляє рахунок за хвилину, тож запуск на 7.6 години тарифікується як 7.6 години.
Коли варто орендувати H100 замість A100?
Орендуйте H100, коли істинне хоча б одне з цього:
- Ви тренуєте або робите fine-tune з великим batch. Обчислювально-обмежена робота ближче відповідає піковому співвідношенню 3.17×, а це співвідношення вище за точку беззбитковості 2.5×.
- Ви обслуговуєте моделі FP8. Лише H100 має FP8 Tensor Cores (1,979 TFLOPS dense).
- Вам потрібно, щоб кілька GPU швидко обмінювалися даними. H100 SXM NVLink працює на 900 GB/s проти 600 GB/s на A100.
- Дедлайн важливіший за рахунок.
Орендуйте A100 80GB, коли модель вміщується в 80 GB, а робота обмежена пам'яттю: інференс чату з малим batch, запуски LoRA і QLoRA, оцінювання, ноутбуки. Якщо 80 GB замало, читайте H100 vs H200. Для дешевшої карти на 48 GB читайте L40S vs A100.
Питання про H100 та A100
Чи вартий H100 своєї ціни порівняно з A100?
Лише коли він виконує вашу задачу більш ніж приблизно у 2.5 раза швидше — це співвідношення найнижчих погодинних цін на 29 жовтня 2026 року. Пікові показники NVIDIA дають H100 SXM у 3.17 раза більше dense-математики BF16 і у 1.64 раза більше пропускної здатності. Обчислювально-обмежене тренування на піку долає цю планку; інференс, обмежений пропускною здатністю, — ні.
Скільки коштує H100 за годину порівняно з A100?
Станом на 29 жовтня 2026 року найнижча знайдена нами self-serve on-demand ціна становила $2.73 для H100 80GB і $1.09 для A100 80GB; медіани — $4.16 і $2.23. GPUwithCrypto бере $2.32/годину і $0.92/година, оплата в криптовалюті.
Чи може A100 запускати моделі FP8?
Розрахунок пам'яті той самий, але NVIDIA вказує, що FP8 недоступний на Ampere, тож A100 не має прискорення FP8 Tensor Core. H100 виконує FP8 на 1 979 щільних TFLOPS — половина від 3 958 розріджених TFLOPS за даними NVIDIA.
Чи можу я запустити Llama 3.1 70B на одній H100 або A100?
Лише в 4-біт: близько 42 GB за правилом × 1,2, що вміщується на одній карті 80 GB. У FP8 потрібно близько 84 GB (дві карти), а в BF16 — близько 168 GB (три карти). Одна H200 зі 141 GB вміщує версію FP8.
Чи можу я орендувати H100 або A100 за криптовалюту без KYC?
Так. GPUwithCrypto орендує обидві подобово (поминутно), з оплатою в BTC, USDT, USDC, ETH, SOL, LTC, XMR, без ID, без селфі та без картки. З-поміж 33 постачальників GPU, яких ми перевірили 29 жовтня 2026 року, 14 приймають криптовалюту, а RunPod вимагає KYC перед першою оплатою криптовалютою.
Орендуйте H100 або A100 за криптовалюту
H100 $2.32/годину · A100 80GB $0.92/година · оплата за хвилину · без KYC.
Джерела (12)
- NVIDIA H100 Tensor Core GPU — NVIDIA (read 2026-10-29)
- NVIDIA H100 PCIe product brief (PB-11133-001) — NVIDIA (read 2026-10-29)
- NVIDIA announces Hopper architecture (HBM3) — NVIDIA (read 2026-10-29)
- NVIDIA A100 Tensor Core GPU — NVIDIA (read 2026-10-29)
- NVIDIA A100 datasheet — NVIDIA (read 2026-10-29)
- Transformer Math 101 — EleutherAI (read 2026-10-29)
- Model memory anatomy — Hugging Face (read 2026-10-29)
- QLoRA: Efficient Finetuning of Quantized LLMs — arXiv (read 2026-10-29)
- Картка моделі Llama 3.1 70B — Meta / Hugging Face (read 2026-10-29)
- Ціни Massed Compute vm.massedcompute.com/pricing — Massed Compute (read 2026-10-29)
- Ціни Thunder Compute thundercompute.com/pricing — Thunder Compute (read 2026-10-29)
- Публічний прайс-фід GPU Vast.ai — Vast.ai (read 2026-10-29)