Krótka odpowiedź
H100 vs A100: który wynająć?
H100 vs A100: wynajmij A100 80GB do wnioskowania ograniczonego pamięcią i fine-tuningu LoRA modeli, które mieszczą się w 80 GB; wynajmij H100 do treningu ograniczonego mocą obliczeniową, FP8 lub zadań, które muszą szybko się zakończyć. Na dzień 29 października 2026 GPUwithCrypto wynajmuje H100 za $2.32/godzinę, a A100 80GB za $0.92/godzina, z płatnością kryptowalutą bez KYC. H100 zwraca się tylko wtedy, gdy wykonuje Twoje zadanie około 2,5 razy szybciej.
Jak wypadają specyfikacje H100 i A100?
Oficjalne dane NVIDIA, czytane 29 października 2026. Wartości Tensor to szczytowe dense TFLOPS. NVIDIA podaje wartości H100 Tensor tylko ze sparsity, więc wartości dense H100 to dane NVIDIA ÷ 2, oznaczone (d). Wartości szczytowe to nie benchmarki.
| Specyfikacja | H100 SXM | H100 PCIe | A100 80GB SXM | A100 80GB PCIe |
|---|---|---|---|---|
| Architektura | Hopper | Hopper | Ampere | Ampere |
| Pamięć | 80 GB HBM3 | 80 GB HBM2e | 80 GB HBM2e | 80 GB HBM2e |
| Przepustowość pamięci | 3,350 GB/s | 2,000 GB/s | 2,039 GB/s | 1,935 GB/s |
| FP16 / BF16 Tensor, dense | 989.5 TFLOPS (d) | — (1) | 312 TFLOPS | 312 TFLOPS |
| FP8 Tensor, dense | 1,979 TFLOPS (d) | — | N/A (2) | N/A (2) |
| NVLink | 900 GB/s | 600 GB/s (bridge) | 600 GB/s | 600 GB/s (2-GPU bridge) |
| PCIe | Gen5 | Gen5 | Gen4 | Gen4 |
| Maksymalny pobór mocy | 700 W | 350 W | 400 W | 300 W |
| Premiera | 2022 | 2022 | 2020 | 2021 |
(d) NVIDIA podaje 1,979 TFLOPS (BF16) i 3,958 TFLOPS (FP8) ze sparsity; dense to połowa. Wartość sparse dla A100 to 624 TFLOPS. (1) Żadna aktualna oficjalna strona nie podaje wartości Tensor dla H100 PCIe jako dense lub sparse; blog NVIDIA podaje 1,513 TFLOPS BF16, nie precyzując, o którą wartość chodzi. (2) NVIDIA podaje FP8 jako niedostępne na Ampere.
Co jest szybsze, H100 czy A100?
Na papierze H100 SXM wykonuje 3,17 razy więcej obliczeń dense BF16 niż A100 (989,5 vs 312 TFLOPS) i ma 1,64 razy większą przepustowość pamięci (3,350 vs 2,039 GB/s). To szczytowe wartości NVIDII, a nie benchmarki. Traktuj oba te stosunki jako widełki do planowania, a nie jako zmierzoną prędkość.
- Obciążenie ograniczone mocą obliczeniową (trening, fine-tuning przy dużym batchu, długie prefill promptu) bliżej podąża za stosunkiem TFLOPS.
- Obciążenie ograniczone pamięcią (dekodowanie LLM token po tokenie przy małym batchu) bliżej podąża za stosunkiem przepustowości.
- FP8 działa na Tensor Cores H100 z wydajnością 1,979 TFLOPS dense. A100 nie ma Tensor Cores FP8, więc checkpoint FP8 nie przyspieszy tam dzięki FP8.
H100 PCIe to inna karta. Jej 2,000 GB/s jest blisko 1,935 GB/s w A100 80GB PCIe. Instancje mają od 1 do 8 GPU w zależności od hosta. Przed startem dashboard pokazuje kraj każdego hosta, liczbę GPU, form factor (SXM lub PCIe) i interconnect.
Które modele mieszczą się na H100 albo A100?
Te same modele mieszczą się na obu, bo obie mają 80 GB. Zasada: pamięć ≈ parametry (w miliardach) × bajty na parametr × 1,2, przy czym 2 bajty dla BF16, 1 dla FP8/INT8 i 0,5 dla 4-bit. Te 20% pokrywa KV cache i aktywacje przy umiarkowanym kontekście i batchu (EleutherAI). Długie konteksty wymagają więcej: patrz przewodnik po VRAM.
| Model i precyzja | Potrzebna pamięć | H100 80GB | A100 80GB |
|---|---|---|---|
| Llama 3.1 8B, inferencja BF16 | 19.2 GB | 1 GPU | 1 GPU |
| Llama 3.1 8B, fine-tuning LoRA (planowanie) | 19.2 GB | 1 GPU | 1 GPU |
| Llama 3.1 8B, pełny fine-tuning | 128–144 GB + aktywacje | 2+ GPU | 2+ GPU |
| Llama 3.1 70B, inferencja 4-bit | 42 GB | 1 GPU | 1 GPU |
| Llama 3.1 70B, fine-tuning QLoRA | 52.5 GB | 1 GPU | 1 GPU |
| Llama 3.1 70B, inferencja FP8 | 84 GB | 2 GPU | 2 GPU, bez przyspieszenia FP8 |
| Qwen2.5 72B, inferencja FP8 | 87.2 GB | 2 GPU | 2 GPU, bez przyspieszenia FP8 |
| Llama 3.1 70B, inferencja BF16 | 168 GB | 3 GPU | 3 GPU |
| Llama 3.1 405B, inferencja FP8 | 486 GB | 7 GPU | 7 GPU, bez przyspieszenia FP8 |
Proste dopasowanie = liczba kart 80 GB, których łączna pamięć mieści szacunek; pomija narzut tensor-parallel i pamięć rezerwowaną przez sterownik. Planowanie LoRA = 2 bajty na parametr × 1,2. QLoRA ≈ 0,75 GB na miliard parametrów, skalibrowane na modelu 65B z pracy o QLoRA na jednym GPU 48 GB. Pełny fine-tuning = 16–18 bajtów na parametr (EleutherAI, Hugging Face).
Ile kosztują H100 i A100 za godzinę?
Za GPU-godzinę, USD. „Najniższa” i „mediana” to ceny katalogowe self-serve on-demand z kontroli cen GPUwithCrypto z 29 października 2026; ceny spot i marketplace są wykluczone z obu. Vast.ai to marketplace, więc jego wartość pokazano osobno. Każda cena GPU jest na stronie z cenami.
| GPU | GPUwithCrypto | Najniższa on-demand u innych | Mediana on-demand | Sprawdzeni dostawcy | Najniższa oferta Vast.ai |
|---|---|---|---|---|---|
| H100 80GB | $2.32/godzinę | $2.73 (Massed Compute) | $4.16 | 16 | $1.73 (H100 SXM) |
| A100 80GB | $0.92/godzina | $1.09 (Thunder Compute) | $2.23 | 13 | $0.48 (SXM), $0.34 (PCIe) |
Ceny sprawdzone
Massed Compute i Thunder Compute nie podają form factora tych kart. Wartości Vast.ai: publiczny feed cen Vast.ai, najtańsza oferta do wynajęcia z 29 października 2026. Podatki wyłączone.
Ile kosztuje godzina GB VRAM na każdym z nich?
Według kontroli cen GPUwithCrypto z 29 października 2026 GB pamięci A100 kosztuje za godzinę 2,5 razy mniej niż GB pamięci H100. Liczone jako cena za godzinę ÷ 80 GB:
- A100 80GB: 1,36 centa za GB-godzinę przy najniższej cenie on-demand ($1.09 ÷ 80), 2,79 centa przy medianie ($2.23 ÷ 80).
- H100 80GB: 3,41 centa za GB-godzinę przy najniższej cenie ($2.73 ÷ 80), 5,20 centa przy medianie ($4.16 ÷ 80).
Przy medianie różnica maleje do 1,87 razy. W GPUwithCrypto to samo dzielenie daje $0.012 i $0.029, a każdy GPU jest wyceniony co najmniej 15% poniżej swojego wskazanego odniesienia on-demand.
Za dolara przy najniższych cenach H100 SXM daje 27% więcej szczytowej matematyki BF16 (362 vs 286 TFLOPS na $/godzinę). A100 SXM daje 52% więcej przepustowości za dolara (1 871 vs 1 227 GB/s na $/godzinę). Jeśli Twoje zadanie potrzebuje bardziej pamięci niż mocy obliczeniowej, A100 jest tańszym 80 GB.
Ile kosztuje jedno zadanie na H100 vs A100?
H100 jest tańszy za zadanie tylko wtedy, gdy wykona je szybciej niż jego premia cenowa. Ten próg rentowności to 2,50 razy przy najniższych znalezionych cenach ($2.73 ÷ $1.09) i 1,87 razy przy medianie ($4.16 ÷ $2.23). Obie ceny GPUwithCrypto są co najmniej 15% poniżej swoich wskazanych odniesień (Massed Compute za $2.73, Thunder Compute za $1.09), więc nasz próg rentowności też wynosi około 2,5 razy.
Przykład obliczeniowy (założenie, nie benchmark): zadanie fine-tuningu zajmuje 24 godziny na jednym A100 80GB. Na H100 SXM zajmuje 7,6 godziny, jeśli zyskuje pełny stosunek szczytowy BF16 3,17×, albo 14,6 godziny, jeśli zyskuje tylko stosunek przepustowości 1,64×.
Koszt tego samego zadania (założono 24 A100-godziny)
| Podstawa ceny | A100 80GB, 24 h | H100, 7,6 h (3,17× szybciej) | H100, 14,6 h (1,64× szybciej) |
|---|---|---|---|
| GPUwithCrypto | $22.08 | $17.63 | $33.87 |
| Najniższa on-demand u innych | $26.16 | $20.75 | $39.86 |
| Mediana on-demand | $53.52 | $31.62 | $60.74 |
Ceny sprawdzone
Godziny są założeniem; stosunki szybkości to szczytowe wartości NVIDIA SXM. GPUwithCrypto rozlicza za minutę, więc przebieg 7,6 godziny jest rozliczany jako 7,6 godziny.
Kiedy wynająć H100 zamiast A100?
Wynajmij H100, gdy spełniony jest co najmniej jeden z tych warunków:
- Trenujesz lub fine-tunujesz przy dużym batchu. Praca ograniczona mocą obliczeniową bliżej podąża za stosunkiem szczytowym 3,17×, a ten stosunek jest powyżej progu rentowności 2,5×.
- Serwujesz modele FP8. Tylko H100 ma FP8 Tensor Cores (1 979 TFLOPS gęsto).
- Potrzebujesz kilku GPU szybko się komunikujących. H100 SXM NVLink działa z 900 GB/s, wobec 600 GB/s na A100.
- Termin liczy się bardziej niż rachunek.
Wynajmij A100 80GB, gdy model mieści się w 80 GB, a praca jest ograniczona pamięcią: inferencja chat przy małym batchu, uruchomienia LoRA i QLoRA, ewaluacje, notebooks. Jeśli 80 GB to za mało, przeczytaj H100 vs H200. Jeśli szukasz tańszej karty 48 GB, przeczytaj L40S vs A100.
Pytania o H100 i A100
Czy H100 się opłaca względem A100?
Tylko gdy wykona Twoje zadanie ponad około 2,5 razy szybciej, czyli w stosunku najniższych cen godzinowych z 29 października 2026. Szczytowe wartości NVIDIA dają H100 SXM 3,17 razy więcej gęstej matematyki BF16 i 1,64 razy więcej przepustowości. Trening ograniczony mocą obliczeniową przekracza ten próg przy szczycie; inferencja ograniczona przepustowością nie.
Ile kosztuje godzina H100 w porównaniu z A100?
29 października 2026 najniższa znaleziona przez nas cena self-serve on-demand wynosiła $2.73 za H100 80GB i $1.09 za A100 80GB; mediany to $4.16 i $2.23. GPUwithCrypto pobiera $2.32/godzinę i $0.92/godzina, płatne kryptowalutą.
Czy A100 obsłuży modele FP8?
Matematyka pamięci jest ta sama, ale NVIDIA podaje FP8 jako niedostępne na Ampere, więc A100 nie ma przyspieszenia FP8 na Tensor Core. H100 obsługuje FP8 z prędkością 1 979 gęstych TFLOPS, czyli połową wartości 3 958 sparse podawanej przez NVIDIA.
Czy mogę uruchomić Llama 3.1 70B na jednym H100 lub A100?
Tylko w 4-bit: około 42 GB według reguły × 1,2, co mieści się na jednej karcie 80 GB. W FP8 potrzebuje około 84 GB (dwie karty), a w BF16 około 168 GB (trzy karty). Jeden H200 z 141 GB mieści wersję FP8.
Czy mogę wynająć H100 lub A100 za kryptowalutę i bez KYC?
Tak. GPUwithCrypto wynajmuje oba na minuty, z płatnością w BTC, USDT, USDC, ETH, SOL, LTC, XMR, bez dowodu, bez selfie i bez karty. Spośród 33 dostawców GPU, których sprawdziliśmy 29 października 2026, 14 akceptuje kryptowaluty, a RunPod wymaga KYC przed pierwszą płatnością kryptowalutą.
Wynajmij H100 lub A100 za kryptowalutę
H100 $2.32/godzinę · A100 80GB $0.92/godzina · rozliczanie za minutę · bez KYC.
Źródła (12)
- NVIDIA H100 Tensor Core GPU — NVIDIA (read 2026-10-29)
- NVIDIA H100 PCIe product brief (PB-11133-001) — NVIDIA (read 2026-10-29)
- NVIDIA ogłasza architekturę Hopper (HBM3) — NVIDIA (read 2026-10-29)
- NVIDIA A100 Tensor Core GPU — NVIDIA (read 2026-10-29)
- NVIDIA A100 datasheet — NVIDIA (read 2026-10-29)
- Transformer Math 101 — EleutherAI (read 2026-10-29)
- Anatomia pamięci modelu — Hugging Face (read 2026-10-29)
- QLoRA: Efficient Finetuning of Quantized LLMs — arXiv (read 2026-10-29)
- Karta modelu Llama 3.1 70B — Meta / Hugging Face (read 2026-10-29)
- Cennik Massed Compute vm.massedcompute.com/pricing — Massed Compute (read 2026-10-29)
- Cennik Thunder Compute thundercompute.com/pricing — Thunder Compute (read 2026-10-29)
- Publiczny feed cen GPU Vast.ai — Vast.ai (read 2026-10-29)