Jawaban singkat
H100 vs A100: mana yang harus saya sewa?
H100 vs A100: sewa A100 80GB untuk inferensi yang terbatas memori dan fine-tuning LoRA model yang muat dalam 80 GB; sewa H100 untuk training yang terbatas komputasi, FP8, atau pekerjaan yang harus selesai cepat. Per 29 Oktober 2026, GPUwithCrypto menyewakan H100 seharga $2.32/jam dan A100 80GB seharga $0.92/jam, dibayar dengan kripto tanpa KYC. H100 baru sepadan jika menjalankan pekerjaan Anda sekitar 2,5 kali lebih cepat.
Bagaimana perbandingan spesifikasi H100 dan A100?
Angka resmi NVIDIA, dibaca pada 29 Oktober 2026. Angka Tensor adalah puncak dense TFLOPS. NVIDIA hanya mencetak nilai Tensor H100 dengan sparsity, jadi nilai dense H100 adalah angka NVIDIA ÷ 2, ditandai (d). Angka puncak bukan benchmark.
| Spesifikasi | H100 SXM | H100 PCIe | A100 80GB SXM | A100 80GB PCIe |
|---|---|---|---|---|
| Arsitektur | Hopper | Hopper | Ampere | Ampere |
| Memori | 80 GB HBM3 | 80 GB HBM2e | 80 GB HBM2e | 80 GB HBM2e |
| Bandwidth memori | 3.350 GB/s | 2.000 GB/s | 2.039 GB/s | 1.935 GB/s |
| FP16 / BF16 Tensor, dense | 989,5 TFLOPS (d) | — (1) | 312 TFLOPS | 312 TFLOPS |
| FP8 Tensor, dense | 1.979 TFLOPS (d) | — | Tidak tersedia (2) | Tidak tersedia (2) |
| NVLink | 900 GB/s | 600 GB/s (bridge) | 600 GB/s | 600 GB/s (bridge 2-GPU) |
| PCIe | Gen5 | Gen5 | Gen4 | Gen4 |
| Daya maksimum | 700 W | 350 W | 400 W | 300 W |
| Peluncuran | 2022 | 2022 | 2020 | 2021 |
(d) NVIDIA mencantumkan 1.979 TFLOPS (BF16) dan 3.958 TFLOPS (FP8) dengan sparsity; dense adalah setengahnya. Angka sparse A100 adalah 624 TFLOPS. (1) Tidak ada halaman resmi saat ini yang mencantumkan nilai Tensor H100 PCIe sebagai dense atau sparse; sebuah blog NVIDIA menyebut 1.513 TFLOPS BF16 tanpa menyebutkan yang mana. (2) NVIDIA mencantumkan FP8 sebagai tidak tersedia di Ampere.
Mana yang lebih cepat, H100 atau A100?
Secara spesifikasi, H100 SXM melakukan komputasi BF16 dense 3,17 kali lipat A100 (989,5 vs 312 TFLOPS) dan memiliki bandwidth memori 1,64 kali lipat (3.350 vs 2.039 GB/s). Ini adalah angka puncak NVIDIA, bukan benchmark. Gunakan kedua rasio tersebut sebagai batas perencanaan, bukan sebagai kecepatan terukur.
- Beban kerja yang terikat komputasi (training, fine-tuning pada batch besar, prefill prompt panjang) lebih mengikuti rasio TFLOPS.
- Beban kerja yang terikat memori (decoding LLM token demi token pada batch kecil) lebih mengikuti rasio bandwidth.
- FP8 berjalan di Tensor Core H100 pada 1.979 TFLOPS dense. A100 tidak memiliki Tensor Core FP8, jadi checkpoint FP8 tidak mendapat percepatan FP8 di sana.
H100 PCIe adalah kartu yang berbeda. Bandwidth 2.000 GB/s-nya mendekati 1.935 GB/s pada A100 80GB PCIe. Instance memiliki 1 hingga 8 GPU tergantung host. Sebelum memulai, dashboard menampilkan negara, jumlah GPU, form factor (SXM atau PCIe) dan interconnect tiap host.
Model apa yang muat di H100 atau A100?
Model yang sama muat di keduanya, karena keduanya memiliki 80 GB. Aturan praktis: memori ≈ parameter (miliar) × byte per parameter × 1,2, dengan 2 byte untuk BF16, 1 untuk FP8/INT8 dan 0,5 untuk 4-bit. 20% tersebut mencakup KV cache dan aktivasi pada konteks dan batch yang moderat (EleutherAI). Konteks panjang membutuhkan lebih banyak: lihat panduan VRAM.
| Model dan presisi | Memori yang dibutuhkan | H100 80GB | A100 80GB |
|---|---|---|---|
| Llama 3.1 8B, inferensi BF16 | 19.2 GB | 1 GPU | 1 GPU |
| Llama 3.1 8B, fine-tune LoRA (perencanaan) | 19.2 GB | 1 GPU | 1 GPU |
| Llama 3.1 8B, fine-tune penuh | 128–144 GB + aktivasi | 2+ GPU | 2+ GPU |
| Llama 3.1 70B, inferensi 4-bit | 42 GB | 1 GPU | 1 GPU |
| Llama 3.1 70B, fine-tune QLoRA | 52.5 GB | 1 GPU | 1 GPU |
| Llama 3.1 70B, inference FP8 | 84 GB | 2 GPU | 2 GPU, tanpa percepatan FP8 |
| Qwen2.5 72B, inference FP8 | 87.2 GB | 2 GPU | 2 GPU, tanpa percepatan FP8 |
| Llama 3.1 70B, inference BF16 | 168 GB | 3 GPU | 3 GPU |
| Llama 3.1 405B, inference FP8 | 486 GB | 7 GPU | 7 GPU, tanpa percepatan FP8 |
Perkiraan sederhana = jumlah kartu 80 GB yang total memorinya menampung estimasi; ini mengabaikan overhead tensor-parallel dan memori yang dicadangkan driver. Perencanaan LoRA = 2 byte per parameter × 1,2. QLoRA ≈ 0,75 GB per miliar parameter, dikalibrasi pada model 65B dari makalah QLoRA di satu GPU 48 GB. Full fine-tune = 16–18 byte per parameter (EleutherAI, Hugging Face).
Berapa biaya per jam H100 dan A100?
Per GPU-jam, USD. 'Terendah' dan 'median' adalah harga daftar on-demand self-serve dari pengecekan harga GPUwithCrypto pada 29 Oktober 2026; harga spot dan marketplace tidak termasuk di keduanya. Vast.ai adalah marketplace, jadi angkanya ditampilkan terpisah. Setiap harga GPU ada di halaman harga.
| GPU | GPUwithCrypto | Terendah on-demand di tempat lain | Median on-demand | Provider yang dicek | Penawaran terendah Vast.ai |
|---|---|---|---|---|---|
| H100 80GB | $2.32/jam | $2,73 (Massed Compute) | $4.16 | 16 | $1,73 (H100 SXM) |
| A100 80GB | $0.92/jam | $1,09 (Thunder Compute) | $2.23 | 13 | $0,48 (SXM), $0,34 (PCIe) |
Harga diperiksa pada
Massed Compute dan Thunder Compute tidak mencantumkan form factor kartu-kartu ini. Angka Vast.ai: feed harga publik Vast.ai, penawaran sewa termurah pada 29 Oktober 2026. Tidak termasuk pajak.
Berapa biaya per jam per GB VRAM di masing-masing kartu?
Menurut pengecekan harga GPUwithCrypto pada 29 Oktober 2026, satu GB memori A100 berbiaya 2,5 kali lebih murah per jam daripada satu GB memori H100. Dihitung sebagai harga per jam ÷ 80 GB:
- A100 80GB: 1,36 sen per GB-jam pada harga on-demand terendah ($1,09 ÷ 80), 2,79 sen pada median ($2,23 ÷ 80).
- H100 80GB: 3,41 sen per GB-jam pada harga terendah ($2,73 ÷ 80), 5,20 sen pada median ($4,16 ÷ 80).
Pada median, selisihnya menyusut menjadi 1,87 kali. Di GPUwithCrypto pembagian yang sama menghasilkan $0.012 dan $0.029, dengan setiap GPU dihargai minimal 15% di bawah referensi on-demand yang disebutkan.
Per dolar pada harga terendah, H100 SXM memberikan matematika BF16 puncak 27% lebih banyak (362 vs 286 TFLOPS per $/jam). A100 SXM memberikan bandwidth 52% lebih banyak per dolar (1.871 vs 1.227 GB/s per $/jam). Jika pekerjaan Anda lebih butuh memori daripada matematika, A100 adalah pilihan 80 GB yang lebih murah.
Berapa biaya satu pekerjaan di H100 vs A100?
H100 lebih murah per pekerjaan hanya jika ia menjalankan pekerjaan itu lebih cepat daripada selisih harganya. Titik impasnya adalah 2,50 kali pada harga terendah yang kami temukan ($2,73 ÷ $1,09) dan 1,87 kali pada median ($4,16 ÷ $2,23). Kedua harga GPUwithCrypto berada minimal 15% di bawah referensi yang disebutkan (Massed Compute di $2.73, Thunder Compute di $1.09), jadi titik impas kami juga sekitar 2,5 kali.
Contoh perhitungan (asumsi, bukan benchmark): sebuah pekerjaan fine-tuning memakan 24 jam di satu A100 80GB. Di H100 SXM pekerjaan itu memakan 7,6 jam jika mendapat rasio puncak BF16 penuh 3,17×, atau 14,6 jam jika hanya mendapat rasio bandwidth 1,64×.
Biaya pekerjaan yang sama (asumsi 24 jam-A100)
| Dasar harga | A100 80GB, 24 jam | H100, 7,6 jam (3,17× lebih cepat) | H100, 14,6 jam (1,64× lebih cepat) |
|---|---|---|---|
| GPUwithCrypto | $22.08 | $17.63 | $33.87 |
| Terendah on-demand di tempat lain | $26.16 | $20.75 | $39.86 |
| Median on-demand | $53.52 | $31.62 | $60.74 |
Harga diperiksa pada
Jam adalah asumsi; rasio kecepatan adalah angka puncak NVIDIA SXM. GPUwithCrypto menagih per menit, jadi jalannya 7,6 jam ditagih 7,6 jam.
Kapan saya harus menyewa H100 alih-alih A100?
Sewa H100 jika setidaknya salah satu dari ini benar:
- Anda melatih atau fine-tune dengan batch besar. Pekerjaan yang terikat komputasi lebih dekat mengikuti rasio puncak 3,17×, dan rasio itu di atas titik impas 2,5×.
- Anda menyajikan model FP8. Hanya H100 yang punya FP8 Tensor Cores (1.979 TFLOPS dense).
- Anda butuh beberapa GPU yang berkomunikasi cepat. H100 SXM NVLink berjalan pada 900 GB/s, dibanding 600 GB/s di A100.
- Tenggat waktu lebih penting daripada tagihan.
Sewa A100 80GB jika model muat dalam 80 GB dan pekerjaannya terikat memori: inference chat dengan batch kecil, proses LoRA dan QLoRA, evaluasi, notebook. Jika 80 GB terlalu kecil, baca H100 vs H200. Untuk kartu 48 GB yang lebih murah, baca L40S vs A100.
Pertanyaan tentang H100 dan A100
Apakah H100 layak dibanding A100?
Hanya jika ia menjalankan pekerjaan Anda lebih dari sekitar 2,5 kali lebih cepat, yaitu rasio harga per jam terendah pada 29 Oktober 2026. Angka puncak NVIDIA memberikan H100 SXM matematika BF16 dense 3,17 kali dan bandwidth 1,64 kali. Pelatihan yang terikat komputasi melewati ambang itu pada puncak; inference yang terikat bandwidth tidak.
Berapa biaya H100 per jam dibandingkan A100?
Pada 29 Oktober 2026, harga on-demand self-serve terendah yang kami temukan adalah $2,73 untuk H100 80GB dan $1,09 untuk A100 80GB; mediannya $4,16 dan $2,23. GPUwithCrypto menagih $2.32/jam dan $0.92/jam, dibayar dengan kripto.
Bisakah A100 menjalankan model FP8?
Perhitungan memorinya sama, tetapi NVIDIA mencantumkan FP8 sebagai tidak tersedia di Ampere, jadi A100 tidak mendapat percepatan FP8 Tensor Core. H100 menjalankan FP8 pada 1.979 dense TFLOPS, setengah dari angka 3.958 sparse milik NVIDIA.
Bisakah saya menjalankan Llama 3.1 70B di satu H100 atau A100?
Hanya dalam 4-bit: sekitar 42 GB dengan aturan × 1,2, yang muat di satu kartu 80 GB. Dalam FP8 butuh sekitar 84 GB (dua kartu) dan dalam BF16 sekitar 168 GB (tiga kartu). Satu H200 dengan 141 GB memuat versi FP8.
Bisakah saya menyewa H100 atau A100 dengan kripto dan tanpa KYC?
Bisa. GPUwithCrypto menyewakan keduanya per menit, dibayar dengan BTC, USDT, USDC, ETH, SOL, LTC, XMR, tanpa ID, tanpa selfie, dan tanpa kartu. Dari 33 penyedia GPU yang kami periksa pada 29 Oktober 2026, 14 menerima kripto, dan RunPod meminta KYC sebelum pembayaran kripto pertama.
Sewa H100 atau A100 dengan kripto
H100 $2.32/jam · A100 80GB $0.92/jam · ditagih per menit · tanpa KYC.
Sumber (12)
- NVIDIA H100 Tensor Core GPU — NVIDIA (read 2026-10-29)
- NVIDIA H100 PCIe product brief (PB-11133-001) — NVIDIA (read 2026-10-29)
- NVIDIA mengumumkan arsitektur Hopper (HBM3) — NVIDIA (read 2026-10-29)
- NVIDIA A100 Tensor Core GPU — NVIDIA (read 2026-10-29)
- NVIDIA A100 datasheet — NVIDIA (read 2026-10-29)
- Transformer Math 101 — EleutherAI (read 2026-10-29)
- Anatomi memori model — Hugging Face (read 2026-10-29)
- QLoRA: Efficient Finetuning of Quantized LLMs — arXiv (read 2026-10-29)
- Kartu model Llama 3.1 70B — Meta / Hugging Face (read 2026-10-29)
- Harga Massed Compute vm.massedcompute.com/pricing — Massed Compute (read 2026-10-29)
- Harga Thunder Compute thundercompute.com/pricing — Thunder Compute (read 2026-10-29)
- Feed harga GPU publik Vast.ai — Vast.ai (read 2026-10-29)