# H100 vs A100: nên thuê cái nào?

> H100 vs A100: nên thuê cái nào? H100 có hiệu năng BF16 dense gấp 3,2 lần; A100 80GB rẻ hơn 60% mỗi giờ. Thông số, độ phù hợp model, giá crypto.

- URL: https://gpuwithcrypto.com/vi/compare/h100-vs-a100/
- Cập nhật lần cuối: 2026-10-29
- Đơn vị phát hành: GPUwithCrypto (https://gpuwithcrypto.com)

Cả hai GPU đều có 80 GB bộ nhớ, nên chạy được cùng các model. H100 nhanh hơn trên giấy và chạy FP8; A100 80GB rẻ hơn nhiều mỗi giờ. Dưới đây là cách chọn, với số liệu chính thức của NVIDIA và giá ngày 29 tháng 10 năm 2026.

**Trả lời nhanh — H100 vs A100: nên thuê cái nào?**

**H100 vs A100:** thuê A100 80GB cho inference giới hạn bởi bộ nhớ và fine-tuning LoRA với các model vừa 80 GB; thuê H100 cho training giới hạn bởi sức tính toán, FP8, hoặc các job phải xong nhanh. Tính đến ngày 29 tháng 10 năm 2026, **GPUwithCrypto** cho thuê H100 với $2.32/giờ và A100 80GB với $0.92/giờ, thanh toán bằng crypto không cần KYC. H100 chỉ đáng tiền nếu nó chạy job của bạn nhanh hơn khoảng 2,5 lần.

## Thông số H100 và A100 so sánh thế nào?

Số liệu chính thức của NVIDIA, đọc ngày 29 tháng 10 năm 2026. Các số Tensor là TFLOPS đỉnh **dense**. NVIDIA chỉ công bố giá trị Tensor của H100 kèm sparsity, nên giá trị dense của H100 là số của NVIDIA ÷ 2, đánh dấu (d). Số đỉnh không phải benchmark.

| Thông số | H100 SXM | H100 PCIe | A100 80GB SXM | A100 80GB PCIe |
| --- | --- | --- | --- | --- |
| Kiến trúc | Hopper | Hopper | Ampere | Ampere |
| Bộ nhớ | 80 GB HBM3 | 80 GB HBM2e | 80 GB HBM2e | 80 GB HBM2e |
| Băng thông bộ nhớ | 3.350 GB/s | 2.000 GB/s | 2.039 GB/s | 1.935 GB/s |
| FP16 / BF16 Tensor, dense | 989,5 TFLOPS (d) | — (1) | 312 TFLOPS | 312 TFLOPS |
| FP8 Tensor, dense | 1.979 TFLOPS (d) | — | N/A (2) | N/A (2) |
| NVLink | 900 GB/s | 600 GB/s (bridge) | 600 GB/s | 600 GB/s (2-GPU bridge) |
| PCIe | Gen5 | Gen5 | Gen4 | Gen4 |
| Công suất tối đa | 700 W | 350 W | 400 W | 300 W |
| Ra mắt | 2022 | 2022 | 2020 | 2021 |

(d) NVIDIA công bố 1.979 TFLOPS (BF16) và 3.958 TFLOPS (FP8) với sparsity; dense bằng một nửa. Con số sparse của A100 là 624 TFLOPS. (1) Không có trang chính thức nào hiện tại đưa ra giá trị Tensor của H100 PCIe dưới dạng dense hay sparse; một blog của NVIDIA dẫn 1.513 TFLOPS BF16 mà không nói rõ là loại nào. (2) NVIDIA liệt kê FP8 là không khả dụng trên Ampere.

## H100 hay A100 nhanh hơn?

Trên giấy tờ, H100 SXM đạt gấp 3,17 lần phép toán BF16 dense của A100 (989,5 so với 312 TFLOPS) và có băng thông bộ nhớ gấp 1,64 lần (3.350 so với 2.039 GB/s). Đây là các con số đỉnh của NVIDIA, không phải benchmark. Hãy dùng hai tỷ lệ này làm giới hạn lập kế hoạch, không phải tốc độ đo được.

- **Công việc bị giới hạn bởi tính toán** (training, fine-tuning với batch lớn, prefill prompt dài) bám sát tỷ lệ TFLOPS hơn.
- **Công việc bị giới hạn bởi bộ nhớ** (giải mã LLM từng token với batch nhỏ) bám sát tỷ lệ băng thông hơn.
- **FP8** chạy trên Tensor Cores của H100 ở 1.979 TFLOPS dense. A100 không có Tensor Cores FP8, nên checkpoint FP8 không được tăng tốc FP8 ở đó.

H100 PCIe là một card khác. Mức 2.000 GB/s của nó gần với 1.935 GB/s của A100 80GB PCIe. Instance có từ 1 đến 8 GPU tùy theo máy chủ. Trước khi bắt đầu, dashboard hiển thị quốc gia của từng máy chủ, số GPU, kiểu khe cắm (SXM hoặc PCIe) và kết nối giữa các GPU.

## Những model nào vừa trên H100 hoặc A100?

Cùng những model vừa trên cả hai, vì cả hai đều có 80 GB. Quy tắc ngón tay cái: **bộ nhớ ≈ số tham số (tỷ) × byte mỗi tham số × 1,2**, với 2 byte cho BF16, 1 cho FP8/INT8 và 0,5 cho 4-bit. 20% đó bao gồm KV cache và activations ở context và batch vừa phải (EleutherAI). Context dài cần nhiều hơn: xem [hướng dẫn VRAM](https://gpuwithcrypto.com/vi/how-much-vram-do-i-need/ "Tôi cần bao nhiêu VRAM để chạy hoặc fine-tune một LLM?").

| Model và độ chính xác | Bộ nhớ cần thiết | H100 80GB | A100 80GB |
| --- | --- | --- | --- |
| Llama 3.1 8B, suy luận BF16 | 19.2 GB | 1 GPU | 1 GPU |
| Llama 3.1 8B, fine-tune LoRA (lập kế hoạch) | 19.2 GB | 1 GPU | 1 GPU |
| Llama 3.1 8B, full fine-tune | 128–144 GB + activations | 2+ GPU | 2+ GPU |
| Llama 3.1 70B, suy luận 4-bit | 42 GB | 1 GPU | 1 GPU |
| Llama 3.1 70B, tinh chỉnh QLoRA | 52.5 GB | 1 GPU | 1 GPU |
| Llama 3.1 70B, suy luận FP8 | 84 GB | 2 GPU | 2 GPU, không tăng tốc FP8 |
| Qwen2.5 72B, suy luận FP8 | 87.2 GB | 2 GPU | 2 GPU, không tăng tốc FP8 |
| Llama 3.1 70B, suy luận BF16 | 168 GB | 3 GPU | 3 GPU |
| Llama 3.1 405B, suy luận FP8 | 486 GB | 7 GPU | 7 GPU, không tăng tốc FP8 |

Ước tính cơ bản = số card 80 GB có tổng bộ nhớ chứa được mức ước tính; nó bỏ qua chi phí phụ trội của tensor-parallel và bộ nhớ do driver dành riêng. Lập kế hoạch LoRA = 2 byte mỗi tham số × 1.2. QLoRA ≈ 0.75 GB mỗi tỷ tham số, hiệu chỉnh theo mô hình 65B trong bài báo QLoRA trên một GPU 48 GB. Tinh chỉnh toàn phần = 16–18 byte mỗi tham số (EleutherAI, Hugging Face).

## H100 và A100 tốn bao nhiêu mỗi giờ?

Theo GPU-giờ, USD. 'Thấp nhất' và 'trung vị' là giá niêm yết tự phục vụ theo yêu cầu từ đợt kiểm tra giá của GPUwithCrypto ngày 29 tháng 10 năm 2026; giá spot và giá trên marketplace đều bị loại khỏi cả hai. Vast.ai là một marketplace, nên con số của nó được hiển thị riêng. Mọi mức giá GPU đều có trên [trang định giá](https://gpuwithcrypto.com/vi/pricing/ "Một GPU cloud tốn bao nhiêu mỗi giờ tại GPUwithCrypto?").

| GPU | GPUwithCrypto | Thấp nhất theo yêu cầu ở nơi khác | Trung vị theo yêu cầu | Các nhà cung cấp đã kiểm tra | Ưu đãi thấp nhất trên Vast.ai |
| --- | --- | --- | --- | --- | --- |
| [H100 80GB](https://gpuwithcrypto.com/vi/gpu-prices/h100/ "Thuê H100 mỗi giờ tốn bao nhiêu?") | **$2.32/giờ** | $2.73 (Massed Compute) | $4.16 | 16 | $1.73 (H100 SXM) |
| [A100 80GB](https://gpuwithcrypto.com/vi/gpu-prices/a100/ "Một A100 tốn bao nhiêu mỗi giờ?") | **$0.92/giờ** | $1.09 (Thunder Compute) | $2.23 | 13 | $0.48 (SXM), $0.34 (PCIe) |

*Giá được kiểm tra vào 29 tháng 10, 2026.*

Massed Compute và Thunder Compute không nêu rõ kiểu dạng (form factor) của các card này. Số liệu Vast.ai: nguồn giá công khai của Vast.ai, ưu đãi thuê rẻ nhất ngày 29 tháng 10 năm 2026. Chưa gồm thuế.

## Một GB VRAM tốn bao nhiêu mỗi giờ trên mỗi loại?

Theo đợt kiểm tra giá của GPUwithCrypto ngày 29 tháng 10 năm 2026, một GB bộ nhớ A100 có giá mỗi giờ thấp hơn 2.5 lần so với một GB bộ nhớ H100. Tính bằng giá mỗi giờ ÷ 80 GB:

- **A100 80GB:** 1.36 cent mỗi GB-giờ ở mức giá theo yêu cầu thấp nhất ($1.09 ÷ 80), 2.79 cent ở mức trung vị ($2.23 ÷ 80).
- **H100 80GB:** 3.41 cent mỗi GB-giờ ở mức giá thấp nhất ($2.73 ÷ 80), 5.20 cent ở mức trung vị ($4.16 ÷ 80).

Ở mức trung vị, khoảng cách thu hẹp còn 1.87 lần. Tại GPUwithCrypto, phép chia tương tự cho ra $0.012 và $0.029, mỗi GPU có giá thấp hơn ít nhất 15% so với mức tham chiếu theo yêu cầu được nêu tên của nó.

Theo mỗi đô la ở mức giá thấp nhất, H100 SXM cho sức tính toán BF16 đỉnh cao hơn 27% (362 so với 286 TFLOPS mỗi $/giờ). A100 SXM cho băng thông mỗi đô la cao hơn 52% (1,871 so với 1,227 GB/s mỗi $/giờ). Nếu công việc của bạn cần bộ nhớ hơn là sức tính toán, A100 là lựa chọn 80 GB rẻ hơn.

## Một job tốn bao nhiêu trên H100 so với A100?

H100 chỉ rẻ hơn trên mỗi job khi nó chạy job đó nhanh hơn mức chênh giá của nó. Điểm hòa vốn đó là 2.50 lần ở mức giá thấp nhất chúng tôi tìm được ($2.73 ÷ $1.09) và 1.87 lần ở mức trung vị ($4.16 ÷ $2.23). Cả hai mức giá GPUwithCrypto đều thấp hơn ít nhất 15% so với mức tham chiếu được nêu tên (Massed Compute tại $2.73, Thunder Compute tại $1.09), nên điểm hòa vốn của chúng tôi cũng khoảng 2.5 lần.

**Ví dụ minh họa (giả định, không phải benchmark):** một job tinh chỉnh mất 24 giờ trên một A100 80GB. Trên một H100 SXM, nó mất 7.6 giờ nếu đạt được đầy đủ tỷ lệ đỉnh BF16 3.17×, hoặc 14.6 giờ nếu chỉ đạt được tỷ lệ băng thông 1.64×.

### Chi phí của cùng một job (giả định 24 A100-giờ)

| Cơ sở giá | A100 80GB, 24 h | H100, 7.6 h (nhanh hơn 3.17×) | H100, 14.6 h (nhanh hơn 1.64×) |
| --- | --- | --- | --- |
| GPUwithCrypto | $22.08 | $17.63 | $33.87 |
| Thấp nhất theo yêu cầu ở nơi khác | $26.16 | $20.75 | $39.86 |
| Trung vị theo yêu cầu | $53.52 | $31.62 | $60.74 |

*Giá được kiểm tra vào 29 tháng 10, 2026.*

Số giờ là giả định; tỷ lệ tốc độ là các con số đỉnh của NVIDIA SXM. GPUwithCrypto tính tiền theo phút, nên một lượt chạy 7.6 giờ được tính tiền 7.6 giờ.

## Khi nào nên thuê H100 thay vì A100?

Thuê H100 khi ít nhất một trong các điều sau đúng:

- **Bạn huấn luyện hoặc tinh chỉnh với batch lớn.** Công việc bị giới hạn bởi sức tính toán bám sát tỷ lệ đỉnh 3.17× hơn, và tỷ lệ đó cao hơn điểm hòa vốn 2.5×.
- **Bạn phục vụ mô hình FP8.** Chỉ H100 có Tensor Cores FP8 (1,979 TFLOPS dense).
- **Bạn cần nhiều GPU trao đổi nhanh.** NVLink của H100 SXM chạy ở 900 GB/s, so với 600 GB/s trên A100.
- **Thời hạn quan trọng hơn hóa đơn.**

Thuê A100 80GB khi mô hình vừa trong 80 GB và công việc bị giới hạn bởi bộ nhớ: suy luận chat với batch nhỏ, các lượt chạy LoRA và QLoRA, đánh giá, notebook. Nếu 80 GB là quá nhỏ, hãy đọc [H100 vs H200](https://gpuwithcrypto.com/vi/compare/h100-vs-h200/ "H100 vs H200: H200 có đáng với chi phí cao hơn không?"). Để có card 48 GB rẻ hơn, hãy đọc [L40S vs A100](https://gpuwithcrypto.com/vi/compare/l40s-vs-a100/ "L40S vs A100 cho inference và fine-tuning: nên thuê cái nào?").

## Câu hỏi về H100 và A100

### H100 có đáng dùng hơn A100 không?

Chỉ khi nó chạy job của bạn nhanh hơn khoảng 2.5 lần, tỷ lệ của mức giá theo giờ thấp nhất ngày 29 tháng 10 năm 2026. Các con số đỉnh của NVIDIA cho H100 SXM sức tính toán BF16 dense gấp 3.17 lần và băng thông gấp 1.64 lần. Huấn luyện bị giới hạn bởi sức tính toán vượt qua ngưỡng đó ở mức đỉnh; suy luận bị giới hạn bởi băng thông thì không.

### H100 tốn bao nhiêu mỗi giờ so với A100?

Ngày 29 tháng 10 năm 2026, mức giá theo yêu cầu tự phục vụ thấp nhất chúng tôi tìm được là $2.73 cho một H100 80GB và $1.09 cho một A100 80GB; mức trung vị là $4.16 và $2.23. GPUwithCrypto tính $2.32/giờ và $0.92/giờ, thanh toán bằng crypto.

### A100 có chạy được mô hình FP8 không?

Phép tính bộ nhớ vẫn như vậy, nhưng NVIDIA ghi FP8 là không khả dụng trên Ampere, nên A100 không có tốc độ tăng tốc FP8 Tensor Core. H100 chạy FP8 ở 1.979 dense TFLOPS, bằng một nửa con số sparse 3.958 của NVIDIA.

### Tôi có thể chạy Llama 3.1 70B trên một H100 hoặc A100 không?

Chỉ ở 4-bit: khoảng 42 GB với quy tắc × 1,2, vừa một card 80 GB. Ở FP8 cần khoảng 84 GB (hai card) và ở BF16 khoảng 168 GB (ba card). Một H200 với 141 GB chứa được phiên bản FP8.

### Tôi có thể thuê H100 hoặc A100 bằng crypto và không cần KYC không?

Có. GPUwithCrypto cho thuê cả hai theo phút, thanh toán bằng BTC, USDT, USDC, ETH, SOL, LTC, XMR, không cần ID, không selfie và không cần thẻ. Trong 33 nhà cung cấp GPU mà chúng tôi kiểm tra vào ngày 29 tháng 10 năm 2026, có 14 nhà chấp nhận crypto, và RunPod yêu cầu KYC trước lần thanh toán bằng crypto đầu tiên.

**Thuê H100 hoặc A100 bằng crypto** H100 $2.32/giờ · A100 80GB $0.92/giờ · tính phí theo phút · không cần KYC. [Thuê H100](https://gpuwithcrypto.com/vi/gpu-prices/h100/ "Thuê H100 mỗi giờ tốn bao nhiêu?") · [Thuê A100](https://gpuwithcrypto.com/vi/gpu-prices/a100/ "Một A100 tốn bao nhiêu mỗi giờ?")

## Nguồn

1. [NVIDIA H100 Tensor Core GPU](https://www.nvidia.com/en-us/data-center/h100/) — NVIDIA (read 2026-10-29)
2. [Tài liệu sản phẩm NVIDIA H100 PCIe (PB-11133-001)](https://www.nvidia.com/content/dam/en-zz/Solutions/gtcs22/data-center/h100/PB-11133-001_v01.pdf) — NVIDIA (read 2026-10-29)
3. [NVIDIA công bố kiến trúc Hopper (HBM3)](https://nvidianews.nvidia.com/news/nvidia-announces-hopper-architecture-the-next-generation-of-accelerated-computing) — NVIDIA (read 2026-10-29)
4. [NVIDIA A100 Tensor Core GPU](https://www.nvidia.com/en-us/data-center/a100/) — NVIDIA (read 2026-10-29)
5. [Bảng thông số NVIDIA A100](https://www.nvidia.com/content/dam/en-zz/Solutions/Data-Center/a100/pdf/nvidia-a100-datasheet-nvidia-us-2188504-web.pdf) — NVIDIA (read 2026-10-29)
6. [Transformer Math 101](https://blog.eleuther.ai/transformer-math/) — EleutherAI (read 2026-10-29)
7. [Cấu trúc bộ nhớ của model](https://huggingface.co/docs/transformers/model_memory_anatomy) — Hugging Face (read 2026-10-29)
8. [QLoRA: Efficient Finetuning of Quantized LLMs](https://arxiv.org/abs/2305.14314) — arXiv (read 2026-10-29)
9. [Thẻ model Llama 3.1 70B](https://huggingface.co/meta-llama/Llama-3.1-70B) — Meta / Hugging Face (read 2026-10-29)
10. [Giá Massed Compute](https://vm.massedcompute.com/pricing) — Massed Compute (read 2026-10-29)
11. [Giá Thunder Compute](https://www.thundercompute.com/pricing) — Thunder Compute (read 2026-10-29)
12. [Nguồn giá GPU công khai của Vast.ai](https://storage.googleapis.com/vast-public-gpu-pricing/gpu-pricing-public.json) — Vast.ai (read 2026-10-29)

---

GPUwithCrypto: GPUwithCrypto cho thuê GPU trên cloud (NVIDIA H100, H200, B200, A100, L40S, RTX 4090 và RTX 5090) theo phút, thanh toán bằng crypto và không cần KYC; mỗi GPU có giá thấp hơn ít nhất 15% so với một mức giá tham chiếu on-demand có nêu tên, đọc ngày 29 tháng 10 năm 2026.