Trả lời nhanh
H100 vs H200: H200 có đáng với chi phí cao hơn không?
H100 vs H200: H200 đáng với chi phí cao hơn khi model của bạn không vừa trong 80 GB. Nó có 141 GB và băng thông gấp 1,43 lần, với cùng hiệu năng tính toán đỉnh SXM. Tính đến ngày 29 tháng 10 năm 2026, nó có giá cao hơn 33% mỗi giờ theo mức giá on-demand thấp nhất mà chúng tôi tìm thấy, vậy mà Llama 3.1 70B ở FP8 vừa một H200 thay vì hai H100. GPUwithCrypto cho thuê cả hai bằng crypto, không cần KYC: H200 $3.07/giờ, H100 $2.32/giờ.
Thông số H100 và H200 so sánh thế nào?
Số liệu chính thức của NVIDIA, đọc ngày 29 tháng 10 năm 2026. Các con số Tensor là TFLOPS đỉnh dense. NVIDIA chỉ in giá trị Tensor của Hopper với sparsity, nên dense = con số của NVIDIA ÷ 2, đánh dấu (d). Số liệu đỉnh không phải benchmark.
| Thông số | H100 SXM | H100 PCIe | H200 SXM | H200 NVL (PCIe) |
|---|---|---|---|---|
| Bộ nhớ | 80 GB HBM3 | 80 GB HBM2e | 141 GB HBM3e | 141 GB HBM3e |
| Băng thông bộ nhớ | 3.350 GB/s | 2.000 GB/s | 4.800 GB/s | 4.800 GB/s |
| FP16 / BF16 Tensor, dense | 989,5 TFLOPS (d) | — | 989,5 TFLOPS (d) | 835,5 TFLOPS (d) |
| FP8 Tensor, dense | 1.979 TFLOPS (d) | — | 1.979 TFLOPS (d) | 1.670,5 TFLOPS (d) |
| NVLink | 900 GB/s | 600 GB/s (bridge) | 900 GB/s | 900 GB/s (bridge 2 hoặc 4 chiều) |
| PCIe | Gen5 | Gen5 | Gen5 | Gen5 |
| Công suất tối đa | 700 W | 350 W | 700 W | 600 W |
| Ra mắt | 2022 | 2022 | 2023 | 2024 |
(d) = con số 'with sparsity' của NVIDIA ÷ 2. NVIDIA ghi chú bảng H200 là 'Preliminary specifications. May be subject to change.' Không có trang chính thức hiện tại nào ghi giá trị Tensor của H100 PCIe dưới dạng dense hoặc sparse.
H200 có nhanh hơn H100 không?
Không phải ở phép tính thô. H200 SXM và H100 SXM có cùng đỉnh dense: 989,5 TFLOPS BF16 và 1.979 TFLOPS FP8. H200 thay đổi bộ nhớ: 141 GB thay vì 80 GB (gấp 1,76 lần) và 4.800 GB/s thay vì 3.350 GB/s (gấp 1,43 lần). Đây là số liệu đỉnh của NVIDIA, không phải benchmark.
- Tác vụ thiên về tính toán (huấn luyện, prefill prompt dài) không có lợi thế đỉnh nào từ H200.
- Giải mã thiên về bộ nhớ có thể đạt tới tỷ lệ băng thông 1,43× ở mức đỉnh.
- Dung lượng là lợi ích lớn nhất. Một model cần hai H100 chạy được trên một H200, không phải chia tách giữa các GPU.
H200 NVL là một card PCIe với cùng 141 GB, giới hạn 600 W và đỉnh thấp hơn (835,5 TFLOPS BF16 dense). Instance có từ 1 đến 8 GPU tùy theo máy chủ. Trước khi bắt đầu, dashboard hiển thị quốc gia của từng máy chủ, số GPU, kiểu khe cắm (SXM hoặc PCIe) và kết nối giữa các GPU.
Những model nào vừa một H200 nhưng không vừa một H100?
Quy tắc ngón tay cái: bộ nhớ ≈ số tham số (tỷ) × byte mỗi tham số × 1,2, với 2 byte cho BF16, 1 cho FP8 và 0,5 cho 4-bit (EleutherAI). Ngữ cảnh dài cộng thêm KV cache: Llama 3.1 70B dùng 320 KiB mỗi token ở BF16, nên một ngữ cảnh 131.072 token cộng thêm 42,9 GB. Công thức và thêm nhiều model: hướng dẫn VRAM.
| Model và độ chính xác | Bộ nhớ cần thiết | H100 80GB | H200 141GB |
|---|---|---|---|
| Llama 3.1 8B, BF16 | 19.2 GB | 1 GPU | 1 GPU |
| Llama 3.1 70B, tinh chỉnh QLoRA | 52.5 GB | 1 GPU | 1 GPU |
| Llama 3.1 70B, FP8 | 84 GB | 2 GPU | 1 GPU |
| Qwen2.5 72B, FP8 | 87.2 GB | 2 GPU | 1 GPU |
| Llama 3.1 70B, FP8 + một ngữ cảnh 128K token | ≈ 113 GB | 2 GPU | 1 GPU |
| Llama 3.1 70B, BF16 | 168 GB | 3 GPU | 2 GPU |
| Llama 3.1 405B, 4-bit | 243 GB | 4 GPU | 2 GPU |
| Llama 3.1 405B, FP8 | 486 GB | 7 GPU | 4 GPU |
| DeepSeek-V3 / R1, FP8 (native) | ≈ 805 GB | 11 GPU (trên một node 8 GPU) | 6 GPU (một node 8 GPU) |
Ước tính vừa đủ = số card mà tổng bộ nhớ đủ chứa ước tính; nó bỏ qua chi phí tensor-parallel và bộ nhớ do driver dành riêng. DeepSeek công bố trọng số V3 và R1 ở FP8; cả 671B tham số phải thường trú dù mỗi token chỉ có 37B hoạt động. Số liệu KV cache dùng kiến trúc trong bài báo Llama 3 (80 lớp, 8 KV head, head size 128).
H100 và H200 tốn bao nhiêu mỗi giờ?
Theo GPU-giờ, USD. 'Thấp nhất' và 'trung vị' là giá niêm yết tự phục vụ theo yêu cầu từ đợt kiểm tra giá của GPUwithCrypto ngày 29 tháng 10 năm 2026; giá spot và giá trên marketplace không được tính. Vast.ai là một marketplace, được hiển thị riêng. Tất cả GPU: giá.
| GPU | GPUwithCrypto | Thấp nhất theo yêu cầu ở nơi khác | Trung vị theo yêu cầu | Các nhà cung cấp đã kiểm tra | Ưu đãi thấp nhất trên Vast.ai |
|---|---|---|---|---|---|
| H100 80GB | $2.32/giờ | $2.73 (Massed Compute) | $4.16 | 16 | $1.73 (H100 SXM) |
| H200 141GB | $3.07/giờ | $3.62 (Massed Compute, H200 NVL) | $5.29 | 13 | $3.00 (H200 NVL) |
Giá được kiểm tra vào
Massed Compute không nêu rõ form factor của chiếc H100 giá $2.73. Số liệu Vast.ai: nguồn giá công khai của Vast.ai, ưu đãi thuê rẻ nhất ngày 29 tháng 10 năm 2026. Chưa gồm thuế.
H200 có rẻ hơn tính theo GB bộ nhớ không?
Có. Theo đợt kiểm tra giá của GPUwithCrypto ngày 29 tháng 10 năm 2026, H200 tốn thêm 33% mỗi giờ so với H100 nhưng rẻ hơn 25% mỗi GB bộ nhớ. Tính bằng giá mỗi giờ ÷ GB:
- H200: 2.57 cent mỗi GB-giờ ở mức giá theo yêu cầu thấp nhất ($3.62 ÷ 141), 3.75 cent ở mức trung vị ($5.29 ÷ 141).
- H100: 3.41 cent mỗi GB-giờ ở mức giá thấp nhất ($2.73 ÷ 80), 5.20 cent ở mức trung vị ($4.16 ÷ 80).
Ở mức trung vị, H200 rẻ hơn 28% mỗi GB. Tại GPUwithCrypto, phép chia tương tự cho ra $0.022 và $0.029, mỗi GPU đều có giá thấp hơn ít nhất 15% so với giá tham chiếu theo yêu cầu đã nêu.
Về băng thông, chiếc H200 giá thấp nhất cho 8% GB/s trên mỗi đô-la nhiều hơn chiếc H100 giá thấp nhất (1,326 so với 1,227 GB/s trên mỗi $/giờ, với H100 tính theo thông số SXM).
Phục vụ Llama 70B trên H100 so với một H200 tốn bao nhiêu?
Một chiếc H200 tốn ít hơn hai chiếc H100. Ví dụ minh họa (giả định): bạn phục vụ Llama 3.1 70B ở FP8 (≈ 84 GB) suốt ngày đêm. Cần hai chiếc H100 hoặc một chiếc H200. Ở mức giá thấp nhất chúng tôi tìm được, một chiếc H200 tốn ít hơn 34% so với hai chiếc H100; ở mức trung vị, ít hơn 36%.
Hai chiếc H100 cho hiệu năng tính toán đỉnh gấp đôi một chiếc H200. Điều đó chỉ quan trọng nếu phục vụ của bạn bị giới hạn bởi tính toán ở batch lớn.
Llama 3.1 70B ở FP8: hai chiếc H100 hoặc một chiếc H200
| Cơ sở giá | 2 × H100, 24 h | 1 × H200, 24 h | 2 × H100, 720 h | 1 × H200, 720 h |
|---|---|---|---|---|
| GPUwithCrypto | 2 × $55.68 | $73.68 | 2 × $1,670.40 | $2,210.40 |
| Thấp nhất theo yêu cầu ở nơi khác | $131.04 | $86.88 | $3,931.20 | $2,606.40 |
| Trung vị theo yêu cầu | $199.68 | $126.96 | $5,990.40 | $3,808.80 |
Giá được kiểm tra vào
Số giờ chạy là giả định. Chỉ tính thời gian GPU; lưu trữ và mạng tính thêm ở nơi nhà cung cấp thu phí.
Khi nào tôi nên thuê H100 thay vào đó?
Khi mô hình vừa trong 80 GB. Lúc đó H200 phải chạy công việc của bạn nhanh gấp 1.33 lần để bù lại ở mức giá thấp nhất ($3.62 ÷ $2.73), hoặc 1.27 lần ở mức trung vị ($5.29 ÷ $4.16). Hai mức giá của chúng tôi giữ tỷ lệ khoảng 1.33 như nhau, vì mỗi mức đều thấp hơn ít nhất 15% so với giá tham chiếu đã nêu ($3.62 và $2.73).
- Công việc bị giới hạn bởi tính toán vừa trong 80 GB: H100 thắng. Hiệu năng tính toán đỉnh bằng nhau, giá thì không.
- Giải mã bị giới hạn bởi băng thông vừa trong 80 GB: lợi thế băng thông đỉnh 1.43× của H200 chỉ nhỉnh hơn khoảng cách giá 1.33× một chút. Hãy thử trên workload của bạn trước khi cam kết thuê một tháng.
- Fine-tune mô hình 8B, QLoRA trên 70B, notebook: H100, hoặc một chiếc A100 80GB rẻ hơn.
Thuê H200 để phục vụ FP8 cỡ 70B trên một GPU, ngữ cảnh dài, mô hình 405B trên ít GPU hơn, và DeepSeek-V3 hoặc R1 trên một node 8 GPU duy nhất.
Câu hỏi về H100 và H200
H200 có nhanh hơn H100 không?
Không phải về tính toán: các phiên bản SXM có cùng hiệu năng tính toán đỉnh dày đặc, 989.5 TFLOPS BF16 và 1,979 TFLOPS FP8 (suy ra từ thông số sparse của NVIDIA). H200 có băng thông bộ nhớ gấp 1.43 lần và bộ nhớ gấp 1.76 lần, giúp ích cho giải mã bị giới hạn bởi bộ nhớ và các mô hình lớn.
Một chiếc H200 tốn thêm bao nhiêu mỗi giờ so với H100?
Ngày 29 tháng 10 năm 2026, mức giá tự phục vụ theo yêu cầu thấp nhất chúng tôi tìm được là $3.62 cho H200 và $2.73 cho H100, chênh nhau 33%. Mức trung vị là $5.29 và $4.16. GPUwithCrypto thu $3.07/giờ và $2.32/giờ.
Tôi có thể chạy Llama 3.1 70B trên một chiếc H200 không?
Được ở FP8: khoảng 84 GB với quy tắc × 1.2, còn chỗ cho KV cache trong 141 GB. Ở BF16 cần khoảng 168 GB, tức hai chiếc H200. Trên H100, bản FP8 cần hai card.
Tôi nên thuê hai chiếc H100 hay một chiếc H200?
Với mô hình từ 80 đến 141 GB, nên chọn một chiếc H200: tốn ít hơn 34% so với hai chiếc H100 ở mức giá thấp nhất ngày 29 tháng 10 năm 2026 và tránh phải chia tách mô hình. Hai chiếc H100 hợp lý khi bạn cần hiệu năng tính toán đỉnh gấp đôi.
Tôi có thể thanh toán bằng crypto cho một chiếc H200 không?
Có. GPUwithCrypto cho thuê H200 với giá BTC, USDT, USDC, ETH, SOL, LTC, XMR, không cần KYC. Trong 13 nhà cung cấp có giá H200 theo yêu cầu ngày 29 tháng 10 năm 2026, 4 nhà chấp nhận crypto: Massed Compute, Paperspace/DigitalOcean, Spheron và RunPod, nhưng RunPod yêu cầu KYC trước.
Thuê H200 hoặc H100 bằng crypto
H200 $3.07/giờ · H100 $2.32/giờ · tính phí theo phút · không cần KYC.
Nguồn (10)
- NVIDIA H200 Tensor Core GPU — NVIDIA (read 2026-10-29)
- NVIDIA H200 NVL — NVIDIA (read 2026-10-29)
- NVIDIA H100 Tensor Core GPU — NVIDIA (read 2026-10-29)
- Tài liệu sản phẩm NVIDIA H100 PCIe (PB-11133-001) — NVIDIA (read 2026-10-29)
- The Llama 3 Herd of Models (Bảng 3) — arXiv (read 2026-10-29)
- Transformer Math 101 — EleutherAI (read 2026-10-29)
- Thẻ mô hình DeepSeek-V3 — DeepSeek / Hugging Face (read 2026-10-29)
- Thẻ mô hình Qwen2.5-72B-Instruct — Qwen / Hugging Face (read 2026-10-29)
- Giá Massed Compute vm.massedcompute.com/pricing — Massed Compute (read 2026-10-29)
- Nguồn giá GPU công khai của Vast.ai — Vast.ai (read 2026-10-29)