คำตอบสั้น
GPU ตัวไหนดีที่สุดสำหรับการทำ LLM inference?
GPU ที่ดีที่สุดสำหรับการทำ LLM inference คือตัวที่ถูกที่สุดที่มี VRAM พอใส่โมเดลบวกอีกประมาณ 20%: RTX 4090 (24 GB) สำหรับโมเดล 7–8B, L40S (48 GB) สำหรับ 32B ใน FP8 หรือ 70B ใน 4-bit, H200 (141 GB) สำหรับ 70B ใน FP8 และ 8× H200 สำหรับ DeepSeek 671B ณ วันที่ 29 ตุลาคม 2026 GPUwithCrypto ให้เช่า H200 ในราคา $3.07/ชั่วโมง จ่ายด้วยคริปโต
ควรใช้ GPU ตัวไหนกับแต่ละขนาดโมเดล?
VRAM ที่ต้องใช้ = น้ำหนัก × 1.2 (ดูคู่มือ VRAM) ราคาของเราและราคา on-demand แบบ self-serve ต่ำสุดต่อ GPU-ชั่วโมงที่เราเจอจากผู้ให้บริการที่เราตรวจสอบเมื่อวันที่ 29 ตุลาคม 2026
| ขนาดโมเดล (ตัวอย่าง) | VRAM ที่ต้องใช้ | GPU ที่ดีที่สุด | เหตุผล | GPUwithCrypto | ต่ำสุดที่อื่น (ต่อ GPU) |
|---|---|---|---|---|---|
| 7–8B ใน BF16 (Llama 3.1 8B, Mistral 7B) | 17.5–19.2 GB | RTX 4090 24GB | ใส่น้ำหนัก BF16 บวกแคช 32K-token ได้ (4.3 GB บน Llama 3.1 8B); FP8 Tensor Cores | $0.28/ชั่วโมง | $0.33 (Salad) |
| 7–8B ที่ context 128K-token | 16 GB + แคช 17.2 GB = 33.2 GB | L40S 48GB | แคช BF16 128K-token เดียวต้องใช้ถึง 17.2 GB | $0.82/ชั่วโมง | $0.97 (Massed Compute) |
| 30–32B ใน FP8 (Qwen2.5 32B) | 39 GB | L40S 48GB | 48 GB พร้อม FP8 Tensor Cores (733 TFLOPS dense FP8 peak) | $0.82/ชั่วโมง | $0.97 (Massed Compute) |
| 30–32B ใน BF16 | 78 GB | A100 80GB | GPU 80 GB ระดับเริ่มต้นในช่วงของเรา; ไม่มี FP8 Tensor Cores จึงต้องเสิร์ฟเป็น BF16 หรือ 4-bit | $0.92/ชั่วโมง | $1.09 (Thunder Compute) |
| 70–72B ใน 4-bit | 42–43.6 GB | L40S 48GB | GPU ระดับเริ่มต้นที่สูงกว่า 44 GB ในช่วงของเรา | $0.82/ชั่วโมง | $0.97 (Massed Compute) |
| 70–72B ใน FP8 (Llama 3.1 70B, Qwen2.5 72B) | 84–87.2 GB | H200 141GB | GPU ตัวเดียวแทน H100 สองตัว; เหลือ 54–57 GB สำหรับ KV cache; 4,800 GB/s | $3.07/ชั่วโมง | $3.62 (Massed Compute) |
| gpt-oss-120b (MXFP4) | 78.3 GB | H100 80GB | การ์ดโมเดลของมันระบุเป้าหมายที่ GPU 80 GB ตัวเดียว; FP8 Tensor Cores, 3,350 GB/s (SXM) | $2.32/ชั่วโมง | $2.73 (Massed Compute) |
| DeepSeek V4 Flash (284B MoE) | 191.5 GB | 2× H200 | น้ำหนัก FP4/FP8 ของมันใช้พื้นที่ 159.6 GB; SGLang ระบุ 4× H200 | $6.14/ชั่วโมง | $3.62 (Massed Compute) |
| 405B ใน FP8 (Llama 3.1 405B) | 486 GB | 4× H200 | 564 GB บน GPU สี่ตัว; 8× H100 ต้องใช้จำนวน GPU เป็นสองเท่า | $12.28/ชั่วโมง | $3.62 (Massed Compute) |
| MoE 671B–1.6T (DeepSeek-V3/R1 FP8, V4 Pro) | 805–1,037.6 GB | 8× H200 | 1,128 GB บนโฮสต์เดียว; 8× H100 จุได้เพียง 640 GB | $24.56/ชั่วโมง | $3.62 (Massed Compute) |
ตรวจสอบราคาเมื่อ
ต่อ GPU-ชั่วโมง, USD, ไม่รวมภาษี ราคา spot และ marketplace ไม่ถูกนับ: อาจต่ำกว่าได้ แต่ GPU อาจถูกเรียกคืน
ทำไม VRAM จึงสำคัญกว่า TFLOPS สำหรับ inference?
VRAM ตัดสินว่าโมเดลจะรันได้หรือไม่ ส่วน memory bandwidth กำหนดขีดจำกัดความเร็วในการสร้างข้อความ แต่ละโทเคนใหม่จะอ่านน้ำหนักที่ใช้งานทุกตัวจากหน่วยความจำหนึ่งครั้ง ดังนั้นที่ batch size เล็ก GPU จึงรอหน่วยความจำ ไม่ใช่รอการคำนวณ การประมวลผลสำคัญกว่าสำหรับ prompt ยาว (prefill) และสำหรับผู้ใช้จำนวนมากแบบ batch ใหญ่
นั่นคือเหตุผลที่ H200 กับ H100 มีกำลังประมวลผล FP8 สูงสุดเท่ากัน (1,979 TFLOPS dense ตามข้อมูลของ NVIDIA) แต่ H200 มีหน่วยความจำมากกว่า 76% และรับส่งได้เร็วกว่า 43%: 4,800 GB/s เทียบกับ 3,350 GB/s Bandwidth และ TFLOPS ที่นี่เป็นตัวเลขสูงสุดของ NVIDIA ไม่ใช่การวัดของเรา
GPU ตัวไหนเหมาะกับโมเดลไหน? (เรียงตาม VRAM)
GPU เจ็ดตัวที่เราให้เช่า เรียงตาม VRAM ต่อ GPU จากมากไปน้อย เพราะ VRAM ตัดสินว่าโมเดลไหนจะใส่ได้ Bandwidth เป็นเกณฑ์ที่สอง ราคาต่อชั่วโมงเป็นเกณฑ์ที่สาม
-
1
NVIDIA B200
VRAM มากที่สุดHBM3e 180 GB ที่ 8,000 GB/s (สัดส่วนต่อ GPU จากตัวเลข 8-GPU HGX ของ NVIDIA), FP8 และ FP4 Tensor Cores จุโมเดล 70B ใน BF16 (168 GB) บน GPU ตัวเดียว
-
HBM3e 141 GB ที่ 4,800 GB/s จุโมเดล 70B ใน FP8 (84 GB) เหลือ 57 GB สำหรับ KV cache แปดตัวจุ DeepSeek-V3 หรือ V4 Pro
-
HBM3 80 GB ที่ 3,350 GB/s (SXM) หรือ 2,000 GB/s (PCIe), FP8 Tensor Cores จุ gpt-oss-120b หรือโมเดล 32B ใน BF16
-
HBM2e 80 GB ที่ 2,039 GB/s (SXM) หรือ 1,935 GB/s (PCIe) ไม่มี FP8 Tensor Cores: ให้บริการแบบ BF16 หรือ 4-bit
-
GDDR6 48 GB ที่ 864 GB/s, FP8 Tensor Cores, ไม่มี NVLink จุ 32B ใน FP8 หรือ 70B ใน 4-bit
-
GDDR7 32 GB ที่ 1,792 GB/s, FP8 และ FP4 Tensor Cores รองรับโมเดล 12B ใน BF16 (28.8 GB) หรือโมเดล 32B ใน 4-bit (19.5 GB) พร้อมที่เหลือสำหรับ context ยาว
-
GDDR6X 24 GB ที่ 1,008 GB/s, FP8 Tensor Cores รองรับโมเดล 7–8B ใน BF16
เปิดเผย: หน้านี้เผยแพร่โดย GPUwithCrypto รายละเอียดของคู่แข่งมาจากเว็บไซต์สาธารณะของพวกเขา ณ วันที่ระบุไว้ด้านบน และอาจเปลี่ยนแปลงได้ตั้งแต่นั้นมา
H200 หนึ่งตัวคุ้มค่ากว่า H100 สองตัวหรือไม่?
สำหรับโมเดล 70B ใน FP8 ใช่: H200 หนึ่งตัวรองรับได้ ในขณะที่ H100 สองตัวต้องแบ่งโมเดลและแลกเปลี่ยนข้อมูลในทุกเลเยอร์ ตามการตรวจสอบราคาของ GPUwithCrypto เมื่อวันที่ 29 ตุลาคม 2026 ค่ามัธยฐานของ H200 แบบ on-demand จาก 13 ผู้ให้บริการ อยู่ที่ $5.29 ต่อ GPU-hour เทียบกับ $4.16 สำหรับ H100 จาก 16 ผู้ให้บริการ H200 มีราคาสูงกว่า 27% ต่อชั่วโมง แต่มี VRAM มากกว่า 76% จึงถูกกว่าต่อ GB ของหน่วยความจำ 28%
ที่ราคาของเรา ตัวเลือกคือ $3.07/ชั่วโมง สำหรับ H200 หนึ่งตัว เทียบกับ $4.64/ชั่วโมงสำหรับ H100 สองตัว เปรียบเทียบแบบเต็ม: H100 vs H200
แล้ว GPU แบบ spot และ marketplace ล่ะ?
ราคาถูกกว่าและอาจหายไปกลางงาน ข้อเสนอ H100 ที่ถูกที่สุดบน marketplace ของ Vast.ai อยู่ที่ $1.73 ต่อชั่วโมง เมื่อวันที่ 29 ตุลาคม 2026 (ฟีดราคาสาธารณะของ Vast.ai) ต่ำกว่าราคา on-demand ที่ต่ำที่สุดที่เราพบ สำหรับ inference server ที่ต้องทำงานตลอดเวลา การถูกขัดจังหวะหมายถึง downtime อินสแตนซ์เป็นแบบ on-demand ไม่ใช่ spot: ไม่มีใครดึง GPU คุณคืนได้ตราบใดที่ยอดคงเหลือของคุณยังเพียงพอ และอินสแตนซ์จะทำงานจนกว่าคุณจะหยุด ใช้แบบไหนเมื่อใด: spot GPU คืออะไร
คำถามเกี่ยวกับ GPU สำหรับ LLM inference
ต้องใช้ GPU ตัวไหนในการรัน Llama 70B?
H200 หนึ่งตัวใน FP8 (ต้องการ 84 GB, มี 141 GB), L40S หนึ่งตัวใน 4-bit (ต้องการ 42 GB, มี 48 GB) หรือ B200 หนึ่งตัวใน BF16 (ต้องการ 168 GB, มี 180 GB) H100 สองตัวก็รองรับเวอร์ชัน FP8 ได้เช่นกัน โดยรวม 160 GB
GPU ไหนดีที่สุดสำหรับ DeepSeek V4?
H200 น้ำหนักของ DeepSeek V4 Flash ใช้ 159.6 GB จึงต้องใช้ H200 อย่างน้อยสองตัว และ SGLang cookbook ระบุไว้สี่ตัว ส่วน V4 Pro ที่ต้องการ 864.7 GB ต้องใช้ H200 แปดตัว คำสั่งอยู่ใน คู่มือ DeepSeek V4
RTX 4090 เหมาะกับ LLM inference ไหม?
สำหรับโมเดล 7–8B ใช่: 24 GB รองรับ Llama 3.1 8B ใน BF16 (19.2 GB รวม overhead) และเป็น GPU ระดับเริ่มต้นของเรา ด้วยแบนด์วิดท์ 1,008 GB/s เมื่อเกินประมาณ 10B พารามิเตอร์ใน BF16 จะหน่วยความจำไม่พอ
A100 ยังใช้ inference ได้ดีในปี 2026 ไหม?
สำหรับโมเดล BF16 และ 4-bit ที่ไม่เกิน 80 GB ได้ และเป็น GPU 80 GB ระดับเริ่มต้นของเรา มันไม่มี FP8 Tensor Cores ดังนั้น checkpoint แบบ FP8 จึงทำงานได้ดีกว่าบน L40S, H100 หรือ H200 ดู H100 vs A100
เช่า GPU เหล่านี้ด้วยคริปโตได้ไหม?
ได้ GPUwithCrypto รับ BTC, USDT, USDC, ETH, SOL, LTC, XMR จากการเติมเงิน US$1 โดยไม่ต้องใช้ ID และไม่ต้องใช้บัตร อินสแตนซ์คิดค่าบริการเป็นรายนาทีตามอัตรารายชั่วโมงตลอดเวลาที่ทำงาน โดยหักจาก GPU-hours ที่คุณซื้อไว้สำหรับ GPU รุ่นนั้น การหยุดอินสแตนซ์จะหยุดการคิดค่าบริการทันที
แหล่งที่มา (14)
- สเปก NVIDIA H200 — NVIDIA (read 2026-10-29)
- ข้อมูลจำเพาะ NVIDIA H100 — NVIDIA (read 2026-10-29)
- ข้อมูลจำเพาะ NVIDIA A100 — NVIDIA (read 2026-10-29)
- สเปก NVIDIA L40S — NVIDIA (read 2026-10-29)
- แพลตฟอร์ม NVIDIA HGX (B200) — NVIDIA (read 2026-10-29)
- เอกสารไวท์เปเปอร์สถาปัตยกรรม GPU NVIDIA Ada (RTX 4090) — NVIDIA (read 2026-10-29)
- whitepaper สถาปัตยกรรม NVIDIA RTX Blackwell (RTX 5090) — NVIDIA (read 2026-10-29)
- Transformer Math 101 — EleutherAI (read 2026-10-29)
- การ์ดโมเดล gpt-oss-120b — OpenAI / Hugging Face (read 2026-10-29)
- cookbook DeepSeek-V4 — SGLang (read 2026-10-29)
- ภาษีราคา Massed Compute vm.massedcompute.com/pricing — Massed Compute (read 2026-10-29)
- การเปลี่ยนแปลงราคา SaladCloud พฤศจิกายน 2026 blog.salad.com/saladcloud-price-changes-november-2026 — Salad (read 2026-10-29)
- ภาษีราคา Thunder Compute thundercompute.com/pricing — Thunder Compute (read 2026-10-29)
- ฟีดราคา GPU สาธารณะของ Vast.ai — Vast.ai (read 2026-10-29)