Spot GPU คืออะไร และคุ้มไหม?

Spot ถูกกว่า on-demand หรือไม่?

ใช่ ประมาณครึ่งหนึ่ง ตามการตรวจสอบราคาของ GPUwithCrypto เมื่อ 29 ตุลาคม 2026 ส่วนลด spot มัธยฐานของ H100 SXM ในห้าผู้ให้บริการนั้นอยู่ที่ 56% ราคา spot ที่ Nebius และ Jarvislabs รวมถึงข้อเสนอ marketplace ของ Vast.ai ที่ถูกที่สุด ล้วนต่ำกว่าราคา H100 แบบ on-demand ของเรา กฎการกำหนดราคาของเราเปรียบเทียบกับราคา on-demand เท่านั้น: ราคา GPU แต่ละตัวต่ำกว่าค่าอ้างอิงที่ระบุชื่ออย่างน้อย 15% โดยอ้างอิงจากราคา on-demand ของ GPU รุ่นเดียวกันที่ผู้ให้บริการแบบ self-serve ตรวจสอบเมื่อวันที่ 29 ตุลาคม 2026 (H100: Massed Compute ที่ $2.73 ต่อ GPU-hour ค่าอ้างอิงของ GPU แต่ละรุ่นระบุไว้ในหน้าค่าสินค้าของรุ่นนั้น) ราคาแบบ Spot, interruptible, marketplace และราคาที่ต้องติดต่อฝ่ายขายไม่ถูกใช้เป็นค่าอ้างอิง และบางราคาต่ำกว่าด้วยซ้ำ เราไม่ได้อ้างว่าถูกที่สุดในทุก GPU ราคา H100 แบบ on-demand ทุกราคาที่เราอ่านอยู่ใน ราคาเช่า H100

ราคา spot ถูกกำหนดอย่างไร?

By spare capacity, so it moves. Nebius says the highest rate of a preemptible VM is always one cent below the current on-demand rate; its table shows only the "from" price. Google Cloud labels its spot column "Current Spot pricing". Salad sells priority tiers instead: on 29 October 2026 its lowest (batch) priority RTX 4090 cost $0.16 per hour against $0.33 for high priority, which is never preempted.

spot GPU คุ้มเมื่อไหร่?

เมื่อการเสีย GPU ไปทำให้คุณเสียเวลาเป็นนาที ไม่ใช่พลาดเดดไลน์ ที่ส่วนลด 56% คุณจ่าย 0.44 ของราคา on-demand ดังนั้น spot จะยังถูกกว่าจนกว่างานที่ต้องทำใหม่หลังการขัดจังหวะจะเกิน 127% ของงานที่มีประโยชน์ (1 ÷ 0.44 = 2.27) ความเสี่ยงจริงคือเวลา ไม่ใช่เงิน

เหมาะกับ: batch inference บนชุดข้อมูล, hyperparameter sweeps, การเทรนที่บันทึก checkpoint ทุกไม่กี่นาที, คิวเรนเดอร์

ไม่เหมาะกับ: inference API ที่ต้องออนไลน์ตลอด, notebook แบบอินเทอร์แอกทีฟและเซสชัน ComfyUI, งานยาวที่ไม่มี checkpoint และงานหลาย GPU ซึ่งการเสีย GPU ตัวเดียวจะหยุดทั้งหมด

ทำอย่างไรให้งานเทรนรอดจากการขัดจังหวะของ spot?

บันทึก checkpoint บ่อย ๆ เก็บไว้นอก instance แล้วรีซูมจากอันล่าสุด ด้วย Trainer ของ Hugging Face ให้ตั้งช่วงการบันทึกและจำนวน checkpoint สูงสุดที่จะเก็บไว้ แล้วเรียก train(resume_from_checkpoint=True): มันจะโหลด checkpoint ล่าสุดในโฟลเดอร์ output พร้อมสถานะ optimizer และ scheduler คัดลอกโฟลเดอร์ output ไปยังที่เก็บข้อมูลที่อยู่ได้นานกว่า instance และทำให้แต่ละสเต็ปปลอดภัยพอที่จะรันซ้ำได้

from transformers import Trainer, TrainingArguments

args = TrainingArguments(
    output_dir="run",
    save_strategy="steps",
    save_steps=200,        # a checkpoint every 200 steps
    save_total_limit=3,    # keep the 3 most recent
)
trainer = Trainer(model=model, args=args, train_dataset=train_ds)

# after a restart: continue from the last checkpoint in ./run
trainer.train(resume_from_checkpoint=True)

ทำไม instance GPUwithCrypto ถึงเป็น on-demand เท่านั้น?

เพื่อให้งานยาวหรือ endpoint ที่ใช้งานอยู่ไม่ถูกตัดโดยคนอื่น อินสแตนซ์เป็นแบบ on-demand ไม่ใช่ spot: ไม่มีใครดึง GPU คุณคืนได้ตราบใดที่ยอดคงเหลือของคุณยังเพียงพอ และอินสแตนซ์จะทำงานจนกว่าคุณจะหยุด. เมื่อ GPU-hours ของ GPU หนึ่งหมด อินสแตนซ์ของรุ่นนั้นจะหยุดทำงานและดิสก์ยังคงอยู่ ซื้อบล็อกชั่วโมงใหม่ก็เริ่มอินสแตนซ์เหล่านั้นได้อีกครั้ง. แต่ละ GPU ตั้งราคาต่ำกว่าอ้างอิง on-demand ที่ระบุชื่อซึ่งอ่านเมื่อ 29 ตุลาคม 2026 อย่างน้อย 15% สำหรับ H100 อ้างอิงนั้นคือ Massed Compute ที่ $2.73 และราคาของเราต่ำกว่าค่ามัธยฐานของ 16 ผู้ให้บริการ อยู่ 44% ราคาทั้งหมด: pricing.