Spot GPU nedir ve değer mi?

Spot on-demand'den daha mı ucuz?

Evet, yaklaşık yarı yarıya. GPUwithCrypto'in 29 Ekim 2026 tarihli fiyat kontrolüne göre, bu beş sağlayıcıda H100 SXM'de medyan spot indirimi %56 idi. Nebius ve Jarvislabs'taki spot ile en ucuz Vast.ai marketplace teklifi, bizim on-demand H100 fiyatımızın altındaydı. Fiyat kuralımız yalnızca on-demand fiyatlarla karşılaştırır: Her GPU, adı belirtilen bir referans fiyatın en az %15 altında fiyatlanır: aynı GPU'nun self-servis bir sağlayıcıdaki on-demand fiyatı, 29 Ekim 2026 tarihinde okundu (H100: Massed Compute, GPU-saat başına $2.73; her GPU'nun referansı kendi fiyat sayfasında belirtilir). Spot, kesintili (interruptible), pazaryeri ve satış ekibiyle görüşülerek alınan fiyatlar referans olarak kullanılmaz ve bunların bazıları daha düşüktür. Her GPU için en ucuz olduğumuzu iddia etmiyoruz. Okuduğumuz her on-demand H100 fiyatı H100 kiralama fiyatları sayfasında.

Spot fiyatlandırma nasıl belirlenir?

Yedek kapasiteyle, bu yüzden hareket eder. Nebius, preemptible bir VM'in en yüksek ücretinin her zaman güncel on-demand ücretin bir sent altında olduğunu söylüyor; tablosunda yalnızca "başlangıç" fiyatı görünüyor. Google Cloud, spot sütununu "Current Spot pricing" olarak etiketliyor. Salad ise bunun yerine öncelik katmanları satıyor: 29 Ekim 2026'da en düşük (batch) öncelikli RTX 4090 saat başına $0.16, hiçbir zaman preempt edilmeyen yüksek öncelik ise $0.33 idi.

Spot GPU ne zaman değerli?

GPU'yu kaybetmek size bir son tarih değil dakikalar kaybettirdiğinde. %56 indirimle on-demand ücretin 0.44'ünü ödersiniz; yani spot, kesintilerden sonra yeniden yaptığınız iş faydalı işin %127'sini aşana kadar daha ucuz kalır (1 ÷ 0.44 = 2.27). Gerçek risk para değil, zamandır.

İyi uyanlar: bir veri kümesi üzerinde batch çıkarım, hiperparametre taramaları, her birkaç dakikada bir kontrol noktası kaydeden eğitim, render kuyrukları.

Kötü uyanlar: ayakta kalması gereken bir çıkarım API'si, etkileşimli notebook'lar ve ComfyUI oturumları, kontrol noktası olmayan uzun işler ve bir GPU'nun kaybının tümünü durdurduğu çoklu GPU işleri.

Bir eğitim işini spot kesintiden nasıl sağ çıkarabilirim?

Kontrol noktalarını sık sık kaydedin, bunları instance dışında tutun ve son olandan devam edin. Hugging Face'in Trainer'ıyla bir kayıt aralığı ve kaç kontrol noktası tutulacağına dair bir üst sınır belirleyin, ardından train(resume_from_checkpoint=True) çağırın: çıktı klasöründeki son kontrol noktasını optimizer ve scheduler durumlarıyla birlikte yükler. Çıktı klasörünü instance'tan daha uzun yaşayan bir depolamaya kopyalayın ve her adımın iki kez çalıştırılmasını güvenli hale getirin.

from transformers import Trainer, TrainingArguments

args = TrainingArguments(
    output_dir="run",
    save_strategy="steps",
    save_steps=200,        # a checkpoint every 200 steps
    save_total_limit=3,    # keep the 3 most recent
)
trainer = Trainer(model=model, args=args, train_dataset=train_ds)

# after a restart: continue from the last checkpoint in ./run
trainer.train(resume_from_checkpoint=True)

GPUwithCrypto instance'ları neden yalnızca on-demand?

Böylece uzun bir iş veya canlı bir endpoint başkası tarafından asla kesilmez. Instance'lar on-demand'dır, spot değil: bakiyeniz yettiği sürece kimse GPU'nuzu geri alamaz ve instance siz durdurana kadar çalışır. Bir GPU'nun GPU-saatleri tükendiğinde, o GPU'nun instance'ları durur ve diskleri korunur; yeni bir saat bloğu bunları yeniden başlatmanızı sağlar. Her GPU, 29 Ekim 2026'da okunan adlandırılmış bir on-demand referansın en az %15 altında fiyatlanır. H100 için bu referans Massed Compute, $2.73 üzerinden; bizim fiyatımız ise 16 sağlayıcı medyanının 44% altında. Tüm fiyatlar: fiyatlandırma.