Was ist eine Spot-GPU, und lohnt sie sich?

Ist Spot günstiger als On-Demand?

Ja, um etwa die Hälfte. Laut der Preisprüfung von GPUwithCrypto vom 29. Oktober 2026 lag der mediane Spot-Rabatt auf eine H100 SXM über diese fünf Anbieter bei 56%. Spot bei Nebius und Jarvislabs sowie das günstigste Angebot auf dem Marktplatz von Vast.ai lagen alle unter unserem On-Demand-H100-Preis. Unsere Preisregel vergleicht nur mit On-Demand-Preisen: Jede GPU ist mindestens 15 % unter einem genannten Referenzpreis bepreist: dem On-Demand-Preis derselben GPU bei einem Self-Service-Anbieter, gelesen am 29. Oktober 2026 (H100: Massed Compute zu $2.73 pro GPU-Stunde; die Referenz jeder GPU ist auf ihrer Preisseite genannt). Spot-, Interruptible-, Marketplace- und Contact-Sales-Preise werden nicht als Referenz verwendet, und einige davon sind niedriger. Wir behaupten nicht, für jede GPU die günstigsten zu sein. Jeder von uns gelesene On-Demand-H100-Preis steht auf H100-Mietpreise.

Wie wird der Spot-Preis festgelegt?

Durch freie Kapazität, er bewegt sich also. Nebius sagt, der höchste Preis einer preemptible VM liege immer einen Cent unter dem aktuellen On-Demand-Preis; die Tabelle zeigt nur den "ab"-Preis. Google Cloud nennt seine Spot-Spalte "Current Spot pricing". Salad verkauft stattdessen Prioritätsstufen: Am 29. Oktober 2026 kostete seine niedrigste (Batch-)Priorität für eine RTX 4090 $0.16 pro Stunde gegenüber $0.33 für hohe Priorität, die nie preempted wird.

Wann lohnt sich eine Spot-GPU?

Wenn der Verlust der GPU Sie Minuten kostet, nicht eine Deadline. Bei einem Rabatt von 56% zahlen Sie 0,44 des On-Demand-Preises, Spot bleibt also günstiger, solange die Arbeit, die Sie nach Unterbrechungen wiederholen, 127% der nutzbaren Arbeit nicht übersteigt (1 ÷ 0,44 = 2,27). Das eigentliche Risiko ist die Zeit, nicht das Geld.

Gut geeignet: Batch-Inferenz über einen Datensatz, Hyperparameter-Sweeps, Training mit Checkpoints alle paar Minuten, Rendering-Warteschlangen.

Schlecht geeignet: eine Inferenz-API, die verfügbar bleiben muss, interaktive Notebooks und ComfyUI-Sessions, lange Jobs ohne Checkpoints und Multi-GPU-Jobs, bei denen der Verlust einer GPU alle stoppt.

Wie überlebt ein Trainingsjob eine Spot-Unterbrechung?

Speichern Sie Checkpoints häufig, halten Sie sie außerhalb der Instanz und setzen Sie vom letzten fort. Legen Sie beim Trainer von Hugging Face ein Speicherintervall und eine Obergrenze für die Anzahl aufbewahrter Checkpoints fest und rufen Sie dann train(resume_from_checkpoint=True) auf: Es lädt den letzten Checkpoint im Ausgabeordner, samt Optimizer- und Scheduler-Status. Kopieren Sie den Ausgabeordner in einen Speicher, der die Instanz überlebt, und machen Sie jeden Schritt sicher wiederholbar.

from transformers import Trainer, TrainingArguments

args = TrainingArguments(
    output_dir="run",
    save_strategy="steps",
    save_steps=200,        # a checkpoint every 200 steps
    save_total_limit=3,    # keep the 3 most recent
)
trainer = Trainer(model=model, args=args, train_dataset=train_ds)

# after a restart: continue from the last checkpoint in ./run
trainer.train(resume_from_checkpoint=True)

Warum sind GPUwithCrypto-Instanzen nur On-Demand?

Damit ein langer Job oder ein Live-Endpoint nie von jemand anderem abgeschnitten wird. Instanzen sind On-Demand, nicht Spot: Niemand kann Ihnen die GPU wegnehmen, solange Ihr Guthaben reicht, und die Instanz läuft, bis Sie sie stoppen. Wenn die GPU-Stunden einer GPU aufgebraucht sind, stoppen ihre Instanzen und ihre Disks bleiben erhalten; ein neuer Stundenblock lässt Sie sie wieder starten. Jede GPU ist mindestens 15% unter einer benannten On-Demand-Referenz bepreist, die am 29. Oktober 2026 gelesen wurde. Für die H100 ist diese Referenz Massed Compute bei $2.73, und unser Preis liegt 44% unter dem Median von 16 Anbieter. Alle Preise: Preise.