¿Qué es una GPU spot y merece la pena?

¿Es spot más barato que on-demand?

Sí, aproximadamente la mitad. Según la comprobación de precios de GPUwithCrypto del 29 de octubre de 2026, el descuento spot mediano en una H100 SXM entre esos cinco proveedores era del 56%. La spot en Nebius y Jarvislabs, y la oferta más barata del marketplace de Vast.ai, estaban todas por debajo de nuestro precio on-demand de H100. Nuestra regla de precios solo compara con precios on-demand: Cada GPU tiene un precio al menos un 15 % por debajo de una referencia concreta: el precio bajo demanda de la misma GPU en un proveedor de autoservicio, consultado el 29 de octubre de 2026 (H100: Massed Compute a $2,73 por GPU-hora; la referencia de cada GPU se indica en su página de precios). Los precios spot, interrumpibles, de marketplace y de contacto con ventas no se usan como referencia, y algunos de ellos son más bajos. No afirmamos ser los más baratos para todas las GPU. Todos los precios on-demand de H100 que leemos están en precios de alquiler de H100.

¿Cómo se fija el precio spot?

Por capacidad sobrante, por eso se mueve. Nebius dice que la tarifa más alta de una VM preemptible siempre está un centavo por debajo de la tarifa on-demand actual; su tabla solo muestra el precio "desde". Google Cloud etiqueta su columna spot como "Current Spot pricing". Salad vende niveles de prioridad en su lugar: el 29 de octubre de 2026, su prioridad más baja (batch) para una RTX 4090 costaba $0.16 por hora frente a $0.33 para prioridad alta, que nunca se ve interrumpida.

¿Cuándo merece la pena una GPU spot?

Cuando perder la GPU te cuesta minutos, no un plazo de entrega. Con un descuento del 56% pagas 0.44 de la tarifa on-demand, así que spot sigue siendo más barato hasta que el trabajo que rehaces tras las interrupciones supera el 127% del trabajo útil (1 ÷ 0.44 = 2.27). El riesgo real es el tiempo, no el dinero.

Encajan bien: inferencia por lotes sobre un dataset, barridos de hiperparámetros, entrenamiento que guarda checkpoints cada pocos minutos, colas de renderizado.

Encajan mal: una API de inferencia que debe estar siempre activa, notebooks interactivos y sesiones de ComfyUI, trabajos largos sin checkpoints y trabajos con varias GPU, donde perder una GPU detiene todas.

¿Cómo hago que un trabajo de entrenamiento sobreviva a una interrupción spot?

Guarda checkpoints con frecuencia, mantenlos fuera de la instancia y reanuda desde el último. Con el Trainer de Hugging Face, define un intervalo de guardado y un límite de cuántos checkpoints conservar, luego llama a train(resume_from_checkpoint=True): carga el último checkpoint de la carpeta de salida, con los estados del optimizador y del scheduler. Copia la carpeta de salida a un almacenamiento que sobreviva a la instancia y haz que cada paso se pueda ejecutar dos veces sin problema.

from transformers import Trainer, TrainingArguments

args = TrainingArguments(
    output_dir="run",
    save_strategy="steps",
    save_steps=200,        # a checkpoint every 200 steps
    save_total_limit=3,    # keep the 3 most recent
)
trainer = Trainer(model=model, args=args, train_dataset=train_ds)

# after a restart: continue from the last checkpoint in ./run
trainer.train(resume_from_checkpoint=True)

¿Por qué las instancias GPUwithCrypto son solo on-demand?

Para que un trabajo largo o un endpoint en producción nunca lo corte otro. Las instancias son bajo demanda, no spot: nadie puede quitarte la GPU mientras tu saldo la cubra, y la instancia sigue en marcha hasta que la detengas. Cuando se agotan las GPU-horas de una GPU, sus instancias se detienen y sus discos se conservan; un nuevo bloque de horas te permite volver a arrancarlas. Cada GPU tiene un precio al menos un 15% por debajo de una referencia on-demand concreta consultada el 29 de octubre de 2026. Para la H100, esa referencia es Massed Compute a $2.73, y nuestro precio está 44% por debajo de la mediana de 16 proveedores. Todos los precios: pricing.