Respuesta rápida
¿Cuál es la mejor GPU para inferencia de LLM?
La mejor GPU para inferencia de LLM es la más barata cuya VRAM pueda contener el modelo más un 20 % aproximadamente: una RTX 4090 (24 GB) para modelos de 7–8B, una L40S (48 GB) para 32B en FP8 o 70B en 4 bits, una H200 (141 GB) para 70B en FP8 y 8× H200 para DeepSeek de 671B. A fecha del 29 de octubre de 2026, GPUwithCrypto alquila la H200 a $3.07/hora, pagando con criptomonedas.
¿Qué GPU debería usar para cada tamaño de modelo?
VRAM necesaria = pesos × 1,2 (consulta la guía de VRAM). Nuestro precio y el precio on-demand autoservicio más bajo por GPU-hora que encontramos entre los proveedores que revisamos el 29 de octubre de 2026.
| Tamaño del modelo (ejemplo) | VRAM necesaria | Mejor GPU | Por qué | GPUwithCrypto | Más bajo en otros (por GPU) |
|---|---|---|---|---|---|
| 7–8B en BF16 (Llama 3.1 8B, Mistral 7B) | 17,5–19,2 GB | RTX 4090 24GB | Contiene los pesos BF16 más una caché de 32K tokens (4,3 GB en Llama 3.1 8B); Tensor Cores FP8 | $0.28/hora | $0.33 (Salad) |
| 7–8B con un contexto de 128K tokens | 16 GB + 17,2 GB de caché = 33,2 GB | L40S 48GB | Solo una caché BF16 de 128K tokens ya necesita 17,2 GB | $0.82/hora | $0.97 (Massed Compute) |
| 30–32B en FP8 (Qwen2.5 32B) | 39 GB | L40S 48GB | 48 GB con Tensor Cores FP8 (733 TFLOPS de pico FP8 denso) | $0.82/hora | $0.97 (Massed Compute) |
| 30–32B en BF16 | 78 GB | A100 80GB | GPU de 80 GB de entrada en nuestra gama; sin Tensor Cores FP8, así que sirve en BF16 o 4 bits | $0.92/hora | $1.09 (Thunder Compute) |
| 70–72B en 4 bits | 42–43,6 GB | L40S 48GB | GPU de entrada por encima de 44 GB en nuestra gama | $0.82/hora | $0.97 (Massed Compute) |
| 70–72B en FP8 (Llama 3.1 70B, Qwen2.5 72B) | 84–87,2 GB | H200 141GB | Una GPU en lugar de dos H100; quedan 54–57 GB para la caché KV; 4.800 GB/s | $3.07/hora | $3.62 (Massed Compute) |
| gpt-oss-120b (MXFP4) | 78.3 GB | H100 80GB | Su model card apunta a una sola GPU de 80 GB; FP8 Tensor Cores, 3.350 GB/s (SXM) | $2,32/hora | $2.73 (Massed Compute) |
| DeepSeek V4 Flash (284B MoE) | 191.5 GB | 2× H200 | Sus pesos FP4/FP8 ocupan 159,6 GB; SGLang documenta 4× H200 | $6.14/hora | $3.62 (Massed Compute) |
| 405B en FP8 (Llama 3.1 405B) | 486 GB | 4× H200 | 564 GB en cuatro GPU; 8× H100 necesitaría el doble de GPU | $12.28/hora | $3.62 (Massed Compute) |
| MoE de 671B–1,6T (DeepSeek-V3/R1 FP8, V4 Pro) | 805–1.037,6 GB | 8× H200 | 1.128 GB en un solo host; 8× H100 solo alberga 640 GB | $24.56/hora | $3.62 (Massed Compute) |
Precios comprobados el
Por GPU-hora, USD, impuestos no incluidos. No se cuentan los precios spot ni de marketplace: pueden ser más bajos, pero la GPU se puede retirar.
¿Por qué importa más la VRAM que los TFLOPS para la inferencia?
La VRAM decide si el modelo se ejecuta o no, y el ancho de banda de memoria marca el límite de velocidad al generar texto. Cada token nuevo lee de la memoria todos los pesos activos una vez, así que con lotes pequeños la GPU espera a la memoria, no a la aritmética. La capacidad de cómputo importa más para prompts largos (prefill) y para lotes grandes de usuarios.
Por eso un H200 y un H100 tienen el mismo cómputo FP8 máximo (1.979 TFLOPS densos, cifras de NVIDIA), pero el H200 tiene un 76 % más de memoria y la mueve un 43 % más rápido: 4.800 GB/s frente a 3.350 GB/s. El ancho de banda y los TFLOPS aquí son cifras máximas de NVIDIA, no mediciones nuestras.
¿Qué GPU encaja con qué modelo? (ordenadas por VRAM)
Las siete GPU que alquilamos, ordenadas por VRAM por GPU, de mayor a menor, porque la VRAM decide qué modelo cabe. El ancho de banda es el segundo criterio y el precio por hora el tercero.
-
1
NVIDIA B200
Más VRAM180 GB de HBM3e a 8.000 GB/s (cuota por GPU de las cifras de NVIDIA para 8 GPU en HGX), FP8 y FP4 Tensor Cores. Alberga un modelo de 70B en BF16 (168 GB) en una sola GPU.
-
141 GB de HBM3e a 4.800 GB/s. Alberga un modelo de 70B en FP8 (84 GB) con 57 GB libres para la caché KV. Ocho de ellas albergan DeepSeek-V3 o V4 Pro.
-
80 GB de HBM3 a 3.350 GB/s (SXM) o 2.000 GB/s (PCIe), FP8 Tensor Cores. Alberga gpt-oss-120b, o un modelo de 32B en BF16.
-
80 GB de HBM2e a 2.039 GB/s (SXM) o 1.935 GB/s (PCIe). Sin FP8 Tensor Cores: sirve en BF16 o 4 bits.
-
48 GB de GDDR6 a 864 GB/s, FP8 Tensor Cores, sin NVLink. Alberga 32B en FP8 o 70B en 4 bits.
-
32 GB de GDDR7 a 1.792 GB/s, Tensor Cores FP8 y FP4. Aloja un modelo de 12B en BF16 (28,8 GB) o un modelo de 32B en 4 bits (19,5 GB) con espacio para un contexto largo.
-
24 GB de GDDR6X a 1.008 GB/s, Tensor Cores FP8. Aloja un modelo de 7–8B en BF16.
Aviso: esta página la publica GPUwithCrypto. Los datos de los competidores provienen de sus sitios web públicos en la fecha indicada arriba y pueden haber cambiado desde entonces.
¿Una H200 tiene mejor relación calidad-precio que dos H100?
Para un modelo de 70B en FP8, sí: una H200 lo aloja, mientras que dos H100 tienen que dividirlo e intercambiar datos en cada capa. Según la comprobación de precios de GPUwithCrypto del 29 de octubre de 2026, la mediana de H200 on-demand entre 13 proveedores era de $5.29 por GPU-hora, frente a $4.16 de una H100 entre 16 proveedores. La H200 cuesta un 27% más por hora por un 76% más de VRAM, así que es un 28% más barata por GB de memoria.
Con nuestros precios, la elección es $3.07/hora por una H200 frente a $4.64/hora por dos H100. Comparación completa: H100 vs H200.
¿Y las GPU spot y de marketplace?
Cuestan menos y pueden desaparecer a mitad de trabajo. La oferta de H100 más barata en el marketplace de Vast.ai era de $1.73 por hora el 29 de octubre de 2026 (feed de precios públicos de Vast.ai), por debajo del precio on-demand más bajo que encontramos. Para un servidor de inferencia que debe mantenerse activo, una interrupción significa tiempo de inactividad. Las instancias son bajo demanda, no spot: nadie puede quitarte la GPU mientras tu saldo la cubra, y la instancia sigue en marcha hasta que la detengas. Cuándo usar cada una: qué es una GPU spot.
Preguntas sobre GPU para inferencia de LLM
¿Qué GPU necesito para ejecutar Llama 70B?
Una H200 en FP8 (84 GB necesarios, 141 GB disponibles), una L40S en 4 bits (42 GB necesarios, 48 GB disponibles) o una B200 en BF16 (168 GB necesarios, 180 GB disponibles). Dos H100 también alojan la versión FP8, con 160 GB combinados.
¿Cuál es la mejor GPU para DeepSeek V4?
La H200. Los pesos de DeepSeek V4 Flash ocupan 159,6 GB, así que necesita al menos dos H200, y el cookbook de SGLang documenta cuatro. Los 864,7 GB de V4 Pro necesitan ocho H200. Los comandos están en la guía de DeepSeek V4.
¿La RTX 4090 sirve para inferencia de LLM?
Para modelos de 7–8B, sí: 24 GB alojan Llama 3.1 8B en BF16 (19,2 GB con sobrecarga) y es la GPU de entrada de nuestra gama, con 1.008 GB/s de ancho de banda. Por encima de unos 10B parámetros en BF16 se queda sin memoria.
¿La A100 sigue sirviendo para inferencia en 2026?
Para modelos BF16 y de 4 bits de hasta 80 GB, sí, y es la GPU de entrada de 80 GB de nuestra gama. No tiene Tensor Cores FP8, así que los checkpoints FP8 funcionan mejor en una L40S, H100 o H200. Consulta H100 vs A100.
¿Puedo alquilar estas GPU con criptomonedas?
Sí. GPUwithCrypto acepta BTC, USDT, USDC, ETH, SOL, LTC, XMR de una recarga de 1 US$, sin identificación y sin tarjeta. Las instancias se facturan por minuto a la tarifa horaria mientras están en marcha, a partir de las GPU-horas que compraste para esa GPU. Detener una instancia detiene el cobro al instante.
Fuentes (14)
- Especificaciones de NVIDIA H200 — NVIDIA (read 2026-10-29)
- Especificaciones de la NVIDIA H100 — NVIDIA (read 2026-10-29)
- Especificaciones de la NVIDIA A100 — NVIDIA (read 2026-10-29)
- Especificaciones de NVIDIA L40S — NVIDIA (read 2026-10-29)
- Plataforma NVIDIA HGX (B200) — NVIDIA (read 2026-10-29)
- Whitepaper de la arquitectura NVIDIA Ada GPU (RTX 4090) — NVIDIA (read 2026-10-29)
- whitepaper de la arquitectura NVIDIA RTX Blackwell (RTX 5090) — NVIDIA (read 2026-10-29)
- Transformer Math 101 — EleutherAI (read 2026-10-29)
- tarjeta del modelo gpt-oss-120b — OpenAI / Hugging Face (read 2026-10-29)
- cookbook de DeepSeek-V4 — SGLang (read 2026-10-29)
- Precios de Massed Compute vm.massedcompute.com/pricing — Massed Compute (read 2026-10-29)
- Cambios de precios de SaladCloud, noviembre de 2026 blog.salad.com/saladcloud-price-changes-november-2026 — Salad (read 2026-10-29)
- Precios de Thunder Compute thundercompute.com/pricing — Thunder Compute (read 2026-10-29)
- Feed público de precios de GPU de Vast.ai — Vast.ai (read 2026-10-29)