Respuesta rápida
¿L40S vs A100 para inferencia y fine-tuning?
L40S vs A100 para inferencia y fine-tuning: elige la L40S para inferencia con FP8 y generación de imagen o vídeo con modelos que caben en 48 GB. Elige la A100 80GB para fine-tuning, modelos de entre 48 y 80 GB y trabajos multi-GPU: tiene NVLink y hasta 2,4 veces el ancho de banda. A fecha del 29 de octubre de 2026, GPUwithCrypto alquila la L40S a $0.82/hora y la A100 80GB a $0.92/hora, pagando con criptomonedas y sin KYC.
¿Cómo se comparan las especificaciones de la L40S y la A100?
Cifras oficiales de NVIDIA, consultadas el 29 de octubre de 2026. NVIDIA publica valores Tensor tanto dense como sparse para estas tarjetas; la tabla muestra los TFLOPS máximos dense. Las cifras máximas no son benchmarks.
| Especificación | L40S | A100 80GB SXM | A100 80GB PCIe |
|---|---|---|---|
| Arquitectura | Ada Lovelace | Ampere | Ampere |
| Memoria | 48 GB GDDR6 | 80 GB HBM2e | 80 GB HBM2e |
| Ancho de banda de memoria | 864 GB/s | 2.039 GB/s | 1.935 GB/s |
| FP16 / BF16 Tensor, denso | 362,05 TFLOPS | 312 TFLOPS | 312 TFLOPS |
| FP8 Tensor, denso | 733 TFLOPS | N/A | N/A |
| NVLink | No | 600 GB/s | 600 GB/s (bridge para 2 GPU) |
| PCIe | Gen4 x16 | Gen4 | Gen4 |
| Consumo máximo | 350 W | 400 W | 300 W |
| Lanzamiento | 2023 | 2020 | 2021 |
Cifras sparse: L40S 733 TFLOPS BF16 y 1.466 TFLOPS FP8; A100 624 TFLOPS BF16. NVIDIA indica que FP8 no está disponible en Ampere. La página de la L40S afirma 'NVLink Support: No'.
¿Es la L40S más rápida que la A100?
En cálculo, un poco: la L40S tiene 362,05 TFLOPS dense BF16 frente a 312 (1,16 veces), además de FP8 a 733 TFLOPS, que la A100 no tiene. En memoria, no: la A100 80GB SXM mueve 2.039 GB/s, 2,36 veces los 864 GB/s de la L40S (2,24 veces en la A100 PCIe). Estas son las cifras máximas de NVIDIA, no benchmarks.
- La decodificación de LLM token a token depende sobre todo del ancho de banda, donde gana la A100.
- La difusión de imagen y vídeo y el prefill de lotes grandes consumen mucho cálculo, lo que favorece el mayor máximo y el FP8 de la L40S.
- El trabajo multi-GPU favorece a la A100. La L40S no tiene NVLink, así que sus GPU se comunican por PCIe Gen4.
Las instancias tienen de 1 a 8 GPU según el host. Antes de empezar, el panel muestra el país de cada host, el número de GPU, el formato (SXM o PCIe) y la interconexión.
¿Qué modelos caben en 48 GB y cuáles necesitan 80 GB?
Regla general para inferencia: memoria ≈ parámetros (miles de millones) × bytes por parámetro × 1,2, con 2 bytes para BF16, 1 para FP8 y 0,5 para 4 bits (EleutherAI). Planificación de LoRA = 2 bytes por parámetro × 1,2. QLoRA ≈ 0,75 GB por cada mil millones de parámetros. Fórmula y más modelos: guía de VRAM.
| Modelo y tarea | Memoria necesaria | L40S 48GB | A100 80GB |
|---|---|---|---|
| Mistral 7B, inferencia BF16 | 17.5 GB | 1 GPU | 1 GPU |
| Llama 3.1 8B, inferencia BF16 | 19.2 GB | 1 GPU | 1 GPU |
| Llama 3.1 8B, fine-tune LoRA | 19.2 GB | 1 GPU | 1 GPU |
| FLUX.1 [dev], pesos BF16 | 24 GB + text encoders | 1 GPU | 1 GPU |
| FLUX.1 [dev], fine-tune LoRA | 28.8 GB | 1 GPU | 1 GPU |
| Llama 3.1 70B, inferencia 4 bits | 42 GB | 1 GPU | 1 GPU |
| Qwen2.5 72B, inferencia 4 bits | 43.6 GB | 1 GPU | 1 GPU |
| Llama 3.1 70B, fine-tune con QLoRA | 52.5 GB | 2 GPU (al límite en 1) | 1 GPU |
| Llama 3.1 70B, inferencia en FP8 | 84 GB | 2 GPU, sin NVLink | 2 GPUs, sin aceleración por FP8 |
| Llama 3.1 70B, fine-tune LoRA | 168 GB | 4 GPU | 3 GPUs |
Ajuste teórico = el número de tarjetas cuya memoria total cubre la estimación; ignora la sobrecarga multi-GPU y la memoria reservada por el driver. Los autores de QLoRA reportan un modelo de 65B ajustado en una sola GPU de 48 GB, de ahí 'al límite'. FLUX.1 también carga T5-XXL, CLIP-L y un VAE, que pueden descargarse a la CPU entre pasos.
¿Cuánto cuestan la L40S y la A100 por hora?
Por GPU-hora, USD. 'Más bajo' y 'mediana' son precios de lista on-demand self-serve de la comprobación de precios de GPUwithCrypto del 29 de octubre de 2026; se excluyen los precios spot y de marketplace. Vast.ai es un marketplace y se muestra aparte. Todas las GPU: precios.
| GPU | GPUwithCrypto | Más bajo on-demand en otros proveedores | Mediana on-demand | Proveedores consultados | Oferta más barata de Vast.ai |
|---|---|---|---|---|---|
| L40S 48GB | $0.82/hora | $0,97 (Massed Compute) | $1.67 | 11 | $0.33 |
| A100 80GB | $0.92/hora | $1,09 (Thunder Compute) | $2.23 | 13 | $0,48 (SXM), $0,34 (PCIe) |
Precios comprobados el
A los precios más bajos, la A100 80GB cuesta un 12% más por hora que la L40S; en la mediana, cerca de un tercio más. Cifras de Vast.ai: feed de precios público de Vast.ai, oferta alquilable más barata el 29 de octubre de 2026. Impuestos excluidos.
¿Cuál es más barata por GB de VRAM y por TFLOPS?
La A100 es más barata por GB, la L40S por TFLOPS. Según la comprobación de precios de GPUwithCrypto del 29 de octubre de 2026, calculado como precio por hora ÷ GB de memoria:
- A100 80GB: 1,36 céntimos por GB-hora al precio on-demand más bajo ($1,09 ÷ 80), 2,79 céntimos en la mediana ($2,23 ÷ 80).
- L40S 48GB: 2,02 céntimos por GB-hora al precio más bajo ($0,97 ÷ 48), 3,48 céntimos en la mediana ($1,67 ÷ 48).
Un GB de memoria de la A100 es un 33% más barato por hora a los precios más bajos y un 20% más barato en la mediana. En GPUwithCrypto la misma división es $0.012 y $0.017.
Por dólar a los precios más bajos, la L40S da un 30% más de cálculo BF16 máximo (373 vs 286 TFLOPS por $/hora) y 756 TFLOPS FP8 por $/hora. La A100 SXM da 2,1 veces el ancho de banda por dólar (1.871 vs 891 GB/s por $/hora).
¿Cuánto cuesta un trabajo en una L40S vs una A100?
Ejemplos resueltos (supuestos, no benchmarks):
- Servir Llama 3.1 8B durante un mes (720 horas). Cabe en una tarjeta de cualquiera de los dos tipos. La L40S es la opción más barata si su rendimiento basta para tu tráfico.
- Un fine-tune QLoRA de Llama 3.1 70B planificado a 24 horas. Necesita unos 52,5 GB: una A100, o dos L40S. Suponiendo las mismas 24 horas en ambos montajes, la A100 cuesta un 44% menos a los precios más bajos y un 33% menos en la mediana.
Coste de los dos trabajos
| Base de precio | Servir 8B, 720 h: L40S | Servir 8B, 720 h: A100 | QLoRA 70B, 24 h: 2 × L40S | QLoRA 70B, 24 h: 1 × A100 |
|---|---|---|---|---|
| GPUwithCrypto | $590.40 | $662.40 | 2 × $19.68 | $22.08 |
| Más bajo on-demand en otros proveedores | $698.40 | $784.80 | $46.56 | $26.16 |
| Mediana on-demand | $1,202.40 | $1,605.60 | $80.16 | $53.52 |
Precios comprobados el
Las horas son supuestos. Solo tiempo de GPU.
¿Cuál debería alquilar para inferencia y cuál para fine-tuning?
Para inferencia, alquila la L40S cuando el modelo quepa en 48 GB con margen para su KV cache: modelos de 7B–8B en BF16, modelos de 70B en 4 bits y generación de imagen o vídeo con FLUX o SDXL. Los checkpoints FP8 se ejecutan en sus FP8 Tensor Cores. Alquila la A100 80GB cuando el modelo necesite 48–80 GB, cuando contextos largos o lotes grandes llenen la caché, o cuando la velocidad de decodificación esté limitada por el ancho de banda.
Para fine-tuning, la A100 80GB es la opción predeterminada más segura. QLoRA sobre un modelo de 70B cabe en una sola tarjeta, y NVLink a 600 GB/s ayuda en ejecuciones con varias GPU. LoRA sobre modelos de 7B–8B y los LoRA de FLUX caben en cualquiera de las dos tarjetas.
Más: mejor GPU para inferencia de LLM, mejor GPU para ComfyUI y Flux, mejor GPU para hacer fine-tuning de Llama 70B.
Preguntas sobre la L40S y la A100
¿Es la L40S mejor que la A100 para inferencia?
Para modelos que caben en 48 GB y para FP8 o generación de imagen, sí: tiene 1,16 veces el pico denso de BF16 y FP8 Tensor Cores. Para modelos más grandes o decodificación limitada por ancho de banda, la A100 80GB va por delante con 80 GB y 2,36 veces el ancho de banda (SXM). Son cifras pico de NVIDIA, no benchmarks.
¿Es la L40S buena para fine-tuning?
Para LoRA sobre modelos de 7B–8B y LoRA de FLUX, sí: caben en 48 GB. QLoRA sobre un modelo de 70B necesita unos 52,5 GB según nuestra regla, al límite en una sola L40S. El fine-tuning con varias GPU va por PCIe, porque la L40S no tiene NVLink.
¿Cuánto cuesta una L40S por hora comparada con una A100?
El 29 de octubre de 2026, los precios on-demand de autoservicio más bajos que encontramos fueron $0,97 para una L40S y $1,09 para una A100 80GB; las medianas fueron $1,67 y $2,23. GPUwithCrypto cobra $0.82/hora y $0.92/hora.
¿La L40S admite NVLink?
No. La página de NVIDIA de la L40S indica 'NVLink Support: No'; las GPU se comunican por PCIe Gen4 x16 a 64 GB/s bidireccional. La A100 80GB tiene NVLink a 600 GB/s.
¿Puedo alquilar una L40S o una A100 con criptomonedas?
Sí. GPUwithCrypto alquila ambas por BTC, USDT, USDC, ETH, SOL, LTC, sin ID y sin tarjeta. De los 11 proveedores con precio on-demand de L40S el 29 de octubre de 2026, 5 aceptan criptomonedas: Massed Compute, RunPod (KYC primero), Paperspace/DigitalOcean, Vultr y Spheron.
Alquila una L40S o una A100 con criptomonedas
L40S $0.82/hora · A100 80GB $0.92/hora · facturado por minuto · sin KYC.
Fuentes (10)
- GPU NVIDIA L40S — NVIDIA (read 2026-10-29)
- GPU NVIDIA A100 Tensor Core — NVIDIA (read 2026-10-29)
- Ficha técnica de NVIDIA A100 — NVIDIA (read 2026-10-29)
- Transformer Math 101 — EleutherAI (read 2026-10-29)
- QLoRA: Efficient Finetuning of Quantized LLMs — arXiv (read 2026-10-29)
- LoRA: Low-Rank Adaptation of Large Language Models — arXiv (read 2026-10-29)
- Tarjeta del modelo FLUX.1 [dev] — Black Forest Labs / Hugging Face (read 2026-10-29)
- Precios de Massed Compute vm.massedcompute.com/pricing — Massed Compute (read 2026-10-29)
- Precios de Thunder Compute thundercompute.com/pricing — Thunder Compute (read 2026-10-29)
- Feed público de precios de GPU de Vast.ai — Vast.ai (read 2026-10-29)