Resposta rápida
L40S vs A100 para inferência e fine-tuning?
L40S vs A100 para inferência e fine-tuning: escolha a L40S para inferência em FP8 e geração de imagem ou vídeo com modelos que caibam em 48 GB. Escolha a A100 80GB para fine-tuning, modelos entre 48 e 80 GB e jobs com múltiplas GPUs: ela tem NVLink e até 2,4 vezes a largura de banda. Em 29 de outubro de 2026, a GPUwithCrypto aluga a L40S por $0,82/hora e a A100 80GB por $0,92/hora, pagando com cripto e sem KYC.
Como as especificações da L40S e da A100 se comparam?
Números oficiais da NVIDIA, consultados em 29 de outubro de 2026. A NVIDIA publica valores Tensor densos e esparsos para essas placas; a tabela mostra os TFLOPS de pico densos. Números de pico não são benchmarks.
| Especificação | L40S | A100 80GB SXM | A100 80GB PCIe |
|---|---|---|---|
| Arquitetura | Ada Lovelace | Ampere | Ampere |
| Memória | 48 GB GDDR6 | 80 GB HBM2e | 80 GB HBM2e |
| Largura de banda de memória | 864 GB/s | 2.039 GB/s | 1.935 GB/s |
| FP16 / BF16 Tensor, denso | 362,05 TFLOPS | 312 TFLOPS | 312 TFLOPS |
| FP8 Tensor, denso | 733 TFLOPS | N/A | N/A |
| NVLink | Não | 600 GB/s | 600 GB/s (bridge de 2 GPUs) |
| PCIe | Gen4 x16 | Gen4 | Gen4 |
| Consumo máximo | 350 W | 400 W | 300 W |
| Lançamento | 2023 | 2020 | 2021 |
Números esparsos: L40S 733 TFLOPS BF16 e 1.466 TFLOPS FP8; A100 624 TFLOPS BF16. A NVIDIA indica o FP8 como indisponível na Ampere. A página da L40S afirma 'NVLink Support: No'.
A L40S é mais rápida que a A100?
Em cálculo, um pouco: a L40S tem 362,05 TFLOPS BF16 densos contra 312 (1,16 vez), além de FP8 a 733 TFLOPS, que a A100 não tem. Em memória, não: a A100 80GB SXM transfere 2.039 GB/s, 2,36 vezes os 864 GB/s da L40S (2,24 vezes para a A100 PCIe). Esses são os números de pico da NVIDIA, não benchmarks.
- Decodificação de LLM token a token depende principalmente da largura de banda, onde a A100 lidera.
- Difusão de imagem e vídeo e prefill com lotes grandes exigem muito cálculo, o que favorece o pico mais alto e o FP8 da L40S.
- Trabalho com múltiplas GPUs favorece a A100. A L40S não tem NVLink, então suas GPUs se comunicam via PCIe Gen4.
As instâncias têm de 1 a 8 GPUs dependendo do host. Antes de começar, o dashboard mostra o país de cada host, a quantidade de GPUs, o form factor (SXM ou PCIe) e a interconexão.
Quais modelos cabem em 48 GB e quais precisam de 80 GB?
Regra de bolso para inferência: memória ≈ parâmetros (em bilhões) × bytes por parâmetro × 1,2, com 2 bytes para BF16, 1 para FP8 e 0,5 para 4 bits (EleutherAI). Planejamento de LoRA = 2 bytes por parâmetro × 1,2. QLoRA ≈ 0,75 GB por bilhão de parâmetros. Fórmula e mais modelos: guia de VRAM.
| Modelo e tarefa | Memória necessária | L40S 48GB | A100 80GB |
|---|---|---|---|
| Mistral 7B, inferência BF16 | 17.5 GB | 1 GPU | 1 GPU |
| Llama 3.1 8B, inferência em BF16 | 19.2 GB | 1 GPU | 1 GPU |
| Llama 3.1 8B, fine-tune com LoRA | 19.2 GB | 1 GPU | 1 GPU |
| FLUX.1 [dev], pesos BF16 | 24 GB + text encoders | 1 GPU | 1 GPU |
| FLUX.1 [dev], fine-tune com LoRA | 28.8 GB | 1 GPU | 1 GPU |
| Llama 3.1 70B, inferência em 4 bits | 42 GB | 1 GPU | 1 GPU |
| Qwen2.5 72B, inferência 4 bits | 43.6 GB | 1 GPU | 1 GPU |
| Llama 3.1 70B, fine-tune QLoRA | 52.5 GB | 2 GPUs (no limite com 1) | 1 GPU |
| Llama 3.1 70B, inferência FP8 | 84 GB | 2 GPUs, sem NVLink | 2 GPUs, sem aceleração FP8 |
| Llama 3.1 70B, fine-tune com LoRA | 168 GB | 4 GPUs | 3 GPUs |
Cabimento ingênuo = o número de placas cuja memória total comporta a estimativa; ignora a sobrecarga de múltiplas GPUs e a memória reservada pelo driver. Os autores do QLoRA relatam um modelo de 65B ajustado em uma única GPU de 48 GB, daí o 'no limite'. O FLUX.1 também carrega T5-XXL, CLIP-L e um VAE, que podem ser offloaded para a CPU entre os passos.
Quanto custam a L40S e a A100 por hora?
Por GPU-hora, em USD. 'Lowest' (menor) e 'median' (mediana) são preços de tabela on-demand self-serve da verificação de preços da GPUwithCrypto em 29 de outubro de 2026; preços spot e de marketplace ficam de fora. A Vast.ai é um marketplace e aparece à parte. Todas as GPUs: preços.
| GPU | GPUwithCrypto | Menor preço sob demanda em outro lugar | Mediana sob demanda | Provedores verificados | Menor oferta no Vast.ai |
|---|---|---|---|---|---|
| L40S 48GB | $0,82/hora | US$ 0,97 (Massed Compute) | $1.67 | 11 | $0.33 |
| A100 80GB | $0,92/hora | $1,09 (Thunder Compute) | $2.23 | 13 | $0,48 (SXM), $0,34 (PCIe) |
Preços verificados em
Nos preços mais baixos, a A100 80GB custa 12% mais por hora que a L40S; na mediana, cerca de um terço a mais. Números do Vast.ai: feed de preços públicos do Vast.ai, oferta alugável mais barata em 29 de outubro de 2026. Impostos não incluídos.
Qual é mais barata por GB de VRAM e por TFLOPS?
A A100 é mais barata por GB, a L40S por TFLOPS. Segundo a verificação de preços da GPUwithCrypto em 29 de outubro de 2026, calculada como preço por hora ÷ GB de memória:
- A100 80GB: 1,36 centavo por GB-hora no preço on-demand mais baixo (US$ 1,09 ÷ 80), 2,79 centavos na mediana (US$ 2,23 ÷ 80).
- L40S 48GB: 2,02 centavos por GB-hora no preço mais baixo (US$ 0,97 ÷ 48), 3,48 centavos na mediana (US$ 1,67 ÷ 48).
Um GB de memória da A100 é 33% mais barato por hora nos preços mais baixos e 20% mais barato na mediana. Na GPUwithCrypto, a mesma divisão dá $0.012 e $0.017.
Por dólar, nos preços mais baixos, a L40S entrega 30% mais cálculo BF16 de pico (373 vs 286 TFLOPS por US$/hora) e 756 TFLOPS FP8 por US$/hora. A A100 SXM entrega 2,1 vezes a largura de banda por dólar (1.871 vs 891 GB/s por US$/hora).
Quanto custa um job em uma L40S vs uma A100?
Exemplos calculados (premissas, não benchmarks):
- Servir o Llama 3.1 8B por um mês (720 horas). Cabe em uma placa de qualquer um dos dois tipos. A L40S é a escolha mais barata se a vazão dela for suficiente para o seu tráfego.
- Um fine-tune QLoRA do Llama 3.1 70B planejado em 24 horas. Precisa de cerca de 52,5 GB: uma A100, ou duas L40S. Assumindo as mesmas 24 horas nas duas configurações, a A100 custa 44% menos nos preços mais baixos e 33% menos na mediana.
Custo dos dois jobs
| Base do preço | Servir 8B, 720 h: L40S | Servir 8B, 720 h: A100 | QLoRA 70B, 24 h: 2 × L40S | QLoRA 70B, 24 h: 1 × A100 |
|---|---|---|---|---|
| GPUwithCrypto | $590.40 | $662.40 | 2 × $19.68 | $22.08 |
| Menor preço sob demanda em outro lugar | $698.40 | $784.80 | $46.56 | $26.16 |
| Mediana sob demanda | $1,202.40 | $1,605.60 | $80.16 | $53.52 |
Preços verificados em
As horas são premissas. Apenas tempo de GPU.
Qual devo alugar para inferência e qual para fine-tuning?
Para inferência, alugue a L40S quando o modelo couber em 48 GB com espaço para o KV cache: modelos de 7B–8B em BF16, modelos de 70B em 4-bit e geração de imagem ou vídeo com FLUX ou SDXL. Checkpoints FP8 rodam nos FP8 Tensor Cores dela. Alugue a A100 80GB quando o modelo precisar de 48–80 GB, quando contextos longos ou lotes grandes encherem o cache, ou quando a velocidade de decodificação for limitada pela banda.
Para fine-tuning, a A100 80GB é a opção padrão mais segura. QLoRA em um modelo de 70B cabe em uma placa, e o NVLink a 600 GB/s ajuda execuções multi-GPU. LoRA em modelos de 7B–8B e LoRAs de FLUX cabem em qualquer uma das duas placas.
Mais: melhor GPU para inferência de LLM, melhor GPU para ComfyUI e Flux, melhor GPU para fine-tuning do Llama 70B.
Perguntas sobre a L40S e a A100
A L40S é melhor que a A100 para inferência?
Para modelos que cabem em 48 GB e para FP8 ou geração de imagem, sim: ela tem 1,16 vez o pico denso de BF16 e FP8 Tensor Cores. Para modelos maiores ou decodificação limitada pela banda, a A100 80GB lidera com 80 GB e 2,36 vezes a banda (SXM). São números de pico da NVIDIA, não benchmarks.
A L40S é boa para fine-tuning?
Para LoRA em modelos de 7B–8B e LoRAs de FLUX, sim: eles cabem em 48 GB. QLoRA em um modelo de 70B precisa de cerca de 52,5 GB pela nossa regra, no limite em uma única L40S. O fine-tuning multi-GPU roda por PCIe, porque a L40S não tem NVLink.
Quanto custa uma L40S por hora em comparação com uma A100?
Em 29 de outubro de 2026, os menores preços self-serve sob demanda que encontramos foram $0,97 para uma L40S e $1,09 para uma A100 80GB; as medianas foram $1,67 e $2,23. A GPUwithCrypto cobra $0,82/hora e $0,92/hora.
A L40S tem suporte a NVLink?
Não. A página da L40S da NVIDIA informa 'NVLink Support: No'; as GPUs se comunicam por PCIe Gen4 x16 a 64 GB/s bidirecional. A A100 80GB tem NVLink a 600 GB/s.
Posso alugar uma L40S ou uma A100 com cripto?
Sim. A GPUwithCrypto aluga as duas por BTC, USDT, USDC, ETH, SOL, LTC, sem documento e sem cartão. Dos 11 provedores com preço sob demanda de L40S em 29 de outubro de 2026, 5 aceitam cripto: Massed Compute, RunPod (KYC primeiro), Paperspace/DigitalOcean, Vultr e Spheron.
Alugue uma L40S ou uma A100 com cripto
L40S $0,82/hora · A100 80GB $0,92/hora · cobrança por minuto · sem KYC.
Fontes (10)
- GPU NVIDIA L40S — NVIDIA (read 2026-10-29)
- NVIDIA A100 Tensor Core GPU — NVIDIA (read 2026-10-29)
- Datasheet da NVIDIA A100 — NVIDIA (read 2026-10-29)
- Transformer Math 101 — EleutherAI (read 2026-10-29)
- QLoRA: Efficient Finetuning of Quantized LLMs — arXiv (read 2026-10-29)
- LoRA: Low-Rank Adaptation of Large Language Models — arXiv (read 2026-10-29)
- Model card do FLUX.1 [dev] — Black Forest Labs / Hugging Face (read 2026-10-29)
- Preços do Massed Compute vm.massedcompute.com/pricing — Massed Compute (read 2026-10-29)
- Preços do Thunder Compute thundercompute.com/pricing — Thunder Compute (read 2026-10-29)
- Feed público de preços de GPU do Vast.ai — Vast.ai (read 2026-10-29)