Kort antwoord
L40S vs A100 voor inference en fine-tuning?
L40S vs A100 voor inference en fine-tuning: kies de L40S voor FP8-inference en het genereren van afbeeldingen of video op modellen die in 48 GB passen. Kies de A100 80GB voor fine-tuning, modellen tussen 48 en 80 GB, en multi-GPU-jobs: hij heeft NVLink en tot 2,4 keer de bandbreedte. Op 29 oktober 2026 verhuurt GPUwithCrypto de L40S voor $0,82/uur en de A100 80GB voor $0,92/uur, betaald met crypto zonder KYC.
Hoe verhouden de specs van de L40S en A100 zich tot elkaar?
Officiële NVIDIA-cijfers, gelezen op 29 oktober 2026. NVIDIA publiceert voor deze kaarten zowel dense als sparse Tensor-waarden; de tabel toont dense piek-TFLOPS. Piekcijfers zijn geen benchmarks.
| Spec | L40S | A100 80GB SXM | A100 80GB PCIe |
|---|---|---|---|
| Architectuur | Ada Lovelace | Ampere | Ampere |
| Geheugen | 48 GB GDDR6 | 80 GB HBM2e | 80 GB HBM2e |
| Geheugenbandbreedte | 864 GB/s | 2.039 GB/s | 1.935 GB/s |
| FP16 / BF16 Tensor, dense | 362,05 TFLOPS | 312 TFLOPS | 312 TFLOPS |
| FP8 Tensor, dense | 733 TFLOPS | N/A | N/A |
| NVLink | Nee | 600 GB/s | 600 GB/s (2-GPU bridge) |
| PCIe | Gen4 x16 | Gen4 | Gen4 |
| Max. vermogen | 350 W | 400 W | 300 W |
| Lancering | 2023 | 2020 | 2021 |
Sparse cijfers: L40S 733 TFLOPS BF16 en 1.466 TFLOPS FP8; A100 624 TFLOPS BF16. NVIDIA vermeldt FP8 als niet beschikbaar op Ampere. De L40S-pagina zegt 'NVLink Support: No'.
Is de L40S sneller dan de A100?
Voor rekenwerk iets: de L40S haalt 362,05 dense BF16 TFLOPS tegen 312 (1,16 keer), plus FP8 op 733 TFLOPS, wat de A100 niet heeft. Voor geheugen niet: de A100 80GB SXM haalt 2.039 GB/s, 2,36 keer de 864 GB/s van de L40S (2,24 keer voor de A100 PCIe). Dit zijn NVIDIA's piekcijfers, geen benchmarks.
- Token voor token LLM-decoding hangt vooral af van bandbreedte, waar de A100 vooroploopt.
- Diffusie voor afbeeldingen en video en prefill met grote batches zijn rekenintensief, wat in het voordeel is van de hogere piek en FP8 van de L40S.
- Multi-GPU-werk is in het voordeel van de A100. De L40S heeft geen NVLink, dus zijn GPU's communiceren via PCIe Gen4.
Instances hebben 1 tot 8 GPU's, afhankelijk van de host. Voordat je start toont het dashboard het land, het aantal GPU's, de form factor (SXM of PCIe) en de interconnect van elke host.
Welke modellen passen in 48 GB en welke hebben 80 GB nodig?
Vuistregel voor inference: geheugen ≈ parameters (miljarden) × bytes per parameter × 1,2, met 2 bytes voor BF16, 1 voor FP8 en 0,5 voor 4-bit (EleutherAI). LoRA-planning = 2 bytes per parameter × 1,2. QLoRA ≈ 0,75 GB per miljard parameters. Formule en meer modellen: VRAM-gids.
| Model en taak | Benodigd geheugen | L40S 48GB | A100 80GB |
|---|---|---|---|
| Mistral 7B, BF16-inference | 17.5 GB | 1 GPU | 1 GPU |
| Llama 3.1 8B, BF16-inference | 19.2 GB | 1 GPU | 1 GPU |
| Llama 3.1 8B, LoRA fine-tune | 19.2 GB | 1 GPU | 1 GPU |
| FLUX.1 [dev], BF16-gewichten | 24 GB + tekstencoders | 1 GPU | 1 GPU |
| FLUX.1 [dev], LoRA fine-tune | 28.8 GB | 1 GPU | 1 GPU |
| Llama 3.1 70B, 4-bit-inference | 42 GB | 1 GPU | 1 GPU |
| Qwen2.5 72B, 4-bit-inference | 43.6 GB | 1 GPU | 1 GPU |
| Llama 3.1 70B, QLoRA fine-tune | 52.5 GB | 2 GPU's (grensgeval op 1) | 1 GPU |
| Llama 3.1 70B, FP8-inferentie | 84 GB | 2 GPU's, geen NVLink | 2 GPU's, geen FP8-versnelling |
| Llama 3.1 70B, LoRA fine-tune | 168 GB | 4 GPU's | 3 GPU's |
Naïeve fit = het aantal kaarten waarvan het totale geheugen de schatting bevat; het negeert multi-GPU-overhead en geheugen dat de driver reserveert. De auteurs van QLoRA melden een 65B-model dat op één 48 GB GPU is fine-getuned, vandaar 'grensgeval'. FLUX.1 laadt ook T5-XXL, CLIP-L en een VAE, die tussen stappen naar de CPU kunnen worden offloaded.
Hoeveel kosten de L40S en A100 per uur?
Per GPU-uur, USD. 'Laagste' en 'mediaan' zijn self-serve on-demand lijstprijzen uit GPUwithCrypto's prijscontrole van 29 oktober 2026; spot- en marketplace-prijzen zijn uitgesloten. Vast.ai is een marketplace en wordt apart getoond. Alle GPU's: prijzen.
| GPU | GPUwithCrypto | Laagste on-demand elders | Mediaan on-demand | Gecontroleerde providers | Laagste aanbod op Vast.ai |
|---|---|---|---|---|---|
| L40S 48GB | $0,82/uur | $0,97 (Massed Compute) | $1.67 | 11 | $0.33 |
| A100 80GB | $0,92/uur | $1,09 (Thunder Compute) | $2.23 | 13 | $0,48 (SXM), $0,34 (PCIe) |
Prijzen gecontroleerd op
Bij de laagste prijzen kost de A100 80GB 12% meer per uur dan de L40S; bij de mediaan ongeveer een derde meer. Vast.ai-cijfers: de openbare prijsfeed van Vast.ai, goedkoopste huurbare aanbod op 29 oktober 2026. Exclusief belastingen.
Wat is goedkoper per GB VRAM en per TFLOPS?
De A100 is goedkoper per GB, de L40S per TFLOPS. Volgens de prijscheck van GPUwithCrypto op 29 oktober 2026, berekend als uurprijs ÷ GB geheugen:
- A100 80GB: 1,36 cent per GB-uur bij de laagste on-demand prijs ($1,09 ÷ 80), 2,79 cent bij de mediaan ($2,23 ÷ 80).
- L40S 48GB: 2,02 cent per GB-uur bij de laagste prijs ($0,97 ÷ 48), 3,48 cent bij de mediaan ($1,67 ÷ 48).
Een GB A100-geheugen is 33% goedkoper per uur bij de laagste prijzen en 20% goedkoper bij de mediaan. Bij GPUwithCrypto is dezelfde deling $0.012 en $0.017.
Per dollar bij de laagste prijzen levert de L40S 30% meer piek-BF16-rekenwerk (373 vs 286 TFLOPS per $/uur) en 756 FP8 TFLOPS per $/uur. De A100 SXM levert 2,1 keer de bandbreedte per dollar (1.871 vs 891 GB/s per $/uur).
Wat kost één job op een L40S vs een A100?
Uitgewerkte voorbeelden (aannames, geen benchmarks):
- Llama 3.1 8B serveren gedurende een maand (720 uur). Het past op één kaart van beide types. De L40S is de goedkopere keuze als de doorvoer genoeg is voor je verkeer.
- Een QLoRA fine-tune van Llama 3.1 70B gepland op 24 uur. Er is ongeveer 52,5 GB nodig: één A100, of twee L40S. Uitgaande van dezelfde 24 uur op beide opstellingen, kost de A100 44% minder bij de laagste prijzen en 33% minder bij de mediaan.
Kosten van de twee jobs
| Prijsbasis | 8B serveren, 720 u: L40S | 8B serveren, 720 u: A100 | 70B QLoRA, 24 u: 2 × L40S | 70B QLoRA, 24 u: 1 × A100 |
|---|---|---|---|---|
| GPUwithCrypto | $590.40 | $662.40 | 2 × $19.68 | $22.08 |
| Laagste on-demand elders | $698.40 | $784.80 | $46.56 | $26.16 |
| Mediaan on-demand | $1,202.40 | $1,605.60 | $80.16 | $53.52 |
Prijzen gecontroleerd op
Uren zijn aannames. Alleen GPU-tijd.
Wat huur ik voor inference en wat voor fine-tuning?
Voor inference huur je de L40S als het model in 48 GB past met ruimte voor de KV-cache: 7B–8B-modellen in BF16, 70B-modellen in 4-bit, en beeld- of videogeneratie met FLUX of SDXL. FP8-checkpoints draaien op zijn FP8 Tensor Cores. Huur de A100 80GB als het model 48–80 GB nodig heeft, als lange contexten of grote batches de cache vullen, of als de decodesnelheid door bandbreedte wordt beperkt.
Voor fine-tuning is de A100 80GB de veiligere standaard. QLoRA op een 70B-model past op één kaart, en NVLink met 600 GB/s helpt bij multi-GPU-runs. LoRA op 7B–8B-modellen en FLUX LoRA's passen op beide kaarten.
Meer: beste GPU voor LLM-inference, beste GPU voor ComfyUI en Flux, beste GPU om Llama 70B te fine-tunen.
Vragen over de L40S en de A100
Is de L40S beter dan de A100 voor inference?
Voor modellen die in 48 GB passen en voor FP8 of beeldgeneratie, ja: hij heeft 1,16 keer de dense BF16-piek en FP8 Tensor Cores. Voor grotere modellen of bandbreedtegebonden decoding leidt de A100 80GB met 80 GB en 2,36 keer de bandbreedte (SXM). Dit zijn NVIDIA-piekcijfers, geen benchmarks.
Is de L40S goed voor fine-tuning?
Voor LoRA op 7B–8B-modellen en FLUX LoRA's, ja: die passen in 48 GB. QLoRA op een 70B-model heeft volgens onze vuistregel ongeveer 52,5 GB nodig, borderline op één L40S. Multi-GPU fine-tuning verloopt via PCIe, omdat de L40S geen NVLink heeft.
Hoeveel kost een L40S per uur vergeleken met een A100?
Op 29 oktober 2026 waren de laagste self-serve on-demand prijzen die we vonden $0,97 voor een L40S en $1,09 voor een A100 80GB; de medianen waren $1,67 en $2,23. GPUwithCrypto rekent $0,82/uur en $0,92/uur.
Ondersteunt de L40S NVLink?
Nee. NVIDIA's L40S-pagina vermeldt 'NVLink Support: No'; GPU's communiceren via PCIe Gen4 x16 met 64 GB/s bidirectioneel. De A100 80GB heeft NVLink met 600 GB/s.
Kan ik een L40S of een A100 huren met crypto?
Ja. GPUwithCrypto verhuurt beide voor BTC, USDT, USDC, ETH, SOL, LTC, XMR, zonder ID en zonder kaart. Van de 11 providers met een on-demand L40S-prijs op 29 oktober 2026 accepteren er 5 crypto: Massed Compute, RunPod (eerst KYC), Paperspace/DigitalOcean, Vultr en Spheron.
Huur een L40S of een A100 met crypto
L40S $0,82/uur · A100 80GB $0,92/uur · per minuut gefactureerd · zonder KYC.
Bronnen (10)
- NVIDIA L40S GPU — NVIDIA (read 2026-10-29)
- NVIDIA A100 Tensor Core GPU — NVIDIA (read 2026-10-29)
- NVIDIA A100 datasheet — NVIDIA (read 2026-10-29)
- Transformer Math 101 — EleutherAI (read 2026-10-29)
- QLoRA: Efficient Finetuning of Quantized LLMs — arXiv (read 2026-10-29)
- LoRA: Low-Rank Adaptation of Large Language Models — arXiv (read 2026-10-29)
- FLUX.1 [dev] model card — Black Forest Labs / Hugging Face (read 2026-10-29)
- Massed Compute-prijzen vm.massedcompute.com/pricing — Massed Compute (read 2026-10-29)
- Thunder Compute-prijzen thundercompute.com/pricing — Thunder Compute (read 2026-10-29)
- Openbare GPU-prijsfeed van Vast.ai — Vast.ai (read 2026-10-29)