Krótka odpowiedź
L40S vs A100 do wnioskowania i fine-tuningu?
L40S vs A100 do wnioskowania i fine-tuningu: wybierz L40S do wnioskowania z FP8 oraz generowania obrazów lub wideo na modelach, które mieszczą się w 48 GB. Wybierz A100 80GB do fine-tuningu, modeli między 48 a 80 GB i zadań wielo-GPU: ma NVLink i do 2,4 razy większą przepustowość. Na dzień 29 października 2026 GPUwithCrypto wynajmuje L40S za $0.82/godzina, a A100 80GB za $0.92/godzina, z płatnością kryptowalutą i bez KYC.
Jak wypadają specyfikacje L40S i A100?
Oficjalne dane NVIDIA, odczytane 29 października 2026. NVIDIA podaje dla tych kart zarówno gęste, jak i rzadkie wartości Tensor; tabela pokazuje gęste szczytowe TFLOPS. Wartości szczytowe to nie benchmarki.
| Specyfikacja | L40S | A100 80GB SXM | A100 80GB PCIe |
|---|---|---|---|
| Architektura | Ada Lovelace | Ampere | Ampere |
| Pamięć | 48 GB GDDR6 | 80 GB HBM2e | 80 GB HBM2e |
| Przepustowość pamięci | 864 GB/s | 2,039 GB/s | 1,935 GB/s |
| FP16 / BF16 Tensor, dense | 362,05 TFLOPS | 312 TFLOPS | 312 TFLOPS |
| FP8 Tensor, dense | 733 TFLOPS | N/A | N/A |
| NVLink | Nie | 600 GB/s | 600 GB/s (2-GPU bridge) |
| PCIe | Gen4 x16 | Gen4 | Gen4 |
| Maksymalny pobór mocy | 350 W | 400 W | 300 W |
| Premiera | 2023 | 2020 | 2021 |
Wartości rzadkie: L40S 733 TFLOPS BF16 i 1 466 TFLOPS FP8; A100 624 TFLOPS BF16. NVIDIA podaje FP8 jako niedostępne na Ampere. Strona L40S podaje „NVLink Support: No”.
Czy L40S jest szybszy od A100?
W matematyce nieznacznie: L40S ma 362,05 gęstych TFLOPS BF16 wobec 312 (1,16 razy), plus FP8 na poziomie 733 TFLOPS, którego A100 nie ma. W pamięci nie: A100 80GB SXM przenosi 2 039 GB/s, 2,36 razy więcej niż 864 GB/s L40S (2,24 razy dla A100 PCIe). To szczytowe wartości NVIDIA, nie benchmarki.
- Dekodowanie LLM token po tokenie zależy głównie od przepustowości, w której prowadzi A100.
- Dyfuzja obrazów i wideo oraz prefill z dużym batchowaniem są obliczeniowo ciężkie, co sprzyja wyższemu szczytowi L40S i FP8.
- Praca wielo-GPU sprzyja A100. L40S nie ma NVLink, więc jego GPU komunikują się przez PCIe Gen4.
Instancje mają od 1 do 8 GPU w zależności od hosta. Przed startem dashboard pokazuje kraj każdego hosta, liczbę GPU, form factor (SXM lub PCIe) i interconnect.
Które modele mieszczą się w 48 GB, a które potrzebują 80 GB?
Reguła kciuka do wnioskowania: pamięć ≈ parametry (w miliardach) × bajty na parametr × 1,2, przy 2 bajtach dla BF16, 1 dla FP8 i 0,5 dla 4-bit (EleutherAI). Planowanie LoRA = 2 bajty na parametr × 1,2. QLoRA ≈ 0,75 GB na miliard parametrów. Wzór i więcej modeli: przewodnik po VRAM.
| Model i zadanie | Potrzebna pamięć | L40S 48GB | A100 80GB |
|---|---|---|---|
| Mistral 7B, wnioskowanie BF16 | 17.5 GB | 1 GPU | 1 GPU |
| Llama 3.1 8B, inferencja BF16 | 19.2 GB | 1 GPU | 1 GPU |
| Llama 3.1 8B, fine-tuning LoRA | 19.2 GB | 1 GPU | 1 GPU |
| FLUX.1 [dev], wagi BF16 | 24 GB + enkodery tekstu | 1 GPU | 1 GPU |
| FLUX.1 [dev], fine-tuning LoRA | 28.8 GB | 1 GPU | 1 GPU |
| Llama 3.1 70B, inferencja 4-bit | 42 GB | 1 GPU | 1 GPU |
| Qwen2.5 72B, wnioskowanie 4-bit | 43.6 GB | 1 GPU | 1 GPU |
| Llama 3.1 70B, fine-tuning QLoRA | 52.5 GB | 2 GPU (granicznie na 1) | 1 GPU |
| Llama 3.1 70B, inferencja FP8 | 84 GB | 2 GPU, bez NVLink | 2 GPU, bez przyspieszenia FP8 |
| Llama 3.1 70B, fine-tuning LoRA | 168 GB | 4 GPU | 3 GPU |
Naiwne dopasowanie = liczba kart, których łączna pamięć mieści szacunek; ignoruje narzut wielo-GPU i pamięć zarezerwowaną przez sterownik. Autorzy QLoRA podają model 65B dostrojony na jednym GPU 48 GB, stąd „granicznie”. FLUX.1 ładuje też T5-XXL, CLIP-L i VAE, które można offloadować na CPU między krokami.
Ile kosztują L40S i A100 za godzinę?
Za GPU-godzinę, USD. „Najniższa” i „mediana” to ceny katalogowe self-serve on-demand z kontroli cen GPUwithCrypto z 29 października 2026; ceny spot i marketplace są wykluczone. Vast.ai to marketplace, pokazany osobno. Wszystkie GPU: cennik.
| GPU | GPUwithCrypto | Najniższa on-demand u innych | Mediana on-demand | Sprawdzeni dostawcy | Najniższa oferta Vast.ai |
|---|---|---|---|---|---|
| L40S 48GB | $0.82/godzina | $0,97 (Massed Compute) | $1.67 | 11 | $0.33 |
| A100 80GB | $0.92/godzina | $1.09 (Thunder Compute) | $2.23 | 13 | $0.48 (SXM), $0.34 (PCIe) |
Ceny sprawdzone
Przy najniższych cenach A100 80GB kosztuje 12% więcej za godzinę niż L40S; przy medianie około jednej trzeciej więcej. Dane Vast.ai: publiczny feed cen Vast.ai, najtańsza oferta do wynajęcia 29 października 2026. Podatki wyłączone.
Co jest tańsze za GB VRAM i za TFLOPS?
A100 jest tańszy za GB, L40S za TFLOPS. Według sprawdzenia cen GPUwithCrypto z 29 października 2026, liczonego jako cena godzinowa ÷ GB pamięci:
- A100 80GB: 1,36 centa za GB-godzinę przy najniższej cenie on-demand ($1,09 ÷ 80), 2,79 centa przy medianie ($2,23 ÷ 80).
- L40S 48GB: 2,02 centa za GB-godzinę przy najniższej cenie ($0,97 ÷ 48), 3,48 centa przy medianie ($1,67 ÷ 48).
GB pamięci A100 jest o 33% tańszy za godzinę przy najniższych cenach i o 20% tańszy przy medianie. Przy GPUwithCrypto to samo dzielenie daje $0.012 i $0.017.
Za dolara przy najniższych cenach L40S daje o 30% więcej szczytowej matematyki BF16 (373 vs 286 TFLOPS za $/godzinę) i 756 TFLOPS FP8 za $/godzinę. A100 SXM daje 2,1 razy więcej przepustowości za dolara (1 871 vs 891 GB/s za $/godzinę).
Ile kosztuje jedno zadanie na L40S vs A100?
Przykłady obliczeń (założenia, nie benchmarki):
- Serwowanie Llama 3.1 8B przez miesiąc (720 godzin). Mieści się na jednej karcie każdego typu. L40S to tańszy wybór, jeśli jego przepustowość wystarcza dla Twojego ruchu.
- Fine-tuning QLoRA Llama 3.1 70B zaplanowany na 24 godziny. Potrzebuje około 52,5 GB: jeden A100 albo dwa L40S. Zakładając te same 24 godziny w obu konfiguracjach, A100 kosztuje o 44% mniej przy najniższych cenach i o 33% mniej przy medianie.
Koszt obu zadań
| Podstawa ceny | Serwowanie 8B, 720 h: L40S | Serwowanie 8B, 720 h: A100 | 70B QLoRA, 24 h: 2 × L40S | 70B QLoRA, 24 h: 1 × A100 |
|---|---|---|---|---|
| GPUwithCrypto | $590.40 | $662.40 | 2 × $19.68 | $22.08 |
| Najniższa on-demand u innych | $698.40 | $784.80 | $46.56 | $26.16 |
| Mediana on-demand | $1,202.40 | $1,605.60 | $80.16 | $53.52 |
Ceny sprawdzone
Godziny to założenia. Tylko czas GPU.
Który wynająć do inferencji, a który do fine-tuningu?
Do inferencji wynajmij L40S, gdy model mieści się w 48 GB z zapasem na jego KV cache: modele 7B–8B w BF16, modele 70B w 4-bit oraz generowanie obrazów i wideo z FLUX lub SDXL. Checkpointy FP8 działają na jego FP8 Tensor Cores. Wynajmij A100 80GB, gdy model potrzebuje 48–80 GB, gdy długie konteksty lub duże batche zapełniają cache albo gdy prędkość dekodowania ogranicza przepustowość.
Do fine-tuningu A100 80GB to bezpieczniejszy domyślny wybór. QLoRA na modelu 70B mieści się na jednej karcie, a NVLink o przepustowości 600 GB/s pomaga przy uruchomieniach na wielu GPU. LoRA na modelach 7B–8B i FLUX LoRA mieszczą się na obu kartach.
Więcej: najlepszy GPU do inferencji LLM, najlepszy GPU do ComfyUI i Flux, najlepszy GPU do fine-tuningu Llama 70B.
Pytania o L40S i A100
Czy L40S jest lepszy od A100 do inferencji?
Dla modeli, które mieszczą się w 48 GB, oraz do FP8 lub generowania obrazów — tak: ma 1,16-krotność szczytowej wydajności dense BF16 i FP8 Tensor Cores. Dla większych modeli lub dekodowania ograniczonego przepustowością prowadzi A100 80GB z 80 GB i 2,36-krotnością przepustowości (SXM). To szczytowe wartości NVIDIA, nie benchmarki.
Czy L40S nadaje się do fine-tuningu?
Do LoRA na modelach 7B–8B i FLUX LoRA — tak: mieszczą się w 48 GB. QLoRA na modelu 70B wymaga według naszej reguły około 52,5 GB, czyli jest na granicy na jednym L40S. Fine-tuning na wielu GPU odbywa się przez PCIe, bo L40S nie ma NVLink.
Ile kosztuje L40S za godzinę w porównaniu z A100?
29 października 2026 najniższe znalezione przez nas ceny self-serve on-demand wynosiły 0,97 USD za L40S i 1,09 USD za A100 80GB; mediany to 1,67 USD i 2,23 USD. GPUwithCrypto pobiera $0.82/godzina i $0.92/godzina.
Czy L40S obsługuje NVLink?
Nie. Strona NVIDIA dla L40S podaje „NVLink Support: No”; GPU komunikują się przez PCIe Gen4 x16 z przepustowością 64 GB/s w obie strony. A100 80GB ma NVLink o przepustowości 600 GB/s.
Czy mogę wynająć L40S lub A100 za kryptowalutę?
Tak. GPUwithCrypto wynajmuje oba za BTC, USDT, USDC, ETH, SOL, LTC, XMR, bez dokumentu i bez karty. Spośród 11 dostawców z ceną L40S on-demand na 29 października 2026 roku 5 akceptuje kryptowaluty: Massed Compute, RunPod (najpierw KYC), Paperspace/DigitalOcean, Vultr i Spheron.
Wynajmij L40S lub A100 za kryptowalutę
L40S $0.82/godzina · A100 80GB $0.92/godzina · rozliczane za minutę · bez KYC.
Źródła (10)
- NVIDIA L40S GPU — NVIDIA (read 2026-10-29)
- NVIDIA A100 Tensor Core GPU — NVIDIA (read 2026-10-29)
- NVIDIA A100 datasheet — NVIDIA (read 2026-10-29)
- Transformer Math 101 — EleutherAI (read 2026-10-29)
- QLoRA: Efficient Finetuning of Quantized LLMs — arXiv (read 2026-10-29)
- LoRA: Low-Rank Adaptation of Large Language Models — arXiv (read 2026-10-29)
- Karta modelu FLUX.1 [dev] — Black Forest Labs / Hugging Face (read 2026-10-29)
- Cennik Massed Compute vm.massedcompute.com/pricing — Massed Compute (read 2026-10-29)
- Cennik Thunder Compute thundercompute.com/pricing — Thunder Compute (read 2026-10-29)
- Publiczny feed cen GPU Vast.ai — Vast.ai (read 2026-10-29)