Réponse rapide
L40S vs A100 pour l'inférence et le fine-tuning ?
L40S vs A100 pour l'inférence et le fine-tuning : choisissez le L40S pour l'inférence FP8 et la génération d'images ou de vidéos sur des modèles qui tiennent dans 48 Go. Choisissez l'A100 80GB pour le fine-tuning, les modèles entre 48 et 80 Go et les jobs multi-GPU : elle dispose de NVLink et jusqu'à 2,4 fois la bande passante. Au 29 octobre 2026, GPUwithCrypto loue le L40S à 0,82 $/heure et l'A100 80GB à 0,92 $/heure, payables en crypto sans KYC.
Comment se comparent les caractéristiques du L40S et de l'A100 ?
Chiffres officiels NVIDIA, relevés le 29 octobre 2026. NVIDIA publie des valeurs Tensor denses et sparse pour ces cartes ; le tableau indique les TFLOPS de crête denses. Les chiffres de crête ne sont pas des benchmarks.
| Fiche technique | L40S | A100 80GB SXM | A100 80GB PCIe |
|---|---|---|---|
| Architecture | Ada Lovelace | Ampere | Ampere |
| Mémoire | 48 GB GDDR6 | 80 GB HBM2e | 80 GB HBM2e |
| Bande passante mémoire | 864 Go/s | 2 039 GB/s | 1 935 GB/s |
| FP16 / BF16 Tensor, dense | 362,05 TFLOPS | 312 TFLOPS | 312 TFLOPS |
| FP8 Tensor, dense | 733 TFLOPS | N/A | N/A |
| NVLink | Non | 600 GB/s | 600 GB/s (2-GPU bridge) |
| PCIe | Gen4 x16 | Gen4 | Gen4 |
| Puissance max | 350 W | 400 W | 300 W |
| Lancement | 2023 | 2020 | 2021 |
Chiffres sparse : L40S 733 TFLOPS BF16 et 1 466 TFLOPS FP8 ; A100 624 TFLOPS BF16. NVIDIA indique que le FP8 n'est pas disponible sur Ampere. La page du L40S précise « NVLink Support: No ».
Le L40S est-il plus rapide que l'A100 ?
Pour le calcul, légèrement : le L40S affiche 362,05 TFLOPS BF16 denses contre 312 (1,16 fois), plus du FP8 à 733 TFLOPS, que l'A100 n'a pas. Pour la mémoire, non : l'A100 80GB SXM transfère 2 039 Go/s, soit 2,36 fois les 864 Go/s du L40S (2,24 fois pour l'A100 PCIe). Ce sont les chiffres de crête de NVIDIA, pas des benchmarks.
- Le décodage LLM token par token dépend surtout de la bande passante, où l'A100 domine.
- La diffusion d'images et de vidéos et le prefill par gros batchs sont gourmands en calcul, ce qui favorise la crête plus élevée et le FP8 du L40S.
- Le travail multi-GPU favorise l'A100. Le L40S n'a pas de NVLink, donc ses GPU communiquent via PCIe Gen4.
Les instances comptent de 1 à 8 GPU selon l'hôte. Avant de démarrer, le dashboard indique le pays de chaque hôte, le nombre de GPU, le format (SXM ou PCIe) et l'interconnexion.
Quels modèles tiennent dans 48 Go, et lesquels ont besoin de 80 Go ?
Règle empirique pour l'inférence : mémoire ≈ paramètres (en milliards) × octets par paramètre × 1,2, avec 2 octets pour BF16, 1 pour FP8 et 0,5 pour le 4 bits (EleutherAI). Planification LoRA = 2 octets par paramètre × 1,2. QLoRA ≈ 0,75 Go par milliard de paramètres. Formule et plus de modèles : guide VRAM.
| Modèle et tâche | Mémoire nécessaire | L40S 48GB | A100 80GB |
|---|---|---|---|
| Mistral 7B, inférence BF16 | 17.5 GB | 1 GPU | 1 GPU |
| Llama 3.1 8B, inférence BF16 | 19.2 GB | 1 GPU | 1 GPU |
| Llama 3.1 8B, fine-tuning LoRA | 19.2 GB | 1 GPU | 1 GPU |
| FLUX.1 [dev], poids BF16 | 24 Go + encodeurs texte | 1 GPU | 1 GPU |
| FLUX.1 [dev], fine-tuning LoRA | 28.8 GB | 1 GPU | 1 GPU |
| Llama 3.1 70B, inférence 4 bits | 42 GB | 1 GPU | 1 GPU |
| Qwen2.5 72B, inférence 4 bits | 43.6 GB | 1 GPU | 1 GPU |
| Llama 3.1 70B, fine-tuning QLoRA | 52.5 GB | 2 GPU (limite sur 1) | 1 GPU |
| Llama 3.1 70B, inférence FP8 | 84 GB | 2 GPU, sans NVLink | 2 GPU, pas de gain de vitesse FP8 |
| Llama 3.1 70B, fine-tuning LoRA | 168 GB | 4 GPU | 3 GPU |
Adéquation naïve = le nombre de cartes dont la mémoire totale contient l'estimation ; elle ignore la surcharge multi-GPU et la mémoire réservée par le driver. Les auteurs de QLoRA rapportent un modèle 65B fine-tuné sur un seul GPU de 48 Go, d'où « limite ». FLUX.1 charge aussi T5-XXL, CLIP-L et un VAE, qui peuvent être déchargés sur le CPU entre les étapes.
Combien coûtent le L40S et l'A100 par heure ?
Par GPU-heure, en USD. « Lowest » et « median » sont les prix catalogue on-demand en self-serve issus du relevé de prix de GPUwithCrypto du 29 octobre 2026 ; les prix spot et marketplace sont exclus. Vast.ai est une marketplace, affichée à part. Tous les GPU : tarifs.
| GPU | GPUwithCrypto | Le moins cher en on-demand ailleurs | Médiane on-demand | Fournisseurs vérifiés | Offre la moins chère sur Vast.ai |
|---|---|---|---|---|---|
| L40S 48GB | 0,82 $/heure | 0,97 $ (Massed Compute) | $1.67 | 11 | $0.33 |
| A100 80GB | 0,92 $/heure | 1,09 $ (Thunder Compute) | $2.23 | 13 | 0,48 $ (SXM), 0,34 $ (PCIe) |
Prix vérifiés le
Aux prix les plus bas, l'A100 80GB coûte 12 % de plus par heure que le L40S ; à la médiane, environ un tiers de plus. Chiffres Vast.ai : flux de prix public de Vast.ai, offre louable la moins chère au 29 octobre 2026. Taxes exclues.
Lequel est le moins cher par Go de VRAM et par TFLOPS ?
L'A100 est moins chère au Go, le L40S au TFLOPS. Selon le contrôle de prix de GPUwithCrypto du 29 octobre 2026, calculé comme le prix horaire ÷ Go de mémoire :
- A100 80GB : 1,36 centime par Go-heure au prix on-demand le plus bas (1,09 $ ÷ 80), 2,79 centimes à la médiane (2,23 $ ÷ 80).
- L40S 48GB : 2,02 centimes par Go-heure au prix le plus bas (0,97 $ ÷ 48), 3,48 centimes à la médiane (1,67 $ ÷ 48).
Un Go de mémoire A100 est 33 % moins cher par heure aux prix les plus bas et 20 % moins cher à la médiane. Chez GPUwithCrypto, la même division donne $0.012 et $0.017.
Par dollar aux prix les plus bas, le L40S offre 30 % de calcul BF16 de crête en plus (373 vs 286 TFLOPS par $/heure) et 756 TFLOPS FP8 par $/heure. L'A100 SXM offre 2,1 fois la bande passante par dollar (1 871 vs 891 Go/s par $/heure).
Combien coûte un job sur un L40S vs un A100 ?
Exemples chiffrés (hypothèses, pas des benchmarks) :
- Servir Llama 3.1 8B pendant un mois (720 heures). Il tient sur une carte de l'un ou l'autre type. Le L40S est le choix le moins cher si son débit suffit à votre trafic.
- Un fine-tuning QLoRA de Llama 3.1 70B planifié sur 24 heures. Il faut environ 52,5 Go : une A100, ou deux L40S. En supposant les mêmes 24 heures sur les deux configurations, l'A100 coûte 44 % de moins aux prix les plus bas et 33 % de moins à la médiane.
Coût des deux jobs
| Base tarifaire | Serving 8B, 720 h : L40S | Serving 8B, 720 h : A100 | QLoRA 70B, 24 h : 2 × L40S | QLoRA 70B, 24 h : 1 × A100 |
|---|---|---|---|---|
| GPUwithCrypto | $590.40 | $662.40 | 2 × $19.68 | $22.08 |
| Le moins cher en on-demand ailleurs | $698.40 | $784.80 | $46.56 | $26.16 |
| Médiane on-demand | $1,202.40 | $1,605.60 | $80.16 | $53.52 |
Prix vérifiés le
Les heures sont des hypothèses. Temps GPU uniquement.
Lequel louer pour l'inférence, et lequel pour le fine-tuning ?
Pour l'inférence, louez la L40S quand le modèle tient dans 48 GB avec de la place pour son cache KV : modèles 7B–8B en BF16, modèles 70B en 4 bits, et génération d'images ou de vidéos avec FLUX ou SDXL. Les checkpoints FP8 tournent sur ses Tensor Cores FP8. Louez l'A100 80GB quand le modèle a besoin de 48–80 GB, quand de longs contextes ou de gros batchs remplissent le cache, ou quand la vitesse de décodage est limitée par la bande passante.
Pour le fine-tuning, l'A100 80GB est le choix par défaut le plus sûr. QLoRA sur un modèle 70B tient sur une carte, et le NVLink à 600 GB/s aide les exécutions multi-GPU. LoRA sur les modèles 7B–8B et les LoRA FLUX tiennent sur l'une ou l'autre carte.
Plus : meilleur GPU pour l'inférence LLM, meilleur GPU pour ComfyUI et Flux, meilleur GPU pour fine-tuner Llama 70B.
Questions sur la L40S et l'A100
La L40S est-elle meilleure que l'A100 pour l'inférence ?
Pour les modèles qui tiennent dans 48 GB et pour le FP8 ou la génération d'images, oui : elle offre 1,16 fois le pic dense BF16 et des Tensor Cores FP8. Pour les modèles plus gros ou un décodage limité par la bande passante, l'A100 80GB mène avec 80 GB et 2,36 fois la bande passante (SXM). Ce sont des chiffres de pic NVIDIA, pas des benchmarks.
La L40S est-elle adaptée au fine-tuning ?
Pour LoRA sur les modèles 7B–8B et les LoRA FLUX, oui : ils tiennent dans 48 GB. QLoRA sur un modèle 70B nécessite environ 52,5 GB selon notre règle, limite sur une seule L40S. Le fine-tuning multi-GPU passe par PCIe, car la L40S n'a pas de NVLink.
Combien coûte une L40S par heure par rapport à une A100 ?
Au 29 octobre 2026, les prix à la demande en self-serve les plus bas que nous ayons trouvés étaient de $0,97 pour une L40S et $1,09 pour une A100 80GB ; les médianes étaient de $1,67 et $2,23. GPUwithCrypto facture 0,82 $/heure et 0,92 $/heure.
La L40S prend-elle en charge NVLink ?
Non. La page NVIDIA de la L40S indique « NVLink Support: No » ; les GPU communiquent via PCIe Gen4 x16 à 64 GB/s bidirectionnels. L'A100 80GB dispose de NVLink à 600 GB/s.
Puis-je louer une L40S ou une A100 en crypto ?
Oui. GPUwithCrypto loue les deux pour BTC, USDT, USDC, ETH, SOL, LTC, XMR, sans pièce d'identité et sans carte. Sur les 11 fournisseurs affichant un prix à la demande pour la L40S au 29 octobre 2026, 5 acceptent la crypto : Massed Compute, RunPod (KYC d'abord), Paperspace/DigitalOcean, Vultr et Spheron.
Louez une L40S ou une A100 en crypto
L40S 0,82 $/heure · A100 80GB 0,92 $/heure · facturé à la minute · sans KYC.
Sources (10)
- GPU NVIDIA L40S — NVIDIA (read 2026-10-29)
- NVIDIA A100 Tensor Core GPU — NVIDIA (read 2026-10-29)
- Fiche technique NVIDIA A100 — NVIDIA (read 2026-10-29)
- Transformer Math 101 — EleutherAI (read 2026-10-29)
- QLoRA: Efficient Finetuning of Quantized LLMs — arXiv (read 2026-10-29)
- LoRA: Low-Rank Adaptation of Large Language Models — arXiv (read 2026-10-29)
- Carte modèle FLUX.1 [dev] — Black Forest Labs / Hugging Face (read 2026-10-29)
- Tarifs de Massed Compute vm.massedcompute.com/pricing — Massed Compute (read 2026-10-29)
- Tarifs de Thunder Compute thundercompute.com/pricing — Thunder Compute (read 2026-10-29)
- Flux public de prix GPU de Vast.ai — Vast.ai (read 2026-10-29)