Réponse rapide
Quel est le meilleur GPU pour l'inférence LLM ?
Le meilleur GPU pour l'inférence LLM est le moins cher dont la VRAM contient le modèle plus environ 20 % : une RTX 4090 (24 GB) pour les modèles 7–8B, une L40S (48 GB) pour 32B en FP8 ou 70B en 4-bit, une H200 (141 GB) pour 70B en FP8, et 8× H200 pour DeepSeek 671B. Au 29 octobre 2026, GPUwithCrypto loue la H200 à 3,07 $/heure, payable en crypto.
Quel GPU utiliser pour chaque taille de modèle ?
VRAM nécessaire = poids × 1,2 (voir le guide VRAM). Notre prix et le prix à la demande en self-service le plus bas par GPU-heure que nous avons trouvé parmi les fournisseurs vérifiés le 29 octobre 2026.
| Taille du modèle (exemple) | VRAM nécessaire | Meilleur GPU | Pourquoi | GPUwithCrypto | Le plus bas ailleurs (par GPU) |
|---|---|---|---|---|---|
| 7–8B en BF16 (Llama 3.1 8B, Mistral 7B) | 17,5–19,2 GB | RTX 4090 24GB | Contient les poids BF16 plus un cache de 32K tokens (4,3 GB sur Llama 3.1 8B) ; Tensor Cores FP8 | 0,28 $/heure | $0.33 (Salad) |
| 7–8B avec un contexte de 128K tokens | 16 GB + 17,2 GB de cache = 33,2 GB | L40S 48GB | Rien que le cache BF16 de 128K tokens nécessite 17,2 GB | 0,82 $/heure | $0.97 (Massed Compute) |
| 30–32B en FP8 (Qwen2.5 32B) | 39 GB | L40S 48GB | 48 GB avec Tensor Cores FP8 (733 TFLOPS de pointe en FP8 dense) | 0,82 $/heure | $0.97 (Massed Compute) |
| 30–32B en BF16 | 78 GB | A100 80GB | GPU 80 GB d'entrée de gamme dans notre offre ; pas de Tensor Cores FP8, donc servez en BF16 ou 4-bit | 0,92 $/heure | $1.09 (Thunder Compute) |
| 70–72B en 4-bit | 42–43,6 GB | L40S 48GB | GPU d'entrée de gamme au-dessus de 44 GB dans notre offre | 0,82 $/heure | $0.97 (Massed Compute) |
| 70–72B en FP8 (Llama 3.1 70B, Qwen2.5 72B) | 84–87,2 GB | H200 141GB | Un seul GPU au lieu de deux H100 ; 54–57 GB libres pour le cache KV ; 4 800 GB/s | 3,07 $/heure | $3.62 (Massed Compute) |
| gpt-oss-120b (MXFP4) | 78.3 GB | H100 80GB | Sa fiche technique cible un seul GPU de 80 GB ; Tensor Cores FP8, 3 350 GB/s (SXM) | $2,32/heure | $2.73 (Massed Compute) |
| DeepSeek V4 Flash (284B MoE) | 191.5 GB | 2× H200 | Ses poids FP4/FP8 occupent 159,6 GB ; SGLang documente 4× H200 | $6.14/heure | $3.62 (Massed Compute) |
| 405B en FP8 (Llama 3.1 405B) | 486 GB | 4× H200 | 564 GB sur quatre GPU ; 8× H100 demanderait deux fois plus de GPU | $12.28/heure | $3.62 (Massed Compute) |
| MoE 671B–1,6T (DeepSeek-V3/R1 FP8, V4 Pro) | 805–1 037,6 GB | 8× H200 | 1 128 GB sur un seul host ; 8× H100 ne tiennent que 640 GB | $24.56/heure | $3.62 (Massed Compute) |
Prix vérifiés le
Par GPU-heure, en USD, hors taxes. Les prix spot et marketplace ne sont pas comptés : ils peuvent être plus bas, mais le GPU peut être repris.
Pourquoi la VRAM compte-t-elle plus que les TFLOPS pour l'inférence ?
La VRAM décide si le modèle tourne tout court, et la bande passante mémoire fixe la vitesse de génération du texte. Chaque nouveau token relit une fois tous les poids actifs depuis la mémoire : à petite taille de batch, le GPU attend la mémoire, pas le calcul. Le calcul compte davantage pour les longs prompts (prefill) et pour de gros lots d'utilisateurs.
C'est pourquoi un H200 et un H100 ont le même pic de calcul FP8 (1 979 TFLOPS denses, chiffres NVIDIA), mais le H200 embarque 76 % de mémoire en plus et la déplace 43 % plus vite : 4 800 GB/s contre 3 350 GB/s. La bande passante et les TFLOPS indiqués ici sont les pics NVIDIA, pas nos mesures.
Quel GPU convient à quel modèle ? (classés par VRAM)
Les sept GPU que nous louons, classés par VRAM par GPU, du plus grand au plus petit, car la VRAM décide quel modèle tient. La bande passante est le deuxième critère, le prix par heure le troisième.
-
1
NVIDIA B200
Le plus de VRAM180 GB de HBM3e à 8 000 GB/s (part par GPU des chiffres NVIDIA pour un HGX 8 GPU), Tensor Cores FP8 et FP4. Tient un modèle 70B en BF16 (168 GB) sur un seul GPU.
-
141 GB de HBM3e à 4 800 GB/s. Tient un modèle 70B en FP8 (84 GB) avec 57 GB restants pour le KV cache. Huit de ces GPU tiennent DeepSeek-V3 ou V4 Pro.
-
80 GB de HBM3 à 3 350 GB/s (SXM) ou 2 000 GB/s (PCIe), Tensor Cores FP8. Tient gpt-oss-120b, ou un modèle 32B en BF16.
-
80 GB de HBM2e à 2 039 GB/s (SXM) ou 1 935 GB/s (PCIe). Pas de Tensor Cores FP8 : servez en BF16 ou en 4-bit.
-
48 GB de GDDR6 à 864 GB/s, Tensor Cores FP8, pas de NVLink. Tient un 32B en FP8 ou un 70B en 4-bit.
-
32 GB de GDDR7 à 1 792 GB/s, Tensor Cores FP8 et FP4. Accueille un modèle 12B en BF16 (28,8 GB) ou un modèle 32B en 4 bits (19,5 GB) avec de la place pour un long contexte.
-
24 GB de GDDR6X à 1 008 GB/s, Tensor Cores FP8. Accueille un modèle 7–8B en BF16.
Mention : cette page est publiée par GPUwithCrypto. Les détails sur les concurrents proviennent de leurs sites web publics à la date indiquée ci-dessus et ont pu changer depuis.
Un H200 offre-t-il un meilleur rapport qualité-prix que deux H100 ?
Pour un modèle 70B en FP8, oui : un H200 l'accueille, tandis que deux H100 doivent le scinder et échanger des données à chaque couche. Selon le relevé de prix de GPUwithCrypto du 29 octobre 2026, le H200 à la demande médian parmi 13 fournisseurs était de $5.29 par GPU-heure, contre $4.16 pour un H100 parmi 16 fournisseurs. Le H200 coûte 27 % de plus par heure pour 76 % de VRAM en plus, soit 28 % moins cher par GB de mémoire.
À nos prix, le choix est 3,07 $/heure pour un H200 contre $4.64/heure pour deux H100. Comparaison complète : H100 vs H200.
Et les GPU spot et de marketplace ?
Ils coûtent moins cher et peuvent disparaître en cours de tâche. L'offre H100 la moins chère sur la marketplace de Vast.ai était de $1.73 par heure le 29 octobre 2026 (flux de prix public de Vast.ai), sous le prix à la demande le plus bas que nous ayons trouvé. Pour un serveur d'inférence qui doit rester en ligne, une interruption signifie un temps d'arrêt. Les instances sont à la demande, pas spot : personne ne peut vous reprendre votre GPU tant que votre solde le couvre, et l'instance tourne jusqu'à ce que vous l'arrêtiez. Quand utiliser chacun : qu'est-ce qu'un GPU spot.
Questions sur les GPU pour l'inférence LLM
Quel GPU faut-il pour faire tourner Llama 70B ?
Un H200 en FP8 (84 GB nécessaires, 141 GB disponibles), un L40S en 4 bits (42 GB nécessaires, 48 GB disponibles) ou un B200 en BF16 (168 GB nécessaires, 180 GB disponibles). Deux H100 accueillent aussi la version FP8, avec 160 GB au total.
Quel est le meilleur GPU pour DeepSeek V4 ?
Le H200. Les poids de DeepSeek V4 Flash occupent 159,6 GB, il faut donc au moins deux H200, et le cookbook SGLang en documente quatre. Les 864,7 GB de V4 Pro nécessitent huit H200. Les commandes sont dans le guide DeepSeek V4.
La RTX 4090 est-elle adaptée à l'inférence LLM ?
Pour les modèles 7–8B, oui : 24 GB accueillent Llama 3.1 8B en BF16 (19,2 GB avec les surcoûts) et c'est le GPU d'entrée de gamme de notre offre, avec 1 008 GB/s de bande passante. Au-delà d'environ 10B de paramètres en BF16, elle manque de mémoire.
L'A100 est-elle encore adaptée à l'inférence en 2026 ?
Pour les modèles BF16 et 4 bits jusqu'à 80 GB, oui, et c'est le GPU 80 GB d'entrée de gamme de notre offre. Elle n'a pas de Tensor Cores FP8, donc les checkpoints FP8 tournent mieux sur un L40S, H100 ou H200. Voir H100 vs A100.
Puis-je louer ces GPU en crypto ?
Oui. GPUwithCrypto accepte BTC, USDT, USDC, ETH, SOL, LTC, XMR depuis une recharge 1 $US, sans pièce d'identité et sans carte. Les instances sont facturées à la minute au tarif horaire pendant qu'elles tournent, à partir des GPU-heures achetées pour ce GPU. Arrêter une instance arrête immédiatement la facturation.
Sources (14)
- Spécifications du NVIDIA H200 — NVIDIA (read 2026-10-29)
- Spécifications NVIDIA H100 — NVIDIA (read 2026-10-29)
- Spécifications NVIDIA A100 — NVIDIA (read 2026-10-29)
- Spécifications du NVIDIA L40S — NVIDIA (read 2026-10-29)
- Plateforme NVIDIA HGX (B200) — NVIDIA (read 2026-10-29)
- Livre blanc sur l'architecture GPU NVIDIA Ada (RTX 4090) — NVIDIA (read 2026-10-29)
- Livre blanc de l'architecture NVIDIA RTX Blackwell (RTX 5090) — NVIDIA (read 2026-10-29)
- Transformer Math 101 — EleutherAI (read 2026-10-29)
- Fiche modèle gpt-oss-120b — OpenAI / Hugging Face (read 2026-10-29)
- Cookbook DeepSeek-V4 — SGLang (read 2026-10-29)
- Tarifs de Massed Compute vm.massedcompute.com/pricing — Massed Compute (read 2026-10-29)
- Changements de prix de SaladCloud, novembre 2026 blog.salad.com/saladcloud-price-changes-november-2026 — Salad (read 2026-10-29)
- Tarifs de Thunder Compute thundercompute.com/pricing — Thunder Compute (read 2026-10-29)
- Flux public des prix des GPU de Vast.ai — Vast.ai (read 2026-10-29)