Resposta rápida
Qual é a melhor GPU para inferência de LLM?
A melhor GPU para inferência de LLM é a mais barata cuja VRAM comporte o modelo mais cerca de 20%: uma RTX 4090 (24 GB) para modelos de 7–8B, uma L40S (48 GB) para 32B em FP8 ou 70B em 4 bits, uma H200 (141 GB) para 70B em FP8, e 8× H200 para o DeepSeek de 671B. Em 29 de outubro de 2026, a GPUwithCrypto aluga a H200 a partir de $3,07/hora, com pagamento em cripto.
Qual GPU devo usar para cada tamanho de modelo?
VRAM necessária = pesos × 1,2 (veja o guia de VRAM). Nosso preço e o menor preço on-demand self-serve por GPU-hora que encontramos entre os provedores que verificamos em 29 de outubro de 2026.
| Tamanho do modelo (exemplo) | VRAM necessária | Melhor GPU | Por quê | GPUwithCrypto | Menor preço em outros lugares (por GPU) |
|---|---|---|---|---|---|
| 7–8B em BF16 (Llama 3.1 8B, Mistral 7B) | 17,5–19,2 GB | RTX 4090 24GB | Comporta os pesos em BF16 mais um cache de 32K tokens (4,3 GB no Llama 3.1 8B); Tensor Cores FP8 | $0,28/hora | $0.33 (Salad) |
| 7–8B com contexto de 128K tokens | 16 GB + 17,2 GB de cache = 33,2 GB | L40S 48GB | Só um cache de 128K tokens em BF16 já precisa de 17,2 GB | $0,82/hora | $0.97 (Massed Compute) |
| 30–32B em FP8 (Qwen2.5 32B) | 39 GB | L40S 48GB | 48 GB com Tensor Cores FP8 (pico de 733 TFLOPS dense FP8) | $0,82/hora | $0.97 (Massed Compute) |
| 30–32B em BF16 | 78 GB | A100 80GB | GPU de 80 GB de entrada na nossa faixa; sem Tensor Cores FP8, então sirva em BF16 ou 4 bits | $0,92/hora | $1.09 (Thunder Compute) |
| 70–72B em 4 bits | 42–43,6 GB | L40S 48GB | GPU de entrada acima de 44 GB na nossa faixa | $0,82/hora | $0.97 (Massed Compute) |
| 70–72B em FP8 (Llama 3.1 70B, Qwen2.5 72B) | 84–87,2 GB | H200 141GB | Uma GPU em vez de duas H100s; 54–57 GB livres para KV cache; 4.800 GB/s | $3,07/hora | $3.62 (Massed Compute) |
| gpt-oss-120b (MXFP4) | 78.3 GB | H100 80GB | O model card dele é voltado para uma única GPU de 80 GB; Tensor Cores FP8, 3.350 GB/s (SXM) | $2,32/hora | $2.73 (Massed Compute) |
| DeepSeek V4 Flash (284B MoE) | 191.5 GB | 2× H200 | Os pesos FP4/FP8 dele ocupam 159,6 GB; o SGLang documenta 4× H200 | $6.14/hora | $3.62 (Massed Compute) |
| 405B em FP8 (Llama 3.1 405B) | 486 GB | 4× H200 | 564 GB em quatro GPUs; 8× H100 exigiria o dobro de GPUs | $12.28/hora | $3.62 (Massed Compute) |
| 671B–1,6T MoE (DeepSeek-V3/R1 FP8, V4 Pro) | 805–1.037,6 GB | 8× H200 | 1.128 GB em um único host; 8× H100 comportam apenas 640 GB | $24.56/hora | $3.62 (Massed Compute) |
Preços verificados em
Por GPU-hora, em USD, impostos não incluídos. Preços spot e de marketplace não são considerados: podem ser menores, mas a GPU pode ser tomada de volta.
Por que a VRAM importa mais que os TFLOPS para inferência?
A VRAM decide se o modelo roda ou não, e a largura de banda de memória define o limite de velocidade para gerar texto. Cada novo token lê todos os pesos ativos da memória uma vez, então, com batch sizes pequenos, a GPU espera pela memória, não pela aritmética. O poder de computação importa mais para prompts longos (prefill) e para grandes lotes de usuários.
É por isso que uma H200 e uma H100 têm o mesmo pico de computação FP8 (1.979 TFLOPS densos, dados da NVIDIA), mas a H200 tem 76% mais memória e a move 43% mais rápido: 4.800 GB/s contra 3.350 GB/s. A largura de banda e os TFLOPS aqui são os picos divulgados pela NVIDIA, não medições nossas.
Qual GPU serve para qual modelo? (ordenadas por VRAM)
As sete GPUs que alugamos, listadas por VRAM por GPU, da maior para a menor, porque a VRAM decide qual modelo cabe. A largura de banda é o segundo critério, o preço por hora o terceiro.
-
1
NVIDIA B200
Mais VRAM180 GB de HBM3e a 8.000 GB/s (parcela por GPU dos números de 8 GPUs HGX da NVIDIA), Tensor Cores FP8 e FP4. Comporta um modelo 70B em BF16 (168 GB) em uma única GPU.
-
141 GB de HBM3e a 4.800 GB/s. Comporta um modelo 70B em FP8 (84 GB) com 57 GB livres para o KV cache. Oito delas comportam DeepSeek-V3 ou V4 Pro.
-
80 GB de HBM3 a 3.350 GB/s (SXM) ou 2.000 GB/s (PCIe), Tensor Cores FP8. Comporta o gpt-oss-120b, ou um modelo 32B em BF16.
-
80 GB de HBM2e a 2.039 GB/s (SXM) ou 1.935 GB/s (PCIe). Sem Tensor Cores FP8: sirva em BF16 ou 4 bits.
-
48 GB de GDDR6 a 864 GB/s, Tensor Cores FP8, sem NVLink. Comporta 32B em FP8 ou 70B em 4 bits.
-
32 GB de GDDR7 a 1.792 GB/s, Tensor Cores FP8 e FP4. Comporta um modelo de 12B em BF16 (28,8 GB) ou um modelo de 32B em 4 bits (19,5 GB) com espaço para um contexto longo.
-
24 GB de GDDR6X a 1.008 GB/s, Tensor Cores FP8. Comporta um modelo de 7–8B em BF16.
Divulgação: esta página é publicada pela GPUwithCrypto. Os detalhes dos concorrentes vêm dos sites públicos deles na data indicada acima e podem ter mudado desde então.
Uma H200 tem melhor custo-benefício do que duas H100?
Para um modelo de 70B em FP8, sim: uma H200 o comporta, enquanto duas H100 precisam dividi-lo e trocar dados em cada camada. Segundo a verificação de preços da GPUwithCrypto de 29 de outubro de 2026, a mediana da H200 on-demand entre 13 provedores era $5.29 por GPU-hora, contra $4.16 para uma H100 entre 16 provedores. A H200 custa 27% mais por hora por 76% mais VRAM, então é 28% mais barata por GB de memória.
Nos nossos preços, a escolha é $3,07/hora por uma H200 contra $4.64/hora por duas H100. Comparação completa: H100 vs H200.
E as GPUs spot e de marketplace?
Elas custam menos e podem desaparecer no meio do job. A oferta mais barata de H100 no marketplace da Vast.ai era $1.73 por hora em 29 de outubro de 2026 (feed público de preços da Vast.ai), abaixo do menor preço on-demand que encontramos. Para um servidor de inferência que precisa ficar no ar, uma interrupção significa indisponibilidade. As instâncias são on-demand, não spot: ninguém pode tomar sua GPU de volta enquanto seu saldo cobrir o uso, e a instância roda até você pará-la. Quando usar cada um: o que é uma GPU spot.
Dúvidas sobre GPU para inferência de LLM
Qual GPU eu preciso para rodar o Llama 70B?
Uma H200 em FP8 (84 GB necessários, 141 GB disponíveis), uma L40S em 4 bits (42 GB necessários, 48 GB disponíveis) ou uma B200 em BF16 (168 GB necessários, 180 GB disponíveis). Duas H100 também comportam a versão FP8, com 160 GB combinados.
Qual é a melhor GPU para o DeepSeek V4?
A H200. Os pesos do DeepSeek V4 Flash ocupam 159,6 GB, então ele precisa de pelo menos duas H200s, e o cookbook do SGLang documenta quatro. Os 864,7 GB do V4 Pro exigem oito H200s. Os comandos estão no guia do DeepSeek V4.
A RTX 4090 é boa para inferência de LLM?
Para modelos de 7–8B, sim: 24 GB comportam o Llama 3.1 8B em BF16 (19,2 GB com overhead) e ela é a GPU de entrada da nossa linha, com 1.008 GB/s de banda. Acima de cerca de 10B parâmetros em BF16, falta memória.
A A100 ainda é boa para inferência em 2026?
Para modelos em BF16 e 4 bits de até 80 GB, sim, e é a GPU de 80 GB de entrada da nossa linha. Ela não tem Tensor Cores FP8, então checkpoints FP8 rodam melhor em uma L40S, H100 ou H200. Veja H100 vs A100.
Posso alugar essas GPUs com cripto?
Sim. A GPUwithCrypto aceita BTC, USDT, USDC, ETH, SOL, LTC, XMR de um depósito via US$ 1, sem documento e sem cartão. As instâncias são cobradas por minuto na tarifa horária enquanto rodam, a partir das GPU-horas que você comprou para aquela GPU. Parar uma instância interrompe a cobrança na hora.
Fontes (14)
- Especificações da NVIDIA H200 — NVIDIA (read 2026-10-29)
- Especificações da NVIDIA H100 — NVIDIA (read 2026-10-29)
- Especificações da NVIDIA A100 — NVIDIA (read 2026-10-29)
- Especificações da NVIDIA L40S — NVIDIA (read 2026-10-29)
- Plataforma NVIDIA HGX (B200) — NVIDIA (read 2026-10-29)
- Whitepaper da arquitetura NVIDIA Ada GPU (RTX 4090) — NVIDIA (read 2026-10-29)
- Whitepaper da arquitetura NVIDIA RTX Blackwell (RTX 5090) — NVIDIA (read 2026-10-29)
- Transformer Math 101 — EleutherAI (read 2026-10-29)
- model card do gpt-oss-120b — OpenAI / Hugging Face (read 2026-10-29)
- cookbook do DeepSeek-V4 — SGLang (read 2026-10-29)
- Preços do Massed Compute vm.massedcompute.com/pricing — Massed Compute (read 2026-10-29)
- Mudanças de preço do SaladCloud, novembro de 2026 blog.salad.com/saladcloud-price-changes-november-2026 — Salad (read 2026-10-29)
- Preços do Thunder Compute thundercompute.com/pricing — Thunder Compute (read 2026-10-29)
- Feed público de preços de GPU do Vast.ai — Vast.ai (read 2026-10-29)