# LLM çıkarımı için en iyi GPU hangisi?

> LLM çıkarımı için en iyi GPU model boyutuna bağlıdır: 8B için RTX 4090, FP8'de 32B için L40S, FP8'de 70B için H200. Kripto ile ödeme, KYC olmadan, Ekim 2026.

- URL: https://gpuwithcrypto.com/tr/best-gpu-for/llm-inference/
- Son güncelleme: 2026-10-29
- Yayıncı: GPUwithCrypto (https://gpuwithcrypto.com)

Belleği modeli ve önbelleğini tutan en ucuz GPU'yu seçin. Aşağıdaki tablo bunu her yaygın model boyutu için yapıyor; saatlik fiyatımız, başka yerlerde bulduğumuz en düşük on-demand fiyatın yanında.

**Kısa yanıt — LLM çıkarımı için en iyi GPU hangisi?**

LLM çıkarımı için en iyi GPU, VRAM'i modeli ve yaklaşık %20'sini tutan en ucuz olandır: 7–8B modeller için bir RTX 4090 (24 GB), FP8'de 32B veya 4-bit'te 70B için bir L40S (48 GB), FP8'de 70B için bir H200 (141 GB) ve 671B DeepSeek için 8× H200. 29 Ekim 2026 itibarıyla, **GPUwithCrypto** H200'ü $3.07/saat karşılığında kiralıyor, kripto ile ödeme.

## Her model boyutu için hangi GPU'yu kullanmalıyım?

Gerekli VRAM = ağırlıklar × 1,2 (bkz. [VRAM rehberi](https://gpuwithcrypto.com/tr/how-much-vram-do-i-need/ "Bir LLM'i çalıştırmak veya fine-tune etmek için ne kadar VRAM gerekli?")). Fiyatımız ve 29 Ekim 2026'da kontrol ettiğimiz sağlayıcılar arasında bulduğumuz GPU-saati başına en düşük self-servis on-demand fiyat.

| Model boyutu (örnek) | Gerekli VRAM | En iyi GPU | Neden | GPUwithCrypto | Başka yerde en düşük (GPU başına) |
| --- | --- | --- | --- | --- | --- |
| BF16'da 7–8B (Llama 3.1 8B, Mistral 7B) | 17,5–19,2 GB | [RTX 4090 24GB](https://gpuwithcrypto.com/tr/gpu-prices/rtx-4090/ "RTX 4090'ı saatlik kiralamak ne kadar?") | BF16 ağırlıklarını ve 32K-token önbelleğini tutar (Llama 3.1 8B'de 4,3 GB); FP8 Tensor Cores | $0.28/saat | $0.33 (Salad) |
| 128K-token bağlamlı 7–8B | 16 GB + 17,2 GB önbellek = 33,2 GB | [L40S 48GB](https://gpuwithcrypto.com/tr/gpu-prices/l40s/ "L40S saatlik ne kadar?") | Tek başına bir 128K-token BF16 önbelleği 17,2 GB gerektirir | $0.82/saat | $0.97 (Massed Compute) |
| FP8'de 30–32B (Qwen2.5 32B) | 39 GB | [L40S 48GB](https://gpuwithcrypto.com/tr/gpu-prices/l40s/ "L40S saatlik ne kadar?") | FP8 Tensor Cores ile 48 GB (733 TFLOPS yoğun FP8 tepe) | $0.82/saat | $0.97 (Massed Compute) |
| BF16'da 30–32B | 78 GB | [A100 80GB](https://gpuwithcrypto.com/tr/gpu-prices/a100/ "Bir A100 saatte ne kadar eder?") | Aralığımızdaki giriş 80 GB GPU; FP8 Tensor Cores yok, bu yüzden BF16 veya 4-bit sunun | $0.92/saat | $1.09 (Thunder Compute) |
| 4-bit'te 70–72B | 42–43,6 GB | [L40S 48GB](https://gpuwithcrypto.com/tr/gpu-prices/l40s/ "L40S saatlik ne kadar?") | Aralığımızda 44 GB üzeri giriş GPU | $0.82/saat | $0.97 (Massed Compute) |
| FP8'de 70–72B (Llama 3.1 70B, Qwen2.5 72B) | 84–87,2 GB | [H200 141GB](https://gpuwithcrypto.com/tr/gpu-prices/h200/ "H200 saati ne kadar?") | İki H100 yerine tek GPU; KV önbelleği için 54–57 GB kalır; 4.800 GB/s | $3.07/saat | $3.62 (Massed Compute) |
| gpt-oss-120b (MXFP4) | 78.3 GB | [H100 80GB](https://gpuwithcrypto.com/tr/gpu-prices/h100/ "Bir H100'ü saatlik olarak kiralamak ne kadar tutar?") | Model kartı tek bir 80 GB GPU'yu hedefliyor; FP8 Tensor Cores, 3.350 GB/s (SXM) | $2.32/saat | $2.73 (Massed Compute) |
| DeepSeek V4 Flash (284B MoE) | 191.5 GB | 2× H200 | FP4/FP8 ağırlıkları 159,6 GB tutuyor; SGLang 4× H200 belgeliyor | $6.14/saat | $3.62 (Massed Compute) |
| FP8'de 405B (Llama 3.1 405B) | 486 GB | 4× H200 | Dört GPU'da 564 GB; 8× H100 iki katı GPU sayısı gerektirirdi | $12.28/saat | $3.62 (Massed Compute) |
| 671B–1,6T MoE (DeepSeek-V3/R1 FP8, V4 Pro) | 805–1.037,6 GB | 8× H200 | Tek sunucuda 1.128 GB; 8× H100 yalnızca 640 GB tutuyor | $24.56/saat | $3.62 (Massed Compute) |

*Fiyatlar 29 Ekim 2026 tarihinde kontrol edildi.*

GPU-saat başına, USD, vergiler hariç. Spot ve pazar yeri fiyatları sayılmıyor: daha düşük olabilirler, ancak GPU geri alınabilir.

## Neden çıkarım için VRAM, TFLOPS'tan daha önemli?

VRAM, modelin çalışıp çalışmayacağını belirler; bellek bant genişliği ise metin üretiminin hız sınırını koyar. Her yeni token, bellekteki tüm etkin ağırlıkları bir kez okur, bu yüzden küçük batch boyutlarında GPU aritmetiği değil belleği bekler. Hesaplama gücü daha çok uzun prompt'lar (prefill) ve büyük kullanıcı batch'leri için önemlidir.

Bu yüzden bir H200 ile bir H100 aynı tepe FP8 hesaplama gücüne sahiptir (NVIDIA rakamlarıyla 1.979 TFLOPS dense), ancak H200 %76 daha fazla bellek tutar ve onu %43 daha hızlı taşır: 3.350 GB/s'ye karşı 4.800 GB/s. Buradaki bant genişliği ve TFLOPS, bizim ölçümlerimiz değil, NVIDIA'nın tepe rakamlarıdır.

## Hangi GPU hangi modele uyar? (VRAM'e göre sıralı)

**Yöntem.** Yedi GPU'nun hepsini kiralayan GPUwithCrypto (SerpGoat LLC) tarafından yayımlandı. Her GPU aynı üç ölçüte göre değerlendirildi. VRAM ve bant genişliği NVIDIA'nın resmi rakamlarıdır; tarafımızdan hiçbir hız ölçümü yapılmadı. Fiyatlar bizim ve 29 Ekim 2026'da bulduğumuz en düşük self-servis talep üzerine fiyatlardır.

*Fiyatlar 29 Ekim 2026 tarihinde kontrol edildi.*

Kiraladığımız yedi GPU, modelin hangisine sığacağını VRAM belirlediği için GPU başına VRAM'e göre en büyükten başlayarak listelendi. Bant genişliği ikinci ölçüt, saat başına fiyat üçüncü.

### 1. NVIDIA B200 — En fazla VRAM

8.000 GB/s'de 180 GB HBM3e (NVIDIA'nın 8 GPU'lu HGX rakamlarının GPU başına payı), FP8 ve FP4 Tensor Cores. Tek bir GPU'da BF16'da (168 GB) bir 70B modeli tutar.

- En uygun olduğu kullanım: Tek GPU'da BF16'da 70B, FP4 çıkarımı
- Fiyat: $4.61/saat · başka yerde en düşük $5.43

### 2. NVIDIA H200 141GB — 70B için en iyisi

4.800 GB/s'de 141 GB HBM3e. FP8'de (84 GB) bir 70B modeli tutar ve KV önbelleği için 57 GB kalır. Sekizi DeepSeek-V3 veya V4 Pro'yu tutar.

- En uygun olduğu kullanım: FP8'de 70B, uzun bağlamlar, büyük MoE modelleri
- Fiyat: $3.07/saat · başka yerde en düşük $3.62

### 3. NVIDIA H100 80GB — Çok yönlü

3.350 GB/s'de (SXM) veya 2.000 GB/s'de (PCIe) 80 GB HBM3, FP8 Tensor Cores. gpt-oss-120b'yi veya BF16'da bir 32B modeli tutar.

- En uygun olduğu kullanım: gpt-oss-120b, BF16'da 32B, yüksek verimli 8B sunumu
- Fiyat: $2.32/saat · başka yerde en düşük $2.73

### 4. NVIDIA A100 80GB — Giriş 80 GB

2.039 GB/s'de (SXM) veya 1.935 GB/s'de (PCIe) 80 GB HBM2e. FP8 Tensor Cores yok: BF16 veya 4-bit ile sunun.

- En uygun olduğu kullanım: BF16'da 32B, uzun bağlamla 4-bit'te 70B
- Fiyat: $0.92/saat · başka yerde en düşük $1.09

### 5. NVIDIA L40S 48GB — 48 GB'da en iyi değer

864 GB/s'de 48 GB GDDR6, FP8 Tensor Cores, NVLink yok. FP8'de 32B veya 4-bit'te 70B tutar.

- En uygun olduğu kullanım: FP8'de 32B, 4-bit'te 70B, 128K bağlamlı 8B
- Fiyat: $0.82/saat · başka yerde en düşük $0.97

### 6. NVIDIA GeForce RTX 5090

1.792 GB/s bant genişliğinde 32 GB GDDR7, FP8 ve FP4 Tensor Cores. BF16'da 12B'lik (28,8 GB) veya 4-bit'te 32B'lik (19,5 GB) bir modeli uzun context için yer bırakarak barındırır.

- En uygun olduğu kullanım: BF16'da 12B, uzun prompt'larla 4-bit'te 32B
- Fiyat: $0.42/saat · başka yerlerde en düşük $0.50

### 7. NVIDIA GeForce RTX 4090 — Giriş seviyesi GPU

1.008 GB/s bant genişliğinde 24 GB GDDR6X, FP8 Tensor Cores. BF16'da 7–8B'lik bir modeli barındırır.

- En uygun olduğu kullanım: 7–8B modeller, geliştirme ve test
- Fiyat: $0.28/saat · başka yerlerde en düşük $0.33

*Açıklama: bu sayfa GPUwithCrypto tarafından yayımlanmıştır. Rakip bilgileri, yukarıda belirtilen tarihte rakiplerin herkese açık web sitelerinden alınmıştır ve o tarihten bu yana değişmiş olabilir.*

## Bir H200, iki H100'den daha mı iyi bir değer?

FP8'de bir 70B model için evet: bir H200 bunu barındırır, iki H100 ise bölmek ve her layer'da veri alışverişi yapmak zorundadır. GPUwithCrypto'nin 29 Ekim 2026 tarihli fiyat kontrolüne göre, 13 sağlayıcı genelinde on-demand H200'ün medyanı GPU-saati başına $5.29, H100'de ise 16 sağlayıcı genelinde $4.16 oldu. H200 saat başına %27 daha pahalı ama %76 daha fazla VRAM sunuyor, yani GB bellek başına %28 daha ucuz.

Bizim fiyatlarımızda tercih, iki H100'ün saat başına $4.64 fiyatına karşı bir H200 için $3.07/saat olur. Tam karşılaştırma: [H100 vs H200](https://gpuwithcrypto.com/tr/compare/h100-vs-h200/ "H100 vs H200: H200 ekstra maliyete değer mi?").

## Spot ve marketplace GPU'ları ne olacak?

Daha ucuza gelirler ama iş ortasında kaybolabilirler. Vast.ai marketplace'inde en ucuz H100 teklifi 29 Ekim 2026'da saat başına $1.73 oldu (Vast.ai genel fiyat akışı), bulduğumuz en düşük on-demand fiyatın altında. Ayakta kalması gereken bir inference sunucusu için kesinti, downtime demektir. Instance'lar on-demand'dır, spot değil: bakiyeniz yettiği sürece kimse GPU'nuzu geri alamaz ve instance siz durdurana kadar çalışır. Her birinin ne zaman kullanılacağı: [spot GPU nedir](https://gpuwithcrypto.com/tr/what-is/spot-gpu/ "Spot GPU nedir ve değer mi?").

## LLM inference GPU soruları

### Llama 70B'yi çalıştırmak için hangi GPU'ya ihtiyacım var?

FP8'de bir H200 (84 GB gerekli, 141 GB mevcut), 4-bit'te bir L40S (42 GB gerekli, 48 GB mevcut) veya BF16'da bir B200 (168 GB gerekli, 180 GB mevcut). İki H100 de toplam 160 GB ile FP8 sürümünü barındırır.

### DeepSeek V4 için en iyi GPU hangisi?

H200. DeepSeek V4 Flash'ın ağırlıkları 159,6 GB tutuyor, yani en az iki H200 gerektiriyor ve SGLang cookbook dört tane belgeliyor. V4 Pro'nun 864,7 GB ihtiyacı sekiz H200 gerektiriyor. Komutlar [DeepSeek V4 rehberinde](https://gpuwithcrypto.com/tr/guides/run-deepseek-v4-on-cloud-gpu/ "DeepSeek V4'ü bulut GPU'da nasıl çalıştırırım?").

### RTX 4090 LLM inference için iyi mi?

7–8B modeller için evet: 24 GB, BF16'da Llama 3.1 8B'yi barındırır (overhead ile 19,2 GB) ve 1.008 GB/s bant genişliğiyle serimizin giriş seviyesi GPU'sudur. BF16'da yaklaşık 10B parametrenin üzerinde belleği yetmez.

### A100 2026'da inference için hâlâ iyi mi?

BF16 ve 80 GB'a kadar 4-bit modeller için evet ve serimizdeki giriş seviyesi 80 GB GPU'dur. FP8 Tensor Cores'u yok, bu yüzden FP8 checkpoint'ler L40S, H100 veya H200'de daha iyi çalışır. Bkz. [H100 vs A100](https://gpuwithcrypto.com/tr/compare/h100-vs-a100/ "H100 vs A100: hangisini kiralamalıyım?").

### Bu GPU'ları kripto ile kiralayabilir miyim?

Evet. GPUwithCrypto, bir $1 bakiyesi yüklemesinden BTC, USDT, USDC, ETH, SOL, LTC, XMR kabul eder; kimlik yok, kart yok. Instances, çalıştıkları sürece saatlik ücret üzerinden dakika başına faturalandırılır ve o GPU için satın aldığınız GPU-saatlerden düşülür. Bir instance durdurulduğunda ücretlendirme anında durur.

## Kaynaklar

1. [NVIDIA H200 teknik özellikleri](https://www.nvidia.com/en-us/data-center/h200/) — NVIDIA (read 2026-10-29)
2. [NVIDIA H100 özellikleri](https://www.nvidia.com/en-us/data-center/h100/) — NVIDIA (read 2026-10-29)
3. [NVIDIA A100 özellikleri](https://www.nvidia.com/en-us/data-center/a100/) — NVIDIA (read 2026-10-29)
4. [NVIDIA L40S teknik özellikleri](https://www.nvidia.com/en-us/data-center/l40s/) — NVIDIA (read 2026-10-29)
5. [NVIDIA HGX platformu (B200)](https://www.nvidia.com/en-us/data-center/hgx/) — NVIDIA (read 2026-10-29)
6. [NVIDIA Ada GPU mimarisi teknik inceleme belgesi (RTX 4090)](https://images.nvidia.com/aem-dam/Solutions/geforce/ada/nvidia-ada-gpu-architecture.pdf) — NVIDIA (read 2026-10-29)
7. [NVIDIA RTX Blackwell mimarisi teknik raporu (RTX 5090)](https://images.nvidia.com/aem-dam/Solutions/geforce/blackwell/nvidia-rtx-blackwell-gpu-architecture.pdf) — NVIDIA (read 2026-10-29)
8. [Transformer Math 101](https://blog.eleuther.ai/transformer-math/) — EleutherAI (read 2026-10-29)
9. [gpt-oss-120b model kartı](https://huggingface.co/openai/gpt-oss-120b) — OpenAI / Hugging Face (read 2026-10-29)
10. [DeepSeek-V4 cookbook](https://docs.sglang.io/cookbook/autoregressive/DeepSeek/DeepSeek-V4) — SGLang (read 2026-10-29)
11. [Massed Compute fiyatlandırması](https://vm.massedcompute.com/pricing) — Massed Compute (read 2026-10-29)
12. [SaladCloud fiyat değişiklikleri, Kasım 2026](https://blog.salad.com/saladcloud-price-changes-november-2026) — Salad (read 2026-10-29)
13. [Thunder Compute fiyatlandırması](https://www.thundercompute.com/pricing) — Thunder Compute (read 2026-10-29)
14. [Vast.ai halka açık GPU fiyat akışı](https://storage.googleapis.com/vast-public-gpu-pricing/gpu-pricing-public.json) — Vast.ai (read 2026-10-29)

---

GPUwithCrypto: GPUwithCrypto, bulut GPU'ları (NVIDIA H100, H200, B200, A100, L40S, RTX 4090 ve RTX 5090) dakikasına göre, KYC olmadan kripto ile ödeme alarak kiralar; her GPU, 29 Ekim 2026 tarihinde okunan adı belirtilmiş bir on-demand referans fiyatın en az %15 altında fiyatlandırılır.