Kısa yanıt
DeepSeek V4'ü bulut GPU'da nasıl çalıştırırım?
DeepSeek V4'ü bulut GPU'da çalıştırmak için, ağırlıkları artı yaklaşık %20 için yeterli VRAM kiralayın: V4 Flash (284B parametre, 159,6 GB ağırlık) en az iki H200 gerektirir ve SGLang cookbook dört tanesini dokümante eder; V4 Pro (1,6T, 864,7 GB) sekiz H200 gerektirir. vLLM veya SGLang ile sunun. 29 Ekim 2026 itibarıyla, GPUwithCrypto H200'ü GPU başına $3.07/saat karşılığında kiralar, kripto ile ödenir.
Bir bakışta DeepSeek V4 (Hugging Face, 29 Ekim 2026'da okundu)
| Modeller | DeepSeek-V4-Flash ve DeepSeek-V4-Pro, MIT License altında açık ağırlıklar |
|---|---|
| Parametreler | Flash: toplam 284B, token başına 13B etkinleştirilir · Pro: toplam 1,6T, 49B etkinleştirilir |
| Ağırlık formatı | Karma: MoE expert ağırlıkları FP4, diğer ağırlıkların çoğu FP8 |
| Diskteki ağırlıklar | Flash 159,6 GB (46 dosya) · Pro 864,7 GB (64 dosya) |
| Bağlam uzunluğu | 1 milyon token; DeepSeek Think Max modu için en az 384K önerir |
| Model kartındaki sunum motorları | vLLM ve SGLang |
| Karttaki örnekleme önerisi | temperature 1.0, top_p 1.0 |
DeepSeek V4 ne kadar VRAM gerektirir?
Flash yaklaşık 191,5 GB, Pro yaklaşık 1.037,6 GB gerektirir: yayımlanan ağırlıklar × 1,2. DeepSeek V4 bir mixture-of-experts modelidir. Her token üzerinde yalnızca 13B (Flash) veya 49B (Pro) parametre çalışır; bu hesaplamayı azaltır, belleği değil: her expert VRAM'de bulunmalıdır. Sıkıştırılmış attention'ı KV cache'i küçük tutar, bu yüzden Llama tarzı modeller için olağan token başına cache formülü geçerli değildir. Diğer modeller için ağırlıklar × 1,2 kuralı ne kadar VRAM'e ihtiyacım var? sayfasındadır
DeepSeek V4 hangi GPU'lara sığar?
Formül minimumu = birleşik VRAM'i ağırlıklar × 1,2'yi tutan en az GPU sayısı. Dokümante edilen düzenler = vLLM recipes ve SGLang cookbook'un tanımladığı düzenler. Tüm yapılandırma için saatlik fiyatımız, 29 Ekim 2026.
| Model | Ağırlıklar | × 1.2 | Formül minimumu | Dokümante edilen düzenler | Saat başına GPUwithCrypto |
|---|---|---|---|---|---|
| V4 Flash | 159.6 GB | 191.5 GB | 2× H200 (282 GB) veya 2× B200 (360 GB) | SGLang: H200 veya B200'de 4 GPU, H100'de 8 · vLLM: H200 veya B200'de replica başına 4 GPU | $6.14/saat; dokümante edilen düzen için $12.28/saat |
| V4 Pro | 864.7 GB | 1,037.6 GB | 8× H200 (1.128 GB) veya 8× B200 (1.440 GB) | SGLang: H200 veya B200'de 8 GPU; H100 iki adet 8-GPU node gerektirir · vLLM: H200'de 8 GPU, bağlam 800K token ile sınırlı | $24.56/saat |
Fiyatlar tarihinde kontrol edildi
8× H100 (640 GB) V4 Pro için çok küçük ve sunucularımızda en fazla 8 GPU var. H100 vs H200 sayfası belleklerini ve fiyatlarını karşılaştırır. H100 ve H200'de FP4 Tensor Cores yok: SGLang FP4 expert'leri bunlarda W4A16 kernel'leriyle çalıştırır, B200 ise FP4'ü yerel olarak çalıştırır.
DeepSeek V4 Flash'ı vLLM ile nasıl sunarım?
Aşağıdaki düzen vLLM recipe'nin önerdiği düzendir: dört GPU, data parallel artı expert parallel. Her flag o recipe'den gelir.
Dört H200 kiralayın
Bir 4× H200 instance başlatın (564 GB). Diskinin 159,6 GB ağırlığı artı loglar için yer tuttuğunu kontrol edin. Her instance'ta, GPU'suna göre boyutlandırılmış ve başlamadan önce gösterilen yerel NVMe diski vardır. Instance'ı sildiğinizde disk silinir, bu yüzden checkpoint'lerinizi önce kopyalayın.
vLLM'i kurun
En son etiketlenmiş vLLM sürümünü kurun; bu model için tarif vLLM 0.20.0 veya daha yenisini istiyor. Örneği
vllm/vllm-openaiDocker imajından da başlatabilirsiniz.Ağırlıkları indirin
hf download deepseek-ai/DeepSeek-V4-Flash, 46 ağırlık dosyasını Hugging Face önbelleğine kaydeder. vLLM bunları ilk başlatmada da indirir.Sunucuyu başlatın
Aşağıdaki komutu çalıştırın. 127.0.0.1'e bağlanır, böylece API'ye yalnızca SSH tüneliniz üzerinden erişilebilir.
Bir istek gönderin
8000 numaralı bağlantı noktasını SSH üzerinden yönlendirin ve OpenAI uyumlu
/v1/chat/completionsendpoint'ini çağırın.İşiniz bitince örneği durdurun
Instances, çalıştıkları sürece saatlik ücret üzerinden dakika başına faturalandırılır ve o GPU için satın aldığınız GPU-saatlerden düşülür. Bir instance durdurulduğunda ücretlendirme anında durur.
pip install -U vllm
hf download deepseek-ai/DeepSeek-V4-Flash
vllm serve deepseek-ai/DeepSeek-V4-Flash \
--trust-remote-code \
--data-parallel-size 4 \
--enable-expert-parallel \
--kv-cache-dtype fp8 \
--block-size 256 \
--tokenizer-mode deepseek_v4 \
--reasoning-parser deepseek_v4 \
--tool-call-parser deepseek_v4 \
--enable-auto-tool-choice \
--host 127.0.0.1 --port 8000
# forward the API port (host and SSH port are shown in the dashboard)
ssh -N -L 8000:127.0.0.1:8000 -p SSH_PORT root@HOST
# in another terminal
curl http://127.0.0.1:8000/v1/chat/completions \
-H "Content-Type: application/json" \
-d '{"model": "deepseek-ai/DeepSeek-V4-Flash", "messages": [{"role": "user", "content": "Explain the KV cache in two sentences."}]}'
DeepSeek V4'ü SGLang ile nasıl sunarım?
Örneği, SGLang cookbook'un H100, H200 ve B200 için listelediği lmsysorg/sglang:latest Docker imajından başlatın ve tensor paralelliğini kullanın: dört H200'de Flash için --tp 4, sekiz H100'de Flash veya sekiz H200'de Pro için --tp 8. API, aynı OpenAI uyumlu rotalarla 30000 numaralı bağlantı noktasında yanıt verir.
python3 -m sglang.launch_server \
--model-path deepseek-ai/DeepSeek-V4-Flash \
--trust-remote-code \
--tp 4 \
--host 127.0.0.1 \
--port 30000
DeepSeek V4 Pro'yu nasıl sunarım?
Sekiz H200'de, sekiz GPU'nun tamamında veri paralelliğiyle. H200 için vLLM tarifi, yoğun ağırlıklar her GPU'ya kopyalandığı için önbelleğe yer bırakmak amacıyla bağlamı 800K token ile sınırlar. Think Max modu için DeepSeek'in önerdiği gibi en az 384K token bağlam bırakın.
vllm serve deepseek-ai/DeepSeek-V4-Pro \
--trust-remote-code \
--data-parallel-size 8 \
--enable-expert-parallel \
--max-model-len 800000 \
--kv-cache-dtype fp8 \
--block-size 256 \
--tokenizer-mode deepseek_v4 \
--reasoning-parser deepseek_v4 \
--host 127.0.0.1 --port 8000
DeepSeek V4'ü saatte çalıştırmanın maliyeti ne kadar?
Bizim fiyatlarımızla, belgelenen dört-H200 düzeninde V4 Flash saatte $12.28, sekiz H200'de V4 Pro ise saatte $24.56 tutar. Bir H200'ün tam bir günü $73.68. Sağlayıcı sağlayıcı: H200 kiralama fiyatları.
Pro'nun ağırlıkları Flash'ınkinin 5.4 katı (159.6 GB'a karşı 864.7 GB). GPUwithCrypto'nın 29 Ekim 2026 tarihli fiyat kontrolüne göre, en düşük self-servis on-demand H200 fiyatı GPU-saat başına $3.62 (Massed Compute): dört GPU için saatte $14.48, sekiz GPU için $28.96. Tüm fiyatlar: fiyatlandırma.
Hangi DeepSeek V4 checkpoint'ini indirmeliyim?
deepseek-ai/DeepSeek-V4-Flash veya deepseek-ai/DeepSeek-V4-Pro ile başlayın; 22 Nisan 2026'da oluşturulan ve kartlarında yukarıdaki rakamları veren depolar. DeepSeek daha sonra, spekülatif decoding için yerleşik bir draft head içeren güncellenmiş checkpoint'ler yayınladı: DeepSeek-V4-Flash-0731 ve DeepSeek-V4-Pro-0813; vLLM tarifi bunlar için vLLM 0.25.0 veya daha yenisini istiyor. -Base depoları sohbet veya araç çağrıları için değil, ileri ön-eğitim içindir.
DeepSeek V4 soruları
DeepSeek V4 Flash için ne kadar VRAM gerekli?
Yaklaşık 191.5 GB: 159.6 GB ağırlık artı %20. Bu kuralla iki H200 (282 GB) bunu tutar; SGLang cookbook ve vLLM tarifi ikisi de dört H200 belgeliyor, bu da önbellek ve paralel kullanıcılar için daha fazla yer bırakır.
DeepSeek V4 Pro için ne kadar VRAM gerekli?
Yaklaşık 1,037.6 GB: 864.7 GB ağırlık artı %20. Sekiz H200 (1,128 GB) veya sekiz B200 (1,440 GB) bunu tek bir hostta tutar. Sekiz H100 (640 GB) tutmaz.
DeepSeek V4'ü H100'lerde çalıştırabilir miyim?
V4 Flash, evet: SGLang cookbook sekiz H100'ü --tp 8 ile belgeliyor. V4 Pro için cookbook iki adet 8-GPU H100 düğümü gerektiriyor; bu bizim bir örneğimizin tutabileceğinden fazla, o yüzden sekiz H200 kullanın.
DeepSeek V4'ü tek GPU'da çalıştırabilir miyim?
Kiraladığımız GPU'larda hayır. En büyüğü, 180 GB'lık bir B200, Flash'ın 159.6 GB ağırlığını tutar ama önbellek için yalnızca 20 GB bırakır; bu da %20 marjın altında. Alt sınır iki GPU.
H200'lerin ödemesini kripto ile yapabilir miyim?
Evet. GPUwithCrypto, $1 bakiye yüklemesinden BTC, USDT, USDC, ETH, SOL, LTC, XMR alır; kimlik yok, kart yok. GPU-saatler tek bir GPU modeli için 10, 24, 168 veya 720 saatlik bloklar halinde, aynı saatlik ücretle satılır; o GPU'nun instance'ları bunlardan dakika başına çeker ve kullanılmayan saatler hiçbir zaman sona ermez.
Kaynaklar (8)
- DeepSeek-V4-Flash model kartı ve dosyaları — DeepSeek / Hugging Face (read 2026-10-29)
- DeepSeek-V4-Pro model kartı ve dosyaları — DeepSeek / Hugging Face (read 2026-10-29)
- vLLM tarifi: DeepSeek V4 Flash — vLLM project (read 2026-10-29)
- vLLM tarifi: DeepSeek V4 Pro — vLLM project (read 2026-10-29)
- DeepSeek-V4 cookbook — SGLang (read 2026-10-29)
- Hugging Face CLI kılavuzu (hf download) — Hugging Face (read 2026-10-29)
- NVIDIA H200 teknik özellikleri — NVIDIA (read 2026-10-29)
- Massed Compute fiyatlandırması vm.massedcompute.com/pricing — Massed Compute (read 2026-10-29)