गाइड · मॉडल तथ्य Hugging Face से · कमांड vLLM और SGLang डॉक्स से, 29 October 2026

मैं क्लाउड GPU पर DeepSeek V4 कैसे चलाऊं?

DeepSeek V4 दो ओपन-वेट साइज़ में आता है, Flash और Pro। यह गाइड हर एक के लिए VRAM का गणित, सर्विंग इंजन कितने GPU बताते हैं, लॉन्च कमांड और प्रति घंटा लागत देती है।

अंतिम अपडेट: 29 अक्तूबर 2026 · 7 मिनट पढ़ें

तुरंत जवाब

मैं क्लाउड GPU पर DeepSeek V4 कैसे चलाऊं?

क्लाउड GPU पर DeepSeek V4 चलाने के लिए, उसके वेट के लिए पर्याप्त VRAM प्लस लगभग 20% किराए पर लें: V4 Flash (284B पैरामीटर, 159.6 GB वेट) को कम से कम दो H200 चाहिए, और SGLang cookbook चार बताता है; V4 Pro (1.6T, 864.7 GB) को आठ H200 चाहिए। इसे vLLM या SGLang से सर्व करें। 29 October 2026 तक, GPUwithCrypto H200 को प्रति GPU $3.07/घंटा में किराए पर देता है, क्रिप्टो में भुगतान।

एक नज़र में DeepSeek V4 (Hugging Face, 29 October 2026 को पढ़ा गया)

मॉडल	DeepSeek-V4-Flash और DeepSeek-V4-Pro, MIT License के तहत ओपन वेट
Parameters	Flash: कुल 284B, प्रति token 13B सक्रिय · Pro: कुल 1.6T, 49B सक्रिय
वेट फ़ॉर्मेट	मिश्रित: MoE expert वेट FP4 में, अधिकांश अन्य वेट FP8 में
डिस्क पर वेट	Flash 159.6 GB (46 फ़ाइलें) · Pro 864.7 GB (64 फ़ाइलें)
कॉन्टेक्स्ट लंबाई	1 मिलियन tokens; DeepSeek Think Max मोड के लिए कम से कम 384K की सलाह देता है
मॉडल कार्ड पर सर्विंग इंजन	vLLM और SGLang
कार्ड पर सैंपलिंग सलाह	temperature 1.0, top_p 1.0

DeepSeek V4 को कितना VRAM चाहिए?

Flash को लगभग 191.5 GB और Pro को लगभग 1,037.6 GB चाहिए: प्रकाशित वेट × 1.2। DeepSeek V4 एक mixture-of-experts मॉडल है। हर token पर केवल 13B (Flash) या 49B (Pro) पैरामीटर काम करते हैं, जो compute घटाता है, मेमोरी नहीं: हर expert को VRAM में होना ही चाहिए। इसका compressed attention KV cache को छोटा रखता है, इसलिए Llama-शैली मॉडलों का सामान्य प्रति-token cache फ़ॉर्मूला लागू नहीं होता। अन्य मॉडलों के लिए वेट × 1.2 नियम मुझे कितना VRAM चाहिए? पर है

कौन से GPU DeepSeek V4 रख सकते हैं?

फ़ॉर्मूला न्यूनतम = सबसे कम GPU जिनका संयुक्त VRAM वेट × 1.2 रखता है। प्रलेखित लेआउट = जो vLLM recipes और SGLang cookbook बताते हैं। पूरी कॉन्फ़िगरेशन के लिए हमारी प्रति घंटा कीमत, 29 October 2026।

Model	वेट	× 1.2	फ़ॉर्मूला न्यूनतम	प्रलेखित लेआउट	GPUwithCrypto प्रति घंटा
V4 Flash	159.6 GB	191.5 GB	2× H200 (282 GB) या 2× B200 (360 GB)	SGLang: H200 या B200 पर 4 GPU, H100 पर 8 · vLLM: H200 या B200 पर प्रति replica 4 GPU	$6.14/घंटा; प्रलेखित लेआउट के लिए $12.28/घंटा
V4 Pro	864.7 GB	1,037.6 GB	8× H200 (1,128 GB) या 8× B200 (1,440 GB)	SGLang: H200 या B200 पर 8 GPU; H100 को दो 8-GPU nodes चाहिए · vLLM: H200 पर 8 GPU, कॉन्टेक्स्ट 800K tokens पर सीमित	$24.56/घंटा

कीमतें 29 अक्तूबर 2026 को जांची गईं

8× H100 (640 GB) V4 Pro के लिए बहुत छोटा है, और हमारे hosts पर अधिकतम 8 GPU हैं। H100 vs H200 पेज उनकी मेमोरी और कीमत की तुलना करता है। H100 और H200 में FP4 Tensor Cores नहीं हैं: SGLang उन पर FP4 experts को W4A16 kernels से चलाता है, जबकि B200 FP4 native रूप से चलाता है।

मैं vLLM के साथ DeepSeek V4 Flash कैसे सर्व करूं?

नीचे दिया लेआउट वही है जो vLLM recipe सुझाता है: चार GPU, data parallel प्लस expert parallel। हर flag उसी recipe से है।

चार H200 किराए पर लें
4× H200 instance (564 GB) शुरू करें। जांचें कि उसकी डिस्क 159.6 GB वेट और logs के लिए जगह रखती है। हर इंस्टेंस में local NVMe डिस्क होती है, जो उसके GPU के लिए साइज़ की गई है और शुरू करने से पहले दिखाई जाती है। इंस्टेंस डिलीट करने पर डिस्क मिट जाती है, इसलिए पहले अपने checkpoints बाहर कॉपी कर लें।
vLLM इंस्टॉल करें
नवीनतम tagged vLLM release इंस्टॉल करें; इस मॉडल के लिए recipe में vLLM 0.20.0 या नया चाहिए। आप vllm/vllm-openai Docker image से भी instance शुरू कर सकते हैं।
weights डाउनलोड करें
hf download deepseek-ai/DeepSeek-V4-Flash 46 weight फ़ाइलें Hugging Face cache में सहेजता है। vLLM पहली बार शुरू होने पर भी उन्हें डाउनलोड करता है।
server शुरू करें
नीचे दिया गया command चलाएँ। यह 127.0.0.1 पर bind होता है, इसलिए API केवल आपके SSH tunnel से पहुँच योग्य है।
request भेजें
SSH पर port 8000 forward करें और OpenAI-compatible endpoint /v1/chat/completions को call करें।
काम पूरा होने पर instance बंद करें
इंस्टेंस चलते समय प्रति मिनट, घंटे के रेट पर बिल किए जाते हैं, उस GPU के लिए आपके खरीदे गए GPU-घंटों से। इंस्टेंस रोकने पर चार्ज तुरंत रुक जाता है.

serve-v4-flash-vllm.sh (4× H200)

pip install -U vllm
hf download deepseek-ai/DeepSeek-V4-Flash

vllm serve deepseek-ai/DeepSeek-V4-Flash \
  --trust-remote-code \
  --data-parallel-size 4 \
  --enable-expert-parallel \
  --kv-cache-dtype fp8 \
  --block-size 256 \
  --tokenizer-mode deepseek_v4 \
  --reasoning-parser deepseek_v4 \
  --tool-call-parser deepseek_v4 \
  --enable-auto-tool-choice \
  --host 127.0.0.1 --port 8000

request.sh (अपने कंप्यूटर से)

# forward the API port (host and SSH port are shown in the dashboard)
ssh -N -L 8000:127.0.0.1:8000 -p SSH_PORT root@HOST

# in another terminal
curl http://127.0.0.1:8000/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{"model": "deepseek-ai/DeepSeek-V4-Flash", "messages": [{"role": "user", "content": "Explain the KV cache in two sentences."}]}'

DeepSeek V4 को SGLang से कैसे serve करूँ?

lmsysorg/sglang:latest Docker image से instance शुरू करें, जिसे SGLang cookbook H100, H200 और B200 के लिए सूचीबद्ध करता है, और tensor parallelism इस्तेमाल करें: चार H200s पर Flash के लिए --tp 4, आठ H100s पर Flash के लिए या आठ H200s पर Pro के लिए --tp 8। API port 30000 पर वही OpenAI-compatible routes के साथ जवाब देता है।

serve-v4-flash-sglang.sh (4× H200)

python3 -m sglang.launch_server \
  --model-path deepseek-ai/DeepSeek-V4-Flash \
  --trust-remote-code \
  --tp 4 \
  --host 127.0.0.1 \
  --port 30000

DeepSeek V4 Pro को कैसे serve करूँ?

आठ H200s पर, सभी आठ GPUs में data parallelism के साथ। H200 के लिए vLLM recipe context को 800K tokens पर सीमित रखता है ताकि cache के लिए जगह बचे, क्योंकि dense weights हर GPU पर copy होते हैं। Think Max mode के लिए कम से कम 384K tokens का context रखें, जैसा DeepSeek सुझाता है।

serve-v4-pro-vllm.sh (8× H200)

vllm serve deepseek-ai/DeepSeek-V4-Pro \
  --trust-remote-code \
  --data-parallel-size 8 \
  --enable-expert-parallel \
  --max-model-len 800000 \
  --kv-cache-dtype fp8 \
  --block-size 256 \
  --tokenizer-mode deepseek_v4 \
  --reasoning-parser deepseek_v4 \
  --host 127.0.0.1 --port 8000

DeepSeek V4 चलाने में प्रति घंटा कितना खर्च होता है?

हमारी कीमतों पर, documented चार-H200 layout पर V4 Flash $12.28/घंटा खर्च करता है, और आठ H200s पर V4 Pro $24.56/घंटा। एक H200 का पूरा दिन $73.68 है। Provider by provider: H200 rental prices।

Pro के weights Flash के मुकाबले 5.4 गुना बड़े हैं (159.6 के बजाय 864.7 GB)। GPUwithCrypto के 29 अक्टूबर 2026 के price check के अनुसार, सबसे कम self-serve on-demand H200 कीमत $3.62 प्रति GPU-घंटा (Massed Compute) थी: चार GPUs के लिए $14.48 प्रति घंटा और आठ के लिए $28.96। हर कीमत: pricing।

मुझे कौन सा DeepSeek V4 checkpoint डाउनलोड करना चाहिए?

deepseek-ai/DeepSeek-V4-Flash या deepseek-ai/DeepSeek-V4-Pro से शुरू करें, 22 अप्रैल 2026 को बनाए गए repositories, जिनके cards ऊपर के आँकड़े देते हैं। DeepSeek ने बाद में अपडेट किए गए checkpoints, DeepSeek-V4-Flash-0731 और DeepSeek-V4-Pro-0813, प्रकाशित किए, जिनमें speculative decoding के लिए built-in draft head है; vLLM recipe इनके लिए vLLM 0.25.0 या नया चाहता है। -Base repositories आगे की pre-training के लिए हैं, chat या tool calls के लिए नहीं।

DeepSeek V4 प्रश्न

DeepSeek V4 Flash के लिए मुझे कितना VRAM चाहिए?

लगभग 191.5 GB: 159.6 GB weights और उसमें 20%। उस नियम से दो H200s (282 GB) इसे रख लेते हैं; SGLang cookbook और vLLM recipe दोनों चार H200s document करते हैं, जो cache और parallel users के लिए ज़्यादा जगह छोड़ता है।

DeepSeek V4 Pro के लिए मुझे कितना VRAM चाहिए?

लगभग 1,037.6 GB: 864.7 GB weights और उसमें 20%। आठ H200s (1,128 GB) या आठ B200s (1,440 GB) इसे एक host पर रख लेते हैं। आठ H100s (640 GB) नहीं रख पाते।

क्या मैं H100s पर DeepSeek V4 चला सकता हूँ?

V4 Flash, हाँ: SGLang cookbook आठ H100s को --tp 8 के साथ document करता है। V4 Pro के लिए cookbook में दो 8-GPU H100 nodes चाहिए, जो हमारे एक instance की क्षमता से ज़्यादा है, इसलिए आठ H200s इस्तेमाल करें।

क्या मैं DeepSeek V4 एक GPU पर चला सकता हूँ?

हमारे किराए के GPUs पर नहीं। सबसे बड़ा, 180 GB का B200, Flash के 159.6 GB weights रखता है लेकिन cache के लिए केवल 20 GB छोड़ता है, जो 20% margin से कम है। दो GPUs न्यूनतम हैं।

क्या मैं H200s का भुगतान crypto से कर सकता हूँ?

हाँ। GPUwithCrypto $25 top-up से BTC, USDT, USDC, ETH, SOL, LTC लेता है, बिना ID और बिना card के। GPU-घंटे एक GPU मॉडल के लिए 10, 24, 168 या 720 घंटे के ब्लॉक में, उसी घंटे के रेट पर बेचे जाते हैं; उस GPU के इंस्टेंस उनसे प्रति मिनट खर्च करते हैं, और बिना इस्तेमाल हुए घंटे कभी खत्म नहीं होते।

स्रोत (8)

DeepSeek-V4-Flash model card और फ़ाइलें — DeepSeek / Hugging Face (read 2026-10-29)
DeepSeek-V4-Pro model card और फ़ाइलें — DeepSeek / Hugging Face (read 2026-10-29)
vLLM recipe: DeepSeek V4 Flash — vLLM project (read 2026-10-29)
vLLM recipe: DeepSeek V4 Pro — vLLM project (read 2026-10-29)
DeepSeek-V4 cookbook — SGLang (read 2026-10-29)
Hugging Face CLI गाइड (hf download) — Hugging Face (read 2026-10-29)
NVIDIA H200 specifications — NVIDIA (read 2026-10-29)
Massed Compute pricing vm.massedcompute.com/pricing — Massed Compute (read 2026-10-29)