Kort antwoord
Hoe draai ik DeepSeek V4 op een cloud-GPU?
Om DeepSeek V4 op een cloud-GPU te draaien, huur je genoeg VRAM voor de weights plus ongeveer 20%: V4 Flash (284B parameters, 159,6 GB aan weights) heeft minstens twee H200's nodig, en het SGLang-cookbook documenteert er vier; V4 Pro (1,6T, 864,7 GB) heeft acht H200's nodig. Serveer het met vLLM of SGLang. Op 29 oktober 2026 verhuurt GPUwithCrypto de H200 voor $3,07/uur per GPU, betaald met crypto.
DeepSeek V4 in één oogopslag (Hugging Face, gelezen op 29 oktober 2026)
| Modellen | DeepSeek-V4-Flash en DeepSeek-V4-Pro, open weights onder de MIT-licentie |
|---|---|
| Parameters | Flash: 284B totaal, 13B geactiveerd per token · Pro: 1,6T totaal, 49B geactiveerd |
| Weight-formaat | Gemengd: MoE-expert-weights in FP4, de meeste andere weights in FP8 |
| Weights op schijf | Flash 159,6 GB (46 bestanden) · Pro 864,7 GB (64 bestanden) |
| Contextlengte | 1 miljoen tokens; DeepSeek raadt minstens 384K aan voor de Think Max-modus |
| Serving engines op de modelkaart | vLLM en SGLang |
| Sampling-advies op de kaart | temperature 1.0, top_p 1.0 |
Hoeveel VRAM heeft DeepSeek V4 nodig?
Flash heeft ongeveer 191,5 GB nodig en Pro ongeveer 1.037,6 GB: de gepubliceerde weights × 1,2. DeepSeek V4 is een mixture-of-experts-model. Slechts 13B (Flash) of 49B (Pro) parameters werken per token, wat rekenkracht bespaart, niet geheugen: elke expert moet in VRAM staan. De gecomprimeerde attention houdt de KV-cache klein, dus de gebruikelijke cacheformule per token voor Llama-achtige modellen geldt niet. De weights × 1,2-regel voor andere modellen staat op hoeveel VRAM heb ik nodig?
Welke GPU's houden DeepSeek V4?
Formuleminimum = het kleinste aantal GPU's waarvan het gecombineerde VRAM weights × 1,2 bevat. Gedocumenteerde indelingen = wat de vLLM-recepten en het SGLang-cookbook beschrijven. Onze prijs per uur voor de hele configuratie, 29 oktober 2026.
| Model | Weights | × 1.2 | Formuleminimum | Gedocumenteerde indelingen | GPUwithCrypto per uur |
|---|---|---|---|---|---|
| V4 Flash | 159.6 GB | 191.5 GB | 2× H200 (282 GB) of 2× B200 (360 GB) | SGLang: 4 GPU's op H200 of B200, 8 op H100 · vLLM: 4 GPU's per replica op H200 of B200 | $6.14/uur; $12.28/uur voor de gedocumenteerde indeling |
| V4 Pro | 864.7 GB | 1,037.6 GB | 8× H200 (1.128 GB) of 8× B200 (1.440 GB) | SGLang: 8 GPU's op H200 of B200; H100 heeft twee 8-GPU-nodes nodig · vLLM: 8 GPU's op H200, context beperkt tot 800K tokens | $24.56/uur |
Prijzen gecontroleerd op
8× H100 (640 GB) is te klein voor V4 Pro, en onze hosts hebben maximaal 8 GPU's. De pagina H100 vs H200 vergelijkt hun geheugen en prijs. H100 en H200 hebben geen FP4 Tensor Cores: SGLang draait de FP4-experts erop met W4A16-kernels, terwijl de B200 FP4 native draait.
Hoe serveer ik DeepSeek V4 Flash met vLLM?
De onderstaande indeling is degene die het vLLM-recept aanraadt: vier GPU's, data parallel plus expert parallel. Elke flag komt uit dat recept.
Huur vier H200's
Start een 4× H200-instance (564 GB). Controleer of de schijf de 159,6 GB aan weights bevat plus ruimte voor logs. Elke instance heeft een lokale NVMe-schijf, afgestemd op de GPU en getoond voordat je start. De schijf wordt gewist wanneer je de instance verwijdert, dus kopieer je checkpoints eerst weg.
Installeer vLLM
Installeer de nieuwste getagde vLLM-release; het recept vraagt voor dit model om vLLM 0.20.0 of nieuwer. Je kunt de instance ook starten vanuit de Docker-image
vllm/vllm-openai.Download de weights
hf download deepseek-ai/DeepSeek-V4-Flashslaat de 46 weight-bestanden op in de Hugging Face-cache. vLLM downloadt ze ook bij de eerste start.Start de server
Voer het onderstaande commando uit. Het bindt aan 127.0.0.1, zodat de API alleen bereikbaar is via je SSH-tunnel.
Stuur een request
Forward poort 8000 over SSH en roep het OpenAI-compatible endpoint
/v1/chat/completionsaan.Stop de instance als je klaar bent
Instances worden per minuut gefactureerd tegen het uurtarief terwijl ze draaien, uit de GPU-uren die je voor die GPU hebt gekocht. Een instance stoppen stopt de kosten direct.
pip install -U vllm
hf download deepseek-ai/DeepSeek-V4-Flash
vllm serve deepseek-ai/DeepSeek-V4-Flash \
--trust-remote-code \
--data-parallel-size 4 \
--enable-expert-parallel \
--kv-cache-dtype fp8 \
--block-size 256 \
--tokenizer-mode deepseek_v4 \
--reasoning-parser deepseek_v4 \
--tool-call-parser deepseek_v4 \
--enable-auto-tool-choice \
--host 127.0.0.1 --port 8000
# forward the API port (host and SSH port are shown in the dashboard)
ssh -N -L 8000:127.0.0.1:8000 -p SSH_PORT root@HOST
# in another terminal
curl http://127.0.0.1:8000/v1/chat/completions \
-H "Content-Type: application/json" \
-d '{"model": "deepseek-ai/DeepSeek-V4-Flash", "messages": [{"role": "user", "content": "Explain the KV cache in two sentences."}]}'
Hoe serveer ik DeepSeek V4 met SGLang in plaats daarvan?
Start de instance vanuit de Docker-image lmsysorg/sglang:latest, die de SGLang-cookbook voor H100, H200 en B200 noemt, en gebruik tensor parallelism: --tp 4 voor Flash op vier H200's, --tp 8 voor Flash op acht H100's of voor Pro op acht H200's. De API antwoordt op poort 30000 met dezelfde OpenAI-compatible routes.
python3 -m sglang.launch_server \
--model-path deepseek-ai/DeepSeek-V4-Flash \
--trust-remote-code \
--tp 4 \
--host 127.0.0.1 \
--port 30000
Hoe serveer ik DeepSeek V4 Pro?
Op acht H200's, met data parallelism over alle acht GPU's. Het vLLM-recept voor H200 begrenst de context op 800K tokens om ruimte te laten voor de cache, omdat de dense weights naar elke GPU worden gekopieerd. Houd voor de Think Max-modus minstens 384K tokens context aan, zoals DeepSeek aanraadt.
vllm serve deepseek-ai/DeepSeek-V4-Pro \
--trust-remote-code \
--data-parallel-size 8 \
--enable-expert-parallel \
--max-model-len 800000 \
--kv-cache-dtype fp8 \
--block-size 256 \
--tokenizer-mode deepseek_v4 \
--reasoning-parser deepseek_v4 \
--host 127.0.0.1 --port 8000
Wat kost het om DeepSeek V4 per uur te draaien?
Bij onze prijzen kost V4 Flash op de gedocumenteerde layout met vier H200's $12.28/uur, en V4 Pro op acht H200's $24.56/uur. Een volledige dag op één H200 is $73.68. Per provider: H200-huurprijzen.
De weights van Pro zijn 5,4 keer zo groot als die van Flash (864,7 tegen 159,6 GB). Volgens de prijscheck van GPUwithCrypto van 29 oktober 2026 was de laagste self-serve on-demand H200-prijs $3.62 per GPU-uur (Massed Compute): $14,48 per uur voor vier GPU's en $28,96 voor acht. Elke prijs: pricing.
Welke DeepSeek V4-checkpoint moet ik downloaden?
Begin met deepseek-ai/DeepSeek-V4-Flash of deepseek-ai/DeepSeek-V4-Pro, de repositories die op 22 april 2026 zijn aangemaakt en waarvan de kaarten de bovenstaande cijfers geven. DeepSeek publiceerde later bijgewerkte checkpoints, DeepSeek-V4-Flash-0731 en DeepSeek-V4-Pro-0813, met een ingebouwde draft head voor speculative decoding; het vLLM-recept vraagt daarvoor om vLLM 0.25.0 of nieuwer. De repositories -Base zijn voor verder pre-training, niet voor chat of tool calls.
DeepSeek V4-vragen
Hoeveel VRAM heb ik nodig voor DeepSeek V4 Flash?
Ongeveer 191,5 GB: 159,6 GB aan weights plus 20%. Twee H200's (282 GB) houden het volgens die regel; de SGLang-cookbook en het vLLM-recept documenteren beide vier H200's, wat meer ruimte laat voor de cache en voor parallelle gebruikers.
Hoeveel VRAM heb ik nodig voor DeepSeek V4 Pro?
Ongeveer 1.037,6 GB: 864,7 GB aan weights plus 20%. Acht H200's (1.128 GB) of acht B200's (1.440 GB) houden het op één host. Acht H100's (640 GB) niet.
Kan ik DeepSeek V4 op H100's draaien?
V4 Flash, ja: de SGLang-cookbook documenteert acht H100's met --tp 8. V4 Pro heeft in de cookbook twee H100-nodes met 8 GPU's nodig, meer dan één van onze instances biedt, dus gebruik acht H200's.
Kan ik DeepSeek V4 op één GPU draaien?
Niet op de GPU's die wij verhuren. De grootste, een B200 van 180 GB, houdt Flash's 159,6 GB aan weights maar laat slechts 20 GB over voor de cache, onder de marge van 20%. Twee GPU's is het minimum.
Kan ik de H200's met crypto betalen?
Ja. GPUwithCrypto accepteert BTC, USDT, USDC, ETH, SOL, LTC uit een US$ 25-top-up, zonder ID en zonder kaart. GPU-uren worden verkocht in blokken van 10, 24, 168 of 720 uur voor één GPU-model, tegen hetzelfde uurtarief; instances van die GPU gebruiken ze per minuut, en ongebruikte uren verlopen nooit.
Bronnen (8)
- DeepSeek-V4-Flash model card en bestanden — DeepSeek / Hugging Face (read 2026-10-29)
- DeepSeek-V4-Pro model card en bestanden — DeepSeek / Hugging Face (read 2026-10-29)
- vLLM-recept: DeepSeek V4 Flash — vLLM project (read 2026-10-29)
- vLLM-recept: DeepSeek V4 Pro — vLLM project (read 2026-10-29)
- DeepSeek-V4-cookbook — SGLang (read 2026-10-29)
- Hugging Face CLI-gids (hf download) — Hugging Face (read 2026-10-29)
- Specificaties NVIDIA H200 — NVIDIA (read 2026-10-29)
- Massed Compute-prijzen vm.massedcompute.com/pricing — Massed Compute (read 2026-10-29)