Krótka odpowiedź
Jak uruchomić DeepSeek V4 na GPU w chmurze?
Aby uruchomić DeepSeek V4 na GPU w chmurze, wynajmij tyle VRAM, ile potrzeba na jego wagi plus około 20%: V4 Flash (284B parametrów, 159,6 GB wag) wymaga co najmniej dwóch H200, a cookbook SGLang dokumentuje cztery; V4 Pro (1,6T, 864,7 GB) wymaga ośmiu H200. Serwuj go za pomocą vLLM lub SGLang. Według stanu na 29 października 2026 GPUwithCrypto wynajmuje H200 za $3.07/godzina za GPU, z płatnością kryptowalutą.
DeepSeek V4 w skrócie (Hugging Face, sprawdzono 29 października 2026)
| Modele | DeepSeek-V4-Flash i DeepSeek-V4-Pro, otwarte wagi na licencji MIT |
|---|---|
| Parametry | Flash: 284B łącznie, 13B aktywowanych na token · Pro: 1,6T łącznie, 49B aktywowanych |
| Format wag | Mieszany: wagi ekspertów MoE w FP4, większość pozostałych wag w FP8 |
| Wagi na dysku | Flash 159,6 GB (46 plików) · Pro 864,7 GB (64 pliki) |
| Długość kontekstu | 1 milion tokenów; DeepSeek zaleca co najmniej 384K dla trybu Think Max |
| Silniki serwujące na karcie modelu | vLLM i SGLang |
| Zalecenia dotyczące próbkowania na karcie | temperature 1.0, top_p 1.0 |
Ile VRAM potrzebuje DeepSeek V4?
Flash potrzebuje około 191,5 GB, a Pro około 1037,6 GB: opublikowane wagi × 1,2. DeepSeek V4 to model mixture-of-experts. Na każdym tokenie pracuje tylko 13B (Flash) lub 49B (Pro) parametrów, co zmniejsza obliczenia, a nie pamięć: każdy ekspert musi być w VRAM. Jego skompresowana uwaga utrzymuje mały KV cache, więc zwykły wzór na cache na token dla modeli w stylu Llama tu nie działa. Zasada wagi × 1,2 dla innych modeli jest na ile VRAM potrzebuję?
Które GPU mieszczą DeepSeek V4?
Minimum według wzoru = najmniejsza liczba GPU, których łączna VRAM mieści wagi × 1,2. Udokumentowane układy = to, co opisują receptury vLLM i cookbook SGLang. Nasza cena za godzinę za całą konfigurację, 29 października 2026.
| Model | Wagi | × 1.2 | Minimum według wzoru | Udokumentowane układy | GPUwithCrypto na godzinę |
|---|---|---|---|---|---|
| V4 Flash | 159.6 GB | 191.5 GB | 2× H200 (282 GB) lub 2× B200 (360 GB) | SGLang: 4 GPU na H200 lub B200, 8 na H100 · vLLM: 4 GPU na replikę na H200 lub B200 | $6.14/godzinę; $12.28/godzinę za udokumentowany układ |
| V4 Pro | 864.7 GB | 1,037.6 GB | 8× H200 (1128 GB) lub 8× B200 (1440 GB) | SGLang: 8 GPU na H200 lub B200; H100 wymaga dwóch node'ów po 8 GPU · vLLM: 8 GPU na H200, kontekst ograniczony do 800K tokenów | $24.56/godzinę |
Ceny sprawdzone
8× H100 (640 GB) to za mało dla V4 Pro, a nasze hosty mają najwyżej 8 GPU. Strona H100 vs H200 porównuje ich pamięć i cenę. H100 i H200 nie mają rdzeni Tensor Core FP4: SGLang uruchamia na nich ekspertów FP4 za pomocą jąder W4A16, natomiast B200 obsługuje FP4 natywnie.
Jak serwować DeepSeek V4 Flash za pomocą vLLM?
Układ poniżej to ten zalecany przez recepturę vLLM: cztery GPU, data parallel plus expert parallel. Każda flaga pochodzi z tej receptury.
Wynajmij cztery H200
Uruchom instancję 4× H200 (564 GB). Sprawdź, czy jej dysk mieści 159,6 GB wag plus miejsce na logi. Każda instancja ma lokalny dysk NVMe, dopasowany do jej GPU i pokazany przed startem. Dysk jest czyszczony przy usuwaniu instancji, więc najpierw skopiuj swoje checkpoints.
Zainstaluj vLLM
Zainstaluj najnowsze oznaczone wydanie vLLM; przepis wymaga vLLM 0.20.0 lub nowszego dla tego modelu. Możesz też uruchomić instancję z obrazu Docker
vllm/vllm-openai.Pobierz wagi
hf download deepseek-ai/DeepSeek-V4-Flashzapisuje 46 plików wag w cache Hugging Face. vLLM pobiera je również przy pierwszym uruchomieniu.Uruchom serwer
Uruchom poniższe polecenie. Wiąże się z 127.0.0.1, więc API jest osiągalne tylko przez Twój tunel SSH.
Wyślij zapytanie
Przekieruj port 8000 przez SSH i wywołaj endpoint zgodny z OpenAI
/v1/chat/completions.Zatrzymaj instancję, gdy skończysz
Instancje są rozliczane za minutę według stawki godzinowej, dopóki działają, z GPU-godzin kupionych dla danego GPU. Zatrzymanie instancji natychmiast wstrzymuje naliczanie opłat.
pip install -U vllm
hf download deepseek-ai/DeepSeek-V4-Flash
vllm serve deepseek-ai/DeepSeek-V4-Flash \
--trust-remote-code \
--data-parallel-size 4 \
--enable-expert-parallel \
--kv-cache-dtype fp8 \
--block-size 256 \
--tokenizer-mode deepseek_v4 \
--reasoning-parser deepseek_v4 \
--tool-call-parser deepseek_v4 \
--enable-auto-tool-choice \
--host 127.0.0.1 --port 8000
# forward the API port (host and SSH port are shown in the dashboard)
ssh -N -L 8000:127.0.0.1:8000 -p SSH_PORT root@HOST
# in another terminal
curl http://127.0.0.1:8000/v1/chat/completions \
-H "Content-Type: application/json" \
-d '{"model": "deepseek-ai/DeepSeek-V4-Flash", "messages": [{"role": "user", "content": "Explain the KV cache in two sentences."}]}'
Jak uruchomić DeepSeek V4 za pomocą SGLang?
Uruchom instancję z obrazu Docker lmsysorg/sglang:latest, który cookbook SGLang wymienia dla H100, H200 i B200, i użyj równoległości tensorowej: --tp 4 dla Flash na czterech H200, --tp 8 dla Flash na ośmiu H100 lub dla Pro na ośmiu H200. API odpowiada na porcie 30000 z tymi samymi trasami zgodnymi z OpenAI.
python3 -m sglang.launch_server \
--model-path deepseek-ai/DeepSeek-V4-Flash \
--trust-remote-code \
--tp 4 \
--host 127.0.0.1 \
--port 30000
Jak uruchomić DeepSeek V4 Pro?
Na ośmiu H200, z równoległością danych na wszystkich ośmiu GPU. Przepis vLLM dla H200 ogranicza kontekst do 800K tokenów, aby zostawić miejsce na cache, ponieważ gęste wagi są kopiowane na każdy GPU. W trybie Think Max utrzymuj co najmniej 384K tokenów kontekstu, zgodnie z zaleceniem DeepSeek.
vllm serve deepseek-ai/DeepSeek-V4-Pro \
--trust-remote-code \
--data-parallel-size 8 \
--enable-expert-parallel \
--max-model-len 800000 \
--kv-cache-dtype fp8 \
--block-size 256 \
--tokenizer-mode deepseek_v4 \
--reasoning-parser deepseek_v4 \
--host 127.0.0.1 --port 8000
Ile kosztuje uruchomienie DeepSeek V4 za godzinę?
Według naszych cen V4 Flash na udokumentowanym układzie czterech H200 kosztuje $12.28/godzinę, a V4 Pro na ośmiu H200 kosztuje $24.56/godzinę. Pełny dzień jednego H200 to $73.68. Dostawca po dostawcy: ceny wynajmu H200.
Wagi Pro są 5,4 razy większe niż Flash (864,7 wobec 159,6 GB). Według sprawdzenia cen GPUwithCrypto z 29 października 2026 najniższa cena H200 w trybie self-serve on-demand wynosiła $3.62 za GPU-godzinę (Massed Compute): 14,48 USD za godzinę dla czterech GPU i 28,96 USD dla ośmiu. Każda cena: cennik.
Który checkpoint DeepSeek V4 powinienem pobrać?
Zacznij od deepseek-ai/DeepSeek-V4-Flash lub deepseek-ai/DeepSeek-V4-Pro, repozytoriów utworzonych 22 kwietnia 2026, których karty podają powyższe wartości. DeepSeek opublikował później zaktualizowane checkpointy, DeepSeek-V4-Flash-0731 i DeepSeek-V4-Pro-0813, z wbudowaną głową draft do dekodowania spekulatywnego; przepis vLLM wymaga dla nich vLLM 0.25.0 lub nowszego. Repozytoria -Base służą do dalszego pre-treningu, a nie do czatu ani wywołań narzędzi.
Pytania o DeepSeek V4
Ile VRAM potrzebuję dla DeepSeek V4 Flash?
Około 191,5 GB: 159,6 GB wag plus 20%. Dwa H200 (282 GB) mieszczą go według tej zasady; cookbook SGLang i przepis vLLM dokumentują cztery H200, co zostawia więcej miejsca na cache i na równoległych użytkowników.
Ile VRAM potrzebuję dla DeepSeek V4 Pro?
Około 1 037,6 GB: 864,7 GB wag plus 20%. Osiem H200 (1 128 GB) lub osiem B200 (1 440 GB) mieści go na jednym hoście. Osiem H100 (640 GB) nie mieści.
Czy mogę uruchomić DeepSeek V4 na H100?
V4 Flash tak: cookbook SGLang dokumentuje osiem H100 z --tp 8. V4 Pro wymaga w cookbooku dwóch węzłów H100 po 8 GPU, czyli więcej, niż mieści jedna z naszych instancji, więc użyj ośmiu H200.
Czy mogę uruchomić DeepSeek V4 na jednym GPU?
Nie na GPU, które wynajmujemy. Największy, B200 o pojemności 180 GB, mieści 159,6 GB wag Flash, ale zostawia tylko 20 GB na cache, poniżej marginesu 20%. Minimum to dwa GPU.
Czy mogę zapłacić za H200 kryptowalutą?
Tak. GPUwithCrypto pobiera BTC, USDT, USDC, ETH, SOL, LTC z doładowania 25 USD, bez dokumentu i bez karty. GPU-godziny są sprzedawane w blokach po 10, 24, 168 lub 720 godzin dla jednego modelu GPU, w tej samej stawce godzinowej; instancje tego GPU pobierają z nich za minutę, a niewykorzystane godziny nigdy nie wygasają.
Źródła (8)
- Karta modelu i pliki DeepSeek-V4-Flash — DeepSeek / Hugging Face (read 2026-10-29)
- Karta modelu i pliki DeepSeek-V4-Pro — DeepSeek / Hugging Face (read 2026-10-29)
- Przepis vLLM: DeepSeek V4 Flash — vLLM project (read 2026-10-29)
- Przepis vLLM: DeepSeek V4 Pro — vLLM project (read 2026-10-29)
- cookbook DeepSeek-V4 — SGLang (read 2026-10-29)
- Przewodnik po CLI Hugging Face (hf download) — Hugging Face (read 2026-10-29)
- Specyfikacja NVIDIA H200 — NVIDIA (read 2026-10-29)
- Cennik Massed Compute vm.massedcompute.com/pricing — Massed Compute (read 2026-10-29)