Risposta rapida
Come eseguo DeepSeek V4 su una GPU cloud?
Per eseguire DeepSeek V4 su una GPU cloud, noleggia VRAM sufficiente per i suoi pesi più circa il 20%: V4 Flash (284B parametri, 159,6 GB di pesi) richiede almeno due H200, e il cookbook di SGLang ne documenta quattro; V4 Pro (1,6T, 864,7 GB) richiede otto H200. Servilo con vLLM o SGLang. Al 29 ottobre 2026, GPUwithCrypto noleggia la H200 a $3.07/ora per GPU, pagando in criptovalute.
DeepSeek V4 in sintesi (Hugging Face, consultato il 29 ottobre 2026)
| Modelli | DeepSeek-V4-Flash e DeepSeek-V4-Pro, pesi aperti con licenza MIT |
|---|---|
| Parametri | Flash: 284B totali, 13B attivati per token · Pro: 1,6T totali, 49B attivati |
| Formato dei pesi | Misto: pesi degli esperti MoE in FP4, la maggior parte degli altri pesi in FP8 |
| Pesi su disco | Flash 159,6 GB (46 file) · Pro 864,7 GB (64 file) |
| Lunghezza del contesto | 1 milione di token; DeepSeek consiglia almeno 384K per la modalità Think Max |
| Motori di serving sulla model card | vLLM e SGLang |
| Consigli sul campionamento dalla card | temperature 1.0, top_p 1.0 |
Quanta VRAM serve a DeepSeek V4?
Flash richiede circa 191,5 GB e Pro circa 1.037,6 GB: i pesi pubblicati × 1,2. DeepSeek V4 è un modello mixture-of-experts. Solo 13B (Flash) o 49B (Pro) parametri lavorano su ogni token, il che riduce il calcolo, non la memoria: ogni esperto deve stare in VRAM. La sua attenzione compressa mantiene piccola la cache KV, quindi la solita formula della cache per token per i modelli in stile Llama non si applica. La regola pesi × 1,2 per gli altri modelli è su quanta VRAM mi serve?
Quali GPU contengono DeepSeek V4?
Minimo da formula = il minor numero di GPU la cui VRAM combinata contiene pesi × 1,2. Layout documentati = quelli descritti dalle ricette vLLM e dal cookbook SGLang. Il nostro prezzo orario per l'intera configurazione, 29 ottobre 2026.
| Modello | Pesi | × 1.2 | Minimo da formula | Layout documentati | GPUwithCrypto all'ora |
|---|---|---|---|---|---|
| V4 Flash | 159.6 GB | 191.5 GB | 2× H200 (282 GB) o 2× B200 (360 GB) | SGLang: 4 GPU su H200 o B200, 8 su H100 · vLLM: 4 GPU per replica su H200 o B200 | $6.14/ora; $12.28/ora per il layout documentato |
| V4 Pro | 864.7 GB | 1,037.6 GB | 8× H200 (1.128 GB) o 8× B200 (1.440 GB) | SGLang: 8 GPU su H200 o B200; H100 richiede due nodi da 8 GPU · vLLM: 8 GPU su H200, contesto limitato a 800K token | $24.56/ora |
Prezzi verificati il
8× H100 (640 GB) è troppo piccolo per V4 Pro, e i nostri host hanno al massimo 8 GPU. La pagina H100 vs H200 confronta la loro memoria e il prezzo. H100 e H200 non hanno Tensor Cores FP4: SGLang esegue gli esperti FP4 su di esse con kernel W4A16, mentre la B200 esegue FP4 in modo nativo.
Come servo DeepSeek V4 Flash con vLLM?
Il layout qui sotto è quello consigliato dalla ricetta vLLM: quattro GPU, data parallel più expert parallel. Ogni flag proviene da quella ricetta.
Noleggia quattro H200
Avvia un'istanza 4× H200 (564 GB). Verifica che il suo disco contenga i 159,6 GB di pesi più spazio per i log. Ogni istanza ha un disco NVMe locale, dimensionato per la sua GPU e mostrato prima dell'avvio. Il disco viene cancellato quando elimini l'istanza, quindi copia prima i tuoi checkpoint.
Installa vLLM
Installa l'ultima release vLLM con tag; la recipe richiede vLLM 0.20.0 o successivo per questo modello. Puoi anche avviare l'istanza dall'immagine Docker
vllm/vllm-openai.Scarica i pesi
hf download deepseek-ai/DeepSeek-V4-Flashsalva i 46 file dei pesi nella cache di Hugging Face. vLLM li scarica anche al primo avvio.Avvia il server
Esegui il comando qui sotto. Si lega a 127.0.0.1, così l'API è raggiungibile solo attraverso il tuo tunnel SSH.
Invia una richiesta
Inoltra la porta 8000 via SSH e chiama l'endpoint compatibile con OpenAI
/v1/chat/completions.Ferma l'istanza quando hai finito
Le istanze sono fatturate al minuto alla tariffa oraria finché sono in esecuzione, attingendo alle GPU-ora che hai acquistato per quella GPU. Fermare un'istanza interrompe subito l'addebito.
pip install -U vllm
hf download deepseek-ai/DeepSeek-V4-Flash
vllm serve deepseek-ai/DeepSeek-V4-Flash \
--trust-remote-code \
--data-parallel-size 4 \
--enable-expert-parallel \
--kv-cache-dtype fp8 \
--block-size 256 \
--tokenizer-mode deepseek_v4 \
--reasoning-parser deepseek_v4 \
--tool-call-parser deepseek_v4 \
--enable-auto-tool-choice \
--host 127.0.0.1 --port 8000
# forward the API port (host and SSH port are shown in the dashboard)
ssh -N -L 8000:127.0.0.1:8000 -p SSH_PORT root@HOST
# in another terminal
curl http://127.0.0.1:8000/v1/chat/completions \
-H "Content-Type: application/json" \
-d '{"model": "deepseek-ai/DeepSeek-V4-Flash", "messages": [{"role": "user", "content": "Explain the KV cache in two sentences."}]}'
Come faccio a servire DeepSeek V4 con SGLang?
Avvia l'istanza dall'immagine Docker lmsysorg/sglang:latest, che il cookbook di SGLang elenca per H100, H200 e B200, e usa il tensor parallelism: --tp 4 per Flash su quattro H200, --tp 8 per Flash su otto H100 o per Pro su otto H200. L'API risponde sulla porta 30000 con le stesse route compatibili con OpenAI.
python3 -m sglang.launch_server \
--model-path deepseek-ai/DeepSeek-V4-Flash \
--trust-remote-code \
--tp 4 \
--host 127.0.0.1 \
--port 30000
Come faccio a servire DeepSeek V4 Pro?
Su otto H200, con data parallelism su tutte e otto le GPU. La recipe vLLM per H200 limita il contesto a 800K token per lasciare spazio alla cache, perché i pesi dense vengono copiati su ogni GPU. Per la modalità Think Max, mantieni almeno 384K token di contesto, come consiglia DeepSeek.
vllm serve deepseek-ai/DeepSeek-V4-Pro \
--trust-remote-code \
--data-parallel-size 8 \
--enable-expert-parallel \
--max-model-len 800000 \
--kv-cache-dtype fp8 \
--block-size 256 \
--tokenizer-mode deepseek_v4 \
--reasoning-parser deepseek_v4 \
--host 127.0.0.1 --port 8000
Quanto costa eseguire DeepSeek V4 all'ora?
Ai nostri prezzi, V4 Flash sulla configurazione documentata con quattro H200 costa $12.28/ora e V4 Pro su otto H200 costa $24.56/ora. Un giorno intero di una singola H200 è $73.68. Fornitore per fornitore: prezzi di noleggio H200.
I pesi di Pro sono 5,4 volte quelli di Flash (864,7 contro 159,6 GB). Secondo il controllo prezzi di GPUwithCrypto del 29 ottobre 2026, il prezzo self-serve on-demand più basso per H200 era $3.62 per GPU-ora (Massed Compute): $14,48 all'ora per quattro GPU e $28,96 per otto. Tutti i prezzi: pricing.
Quale checkpoint di DeepSeek V4 dovrei scaricare?
Inizia da deepseek-ai/DeepSeek-V4-Flash o deepseek-ai/DeepSeek-V4-Pro, i repository creati il 22 aprile 2026, le cui model card riportano le cifre sopra. DeepSeek ha poi pubblicato checkpoint aggiornati, DeepSeek-V4-Flash-0731 e DeepSeek-V4-Pro-0813, con una draft head integrata per il speculative decoding; la recipe vLLM richiede vLLM 0.25.0 o successivo per questi ultimi. I repository -Base servono per ulteriore pre-training, non per chat o tool call.
Domande su DeepSeek V4
Quanta VRAM serve per DeepSeek V4 Flash?
Circa 191,5 GB: 159,6 GB di pesi più il 20%. Due H200 (282 GB) lo contengono secondo questa regola; il cookbook di SGLang e la recipe vLLM documentano entrambi quattro H200, che lasciano più spazio per la cache e per gli utenti in parallelo.
Quanta VRAM serve per DeepSeek V4 Pro?
Circa 1.037,6 GB: 864,7 GB di pesi più il 20%. Otto H200 (1.128 GB) o otto B200 (1.440 GB) lo contengono su un singolo host. Otto H100 (640 GB) no.
Posso eseguire DeepSeek V4 su H100?
V4 Flash, sì: il cookbook di SGLang documenta otto H100 con --tp 8. V4 Pro richiede due nodi H100 da 8 GPU nel cookbook, più di quanto contenga una delle nostre istanze, quindi usa otto H200.
Posso eseguire DeepSeek V4 su una sola GPU?
Non sulle GPU che noleggiamo. La più grande, una B200 da 180 GB, contiene i 159,6 GB di pesi di Flash ma lascia solo 20 GB per la cache, sotto il margine del 20%. Due GPU è il minimo.
Posso pagare le H200 in criptovalute?
Sì. GPUwithCrypto accetta BTC, USDT, USDC, ETH, SOL, LTC, XMR da una ricarica 1 USD, senza documento d'identità e senza carta. Le GPU-ora sono vendute in blocchi da 10, 24, 168 o 720 ore per un modello di GPU, alla stessa tariffa oraria; le istanze di quella GPU ne attingono al minuto, e le ore non utilizzate non scadono mai.
Fonti (8)
- Model card e file di DeepSeek-V4-Flash — DeepSeek / Hugging Face (read 2026-10-29)
- Model card e file di DeepSeek-V4-Pro — DeepSeek / Hugging Face (read 2026-10-29)
- Recipe vLLM: DeepSeek V4 Flash — vLLM project (read 2026-10-29)
- Recipe vLLM: DeepSeek V4 Pro — vLLM project (read 2026-10-29)
- Cookbook DeepSeek-V4 — SGLang (read 2026-10-29)
- Guida alla CLI di Hugging Face (hf download) — Hugging Face (read 2026-10-29)
- Specifiche NVIDIA H200 — NVIDIA (read 2026-10-29)
- Prezzi di Massed Compute vm.massedcompute.com/pricing — Massed Compute (read 2026-10-29)