Коротка відповідь
Як запустити DeepSeek V4 на хмарному GPU?
Щоб запустити DeepSeek V4 на хмарному GPU, орендуйте достатньо VRAM під його ваги плюс близько 20%: V4 Flash (284B параметрів, 159.6 GB ваг) потребує щонайменше двох H200, а SGLang cookbook документує чотири; V4 Pro (1.6T, 864.7 GB) потребує восьми H200. Сервіть його через vLLM або SGLang. Станом на 29 жовтня 2026, GPUwithCrypto орендує H200 за $3.07/година за GPU, з оплатою в крипті.
DeepSeek V4 коротко (Hugging Face, прочитано 29 жовтня 2026)
| Моделі | DeepSeek-V4-Flash і DeepSeek-V4-Pro, відкриті ваги під MIT License |
|---|---|
| Параметри | Flash: 284B усього, 13B активуються на токен · Pro: 1.6T усього, 49B активуються |
| Формат ваг | Змішаний: ваги MoE-експертів у FP4, більшість інших ваг у FP8 |
| Ваги на диску | Flash 159.6 GB (46 файлів) · Pro 864.7 GB (64 файли) |
| Довжина контексту | 1 мільйон токенів; DeepSeek рекомендує щонайменше 384K для режиму Think Max |
| Рушії сервінгу на картці моделі | vLLM і SGLang |
| Поради щодо семплінгу на картці | temperature 1.0, top_p 1.0 |
Скільки VRAM потрібно DeepSeek V4?
Flash потребує близько 191.5 GB, а Pro — близько 1,037.6 GB: опубліковані ваги × 1.2. DeepSeek V4 — це mixture-of-experts модель. На кожному токені працюють лише 13B (Flash) або 49B (Pro) параметрів, що скорочує обчислення, а не пам'ять: кожен експерт має бути у VRAM. Її стиснене attention тримає KV cache малим, тож звичайна формула кешу на токен для моделей у стилі Llama тут не діє. Правило ваги × 1.2 для інших моделей — на сторінці скільки VRAM мені потрібно?
Які GPU вміщають DeepSeek V4?
Мінімум за формулою = найменша кількість GPU, чия сумарна VRAM вміщає ваги × 1.2. Задокументовані схеми = те, що описують рецепти vLLM і SGLang cookbook. Наша ціна за годину для всієї конфігурації, 29 жовтня 2026.
| Модель | Ваги | × 1.2 | Мінімум за формулою | Задокументовані схеми | GPUwithCrypto за годину |
|---|---|---|---|---|---|
| V4 Flash | 159.6 GB | 191.5 GB | 2× H200 (282 GB) або 2× B200 (360 GB) | SGLang: 4 GPU на H200 або B200, 8 на H100 · vLLM: 4 GPU на репліку на H200 або B200 | $6.14/годину; $12.28/годину для задокументованої схеми |
| V4 Pro | 864.7 GB | 1,037.6 GB | 8× H200 (1,128 GB) або 8× B200 (1,440 GB) | SGLang: 8 GPU на H200 або B200; H100 потребує двох 8-GPU вузлів · vLLM: 8 GPU на H200, контекст обмежено 800K токенів | $24.56/година |
Ціни перевірено
8× H100 (640 GB) замало для V4 Pro, а на наших хостах щонайбільше 8 GPU. Сторінка H100 vs H200 порівнює їхню пам'ять і ціну. H100 і H200 не мають FP4 Tensor Cores: SGLang запускає на них FP4-експертів через ядра W4A16, тоді як B200 виконує FP4 нативно.
Як засервити DeepSeek V4 Flash через vLLM?
Схема нижче — та, яку рекомендує рецепт vLLM: чотири GPU, data parallel плюс expert parallel. Кожен прапорець узятий із цього рецепта.
Орендуйте чотири H200
Запустіть інстанс 4× H200 (564 GB). Перевірте, що його диск вміщає 159.6 GB ваг плюс місце для логів. Кожен інстанс має локальний NVMe-диск, розмір якого відповідає його GPU і показується перед стартом. Диск стирається, коли ви видаляєте інстанс, тож спершу скопіюйте свої checkpoints.
Встановіть vLLM
Встановіть останній позначений тегом випуск vLLM; для цієї моделі рецепт вимагає vLLM 0.20.0 або новіший. Також можна запустити інстанс з Docker-образу
vllm/vllm-openai.Завантажте ваги
hf download deepseek-ai/DeepSeek-V4-Flashзберігає 46 файлів ваг у кеш Hugging Face. vLLM також завантажує їх під час першого запуску.Запустіть сервер
Виконайте команду нижче. Вона прив'язується до 127.0.0.1, тож API доступний лише через ваш SSH-тунель.
Надішліть запит
Прокиньте порт 8000 через SSH і викличте сумісний з OpenAI endpoint
/v1/chat/completions.Зупиніть інстанс, коли закінчите
Інстанси тарифікуються щохвилини за годинною ставкою, поки працюють, з GPU-годин, які ви купили для цього GPU. Зупинка інстансу одразу зупиняє списання.
pip install -U vllm
hf download deepseek-ai/DeepSeek-V4-Flash
vllm serve deepseek-ai/DeepSeek-V4-Flash \
--trust-remote-code \
--data-parallel-size 4 \
--enable-expert-parallel \
--kv-cache-dtype fp8 \
--block-size 256 \
--tokenizer-mode deepseek_v4 \
--reasoning-parser deepseek_v4 \
--tool-call-parser deepseek_v4 \
--enable-auto-tool-choice \
--host 127.0.0.1 --port 8000
# forward the API port (host and SSH port are shown in the dashboard)
ssh -N -L 8000:127.0.0.1:8000 -p SSH_PORT root@HOST
# in another terminal
curl http://127.0.0.1:8000/v1/chat/completions \
-H "Content-Type: application/json" \
-d '{"model": "deepseek-ai/DeepSeek-V4-Flash", "messages": [{"role": "user", "content": "Explain the KV cache in two sentences."}]}'
Як обслужити DeepSeek V4 за допомогою SGLang?
Запустіть інстанс з Docker-образу lmsysorg/sglang:latest, який кукбук SGLang наводить для H100, H200 і B200, та використовуйте тензорний паралелізм: --tp 4 для Flash на чотирьох H200, --tp 8 для Flash на восьми H100 або для Pro на восьми H200. API відповідає на порту 30000 з тими самими маршрутами, сумісними з OpenAI.
python3 -m sglang.launch_server \
--model-path deepseek-ai/DeepSeek-V4-Flash \
--trust-remote-code \
--tp 4 \
--host 127.0.0.1 \
--port 30000
Як обслужити DeepSeek V4 Pro?
На восьми H200 з паралелізмом даних на всіх восьми GPU. Рецепт vLLM для H200 обмежує контекст до 800K токенів, щоб залишити місце для кешу, адже щільні ваги копіюються на кожен GPU. Для режиму Think Max залишайте щонайменше 384K токенів контексту, як рекомендує DeepSeek.
vllm serve deepseek-ai/DeepSeek-V4-Pro \
--trust-remote-code \
--data-parallel-size 8 \
--enable-expert-parallel \
--max-model-len 800000 \
--kv-cache-dtype fp8 \
--block-size 256 \
--tokenizer-mode deepseek_v4 \
--reasoning-parser deepseek_v4 \
--host 127.0.0.1 --port 8000
Скільки коштує запуск DeepSeek V4 за годину?
За нашими цінами V4 Flash на задокументованій конфігурації з чотирьох H200 коштує $12.28/годину, а V4 Pro на восьми H200 — $24.56/годину. Повна доба одного H200 — $73.68. По кожному провайдеру: ціни оренди H200.
Ваги Pro у 5,4 раза більші за ваги Flash (864,7 проти 159,6 GB). Згідно з перевіркою цін GPUwithCrypto від 29 жовтня 2026 року, найнижча ціна self-serve on-demand H200 становила $3.62 за GPU-годину (Massed Compute): $14,48 за годину за чотири GPU і $28,96 за вісім. Усі ціни: ціни.
Який контрольний пункт DeepSeek V4 мені завантажити?
Почніть з deepseek-ai/DeepSeek-V4-Flash або deepseek-ai/DeepSeek-V4-Pro — репозиторіїв, створених 22 квітня 2026 року, чиї картки наводять наведені вище цифри. Пізніше DeepSeek опублікував оновлені контрольні пункти, DeepSeek-V4-Flash-0731 і DeepSeek-V4-Pro-0813, з вбудованою draft head для спекулятивного декодування; рецепт vLLM вимагає для них vLLM 0.25.0 або новіший. Репозиторії -Base призначені для подальшого попереднього тренування, а не для чату чи викликів інструментів.
Питання про DeepSeek V4
Скільки VRAM потрібно для DeepSeek V4 Flash?
Приблизно 191,5 GB: 159,6 GB ваг плюс 20%. За цим правилом їх вміщують два H200 (282 GB); кукбук SGLang і рецепт vLLM обидва документують чотири H200, що залишає більше місця для кешу та для паралельних користувачів.
Скільки VRAM потрібно для DeepSeek V4 Pro?
Приблизно 1 037,6 GB: 864,7 GB ваг плюс 20%. Вісім H200 (1 128 GB) або вісім B200 (1 440 GB) вміщують його на одному хості. Вісім H100 (640 GB) — ні.
Чи можу я запустити DeepSeek V4 на H100?
V4 Flash — так: кукбук SGLang документує вісім H100 з --tp 8. V4 Pro потребує двох вузлів з 8 GPU H100 за кукбуком, а це більше, ніж вміщує один наш інстанс, тож використовуйте вісім H200.
Чи можу я запустити DeepSeek V4 на одному GPU?
Не на тих GPU, які ми орендуємо. Найбільший, B200 на 180 GB, вміщує 159,6 GB ваг Flash, але залишає лише 20 GB для кешу — менше за 20% запасу. Мінімум — два GPU.
Чи можу я оплатити H200 криптовалютою?
Так. GPUwithCrypto приймає BTC, USDT, USDC, ETH, SOL, LTC, XMR з поповнення через 1 USD, без ID і без картки. GPU-години продаються блоками по 10, 24, 168 або 720 годин для однієї моделі GPU за тією самою годинною ставкою; інстанси цього GPU споживають їх щохвилини, а невикористані години ніколи не згорають.
Джерела (8)
- Картка моделі та файли DeepSeek-V4-Flash — DeepSeek / Hugging Face (read 2026-10-29)
- Картка моделі та файли DeepSeek-V4-Pro — DeepSeek / Hugging Face (read 2026-10-29)
- Рецепт vLLM: DeepSeek V4 Flash — vLLM project (read 2026-10-29)
- Рецепт vLLM: DeepSeek V4 Pro — vLLM project (read 2026-10-29)
- Cookbook DeepSeek-V4 — SGLang (read 2026-10-29)
- Посібник з Hugging Face CLI (hf download) — Hugging Face (read 2026-10-29)
- Характеристики NVIDIA H200 — NVIDIA (read 2026-10-29)
- Ціни Massed Compute vm.massedcompute.com/pricing — Massed Compute (read 2026-10-29)