DeepSeek: что это такое и как развернуть у себя, локально или в облаке на GPU

DeepSeek — китайская компания, которая с 2025 года публикует веса больших языковых моделей в открытом доступе. Разработчики разворачивают эти модели у себя по трём причинам: данные не уходят внешнему API-провайдеру, нет лимитов на количество запросов, модель можно дообучить под свою задачу. Из статьи вы узнаете, что такое DeepSeek (или, как его часто называют, «дипсик»), чем различаются версии, сколько видеопамяти нужно под конкретную модель, как запустить DeepSeek локально через Ollama и как развернуть его на GPU в облаке через vLLM.

Что такое DeepSeek

DeepSeek — китайская компания-разработчик семейства открытых больших языковых моделей. Она публикует полные веса моделей, а не только доступ через API, и разрешает использовать их в коммерческих продуктах по лицензии MIT.

DeepSeek-R1 вышла в январе 2025 года как открытая рассуждающая модель: она показывает цепочку рассуждений перед финальным ответом. Затем компания выпустила линейку V3.x, а в 2026 году представила архитектурно новое семейство V4. Превью V4 появилось 24 апреля 2026 года, версия V4-Flash-0731 с открытыми весами — 31 июля 2026 года, V4-Pro-0813 стала доступна 12–13 августа 2026 года. 10 сентября 2026 года компания выпустила V4.1-Flash с поддержкой мультимодальности, пока доступную через API.

Для разработчика DeepSeek отличается тремя вещами:

• Открытые веса. Модели можно скачать и запустить на своём железе.
• Архитектура Mixture-of-Experts (MoE). На каждом шаге вычислений работает только часть модели, что снижает стоимость инференса при большом общем числе параметров.
• Режимы с рассуждением и без. Между ними можно переключаться в зависимости от задачи: явное пошаговое рассуждение или быстрый прямой ответ.

Какие модели DeepSeek можно развернуть у себя

Под именем DeepSeek скрывается не одна модель, а линейка версий с разным размером и требованиями к железу.

V4-Pro и V4-Flash различаются на порядок: у Pro — 1,6 трлн параметров всего и 49 млрд активных на каждом шаге, у Flash — 284 млрд всего и 13 млрд активных. Обе модели поддерживают контекст до 1 млн токенов и вывод до 384 тыс. токенов. Полные веса V4-Pro занимают около 960 ГБ.

Цифра «13 млрд активных параметров» у V4-Flash порождает самую частую ошибку. Архитектура Mixture-of-Experts устроена так: на каждом шаге вычислений работает только часть «экспертов», выбранных внутренним роутером. У V4-Flash активны 13B параметров из 284B. Но в видеопамяти должны лежать веса всех экспертов, потому что роутер может выбрать любого из них на следующем шаге. Вывод «13B активных, значит, хватит видеокарты на 24 ГБ» неверен: нужна память под все 284B.

Системные требования: сколько видеопамяти нужно для DeepSeek

Выбор модели напрямую зависит от железа.

Расход видеопамяти складывается из трёх частей:

1. Веса модели — фиксированный объём, зависящий от числа параметров и формата хранения.
2. KV-кэш — растёт вместе с длиной контекста. Диалог на 1 млн токенов требует памяти, которая в разы превышает объём самих весов.
3. Служебный запас — буферы для промежуточных вычислений.

Отдельная тонкость — формат весов. Нативный формат DeepSeek-V4-Flash — FP4+FP8, он рассчитан на GPU архитектуры Blackwell (B200). На Hopper (H100, H200) применяют FP8-сборку: она занимает около 284 ГБ. На Ampere (A100) поддержка FP8 ограничена, поэтому используют квантизованные сборки GGUF или аналогичные форматы. Какой именно формат V4-Flash реально запускается на A100 80GB и L40S в VK Cloud, стоит уточнить перед развёртыванием.

Как запустить DeepSeek локально на компьютере

Для запуска дистиллированной модели на своём ПК проще всего использовать Ollama.

1. Установите Ollama для Linux, macOS или Windows с официального сайта ollama.com.
2. Выберите модель по объёму видеопамяти — ориентируйтесь на таблицу выше.
3. Запустите модель командой ollama run deepseek-r1:8b. Актуальный тег стоит сверить в библиотеке Ollama на дату запуска.
4. Обратитесь по API. Ollama поднимает локальный OpenAI-совместимый эндпоинт, к которому можно обращаться обычным запросом curl.
5. Проверьте, что модель работает на GPU. Команда nvidia-smi покажет занятую видеопамять, ollama ps — список запущенных моделей.

Если терминал не привычен, попробуйте LM Studio: тот же принцип локального запуска, но с графическим интерфейсом.

Как развернуть DeepSeek в облаке на GPU

Когда дистиллированной модели не хватает или нужна продакшен-нагрузка с параллельными запросами, DeepSeek разворачивают на сервере с GPU.

Какую конфигурацию выбрать

Distill-модели умещаются на одной видеокарте: L4, A30, L40S или A100 в зависимости от размера. V4-Flash требует многопроцессорной конфигурации, и формат весов под конкретные GPU стоит проверить заранее (см. раздел про системные требования).

В VK Cloud доступны конфигурации с GPU A100 40GB (до 4 шт.), A100 80GB и A100 80GB SXM4 (до 4 шт.), L4, L40S (до 4 шт.), A30, vGPU. В обучающих материалах упоминаются H200 и V100 — перед заказом уточните в поддержке, какие конфигурации доступны на момент развёртывания. Актуальный список смотрите в шаблонах конфигураций с GPU.

Шаги развёртывания на ВМ с GPU

1. Создайте ВМ с GPU в консоли VK Cloud, выбрав подходящий шаблон конфигурации.
2. Проверьте драйвер. Команда nvidia-smi должна показать модель GPU и объём памяти.
3. Скачайте веса с Hugging Face командой huggingface-cli download, указав репозиторий deepseek-ai. Для distill-модели на 8–14B это минуты, для V4-Flash — часы даже на быстром канале.
4. Запустите vLLM в Docker с OpenAI-совместимым API. Ключевые параметры:
   • --tensor-parallel-size — число GPU, между которыми делится модель;
   • --max-model-len — ограничение длины контекста (и, как следствие, размера KV-кэша);
   • --gpu-memory-utilization — доля видеопамяти, которую vLLM может занять.
5. Проверьте сервис запросом curl к эндпоинту /v1/chat/completions.
6. Закройте порт API правилами группы безопасности: доступ только из своей сети или через балансировщик с авторизацией. Открытый в интернет порт инференса — частая причина утечки данных и вычислительных ресурсов.

Kubernetes

Для продакшен-нагрузки с автоматическим масштабированием DeepSeek разворачивают на GPU-узлах в Managed Kubernetes: под с контейнером vLLM запрашивает ресурс nvidia.com/gpu, кластер масштабирует число подов под нагрузку. Подробнее — в статье GPU в кластере Kubernetes.

Альтернатива vLLM — SGLang, фреймворк с поддержкой развёртывания моделей DeepSeek на нескольких GPU.

Про API DeepSeek стоит сказать честно: это самый простой способ получить доступ к флагманским моделям, включая V4-Pro, без возни с инфраструктурой. Но каждый запрос уходит на серверы провайдера — учитывайте это до того, как через API пройдут чувствительные данные.

Безопасность и данные

При работе через API или веб-чат DeepSeek запросы уходят на серверы компании в Китае. Если через модель проходят персональные данные, речь идёт о трансграничной передаче. Прежде чем отправлять такие данные во внешний сервис, сверьтесь с требованиями законодательства о персональных данных и получите консультацию юриста. Этот материал не является юридической консультацией.

При своей инсталляции данные остаются в контуре компании, но ответственность за периметр переходит к вам. API развёрнутой модели нужно закрыть от прямого доступа из интернета так же, как любой внутренний сервис.

Техническая деталь: флаг --trust-remote-code, который иногда требуют библиотеки для загрузки модели, исполняет код из репозитория модели на вашей машине. Веса стоит брать только из официального репозитория deepseek-ai на Hugging Face или из проверенных зеркал.

Модели DeepSeek обучены с ограничениями на отдельные темы, и ответы могут отражать эти ограничения — учитывайте при выборе модели под задачу.

Ограничения

GPU стоят денег даже без нагрузки, если конфигурация занята постоянно. Модели DeepSeek обновляются каждые 1–2 месяца: версия, развёрнутая сегодня, устареет быстрее, чем успеет окупиться. Дистиллированные модели заметно уступают флагманским по качеству ответов, особенно на задачах с рассуждением. Длинный контекст, привлекательный в карточке модели, на практике резко увеличивает расход видеопамяти за счёт роста KV-кэша.