DeepSeek и Qwen на своём сервере: какую версию выбрать и что нужно из железа
DeepSeek и Qwen — сильнейшие открытые модели 2026 года, и обе можно развернуть у себя без облаков и зарубежных API. Разбираем, какие версии существуют, сколько памяти нужно под каждую и как поднять их на своём сервере.
⚡ Развернём DeepSeek или Qwen под ключПодберём GPU под нужную версию модели, установим и настроим инференс. Данные и модель остаются в РФ. Серверы для LLM →Ещё год назад «своя LLM» означала компромисс по качеству. Сегодня открытые модели DeepSeek и Qwen на большинстве задач не уступают коммерческим API — а развернуть их можно целиком на своём сервере для LLM, без обращения к зарубежным сервисам. Разберём, какую версию выбрать и что для неё нужно.
Почему именно DeepSeek и Qwen
Это две самые сильные линейки открытых моделей, и обе выпускаются под свободными лицензиями, разрешающими коммерческое использование.
- DeepSeek — китайская лаборатория, прославившаяся моделями с сильными рассуждениями при разумной стоимости обучения. Ключевые версии: DeepSeek-V3 (универсальная MoE-модель) и DeepSeek-R1 (с явными рассуждениями, уровень reasoning-моделей). Есть дистиллированные версии поменьше — на базе Qwen и Llama.
- Qwen (от Alibaba) — самая «разноразмерная» линейка: от 0.5B до 72B, плюс специализированные Qwen2.5-Coder (код) и Qwen2.5-Math. Отличается тем, что даже небольшие версии дают отличное качество на русском и в кодинге.
Практический смысл прост: под задачу подбирается не «одна большая модель», а конкретная версия нужного размера. Именно от размера зависит, какая нужна видеокарта.
Сколько нужно VRAM под каждую версию
Модели запускают в квантизации (обычно 4-bit) — это резко снижает требования к видеопамяти при небольшой потере качества. Ориентир:
| Версия | VRAM (4-bit) | Видеокарта |
|---|---|---|
| Qwen2.5-7B / Coder-7B | ~6–8 ГБ | RTX 4090 с большим запасом |
| Qwen2.5-14B | ~10–12 ГБ | RTX 4090 (24 ГБ) |
| Qwen2.5-32B / DeepSeek-R1 32B | ~20–22 ГБ | RTX 4090 (24 ГБ), впритык |
| Qwen2.5-72B / Llama-70B | ~40–48 ГБ | 2×RTX 4090 или A100 80 ГБ |
| DeepSeek-V3 / R1 (полные, 600B+ MoE) | сотни ГБ | кластер H100 (задача дата-центра) |
Важно: полные DeepSeek-V3 и R1 — это огромные MoE-модели, которые в одиночку почти никто не хостит. На практике для своего сервера берут дистиллированные версии R1 (7–32B) или Qwen2.5 — они дают львиную долю качества при вменяемом железе.
Какую версию выбрать под задачу
- Кодинг, AI-агент — Qwen2.5-Coder (7–32B). Лучшее соотношение качества и требований к железу для разработки. Как подключить к агенту — в статье про локальную LLM для кодинга.
- Рассуждения, аналитика, сложные запросы — DeepSeek-R1 (дистилляты 14–32B). Модель «думает» перед ответом, сильна в логике и математике.
- Универсальный ассистент, работа с русским — Qwen2.5-14B/32B. Отлично держит русский язык и следует инструкциям.
- Максимум качества, есть бюджет на железо — Qwen2.5-72B на двух RTX 4090 или A100.
Подберём версию и железо за вас
Скажем честно, какая версия DeepSeek или Qwen закроет вашу задачу и на какой видеокарте, развернём и отдадим готовый API.
Как развернуть на сервере
Обе модели поднимаются стандартными инструментами — руками собирать ничего не нужно:
- Ollama — самый простой старт:
ollama run qwen2.5:14bилиollama run deepseek-r1:32b, и модель отвечает по API. Подробно — в гайде как запустить Ollama на сервере. - vLLM — под продакшн с потоком запросов: быстрый батчинг, выше пропускная способность.
- Дистилляты DeepSeek-R1 распространяются как обычные модели Qwen/Llama — запускаются тем же способом, что и базовые.
Требования к памяти под конкретную версию мы разбирали в статье какая видеокарта нужна для LLM, а выбор между картами — в разборе A100 vs H100 vs RTX 4090.
Приватность и юрисдикция
Ключевое преимущество своего сервера — данные и модель никуда не уходят. Запросы к DeepSeek или Qwen не отправляются в внешние облака: всё считается в вашей инфраструктуре в российском дата-центре. Это снимает вопросы 152-ФЗ и коммерческой тайны и не зависит от доступности зарубежных API.
Где взять сервер
Нужен GPU-сервер с видеокартой под выбранную версию, root-доступом и свежими драйверами NVIDIA. Friend IT даёт серверы для LLM (RTX 4090 / A100 / H100) в собственном дата-центре в Москве: подберём версию модели и железо под неё, развернём через Ollama или vLLM и поможем подключить по API. Код и данные остаются в РФ. Начать можно с одной RTX 4090 под Qwen2.5-32B и масштабироваться под нагрузку.
Частые вопросы
Можно ли развернуть полный DeepSeek-V3 или R1 у себя?
Полные версии — это MoE-модели на сотни миллиардов параметров, для них нужен кластер H100. На практике на своём сервере разворачивают дистиллированные версии R1 (7–32B) — они дают почти то же качество при доступном железе.
Что лучше для кодинга — DeepSeek или Qwen?
Для разработки чаще берут Qwen2.5-Coder: сильное качество при небольших требованиях к VRAM. DeepSeek-R1 хорош там, где важны рассуждения и сложная логика.
Насколько хорошо эти модели знают русский?
Qwen2.5 отлично держит русский даже в версиях 7–14B. DeepSeek тоже уверенно работает с русским. Обе подходят для русскоязычных ассистентов и обработки документов.
Какая видеокарта нужна для старта?
Для Qwen2.5-14B достаточно RTX 4090 (24 ГБ). На ней же в 4-битной квантизации помещается 32B. Под 72B нужны две карты или A100 80 ГБ.
Данные точно не уходят в Китай или облако?
Нет. Модель работает полностью локально на вашем сервере: веса скачиваются один раз, дальше все запросы считаются на месте, без обращения к внешним API. Сервер физически в Москве.