Сервер для Qwen, DeepSeek и Llama
Запустите Qwen, DeepSeek или Llama на своей видеокарте и подключите по API, как облачную модель, только без оплаты за токены. Модели 7–14B и 32B в 4-битной квантизации работают на одной RTX 3090 за 24 900 ₽/мес, 70B — на 2×RTX 4090 за 84 900 ₽/мес. Сервер в Москве, данные остаются в РФ.
Модель → видеопамять → сервер
Какая модель на какой карте
| Модель | Видеопамять: 4-bit / fp16 | Сервер | Цена / мес |
|---|---|---|---|
| 7–8B — Qwen3-8B, Llama 3.1 8B, DeepSeek-R1 7B | ~6 / ~16 ГБ | RTX 3090 24 ГБ | 24 900 ₽ |
| 14B — Qwen3-14B, DeepSeek-R1 14B | ~10 / ~28 ГБ | RTX 3090 24 ГБ (4-bit или 8-bit) | 24 900 ₽ |
| 30–32B — Qwen3-32B, Qwen3-30B-A3B, DeepSeek-R1 32B | ~20 / ~64 ГБ | RTX 3090 или RTX 4090 (4-bit) | от 24 900 ₽ |
| 70B — Llama 3.3 70B, Qwen2.5-72B, DeepSeek-R1 70B | ~40–48 / ~140 ГБ | 2×RTX 4090 48 ГБ (4-bit) | 84 900 ₽ |
| 70B с длинным контекстом и многими пользователями | ~60–90 ГБ | 4×RTX 4090 96 ГБ | 149 900 ₽ |
| 671B — полные DeepSeek-V3 и R1 | сотни ГБ | кластер из карт по 80 ГБ | по расчёту |
4-bit — квантизация, которая почти не снижает качество и уменьшает расход памяти в 3–4 раза. Длинный контекст и одновременные запросы требуют дополнительной памяти — посчитаем под вашу нагрузку. При договоре от 12 месяцев скидка 15%.
Что входит
Модель работает как облачный API, но на вашем сервере
Ollama, vLLM, llama.cpp
Поднимаем движок и модель, даём API в формате OpenAI.
Без оплаты за токены
Фиксированная цена сервера вместо счёта за каждый запрос.
Любая открытая модель
Меняйте Qwen на DeepSeek или Llama без смены сервера.
Данные в РФ
Запросы и документы не уходят в зарубежные облака — 152-ФЗ.
Вопросы и ответы
Частые вопросы
Сколько видеопамяти нужно для Qwen 32B?
Qwen 32B в 4-битной квантизации занимает около 20 ГБ и помещается на одну карту 24 ГБ — RTX 3090 или RTX 4090, но для длинного контекста места остаётся немного. В полной точности (fp16) модели нужно около 64 ГБ — это 4×RTX 4090 или A100 80 ГБ.
Какой сервер нужен для DeepSeek?
Зависит от версии. Дистиллированные DeepSeek-R1 на 7–14B работают на одной RTX 3090, 32B — на одной карте 24 ГБ в 4-битной квантизации, 70B — на 2×RTX 4090. Полные DeepSeek-V3 и R1 (671B) требуют кластера из нескольких карт по 80 ГБ — такой собираем под проект.
Какая видеокарта нужна для Llama 70B?
Llama 70B в 4-битной квантизации занимает около 40 ГБ: подойдут 2×RTX 4090 (48 ГБ, 84 900 ₽/мес) или A100 80 ГБ. В fp16 модели нужно около 140 ГБ — это несколько A100.
Чем RTX 3090 отличается от RTX 4090 для LLM?
Видеопамяти у обеих 24 ГБ, поэтому помещаются одни и те же модели. RTX 4090 быстрее отвечает и держит больше одновременных запросов; RTX 3090 почти вдвое дешевле — 24 900 против 44 900 ₽/мес — и хорошо подходит для старта и внутренних сервисов.
Поможете развернуть модель?
Да. Ставим драйверы, CUDA и движок — Ollama, vLLM или llama.cpp, — поднимаем модель и даём API, совместимый с OpenAI: ваше приложение подключается, поменяв адрес и ключ.
Сколько стоит?
RTX 3090 — 24 900 ₽/мес, RTX 4090 — 44 900 ₽/мес, 2×RTX 4090 — 84 900 ₽/мес, 4×RTX 4090 — 149 900 ₽/мес. При договоре от 12 месяцев скидка 15%. Цена фиксированная, без оплаты за токены.
Можно протестировать перед арендой?
Да, даём бесплатный тест на 3 часа на RTX 3090 или RTX 4090: запускаете свою задачу и смотрите скорость. Оставьте заявку — согласуем время.
Подобрать сервер под модель
Назовите модель, размер и сколько запросов в минуту — подберём карту и назовём цену. Бесплатно.