Сервер для дообучения LLM и LoRA
Дообучите Qwen, Llama или Mistral на своих документах и диалогах: LoRA и QLoRA для моделей 7–14B идут на одной RTX 3090 за 24 900 ₽/мес, 32B и 70B — на 2×RTX 4090 или A100. Датасет не покидает наш дата-центр в Москве.
Модель → метод → сервер
Что на чём дообучается
| Модель | Метод | Видеопамять | Сервер | Цена / мес |
|---|---|---|---|---|
| 7–8B — Qwen3-8B, Llama 3.1 8B | QLoRA / LoRA | ~10–20 ГБ | RTX 3090 24 ГБ | 24 900 ₽ |
| 14B — Qwen3-14B | QLoRA | ~16–24 ГБ | RTX 3090 или RTX 4090 | от 24 900 ₽ |
| 32B — Qwen3-32B | QLoRA | ~32–48 ГБ | 2×RTX 4090 48 ГБ | 84 900 ₽ |
| 70B — Llama 3.3 70B | QLoRA | ~48–80 ГБ | 4×RTX 4090 или A100 80 ГБ | от 149 900 ₽ |
| SDXL, Flux | LoRA | ~16–24 ГБ | RTX 3090 24 ГБ | 24 900 ₽ |
Ориентир: расход памяти зависит от длины примеров, размера батча и ранга LoRA. Посчитаем под ваш датасет. При договоре от 12 месяцев скидка 15%.
Зачем дообучать
Модель, которая говорит на языке вашей компании
Термины и документы
Модель знает ваши продукты, регламенты и формулировки.
Стиль и формат ответов
Отвечает так, как отвечают ваши лучшие сотрудники.
Готовое окружение
Unsloth, Axolotl, LLaMA-Factory или ваш Docker-образ.
Датасет в РФ
Обучающие данные не уходят в зарубежные облака.
Вопросы и ответы
Частые вопросы
Какая видеокарта нужна для дообучения LLM?
QLoRA для моделей 7–14B укладывается в 24 ГБ — подходит RTX 3090 или RTX 4090. Для 32B нужно около 32–48 ГБ, это 2×RTX 4090. QLoRA для 70B и полное дообучение крупных моделей — на A100 80 ГБ и выше.
Чем LoRA отличается от полного дообучения?
LoRA обучает небольшие дополнительные веса поверх модели: нужно в разы меньше памяти и времени, а результат для большинства задач — стиль ответов, термины компании, формат — почти не уступает. Полное дообучение нужно редко и требует A100 или H100.
Какие инструменты поставите?
Драйверы, CUDA, PyTorch и нужный фреймворк — Unsloth, Axolotl, LLaMA-Factory или Hugging Face TRL; для картинок — kohya_ss. Можно прийти со своим Docker-образом.
Можно потом запустить дообученную модель на том же сервере?
Да. После обучения поднимаем модель через vLLM или Ollama и даём API — сервер работает и на обучение, и на ответы.
Сколько стоит?
RTX 3090 — 24 900 ₽/мес, RTX 4090 — 44 900 ₽/мес, 2×RTX 4090 — 84 900 ₽/мес, A100 — по расчёту. При договоре от 12 месяцев скидка 15%. Если обучение разовое на несколько дней, скажем честно, когда выгоднее почасовое облако.
Можно протестировать перед арендой?
Да, даём бесплатный тест на 3 часа на RTX 3090 или RTX 4090: запускаете свою задачу и смотрите скорость. Оставьте заявку — согласуем время.
Подобрать сервер под дообучение
Назовите модель, размер датасета и метод (LoRA, QLoRA, полное дообучение) — подберём конфигурацию. Бесплатно.