Аренда GPU-сервера: как выбрать видеокарту под задачу
GPU-серверы стоят по-разному, и переплатить легко: взять H100 под задачу, где хватило бы RTX 4090, — или наоборот упереться в нехватку памяти. Разбираем, как подобрать видеокарту под конкретную задачу и не переплатить.
Аренда GPU-сервера — это почти всегда выбор между тремя вещами: сколько видеопамяти нужно, обучение это или инференс, и какой бюджет. Разберём по порядку, чтобы вы пришли к нам уже с пониманием нужной конфигурации.
Шаг 1. Обучение или инференс
Это главный вопрос — от него зависит всё остальное.
- Инференс (запуск готовой модели) — дешевле. Требования к памяти умеренные, часто хватает одной карты. Сюда относятся чат-боты, ассистенты, генерация картинок, обработка документов.
- Обучение и fine-tuning — дороже. Нужны больше VRAM, быстрая память с коррекцией ошибок (ECC) и часто несколько карт, объединённых через NVLink.
Если вы просто запускаете чужую модель — вам в сторону инференса и RTX 4090. Если обучаете свою — смотрите на A100 и H100.
Шаг 2. Сколько нужно видеопамяти (VRAM)
VRAM — главный ограничитель: если модель не помещается в память карты, она просто не запустится. Ориентир для инференса популярных задач:
| Задача | Видеокарта | Страница |
|---|---|---|
| Инференс LLM 7–32B, Stable Diffusion, рендеринг | RTX 4090 (24 ГБ) | RTX 4090 → |
| Инференс 70B, дообучение, fine-tuning | A100 (80 ГБ) | A100 → |
| Обучение крупных моделей, R&D | H100 (80 ГБ) | H100 → |
Модели 70B и больше можно уместить и на 2×RTX 4090 (48 ГБ) в квантизации — это дешевле A100. Подробнее — в статье про VRAM под LLM.
Не уверены, какая карта нужна?
Опишите задачу — подберём видеокарту и конфигурацию под неё, посчитаем цену. Данные остаются в РФ.
Шаг 3. Бюджет: аренда, покупка или облако
Три модели, коротко:
- Облако по часам — удобно для коротких экспериментов, но при работе 24/7 переплата: ставка за час × 720 часов выходит заметно дороже фиксированной аренды.
- Аренда выделенного GPU-сервера — фиксированная цена в месяц, данные в РФ, нет оплаты за токены. Оптимально для постоянной нагрузки.
- Покупка карт — большие вложения сразу плюс размещение и охлаждение. При договоре от 12 месяцев мы закупаем GPU под вас и ставим в свой ЦОД — это компромисс между арендой и покупкой.
Частые сценарии
- Свой чат-бот или ассистент — модель 7–14B на одной RTX 4090. Смотрите сервер для LLM.
- Обучение или дообучение нейросети — A100/H100. Смотрите сервер для нейросетей.
- Генерация изображений, рендеринг — RTX 4090 с запасом.
Итог: начните с задачи и размера модели, а не с названия карты. В 80% бизнес-сценариев «сладкая точка» — это RTX 4090; A100 и H100 нужны там, где без большой памяти и обучения не обойтись.
Частые вопросы
Какой GPU-сервер выбрать для запуска LLM?
Для моделей 7–32B достаточно одной RTX 4090 (24 ГБ), для 70B — 2×4090 или A100 (80 ГБ). Подберём под конкретную модель и нагрузку.
Чем аренда GPU выгоднее облака по часам?
При постоянной работе почасовое облако дороже: ставка за час, умноженная на 720 часов в месяц, заметно превышает фиксированную аренду. Плюс данные остаются в России.
Нужной карты нет в тарифах — что делать?
Соберём под задачу: RTX 3090, A6000, L40S, A100, H100 и мульти-GPU. При договоре от 12 месяцев закупаем карты под вас и ставим в наш дата-центр.