RTX 3090, RTX 4090 или A100: что выбрать
Коротко: RTX 3090 — самый дешёвый способ держать модели до 32B (24 900 ₽/мес), RTX 4090 — те же 24 ГБ, но в 1,5–2 раза быстрее (44 900 ₽/мес), A100 80 ГБ — когда модель не помещается в 24–48 ГБ или нужно серьёзное обучение. Ниже — таблица и подбор под задачу.
Сравнение
Три карты в одной таблице
| RTX 3090 | RTX 4090 | A100 80 ГБ | |
|---|---|---|---|
| Видеопамять | 24 ГБ GDDR6X | 24 ГБ GDDR6X | 80 ГБ HBM2e, ECC |
| Пропускная способность памяти | ≈ 0,94 ТБ/с | ≈ 1 ТБ/с | ≈ 2 ТБ/с |
| Скорость в LLM и SD | базовая | ≈ в 1,5–2 раза быстрее 3090 | выше на больших моделях и батчах |
| LLM, что помещается | до 14B, 32B в 4-bit | до 14B, 32B в 4-bit | 70B в 8-bit |
| Объединение карт | — | 2×, 4× в одном сервере | NVLink, 160 ГБ+ |
| Аренда сервера / мес | 24 900 ₽ | 44 900 ₽ · 2× — 84 900 ₽ | по расчёту |
| Тест перед арендой | 3 часа бесплатно | 3 часа бесплатно | по согласованию |
Скорость — ориентир по типовым задачам; точнее покажет тест на вашей модели. При договоре от 12 месяцев скидка 15%.
Подбор
Какую карту брать под задачу
Вопросы и ответы
Частые вопросы
RTX 3090 или RTX 4090 — что выбрать для нейросетей?
Если модель помещается в 24 ГБ и скорость не критична — RTX 3090: она почти вдвое дешевле (24 900 против 44 900 ₽/мес). Если важны скорость ответа, поток пользователей или быстрая генерация картинок — RTX 4090: она примерно в 1,5–2 раза быстрее при той же памяти.
Когда нужна A100, а не 4090?
Когда модели нужно больше 48 ГБ видеопамяти одной сборкой, нужна память с коррекцией ошибок (ECC) и NVLink, или предстоит полноценное обучение крупных моделей. Для инференса 70B в 4-битной квантизации часто хватает 2×RTX 4090 за 84 900 ₽/мес.
Можно проверить скорость до аренды?
Да, даём бесплатный тест 3 часа на RTX 3090 или RTX 4090: запускаете свою модель и сравниваете сами.
Почему у 3090 и 4090 одинаково помещаются модели?
Объём памяти у обеих 24 ГБ, а именно он определяет, какая модель поместится. Отличается скорость: у 4090 новее архитектура и выше вычислительная мощность.
Подобрать видеокарту
Назовите модель и нагрузку — посоветуем карту и дадим тест на 3 часа. Бесплатно.