GPUИндекс

Выделенный сервер RTX A2000

RTX A2000 несёт 3328 ядер CUDA и 6 или 12 ГБ GDDR6 на низкопрофильной плате. Выделенный сервер с ней берут под лёгкий инференс, CUDA-разработку и транскодинг: карта не делится между арендаторами, а узел собирают от одной до восьми карт.

от 14 150 ₽/мес

Выберите GPU

RTX A2000Сбросить
RTX A2000
EKACOD
6 ГБ
14 150 ₽/мес
Перейти →

16 vCPU / 32 ГБ RAM · Россия

RTX A2000
EKACOD
6 ГБ
15 550 ₽/мес
Перейти →

16 vCPU / 64 ГБ RAM · Россия

RTX A2000
EKACOD
6 ГБ
16 940 ₽/мес
Перейти →

8 vCPU / 64 ГБ RAM · Россия

RTX A2000
Selectel
6 ГБ
17 600 ₽/мес
Перейти →

4 vCPU / 32 ГБ RAM · Россия

RTX A2000
EKACOD
6 ГБ
18 690 ₽/мес
Перейти →

24 vCPU / 32 ГБ RAM · Россия

RTX A2000
EKACOD
6 ГБ
19 330 ₽/мес
Перейти →

24 vCPU / 32 ГБ RAM · Россия

RTX A2000
HandyHost
6 ГБ
20 299 ₽/мес
Перейти →

4 vCPU / 32 ГБ RAM · Россия

RTX A2000
EKACOD
6 ГБ
23 590 ₽/мес
Перейти →

16 vCPU / 96 ГБ RAM · Россия

RTX A2000
EKACOD
6 ГБ
28 590 ₽/мес
Перейти →

44 vCPU / 96 ГБ RAM · Россия

Частые вопросы о выделенном сервере с RTX A2000

Поместится ли модель на 7B в 12 ГБ?+
В 4-битной квантизации веса такой модели занимают около 4 ГБ, остальное уходит под KV-кэш и батч. Короткий контекст и небольшой батч влезают, длинный контекст упирается в память: тогда нужна карта с большим объёмом.
Чем версия на 12 ГБ отличается от 6 ГБ?+
Шиной и пропускной способностью: у 12 ГБ 192 бита и около 288 ГБ/с, у 6 ГБ 128 бит и около 192 ГБ/с. Для инференса и рендера полезнее 12 ГБ, для транскодинга и CUDA-разработки хватает 6 ГБ.
Подходит ли A2000 для обучения?+
Для обучения больших моделей нет: 12 ГБ мало под веса, градиенты и состояния оптимизатора. Реально идут файнтюнинг через LoRA для моделей до нескольких миллиардов параметров и обучение небольших сетей.
Когда вместо выделенной карты хватит vGPU?+
vGPU делит одну карту между несколькими арендаторами и подходит под короткие задачи: разработка, тесты, редкий инференс. Если процесс один и упирается в память или нужен ровный отклик, выделенный сервер с целой A2000 проще.