GPUИндекс

Выделенный сервер L4

L4: 24 ГБ GDDR6, 72 Вт и один слот, архитектура Ada Lovelace. В выделенном сервере карта отдана целиком, без шардинга и соседей: NVENC и NVDEC работают только на ваш поток задач.

от 30 744 ₽/мес

Выберите GPU

L4Сбросить
L4
1Dedic
24 ГБ × 2 = 48 ГБ
96 100 ₽/мес
≈ 48 050 ₽/мес / карта
Перейти →

32 vCPU / 32 ГБ RAM · Россия

L4
1Dedic
24 ГБ × 3 = 72 ГБ
114 900 ₽/мес
≈ 38 300 ₽/мес / карта
Перейти →

32 vCPU / 32 ГБ RAM · Россия

L4
1Dedic
24 ГБ × 4 = 96 ГБ
133 700 ₽/мес
≈ 33 425 ₽/мес / карта
Перейти →

32 vCPU / 32 ГБ RAM · Россия

L4
Yandex Cloud
24 ГБ
139 825 ₽/мес
Перейти →

36 vCPU / 256 ГБ RAM · Россия

L4
1Dedic
24 ГБ × 5 = 120 ГБ
152 500 ₽/мес
≈ 30 500 ₽/мес / карта
Перейти →

32 vCPU / 32 ГБ RAM · Россия

L4
1Dedic
24 ГБ × 6 = 144 ГБ
171 300 ₽/мес
≈ 28 550 ₽/мес / карта
Перейти →

32 vCPU / 32 ГБ RAM · Россия

L4
1Dedic
24 ГБ × 7 = 168 ГБ
190 100 ₽/мес
≈ 27 157 ₽/мес / карта
Перейти →

32 vCPU / 32 ГБ RAM · Россия

L4
1Dedic
24 ГБ × 8 = 192 ГБ
208 900 ₽/мес
≈ 26 113 ₽/мес / карта
Перейти →

32 vCPU / 32 ГБ RAM · Россия

Частые вопросы о выделенном сервере с NVIDIA L4

Хватит ли L4 для инференса языковых моделей?+
24 ГБ хватает на модели примерно до 13B в 4-битной квантизации и на батч моделей 7B. Для 70B и полного обучения нужна карта с 80 ГБ и NVLink, а не L4.
Что даёт NVENC и NVDEC на L4?+
L4 кодирует и декодирует видео, включая AV1, и выдерживает много одновременных потоков при 72 Вт. Это делает карту рабочей для транскодинга, стриминга и видеоконференций.
Можно ли обучать модели на L4?+
Только небольшие эксперименты. Отсутствие NVLink, 24 ГБ памяти и низкое энергопотребление ограничивают полное обучение: для тренировки берут A100 или H100.
Чем выделенный сервер с L4 отличается от vGPU?+
В vGPU одну физическую карту делят между виртуальными машинами, и при пике у соседей доля ресурсов падает. В выделенном сервере L4 принадлежит одной задаче, поэтому задержка кодирования и инференса предсказуема.