Выделенный сервер с 2×NVIDIA A100

Пара A100 80GB, это 160 ГБ суммарного VRAM на проверенном ускорителе: конфигурация, которую десятилетием решают в файнтюнинге LLM и которая остаётся рабочей лошадкой даже после выхода новее поколений. Две карты дают то, чего не бывает у одной: tensor parallelism и запас памяти под модели, которые в 80 ГБ не помещаются. В Dedicated-режиме обе карты целиком ваши, без MIG-разбиения и соседей по vGPU. Конфигурацию 2×80 ГБ предлагает SpaceWeb за 538 400 ₽/мес.

2×80 ГБ, это суммарные 160 ГБ. Если карты связаны NVLink, tensor parallelism распределяет веса по обеим картам, и обмен градиентами идёт по быстрому межкарточному каналу, а суммарная память работает как единый пул. Если связь только по PCIe, суммарная память всё равно складывается в общий пул, но обмен данными медленнее. Поэтому прирост у пары — в первую очередь по объёму памяти, а скорость масштабирования зависит от того, как карты связаны у конкретного провайдера.

В 160 ГБ суммарного VRAM помещается инференс и файнтюнинг моделей класса 70B в 4-битной квантизации, полный файнтюнинг до 34B в FP16 и несколько средних моделей одновременно для сервинга. Это ровно тот объём, где A100 остаётся востребованной: 80 ГБ одной карты тесно для 34B в FP16, а пара снимает ограничение без перехода в топовый ценник.

Если задача помещается в 80 ГБ, одной A100 достаточно: от 135 120 ₽/мес у Timeweb Cloud, вдвое дешевле. Пара нужна, когда модель крупнее и не влезает в одну карту. По объёму 160 ГБ это аналог 2×H100 (160 ГБ): H100 от 522 300 ₽/мес быстрее в современных форматах, но A100 в паре за 538 400 ₽/мес, проверенный стек за меньшие деньги. Если нужен полный FP16 70B, это уже 4 карты (320 ГБ): смотрите 4×H100 от 986 100 ₽/мес.