A16 - средний GPU с 64 ГБ GDDR6. Основные задачи: Инференс, Рендер. Высокая пропускная способность делает A16 отличным выбором для production-инференса с низкими задержками.

Стоимость аренды A16 начинается от 10,22 ₽/час в час. При непрерывной работе это ≈ 7 461 ₽ в месяц. Сейчас A16 предлагают 1 провайдеров. При почасовой тарификации можно останавливать сервер и платить только за реальное время.

С 64 ГБ VRAM A16 поддерживает загрузку моделей до ~32B параметров в FP16 или до ~96B в 4-bit квантовании (GGUF, AWQ, GPTQ). Отлично работают: Llama 3, Mistral, DeepSeek, Qwen, Stable Diffusion XL и другие открытые модели.

Dedicated — выделенный физический сервер с картой целиком (bare metal). Passthrough — полная карта в облачной ВМ через PCI passthrough, без шардинга. vGPU делит одну карту между арендаторами: дешевле, но производительность обычно ниже на 10–30%. Для обучения и тяжёлого инференса берите Dedicated или Passthrough.