A100Passthrough
Cloud4Y · Россия
64 ГБ
25,90 ₽/час
18 648 ₽/мес
мин. 1 час
Облачный сервер с NVIDIA A100 40 ГБ
Облачный сервер с NVIDIA A100 40 ГБ: виртуальная машина с 40 ГБ памяти для обучения моделей и инференса, оплата за время работы.
от 25,9 ₽/час
от 18 648 ₽/мес
Выберите GPU
Перейти →
A100Passthrough
Selectel · Россия
40 ГБ
244,28 ₽/час
178 327,71 ₽/мес
6 vCPU / 87 ГБ RAM · мин. 1 месяц
A100Passthrough
Cloud.ru · Россия
40 ГБ
252,85 ₽/час
184 578,19 ₽/мес
24 vCPU / 220 ГБ RAM · мин. 1 месяц
A100Passthrough
Cloud4Y · Россия
40 ГБ × 2 = 80 ГБ
309,46 ₽/час
14 481 600 ₽/мес
≈ 154,73 ₽/час / карта
12 vCPU / 176 ГБ RAM · мин. 1 час
A100Passthrough
Selectel · Россия
40 ГБ × 2 = 80 ГБ
489,30 ₽/час
357 190,1 ₽/мес
≈ 244,65 ₽/час / карта
12 vCPU / 176 ГБ RAM · мин. 1 месяц
A100Passthrough
Cloud.ru · Россия
40 ГБ × 2 = 80 ГБ
505,54 ₽/час
369 042,19 ₽/мес
≈ 252,77 ₽/час / карта
48 vCPU / 440 ГБ RAM · мин. 1 месяц
A100Passthrough
Cloud4Y · Россия
40 ГБ × 4 = 160 ГБ
618,91 ₽/час
28 963 200 ₽/мес
≈ 154,73 ₽/час / карта
24 vCPU / 352 ГБ RAM · мин. 1 час
A100Passthrough
Selectel · Россия
40 ГБ × 4 = 160 ГБ
978,60 ₽/час
714 380,2 ₽/мес
≈ 244,65 ₽/час / карта
24 vCPU / 352 ГБ RAM · мин. 1 месяц
A100Passthrough
Cloud.ru · Россия
40 ГБ × 4 = 160 ГБ
1 010,92 ₽/час
737 970,19 ₽/мес
≈ 252,73 ₽/час / карта
96 vCPU / 880 ГБ RAM · мин. 1 месяц
A100Passthrough
Cloud4Y · Россия
40 ГБ × 8 = 320 ГБ
1 237,82 ₽/час
57 926 300 ₽/мес
≈ 154,73 ₽/час / карта
48 vCPU / 704 ГБ RAM · мин. 1 час
A100Passthrough
Selectel · Россия
40 ГБ × 8 = 320 ГБ
1 957,21 ₽/час
1 428 760,4 ₽/мес
≈ 244,65 ₽/час / карта
48 vCPU / 704 ГБ RAM · мин. 1 месяц
| GPU | vCPU / RAM | Тариф | ||
|---|---|---|---|---|
A100Passthrough Cloud4Y · Россия 64 ГБ | - | мин. 1 час | 25,90 ₽/час 18 648 ₽/мес | Перейти → |
A100Passthrough Selectel · Россия 40 ГБ | 6 vCPU / 87 ГБ RAM | мин. 1 месяц | 244,28 ₽/час 178 327,71 ₽/мес | Перейти → |
A100Passthrough Cloud.ru · Россия 40 ГБ | 24 vCPU / 220 ГБ RAM | мин. 1 месяц | 252,85 ₽/час 184 578,19 ₽/мес | Перейти → |
A100Passthrough Cloud4Y · Россия 40 ГБ × 2 = 80 ГБ | 12 vCPU / 176 ГБ RAM | мин. 1 час | 309,46 ₽/час 14 481 600 ₽/мес ≈ 154,73 ₽/час / карта | Перейти → |
A100Passthrough Selectel · Россия 40 ГБ × 2 = 80 ГБ | 12 vCPU / 176 ГБ RAM | мин. 1 месяц | 489,30 ₽/час 357 190,1 ₽/мес ≈ 244,65 ₽/час / карта | Перейти → |
A100Passthrough Cloud.ru · Россия 40 ГБ × 2 = 80 ГБ | 48 vCPU / 440 ГБ RAM | мин. 1 месяц | 505,54 ₽/час 369 042,19 ₽/мес ≈ 252,77 ₽/час / карта | Перейти → |
A100Passthrough Cloud4Y · Россия 40 ГБ × 4 = 160 ГБ | 24 vCPU / 352 ГБ RAM | мин. 1 час | 618,91 ₽/час 28 963 200 ₽/мес ≈ 154,73 ₽/час / карта | Перейти → |
A100Passthrough Selectel · Россия 40 ГБ × 4 = 160 ГБ | 24 vCPU / 352 ГБ RAM | мин. 1 месяц | 978,60 ₽/час 714 380,2 ₽/мес ≈ 244,65 ₽/час / карта | Перейти → |
A100Passthrough Cloud.ru · Россия 40 ГБ × 4 = 160 ГБ | 96 vCPU / 880 ГБ RAM | мин. 1 месяц | 1 010,92 ₽/час 737 970,19 ₽/мес ≈ 252,73 ₽/час / карта | Перейти → |
A100Passthrough Cloud4Y · Россия 40 ГБ × 8 = 320 ГБ | 48 vCPU / 704 ГБ RAM | мин. 1 час | 1 237,82 ₽/час 57 926 300 ₽/мес ≈ 154,73 ₽/час / карта | Перейти → |
A100Passthrough Selectel · Россия 40 ГБ × 8 = 320 ГБ | 48 vCPU / 704 ГБ RAM | мин. 1 месяц | 1 957,21 ₽/час 1 428 760,4 ₽/мес ≈ 244,65 ₽/час / карта | Перейти → |
Частые вопросы об аренде NVIDIA A100 40 ГБ
Сколько стоит аренда облачного сервера с NVIDIA A100 40 ГБ?+−
Цена зависит от числа карт и локации: 11 предложений и 3 провайдера, от 25,9 ₽/час и от 18 648 ₽/мес. Стоимость конкретной конфигурации смотрите в тарифе.
Чем конфигурация на 40 ГБ отличается от 64 ГБ?+−
Объём памяти задаёт предельный размер модели, батча и контекста. В конфигурациях встречаются 40 и 64 ГБ, точный объём указан в тарифе. Если 40 ГБ ограничивают задачу, смотрите версию на 80 ГБ или несколько карт с тензорным параллелизмом.
Passthrough или vGPU: что выбрать для A100?+−
Passthrough отдаёт карту целиком, vGPU делит её между арендаторами. Для обучения с полной загрузкой памяти нужен Passthrough; для инференса небольшой модели подойдёт доля, если она есть в тарифе. Формат доступа проверяйте при заказе.
Можно ли дообучить модель на 40 ГБ?+−
QLoRA для модели 7B при батче 1 и контексте до 2 тыс. токенов укладывается в 40 ГБ. Полный файнтюн 7B в FP16 требует около 80-100 ГБ с учётом оптимизатора и активаций: нужна карта с большим объёмом или несколько карт с тензорным параллелизмом.
Какие точности и фреймворки поддерживает A100?+−
Карта работает с FP16, BF16 и INT8. Конкретный набор зависит от версии CUDA, драйвера и сборки PyTorch, поэтому проверяйте образ перед запуском.
Чем облачный сервер отличается от выделенного?+−
В облаке вы арендуете виртуальный сервер с GPU и платите за время работы. Выделенный сервер занимает весь узел, и доступ к нему получает одна команда. Для полного контроля над железом смотрите выделенные конфигурации, для коротких задач и переменной нагрузки используйте облако.
На A100 6912 ядер CUDA, 432 тензорных ядра и пропускная способность памяти 1555 ГБ/с. Версия с 40 ГБ памяти рассчитана на обучение моделей, инференс и задачи HPC, где время работы упирается в обмен данных с памятью. Конфигурации различаются числом карт и объёмом памяти: встречаются варианты на 40 и 64 ГБ, объём указан в тарифе. Оплата может быть почасовой или месячной, доступен в Россия, список локаций: Россия. Память нескольких карт не суммируется сама по себе: для одной модели нужен тензорный или конвейерный параллелизм. Когда 40 ГБ ограничивают размер модели или батча, смотрите A100 с 80 ГБ и H100. Для инференса 7B в 4-битном квантовании при контексте до 2 тыс. токенов можно взять одну карту; для полного файнтюна выбирайте объём и число карт под задачу.