Как выбрать GPU для обучения нейросетей в 2026

Коротко

Для обучения больших моделей берите H100 или A100 80GB: у них быстрая память HBM и поддержка NVLink. Для инференса и дообучения средних моделей достаточно L40S, A100 40GB или даже RTX 4090.

Память решает

Главный лимит: объём VRAM. Модель должна целиком помещаться в память карты (плюс место под активации и оптимизатор).

• До 7B параметров (инференс): RTX 4090 24GB, L4, A10
• 7–13B (обучение/файнтюн): A100 40GB, L40S 48GB
• 30B+ и продакшн-инференс: A100 80GB, H100 80GB
• 70B+ и кластеры: H100/H200, несколько карт через NVLink

Цена против скорости

Почасовая аренда H100 стоит примерно 160–550 ₽/час в зависимости от провайдера, A100 80GB от 124–320 ₽/час, RTX 4090 от 50 ₽/час. Для разовых экспериментов RTX 4090 выгоднее; для долгих прогонов считайте стоимость за эпоху, H100 нередко дешевле в пересчёте на результат.

Совет

Сравните цены на нашей странице GPU: один и тот же H100 у разных провайдеров отличается по цене в 2–3 раза.