RTX 4090Производительный класс GPU
24 ГБGDDR6X
от 17,90 ₽/час
≈ 13 067 ₽ / мес
Файнтюнинг и LoRAИнференс и API в продакшене3D, рендер и видеомонтаж
LLM
GPU для T-pro
Открытая русскоязычная ~32B от T-Bank. Веса на Hugging Face (t-tech). Запуск: vLLM, llama.cpp, Ollama.
Требования к VRAM
24 ГБ
Минимум
Базовая работа, медленнее
40 ГБ
Рекомендуется
Комфортная работа
GPU от
17,90 ₽/час
API от
8,2 ₽/1M
без своего сервера · у агрегаторов
- Минимум VRAM
- 24 ГБ
- Рекомендуется
- 40 ГБ
- Подходит GPU
- 31
Свой сервер: GPU для T-pro
31 видеокарта с VRAM ≥ 24 ГБ
152 предложения →
RTX A5000Производительный класс GPU
24 ГБGDDR6
от 24,26 ₽/час
≈ 17 710 ₽ / мес
Файнтюнинг и LoRAИнференс и API в продакшене3D, рендер и видеомонтаж
RTX 5090Производительный класс GPU
32 ГБGDDR7
от 24,75 ₽/час
≈ 18 066 ₽ / мес
Файнтюнинг и LoRAИнференс и API в продакшене3D, рендер и видеомонтаж
A10Средний класс GPU
24 ГБGDDR6
от 25,68 ₽/час
≈ 18 746 ₽ / мес
Инференс и API в продакшене3D, рендер и видеомонтаж
RTX 3090Средний класс GPU
24 ГБGDDR6X
от 29,17 ₽/час
≈ 21 294 ₽ / мес
Файнтюнинг и LoRAИнференс и API в продакшене3D, рендер и видеомонтаж
Radeon RX 7900 XTXПроизводительный класс GPU
24 ГБGDDR6
от 32,50 ₽/час
≈ 23 725 ₽ / мес
Инференс и API в продакшене3D, рендер и видеомонтаж
Tesla K80Средний класс GPU
24 ГБGDDR5
от 33,74 ₽/час
≈ 24 630 ₽ / мес
Инференс и API в продакшене3D, рендер и видеомонтаж
Radeon AI PRO R9700Производительный класс GPU
32 ГБGDDR6
от 34,33 ₽/час
≈ 25 063 ₽ / мес
Инференс и API в продакшене3D, рендер и видеомонтаж
Tesla V100Производительный класс GPU
32 ГБHBM2
от 35,58 ₽/час
vGPU от 4,78 ₽/час
≈ 25 973 ₽ / мес
Обучение моделей с нуляФайнтюнинг и LoRAИнференс и API в продакшене
L4Средний класс GPU
24 ГБGDDR6
от 35,77 ₽/час
vGPU от 6,63 ₽/час
≈ 26 112 ₽ / мес
Инференс и API в продакшене
Tesla M10Средний класс GPU
32 ГБGDDR5
от 36,15 ₽/час
vGPU от 6,56 ₽/час
≈ 26 390 ₽ / мес
Инференс и API в продакшене3D, рендер и видеомонтаж
Tesla P40Средний класс GPU
24 ГБGDDR5
от 58,90 ₽/час
≈ 42 997 ₽ / мес
Инференс и API в продакшене3D, рендер и видеомонтаж
RTX 5000 ADAПроизводительный класс GPU
32 ГБGDDR6
от 72,31 ₽/час
≈ 52 783 ₽ / мес
Обучение моделей с нуляФайнтюнинг и LoRAИнференс и API в продакшене3D, рендер и видеомонтаж
A30Средний класс GPU
24 ГБHBM2
от 89,00 ₽/час
≈ 64 970 ₽ / мес
Обучение моделей с нуляФайнтюнинг и LoRAИнференс и API в продакшене
RTX A6000Производительный класс GPU
48 ГБGDDR6
от 97,00 ₽/час
≈ 70 810 ₽ / мес
Обучение моделей с нуляФайнтюнинг и LoRAИнференс и API в продакшене3D, рендер и видеомонтаж
RTX 6000Производительный класс GPU
48 ГБGDDR6
от 103,99 ₽/час
≈ 75 913 ₽ / мес
Обучение моделей с нуляФайнтюнинг и LoRAИнференс и API в продакшене3D, рендер и видеомонтаж
L40SПроизводительный класс GPU
48 ГБGDDR6
от 106,25 ₽/час
vGPU от 12,46 ₽/час
≈ 77 563 ₽ / мес
Обучение моделей с нуляФайнтюнинг и LoRAИнференс и API в продакшене3D, рендер и видеомонтаж
L40Производительный класс GPU
48 ГБGDDR6
от 110,72 ₽/час
≈ 80 826 ₽ / мес
Обучение моделей с нуляФайнтюнинг и LoRAИнференс и API в продакшене3D, рендер и видеомонтаж
A100 40GBПроизводительный класс GPU
40 ГБHBM2
от 113,42 ₽/час
≈ 82 797 ₽ / мес
Обучение моделей с нуляФайнтюнинг и LoRAИнференс и API в продакшене
A40Средний класс GPU
48 ГБGDDR6
от 127,00 ₽/час
≈ 92 710 ₽ / мес
Инференс и API в продакшене
RTX 6000 PROФлагманский класс GPU
96 ГБGDDR7
от 133,20 ₽/час
≈ 97 236 ₽ / мес
Обучение моделей с нуляФайнтюнинг и LoRAИнференс и API в продакшене3D, рендер и видеомонтаж
5000 PROПроизводительный класс GPU
72 ГБGDDR7
от 164,99 ₽/час
≈ 120 443 ₽ / мес
Инференс и API в продакшене3D, рендер и видеомонтаж
RTX 5880Средний класс GPU
48 ГБGDDR6
от 178,08 ₽/час
≈ 129 998 ₽ / мес
Обучение моделей с нуляИнференс и API в продакшене3D, рендер и видеомонтаж
A100 80GBФлагманский класс GPU
80 ГБHBM2e
от 185,00 ₽/час
≈ 135 050 ₽ / мес
Обучение моделей с нуляФайнтюнинг и LoRAИнференс и API в продакшене
H100Флагманский класс GPU
80 ГБHBM3
от 242,00 ₽/час
≈ 176 660 ₽ / мес
Обучение моделей с нуляФайнтюнинг и LoRAИнференс и API в продакшене
H100 NVLФлагманский класс GPU
94 ГБHBM3
от 364,74 ₽/час
≈ 266 257 ₽ / мес
Обучение моделей с нуляФайнтюнинг и LoRAИнференс и API в продакшене
H200Флагманский класс GPU
141 ГБHBM3e
от 375,00 ₽/час
≈ 273 750 ₽ / мес
Обучение моделей с нуляФайнтюнинг и LoRAИнференс и API в продакшене
B200Флагманский класс GPU
180 ГБHBM3e
от 842,16 ₽/час
≈ 614 777 ₽ / мес
Обучение моделей с нуляФайнтюнинг и LoRAИнференс и API в продакшене
B300Флагманский класс GPU
288 ГБHBM3e
от 941,78 ₽/час
≈ 687 500 ₽ / мес
Обучение моделей с нуляФайнтюнинг и LoRAИнференс и API в продакшене
A16Средний класс GPU
64 ГБGDDR6
от 10,22 ₽/час · vGPU
≈ 7 461 ₽ / мес
Инференс и API в продакшене3D, рендер и видеомонтаж
5000 PRO 48GBПроизводительный класс GPU
48 ГБGDDR7
нет данных
—— / мес
Инференс и API в продакшене3D, рендер и видеомонтаж
| GPU | Память | Применение | ₽/час↑ | ≈ в месяц | |
|---|---|---|---|---|---|
RTX 4090Производительный класс GPU | 24 ГБGDDR6X | Файнтюнинг и LoRAИнференс и API в продакшене3D, рендер и видеомонтаж | от 17,90 ₽/час | ≈ 13 067 ₽ | 152 предложения → |
RTX A5000Производительный класс GPU | 24 ГБGDDR6 | Файнтюнинг и LoRAИнференс и API в продакшене3D, рендер и видеомонтаж | от 24,26 ₽/час | ≈ 17 710 ₽ | 67 предложений → |
RTX 5090Производительный класс GPU | 32 ГБGDDR7 | Файнтюнинг и LoRAИнференс и API в продакшене3D, рендер и видеомонтаж | от 24,75 ₽/час | ≈ 18 066 ₽ | 124 предложения → |
A10Средний класс GPU | 24 ГБGDDR6 | Инференс и API в продакшене3D, рендер и видеомонтаж | от 25,68 ₽/час | ≈ 18 746 ₽ | 22 предложения → |
RTX 3090Средний класс GPU | 24 ГБGDDR6X | Файнтюнинг и LoRAИнференс и API в продакшене3D, рендер и видеомонтаж | от 29,17 ₽/час | ≈ 21 294 ₽ | 30 предложений → |
Radeon RX 7900 XTXПроизводительный класс GPU | 24 ГБGDDR6 | Инференс и API в продакшене3D, рендер и видеомонтаж | от 32,50 ₽/час | ≈ 23 725 ₽ | 1 предложение → |
Tesla K80Средний класс GPU | 24 ГБGDDR5 | Инференс и API в продакшене3D, рендер и видеомонтаж | от 33,74 ₽/час | ≈ 24 630 ₽ | 1 предложение → |
Radeon AI PRO R9700Производительный класс GPU | 32 ГБGDDR6 | Инференс и API в продакшене3D, рендер и видеомонтаж | от 34,33 ₽/час | ≈ 25 063 ₽ | 3 предложения → |
Tesla V100Производительный класс GPU | 32 ГБHBM2 | Обучение моделей с нуляФайнтюнинг и LoRAИнференс и API в продакшене | от 35,58 ₽/час vGPU от 4,78 ₽/час | ≈ 25 973 ₽ | 38 предложений → |
L4Средний класс GPU | 24 ГБGDDR6 | Инференс и API в продакшене | от 35,77 ₽/час vGPU от 6,63 ₽/час | ≈ 26 112 ₽ | 33 предложения → |
Tesla M10Средний класс GPU | 32 ГБGDDR5 | Инференс и API в продакшене3D, рендер и видеомонтаж | от 36,15 ₽/час vGPU от 6,56 ₽/час | ≈ 26 390 ₽ | 4 предложения → |
Tesla P40Средний класс GPU | 24 ГБGDDR5 | Инференс и API в продакшене3D, рендер и видеомонтаж | от 58,90 ₽/час | ≈ 42 997 ₽ | 1 предложение → |
RTX 5000 ADAПроизводительный класс GPU | 32 ГБGDDR6 | Обучение моделей с нуляФайнтюнинг и LoRAИнференс и API в продакшене3D, рендер и видеомонтаж | от 72,31 ₽/час | ≈ 52 783 ₽ | 7 предложений → |
A30Средний класс GPU | 24 ГБHBM2 | Обучение моделей с нуляФайнтюнинг и LoRAИнференс и API в продакшене | от 89,00 ₽/час | ≈ 64 970 ₽ | 10 предложений → |
RTX A6000Производительный класс GPU | 48 ГБGDDR6 | Обучение моделей с нуляФайнтюнинг и LoRAИнференс и API в продакшене3D, рендер и видеомонтаж | от 97,00 ₽/час | ≈ 70 810 ₽ | 10 предложений → |
RTX 6000Производительный класс GPU | 48 ГБGDDR6 | Обучение моделей с нуляФайнтюнинг и LoRAИнференс и API в продакшене3D, рендер и видеомонтаж | от 103,99 ₽/час | ≈ 75 913 ₽ | 12 предложений → |
L40SПроизводительный класс GPU | 48 ГБGDDR6 | Обучение моделей с нуляФайнтюнинг и LoRAИнференс и API в продакшене3D, рендер и видеомонтаж | от 106,25 ₽/час vGPU от 12,46 ₽/час | ≈ 77 563 ₽ | 17 предложений → |
L40Производительный класс GPU | 48 ГБGDDR6 | Обучение моделей с нуляФайнтюнинг и LoRAИнференс и API в продакшене3D, рендер и видеомонтаж | от 110,72 ₽/час | ≈ 80 826 ₽ | 5 предложений → |
A100 40GBПроизводительный класс GPU | 40 ГБHBM2 | Обучение моделей с нуляФайнтюнинг и LoRAИнференс и API в продакшене | от 113,42 ₽/час | ≈ 82 797 ₽ | 15 предложений → |
A40Средний класс GPU | 48 ГБGDDR6 | Инференс и API в продакшене | от 127,00 ₽/час | ≈ 92 710 ₽ | 2 предложения → |
RTX 6000 PROФлагманский класс GPU | 96 ГБGDDR7 | Обучение моделей с нуляФайнтюнинг и LoRAИнференс и API в продакшене3D, рендер и видеомонтаж | от 133,20 ₽/час | ≈ 97 236 ₽ | 32 предложения → |
5000 PROПроизводительный класс GPU | 72 ГБGDDR7 | Инференс и API в продакшене3D, рендер и видеомонтаж | от 164,99 ₽/час | ≈ 120 443 ₽ | 2 предложения → |
RTX 5880Средний класс GPU | 48 ГБGDDR6 | Обучение моделей с нуляИнференс и API в продакшене3D, рендер и видеомонтаж | от 178,08 ₽/час | ≈ 129 998 ₽ | 1 предложение → |
A100 80GBФлагманский класс GPU | 80 ГБHBM2e | Обучение моделей с нуляФайнтюнинг и LoRAИнференс и API в продакшене | от 185,00 ₽/час | ≈ 135 050 ₽ | 50 предложений → |
H100Флагманский класс GPU | 80 ГБHBM3 | Обучение моделей с нуляФайнтюнинг и LoRAИнференс и API в продакшене | от 242,00 ₽/час | ≈ 176 660 ₽ | 47 предложений → |
H100 NVLФлагманский класс GPU | 94 ГБHBM3 | Обучение моделей с нуляФайнтюнинг и LoRAИнференс и API в продакшене | от 364,74 ₽/час | ≈ 266 257 ₽ | 4 предложения → |
H200Флагманский класс GPU | 141 ГБHBM3e | Обучение моделей с нуляФайнтюнинг и LoRAИнференс и API в продакшене | от 375,00 ₽/час | ≈ 273 750 ₽ | 22 предложения → |
B200Флагманский класс GPU | 180 ГБHBM3e | Обучение моделей с нуляФайнтюнинг и LoRAИнференс и API в продакшене | от 842,16 ₽/час | ≈ 614 777 ₽ | 3 предложения → |
B300Флагманский класс GPU | 288 ГБHBM3e | Обучение моделей с нуляФайнтюнинг и LoRAИнференс и API в продакшене | от 941,78 ₽/час | ≈ 687 500 ₽ | 4 предложения → |
A16Средний класс GPU | 64 ГБGDDR6 | Инференс и API в продакшене3D, рендер и видеомонтаж | от 10,22 ₽/час · vGPU | ≈ 7 461 ₽ | 4 предложения → |
5000 PRO 48GBПроизводительный класс GPU | 48 ГБGDDR7 | Инференс и API в продакшене3D, рендер и видеомонтаж | нет данных | — | — |
Без своего сервера - через API агрегаторов
Альтернатива аренде GPU: готовый API с оплатой в рублях
T-pro 2.1
от 8,2 ₽/1M за вход
вход 8,2 ₽/1M
выход 24,59 ₽/1M
t-tech/t-pro-2.1
| ID модели | ||||
|---|---|---|---|---|
| Intelion Cloud | t-tech/t-pro-2.1 | 8,2 ₽/1M | 24,59 ₽/1M | Перейти → |
Частые вопросы о запуске T-pro
Сколько VRAM нужно для запуска T-pro?+−
4-bit - от 24 ГБ (RTX 4090, L40S). FP16 - около 64 ГБ (A100/H100).
Как запустить T-pro на арендованном GPU?+−
vllm serve t-tech/T-pro - OpenAI-совместимый API. Для тестов - GGUF в llama.cpp или Ollama.
T-pro или T-lite / Vikhr-7B?+−
T-pro сильнее на сложных задачах (код, длинные тексты), но нужно от 24 ГБ VRAM вместо 6 ГБ. Для простых чат/RAG хватит T-lite или Vikhr-7B.
Можно ли дообучить T-pro?+−
QLoRA - одна карта 40-48 ГБ. Полный файнтюнинг в FP16 - 2-4 GPU по 80 ГБ.
Похожие инструменты
T-pro - открытая русскоязычная LLM на 32 млрд параметров от T-Bank. 4-bit (AWQ, GGUF) - от 24 ГБ VRAM (RTX 4090, L40S), FP16 - около 64 ГБ (A100/H100). Для serving - vLLM, для экспериментов - llama.cpp/Ollama. Цены на аренду подходящих GPU - в таблице на странице