GPUИндекс
LLM

GPU для Llama 70B

Открытая плотная 70B от Meta (линейка 3.3 / 3.1). Базовый размер для своего API: влезает в одну карту 80 ГБ в FP8 или в 40–48 ГБ в AWQ/Q4. Запуск: vLLM, TGI, llama.cpp.

Требования к VRAM

40 ГБ
Минимум
Q4/AWQ, A100 40 ГБ или L40S
80 ГБ
Рекомендуется
FP8 на одной H100 80 ГБ

GPU от

25,90 ₽/час

Выделенный от 24 591 ₽/мес

API от 900 ₽/1M

Минимум VRAM
40 ГБ
Рекомендуется
80 ГБ
Подходит GPU
19
Сайт проекта →

Свой сервер: GPU для Llama 70B

19 видеокарт с VRAM ≥ 40 ГБ

Все GPU →
A100
40 ГБHBM2
от 25,90 ₽/час
≈ 18 907 ₽ / мес
12 предложений →
5000 PRO
72 ГБGDDR7
от 33,69 ₽/час
≈ 24 594 ₽ / мес
4 предложения →
RTX 4090
48 ГБGDDR6X
от 63,08 ₽/час
≈ 46 048 ₽ / мес
20 предложений →
RTX A6000
48 ГБGDDR6
от 97,00 ₽/час
≈ 70 810 ₽ / мес
7 предложений →
RTX 6000
48 ГБGDDR6
от 103,99 ₽/час
≈ 75 913 ₽ / мес
12 предложений →
L40S
48 ГБGDDR6
от 106,25 ₽/час
vGPU от 12,46 ₽/час
≈ 77 563 ₽ / мес
17 предложений →
L40
48 ГБGDDR6
от 110,72 ₽/час
≈ 80 826 ₽ / мес
5 предложений →
A40
48 ГБGDDR6
от 127,00 ₽/час
≈ 92 710 ₽ / мес
2 предложения →
RTX 6000 PRO
96 ГБGDDR7
от 134,75 ₽/час
≈ 98 368 ₽ / мес
34 предложения →
H200
141 ГБHBM3e
от 136,16 ₽/час
≈ 99 397 ₽ / мес
25 предложений →
A100
80 ГБHBM2e
от 185,00 ₽/час
≈ 135 050 ₽ / мес
49 предложений →
H100
80 ГБHBM3
от 242,00 ₽/час
≈ 176 660 ₽ / мес
40 предложений →
H100 NVL
94 ГБHBM3
от 364,74 ₽/час
≈ 266 257 ₽ / мес
4 предложения →
H200 NVL
141 ГБHBM3e
от 569,59 ₽/час
≈ 415 801 ₽ / мес
2 предложения →
B200
180 ГБHBM3e
от 842,16 ₽/час
≈ 614 777 ₽ / мес
3 предложения →
B300
288 ГБHBM3e
от 1 100,42 ₽/час
≈ 803 307 ₽ / мес
3 предложения →
A16
64 ГБGDDR6
от 10,22 ₽/час · vGPU
≈ 7 461 ₽ / мес
10 предложений →
RTX 5880
48 ГБGDDR6
-
- / мес
5000 PRO 48GB
48 ГБGDDR7
-
- / мес

Выделенный сервер под Llama 70B

Физический сервер, карта целиком ваша. Без соседей на GPU.

Все выделенные →
1Dedic
48 ГБ × 2 = 96 ГБ
92 100 ₽/мес
≈ 46 050 ₽/мес / карта
Перейти →

8 vCPU / 32 ГБ RAM · Россия

IHC (Интернет Хостинг Центр)
48 ГБ × 2 = 96 ГБ
120 000 ₽/мес
≈ 60 000 ₽/мес / карта
Перейти →

256 ГБ RAM · Россия

1Dedic
48 ГБ × 2 = 96 ГБ
171 780 ₽/мес
≈ 85 890 ₽/мес / карта
Перейти →

32 vCPU / 32 ГБ RAM · Россия

1Dedic
48 ГБ × 2 = 96 ГБ
190 900 ₽/мес
≈ 95 450 ₽/мес / карта
Перейти →

32 vCPU / 32 ГБ RAM · Россия

SpaceWeb
48 ГБ × 2 = 96 ГБ
199 000 ₽/мес
≈ 99 500 ₽/мес / карта
Перейти →

36 vCPU / 256 ГБ RAM · Россия

1Dedic
48 ГБ × 2 = 96 ГБ
204 100 ₽/мес
≈ 102 050 ₽/мес / карта
Перейти →

32 vCPU / 32 ГБ RAM · Россия

IHC (Интернет Хостинг Центр)
80 ГБ
220 000 ₽/мес
Перейти →

512 ГБ RAM · Россия

1Dedic
48 ГБ × 3 = 144 ГБ
257 100 ₽/мес
≈ 85 700 ₽/мес / карта
Перейти →

32 vCPU / 32 ГБ RAM · Россия

1Dedic
48 ГБ × 3 = 144 ГБ
276 900 ₽/мес
≈ 92 300 ₽/мес / карта
Перейти →

32 vCPU / 32 ГБ RAM · Россия

1Dedic
48 ГБ × 4 = 192 ГБ
323 300 ₽/мес
≈ 80 825 ₽/мес / карта
Перейти →

32 vCPU / 32 ГБ RAM · Россия

1Dedic
48 ГБ × 4 = 192 ГБ
349 700 ₽/мес
≈ 87 425 ₽/мес / карта
Перейти →

32 vCPU / 32 ГБ RAM · Россия

1Dedic
80 ГБ × 2 = 160 ГБ
522 300 ₽/мес
≈ 261 150 ₽/мес / карта
Перейти →

32 vCPU / 32 ГБ RAM · Россия

SpaceWeb
80 ГБ × 2 = 160 ГБ
538 400 ₽/мес
≈ 269 200 ₽/мес / карта
Перейти →

16 vCPU / 512 ГБ RAM · Россия

1Dedic
80 ГБ × 3 = 240 ГБ
754 200 ₽/мес
≈ 251 400 ₽/мес / карта
Перейти →

32 vCPU / 32 ГБ RAM · Россия

1Dedic
80 ГБ × 4 = 320 ГБ
986 100 ₽/мес
≈ 246 525 ₽/мес / карта
Перейти →

32 vCPU / 32 ГБ RAM · Россия

Selectel
141 ГБ × 8 = 1128 ГБ
4 091 570 ₽/мес
≈ 511 446 ₽/мес / карта
Перейти →

96 vCPU / 768 ГБ RAM · Россия

Selectel
141 ГБ × 8 = 1128 ГБ
6 500 000 ₽/мес
≈ 812 500 ₽/мес / карта
Перейти →

96 vCPU / 2048 ГБ RAM · Россия

Selectel
288 ГБ × 8 = 2304 ГБ
9 000 000 ₽/мес
≈ 1 125 000 ₽/мес / карта
Перейти →

128 vCPU / 2048 ГБ RAM · Россия

Облачный сервер под Llama 70B

Виртуальная машина: полная карта (Passthrough) или доля (vGPU). Удобно взять на час.

Все облачные →
A100Passthrough
Cloud4Y
64 ГБ
25,90 ₽/час
18 648 ₽/мес
Перейти →

мин. 1 час · Россия

RTX 4090Passthrough
IQHost
48 ГБ
67,50 ₽/час
42 240 ₽/мес
1 620,00 ₽/день
Перейти →

мин. 1 сутки · Россия

RTX 4090Passthrough
FirstVDS
48 ГБ
85,63 ₽/час
61 500 ₽/мес
2 055,12 ₽/день
Перейти →

16 vCPU / 32 ГБ RAM · мин. 1 сутки · Россия

RTX A6000Passthrough
HOSTKEY
48 ГБ
97,00 ₽/час
58 000 ₽/мес
Перейти →

16 vCPU / 128 ГБ RAM · мин. 1 час · Россия

L40SPassthrough
FirstVDS
48 ГБ
106,25 ₽/час
77 100 ₽/мес
2 550,00 ₽/день
Перейти →

16 vCPU / 32 ГБ RAM · мин. 1 сутки · Россия

RTX 4090Passthrough
Intelion Cloud
48 ГБ
107,92 ₽/час
72 520 ₽/мес
Перейти →

18 vCPU / 64 ГБ RAM · мин. 1 час · Россия

RTX A6000Passthrough
NetAngels
48 ГБ
109,29 ₽/час
78 691,1 ₽/мес
Перейти →

8 vCPU / 16 ГБ RAM · мин. 1 месяц · Россия

L40SPassthrough
mClouds
48 ГБ
130,42 ₽/час
89 900 ₽/мес
Перейти →

8 vCPU / 64 ГБ RAM · мин. 1 месяц · Россия

RTX A6000Passthrough
NetAngels
48 ГБ
135,31 ₽/час
97 425,22 ₽/мес
Перейти →

24 vCPU / 64 ГБ RAM · мин. 1 месяц · Россия

H200Passthrough
VK Cloud
141 ГБ
136,16 ₽/час
99 399 ₽/мес
Перейти →

44 vCPU / 256 ГБ RAM · мин. 1 месяц · Россия

L40SPassthrough
mClouds
48 ГБ
140,96 ₽/час
102 900 ₽/мес
Перейти →

8 vCPU / 96 ГБ RAM · мин. 1 месяц · Россия

RTX 4090Passthrough
Selectel
48 ГБ
146,42 ₽/час
106 889,89 ₽/мес
Перейти →

12 vCPU / 64 ГБ RAM · мин. 1 месяц · Россия

RTX 6000Passthrough
Selectel
48 ГБ
156,19 ₽/час
114 020,09 ₽/мес
Перейти →

12 vCPU / 64 ГБ RAM · мин. 1 месяц · Россия

RTX 4090Passthrough
Selectel
48 ГБ
181,95 ₽/час
132 821,99 ₽/мес
Перейти →

24 vCPU / 128 ГБ RAM · мин. 1 месяц · Россия

RTX 6000Passthrough
Selectel
48 ГБ
191,72 ₽/час
139 952,19 ₽/мес
Перейти →

24 vCPU / 128 ГБ RAM · мин. 1 месяц · Россия

L40SPassthrough
Cloud4Y
48 ГБ
193,54 ₽/час
139 349 ₽/мес
Перейти →

мин. 1 час · Россия

A100Passthrough
HOSTKEY
80 ГБ
200,00 ₽/час
120 000 ₽/мес
Перейти →

16 vCPU / 224 ГБ RAM · мин. 1 час · Россия

5000 PROPassthrough
HOSTKEY
72 ГБ
200,00 ₽/час
120 000 ₽/мес
Перейти →

192 ГБ RAM · мин. 1 час · Россия

RTX 6000 PROPassthrough
Reg.Cloud
96 ГБ
205,07 ₽/час
149 703,32 ₽/мес
Перейти →

24 vCPU / 96 ГБ RAM · мин. 1 час · Россия

L40SPassthrough
VDSina
48 ГБ
208,63 ₽/час
150 210 ₽/мес
5 007,12 ₽/день
Перейти →

8 vCPU / 16 ГБ RAM · мин. 1 сутки · Россия

A100Passthrough
Immers.cloud
80 ГБ
211,77 ₽/час
152 474,4 ₽/мес
Перейти →

16 vCPU / 64 ГБ RAM · мин. 1 час · Россия

RTX 4090Passthrough
Intelion Cloud
48 ГБ × 2 = 96 ГБ
216,28 ₽/час
145 340 ₽/мес
≈ 108,14 ₽/час / карта
Перейти →

38 vCPU / 128 ГБ RAM · мин. 1 час · Россия

A100Passthrough
Reg.Cloud
80 ГБ
222,14 ₽/час
162 163,65 ₽/мес
Перейти →

16 vCPU / 128 ГБ RAM · мин. 1 час · Россия

A100Passthrough
Immers.cloud
80 ГБ
223,04 ₽/час
160 588,8 ₽/мес
Перейти →

16 vCPU / 128 ГБ RAM · мин. 1 час · Россия

RTX 6000 PROPassthrough
Reg.Cloud
96 ГБ
223,43 ₽/час
163 104,43 ₽/мес
Перейти →

32 vCPU / 128 ГБ RAM · мин. 1 час · Россия

A100Passthrough
Intelion Cloud
80 ГБ
226,04 ₽/час
151 900 ₽/мес
Перейти →

18 vCPU / 150 ГБ RAM · мин. 1 час · Россия

L40SPassthrough
VK Cloud
48 ГБ
237,70 ₽/час
173 519 ₽/мес
Перейти →

16 vCPU / 112 ГБ RAM · мин. 1 месяц · Россия

H100Passthrough
HOSTKEY
80 ГБ
242,00 ₽/час
145 000 ₽/мес
Перейти →

32 vCPU / 160 ГБ RAM · мин. 1 час · Россия

A100Passthrough
Selectel
40 ГБ
244,28 ₽/час
178 327,71 ₽/мес
Перейти →

6 vCPU / 87 ГБ RAM · мин. 1 месяц · Россия

RTX 6000 PROPassthrough
mClouds
96 ГБ
246,44 ₽/час
179 900 ₽/мес
Перейти →

8 vCPU / 128 ГБ RAM · мин. 1 месяц · Россия

RTX 6000 PROPassthrough
SmartCloud
96 ГБ
247,39 ₽/час
180 598 ₽/мес
Перейти →

16 vCPU / 128 ГБ RAM · мин. 1 месяц · Казахстан

A100Passthrough
Cloud.ru
40 ГБ
252,85 ₽/час
184 578,19 ₽/мес
Перейти →

24 vCPU / 220 ГБ RAM · мин. 1 месяц · Россия

RTX 6000 PROPassthrough
Reg.Cloud
96 ГБ
271,15 ₽/час
197 937,22 ₽/мес
Перейти →

64 vCPU / 192 ГБ RAM · мин. 1 час · Россия

A100Passthrough
Reg.Cloud
80 ГБ
273,72 ₽/час
199 812,61 ₽/мес
Перейти →

32 vCPU / 256 ГБ RAM · мин. 1 час · Россия

RTX 6000 PROPassthrough
Selectel
96 ГБ
289,79 ₽/час
211 547,14 ₽/мес
Перейти →

16 vCPU / 120 ГБ RAM · мин. 1 месяц · Россия

H100Passthrough
IQHost
80 ГБ
290,83 ₽/час
188 500 ₽/мес
6 979,92 ₽/день
Перейти →

мин. 1 сутки · Россия

RTX 4090Passthrough
Selectel
48 ГБ × 2 = 96 ГБ
292,85 ₽/час
213 779,79 ₽/мес
≈ 146,43 ₽/час / карта
Перейти →

24 vCPU / 128 ГБ RAM · мин. 1 месяц · Россия

H100Passthrough
Intelion Cloud
80 ГБ
299,11 ₽/час
201 000 ₽/мес
Перейти →

мин. 1 час · Россия

A100Passthrough
Cloud4Y
40 ГБ × 2 = 80 ГБ
309,46 ₽/час
14 481 600 ₽/мес
≈ 154,73 ₽/час / карта
Перейти →

12 vCPU / 176 ГБ RAM · мин. 1 час · Россия

A100Passthrough
Cloud.ru
80 ГБ
313,01 ₽/час
228 498,19 ₽/мес
Перейти →

20 vCPU / 125 ГБ RAM · мин. 1 месяц · Россия

RTX 6000Passthrough
Selectel
48 ГБ × 2 = 96 ГБ
324,47 ₽/час
236 862,45 ₽/мес
≈ 162,24 ₽/час / карта
Перейти →

36 vCPU / 128 ГБ RAM · мин. 1 месяц · Россия

RTX 6000 PROPassthrough
Selectel
96 ГБ
337,49 ₽/час
246 369,51 ₽/мес
Перейти →

32 vCPU / 180 ГБ RAM · мин. 1 месяц · Россия

RTX 4090Passthrough
Intelion Cloud
48 ГБ × 3 = 144 ГБ
337,50 ₽/час
226 800 ₽/мес
≈ 112,50 ₽/час / карта
Перейти →

58 vCPU / 300 ГБ RAM · мин. 1 час · Россия

H100Passthrough
Immers.cloud
80 ГБ
341,77 ₽/час
246 074,4 ₽/мес
Перейти →

16 vCPU / 64 ГБ RAM · мин. 1 час · Россия

RTX 6000 PROPassthrough
Servercore
96 ГБ
343,47 ₽/час
250 735,16 ₽/мес
Перейти →

16 vCPU / 120 ГБ RAM · мин. 1 месяц · Казахстан

H100Passthrough
Immers.cloud
80 ГБ
353,04 ₽/час
254 188,8 ₽/мес
Перейти →

16 vCPU / 128 ГБ RAM · мин. 1 час · Россия

H100Passthrough
Cloud4Y
80 ГБ
358,89 ₽/час
25 840 200 ₽/мес
Перейти →

мин. 1 час · Россия

RTX 4090Passthrough
Selectel
48 ГБ × 2 = 96 ГБ
363,90 ₽/час
265 643,98 ₽/мес
≈ 181,95 ₽/час / карта
Перейти →

48 vCPU / 256 ГБ RAM · мин. 1 месяц · Россия

A100Passthrough
Selectel
80 ГБ
364,30 ₽/час
265 942,29 ₽/мес
Перейти →

12 vCPU / 128 ГБ RAM · мин. 1 месяц · Россия

H100 NVLPassthrough
Immers.cloud
94 ГБ
367,41 ₽/час
264 535,2 ₽/мес
Перейти →

16 vCPU / 96 ГБ RAM · мин. 1 час · Россия

RTX 6000Passthrough
Selectel
48 ГБ × 2 = 96 ГБ
370,25 ₽/час
270 280,1 ₽/мес
≈ 185,13 ₽/час / карта
Перейти →

48 vCPU / 220 ГБ RAM · мин. 1 месяц · Россия

H200Passthrough
Intelion Cloud
141 ГБ
375,00 ₽/час
252 000 ₽/мес
Перейти →

мин. 1 час · Россия

H100 NVLPassthrough
Immers.cloud
94 ГБ
378,21 ₽/час
272 311,2 ₽/мес
Перейти →

24 vCPU / 128 ГБ RAM · мин. 1 час · Россия

RTX 6000 PROPassthrough
Servercore
96 ГБ
380,01 ₽/час
277 407,04 ₽/мес
Перейти →

32 vCPU / 180 ГБ RAM · мин. 1 месяц · Казахстан

A100Passthrough
Selectel
80 ГБ
380,29 ₽/час
277 610,95 ₽/мес
Перейти →

24 vCPU / 128 ГБ RAM · мин. 1 месяц · Россия

RTX 6000 PROPassthrough
Reg.Cloud
96 ГБ × 2 = 192 ГБ
382,58 ₽/час
279 279,78 ₽/мес
≈ 191,29 ₽/час / карта
Перейти →

32 vCPU / 128 ГБ RAM · мин. 1 час · Россия

L40SPassthrough
Pro-Data
48 ГБ
398,55 ₽/час
290 943,38 ₽/мес
Перейти →

20 vCPU / 128 ГБ RAM · мин. 1 месяц · Казахстан

RTX 6000 PROPassthrough
Pro-Data
96 ГБ
413,27 ₽/час
301 688,96 ₽/мес
Перейти →

20 vCPU / 128 ГБ RAM · мин. 1 месяц · Казахстан

H200Passthrough
Immers.cloud
141 ГБ
423,04 ₽/час
304 588,8 ₽/мес
Перейти →

16 vCPU / 128 ГБ RAM · мин. 1 час · Россия

A100Passthrough
Immers.cloud
80 ГБ × 2 = 160 ГБ
439,97 ₽/час
316 778,4 ₽/мес
≈ 219,99 ₽/час / карта
Перейти →

24 vCPU / 256 ГБ RAM · мин. 1 час · Россия

RTX 4090Passthrough
Intelion Cloud
48 ГБ × 4 = 192 ГБ
449,70 ₽/час
302 200 ₽/мес
≈ 112,43 ₽/час / карта
Перейти →

76 vCPU / 400 ГБ RAM · мин. 1 час · Россия

H200Passthrough
Immers.cloud
141 ГБ
449,97 ₽/час
323 978,4 ₽/мес
Перейти →

24 vCPU / 256 ГБ RAM · мин. 1 час · Россия

A100Passthrough
Intelion Cloud
80 ГБ × 2 = 160 ГБ
452,53 ₽/час
304 100 ₽/мес
≈ 226,27 ₽/час / карта
Перейти →

38 vCPU / 300 ГБ RAM · мин. 1 час · Россия

A100Passthrough
Yandex Cloud
80 ГБ
465,90 ₽/час
340 106,54 ₽/мес
Перейти →

28 vCPU / 119 ГБ RAM · мин. 1 час · Россия

A100Passthrough
Pro-Data
80 ГБ
480,01 ₽/час
350 405,27 ₽/мес
Перейти →

20 vCPU / 128 ГБ RAM · мин. 1 месяц · Казахстан

H200Passthrough
Cloud4Y
141 ГБ
480,99 ₽/час
34 631 100 ₽/мес
Перейти →

мин. 1 час · Россия

H100Passthrough
Selectel
80 ГБ
483,24 ₽/час
352 765,54 ₽/мес
Перейти →

12 vCPU / 128 ГБ RAM · мин. 1 месяц · Россия

A100Passthrough
Selectel
40 ГБ × 2 = 80 ГБ
489,30 ₽/час
357 190,1 ₽/мес
≈ 244,65 ₽/час / карта
Перейти →

12 vCPU / 176 ГБ RAM · мин. 1 месяц · Россия

RTX 6000 PROPassthrough
SmartCloud
96 ГБ × 2 = 192 ГБ
494,79 ₽/час
361 196 ₽/мес
≈ 247,40 ₽/час / карта
Перейти →

256 ГБ RAM · мин. 1 месяц · Казахстан

H100Passthrough
Selectel
80 ГБ
499,22 ₽/час
364 434,2 ₽/мес
Перейти →

24 vCPU / 128 ГБ RAM · мин. 1 месяц · Россия

A100Passthrough
Cloud.ru
40 ГБ × 2 = 80 ГБ
505,54 ₽/час
369 042,19 ₽/мес
≈ 252,77 ₽/час / карта
Перейти →

48 vCPU / 440 ГБ RAM · мин. 1 месяц · Россия

H100 NVLPassthrough
Pro-Data
94 ГБ
521,94 ₽/час
381 016,63 ₽/мес
Перейти →

20 vCPU / 128 ГБ RAM · мин. 1 месяц · Казахстан

A100Passthrough
Reg.Cloud
80 ГБ × 2 = 160 ГБ
529,14 ₽/час
386 274,52 ₽/мес
≈ 264,57 ₽/час / карта
Перейти →

64 vCPU / 512 ГБ RAM · мин. 1 час · Россия

H100Passthrough
Cloud.ru
80 ГБ
541,64 ₽/час
395 394,19 ₽/мес
Перейти →

20 vCPU / 110 ГБ RAM · мин. 1 месяц · Россия

A100Passthrough
Yandex DataSphere
80 ГБ
542,88 ₽/час
396 302,4 ₽/мес
Перейти →

28 vCPU / 119 ГБ RAM · мин. 1 час · Россия

RTX 6000 PROPassthrough
Selectel
96 ГБ × 2 = 192 ГБ
579,58 ₽/час
423 094,28 ₽/мес
≈ 289,79 ₽/час / карта
Перейти →

32 vCPU / 240 ГБ RAM · мин. 1 месяц · Россия

RTX 4090Passthrough
Selectel
48 ГБ × 4 = 192 ГБ
585,70 ₽/час
427 559,58 ₽/мес
≈ 146,43 ₽/час / карта
Перейти →

48 vCPU / 256 ГБ RAM · мин. 1 месяц · Россия

A100Passthrough
Cloud4Y
40 ГБ × 4 = 160 ГБ
618,91 ₽/час
28 963 200 ₽/мес
≈ 154,73 ₽/час / карта
Перейти →

24 vCPU / 352 ГБ RAM · мин. 1 час · Россия

A100Passthrough
Cloud.ru
80 ГБ × 2 = 160 ГБ
625,87 ₽/час
456 882,19 ₽/мес
≈ 312,94 ₽/час / карта
Перейти →

40 vCPU / 250 ГБ RAM · мин. 1 месяц · Россия

H200Passthrough
Selectel
141 ГБ
656,43 ₽/час
479 196,99 ₽/мес
Перейти →

12 vCPU / 120 ГБ RAM · мин. 1 месяц · Россия

A100Passthrough
Immers.cloud
80 ГБ × 3 = 240 ГБ
656,89 ₽/час
472 960,8 ₽/мес
≈ 218,96 ₽/час / карта
Перейти →

32 vCPU / 384 ГБ RAM · мин. 1 час · Россия

RTX 6000 PROPassthrough
Selectel
96 ГБ × 2 = 192 ГБ
674,98 ₽/час
492 739,03 ₽/мес
≈ 337,49 ₽/час / карта
Перейти →

64 vCPU / 360 ГБ RAM · мин. 1 месяц · Россия

A100Passthrough
Intelion Cloud
80 ГБ × 3 = 240 ГБ
679,02 ₽/час
456 300 ₽/мес
≈ 226,34 ₽/час / карта
Перейти →

58 vCPU / 450 ГБ RAM · мин. 1 час · Россия

RTX 6000Passthrough
Selectel
48 ГБ × 4 = 192 ГБ
683,36 ₽/час
498 854,97 ₽/мес
≈ 170,84 ₽/час / карта
Перейти →

72 vCPU / 350 ГБ RAM · мин. 1 месяц · Россия

RTX 6000 PROPassthrough
Servercore
96 ГБ × 2 = 192 ГБ
686,95 ₽/час
501 470,33 ₽/мес
≈ 343,48 ₽/час / карта
Перейти →

32 vCPU / 240 ГБ RAM · мин. 1 месяц · Казахстан

H200Passthrough
Selectel
141 ГБ
698,81 ₽/час
510 129,81 ₽/мес
Перейти →

24 vCPU / 180 ГБ RAM · мин. 1 месяц · Россия

H100Passthrough
Immers.cloud
80 ГБ × 2 = 160 ГБ
699,97 ₽/час
503 978,4 ₽/мес
≈ 349,99 ₽/час / карта
Перейти →

24 vCPU / 256 ГБ RAM · мин. 1 час · Россия

RTX 4090Passthrough
Selectel
48 ГБ × 4 = 192 ГБ
701,42 ₽/час
512 039,39 ₽/мес
≈ 175,36 ₽/час / карта
Перейти →

96 vCPU / 440 ГБ RAM · мин. 1 месяц · Россия

A100Passthrough
Selectel
80 ГБ × 2 = 160 ГБ
728,61 ₽/час
531 884,58 ₽/мес
≈ 364,31 ₽/час / карта
Перейти →

24 vCPU / 256 ГБ RAM · мин. 1 месяц · Россия

H100 NVLPassthrough
Immers.cloud
94 ГБ × 2 = 188 ГБ
729,47 ₽/час
525 218,4 ₽/мес
≈ 364,74 ₽/час / карта
Перейти →

24 vCPU / 192 ГБ RAM · мин. 1 час · Россия

RTX 6000Passthrough
Selectel
48 ГБ × 4 = 192 ГБ
744,16 ₽/час
543 233,61 ₽/мес
≈ 186,04 ₽/час / карта
Перейти →

96 vCPU / 450 ГБ RAM · мин. 1 месяц · Россия

RTX 6000 PROPassthrough
Servercore
96 ГБ × 2 = 192 ГБ
760,02 ₽/час
554 814,08 ₽/мес
≈ 380,01 ₽/час / карта
Перейти →

64 vCPU / 360 ГБ RAM · мин. 1 месяц · Казахстан

H200Passthrough
Pro-Data
141 ГБ
760,31 ₽/час
555 022,8 ₽/мес
Перейти →

20 vCPU / 128 ГБ RAM · мин. 1 месяц · Казахстан

A100Passthrough
Selectel
80 ГБ × 2 = 160 ГБ
760,58 ₽/час
555 221,89 ₽/мес
≈ 380,29 ₽/час / карта
Перейти →

48 vCPU / 256 ГБ RAM · мин. 1 месяц · Россия

A100Passthrough
Immers.cloud
80 ГБ × 4 = 320 ГБ
792,65 ₽/час
570 708 ₽/мес
≈ 198,16 ₽/час / карта
Перейти →

16 vCPU / 128 ГБ RAM · мин. 1 час · Россия

A100Passthrough
Yandex Cloud
80 ГБ
803,92 ₽/час
586 859,33 ₽/мес
Перейти →

18 vCPU / 144 ГБ RAM · мин. 1 час · Россия

A100Passthrough
Immers.cloud
80 ГБ × 4 = 320 ГБ
815,18 ₽/час
586 929,6 ₽/мес
≈ 203,80 ₽/час / карта
Перейти →

16 vCPU / 256 ГБ RAM · мин. 1 час · Россия

H200Passthrough
Immers.cloud
141 ГБ × 2 = 282 ГБ
839,97 ₽/час
604 778,4 ₽/мес
≈ 419,99 ₽/час / карта
Перейти →

24 vCPU / 256 ГБ RAM · мин. 1 час · Россия

H100Passthrough
Cloud.ru
80 ГБ
842,46 ₽/час
614 994,19 ₽/мес
Перейти →

20 vCPU / 186 ГБ RAM · мин. 1 месяц · Россия

H200Passthrough
Immers.cloud
141 ГБ × 2 = 282 ГБ
867,66 ₽/час
624 715,2 ₽/мес
≈ 433,83 ₽/час / карта
Перейти →

32 vCPU / 384 ГБ RAM · мин. 1 час · Россия

A100Passthrough
Immers.cloud
80 ГБ × 4 = 320 ГБ
876,02 ₽/час
630 734,4 ₽/мес
≈ 219,01 ₽/час / карта
Перейти →

44 vCPU / 512 ГБ RAM · мин. 1 час · Россия

A100Passthrough
Intelion Cloud
80 ГБ × 4 = 320 ГБ
905,06 ₽/час
608 200 ₽/мес
≈ 226,27 ₽/час / карта
Перейти →

76 vCPU / 600 ГБ RAM · мин. 1 час · Россия

A100Passthrough
Yandex Cloud
80 ГБ × 2 = 160 ГБ
931,80 ₽/час
680 213,08 ₽/мес
≈ 465,90 ₽/час / карта
Перейти →

56 vCPU / 238 ГБ RAM · мин. 1 час · Россия

A100Passthrough
Cloud.ru
80 ГБ × 3 = 240 ГБ
938,72 ₽/час
685 266,19 ₽/мес
≈ 312,91 ₽/час / карта
Перейти →

60 vCPU / 375 ГБ RAM · мин. 1 месяц · Россия

H100Passthrough
Selectel
80 ГБ × 2 = 160 ГБ
966,48 ₽/час
705 531,09 ₽/мес
≈ 483,24 ₽/час / карта
Перейти →

24 vCPU / 256 ГБ RAM · мин. 1 месяц · Россия

A100Passthrough
Selectel
40 ГБ × 4 = 160 ГБ
978,60 ₽/час
714 380,2 ₽/мес
≈ 244,65 ₽/час / карта
Перейти →

24 vCPU / 352 ГБ RAM · мин. 1 месяц · Россия

RTX 6000 PROPassthrough
SmartCloud
96 ГБ × 4 = 384 ГБ
989,58 ₽/час
722 392 ₽/мес
≈ 247,40 ₽/час / карта
Перейти →

512 ГБ RAM · мин. 1 месяц · Казахстан

H100Passthrough
Selectel
80 ГБ × 2 = 160 ГБ
998,45 ₽/час
728 868,4 ₽/мес
≈ 499,23 ₽/час / карта
Перейти →

48 vCPU / 256 ГБ RAM · мин. 1 месяц · Россия

A100Passthrough
Cloud.ru
40 ГБ × 4 = 160 ГБ
1 010,92 ₽/час
737 970,19 ₽/мес
≈ 252,73 ₽/час / карта
Перейти →

96 vCPU / 880 ГБ RAM · мин. 1 месяц · Россия

H100Passthrough
Immers.cloud
80 ГБ × 3 = 240 ГБ
1 046,89 ₽/час
753 760,8 ₽/мес
≈ 348,96 ₽/час / карта
Перейти →

32 vCPU / 384 ГБ RAM · мин. 1 час · Россия

H100Passthrough
Cloud.ru
80 ГБ × 2 = 160 ГБ
1 083,12 ₽/час
790 674,19 ₽/мес
≈ 541,56 ₽/час / карта
Перейти →

40 vCPU / 220 ГБ RAM · мин. 1 месяц · Россия

A100Passthrough
Yandex DataSphere
80 ГБ × 2 = 160 ГБ
1 085,76 ₽/час
792 604,8 ₽/мес
≈ 542,88 ₽/час / карта
Перейти →

56 vCPU / 238 ГБ RAM · мин. 1 час · Россия

B200Passthrough
Cloud4Y
180 ГБ
1 122,95 ₽/час
80 852 500 ₽/мес
Перейти →

мин. 1 час · Россия

RTX 4090Passthrough
Selectel
48 ГБ × 8 = 384 ГБ
1 145,03 ₽/час
835 870,59 ₽/мес
≈ 143,13 ₽/час / карта
Перейти →

96 vCPU / 440 ГБ RAM · мин. 1 месяц · Россия

RTX 6000 PROPassthrough
Selectel
96 ГБ × 4 = 384 ГБ
1 159,16 ₽/час
846 188,56 ₽/мес
≈ 289,79 ₽/час / карта
Перейти →

64 vCPU / 480 ГБ RAM · мин. 1 месяц · Россия

A100Passthrough
Cloud4Y
40 ГБ × 8 = 320 ГБ
1 237,82 ₽/час
57 926 300 ₽/мес
≈ 154,73 ₽/час / карта
Перейти →

48 vCPU / 704 ГБ RAM · мин. 1 час · Россия

A100Passthrough
Cloud.ru
80 ГБ × 4 = 320 ГБ
1 251,58 ₽/час
913 650,19 ₽/мес
≈ 312,90 ₽/час / карта
Перейти →

80 vCPU / 500 ГБ RAM · мин. 1 месяц · Россия

H200Passthrough
Immers.cloud
141 ГБ × 3 = 423 ГБ
1 280,19 ₽/час
921 736,8 ₽/мес
≈ 426,73 ₽/час / карта
Перейти →

32 vCPU / 512 ГБ RAM · мин. 1 час · Россия

H100Passthrough
Immers.cloud
80 ГБ × 4 = 320 ГБ
1 312,65 ₽/час
945 108 ₽/мес
≈ 328,16 ₽/час / карта
Перейти →

16 vCPU / 128 ГБ RAM · мин. 1 час · Россия

H200Passthrough
Selectel
141 ГБ × 2 = 282 ГБ
1 312,87 ₽/час
958 393,97 ₽/мес
≈ 656,44 ₽/час / карта
Перейти →

24 vCPU / 240 ГБ RAM · мин. 1 месяц · Россия

H100Passthrough
Immers.cloud
80 ГБ × 4 = 320 ГБ
1 335,18 ₽/час
961 329,6 ₽/мес
≈ 333,80 ₽/час / карта
Перейти →

16 vCPU / 256 ГБ RAM · мин. 1 час · Россия

RTX 6000 PROPassthrough
Selectel
96 ГБ × 4 = 384 ГБ
1 349,97 ₽/час
985 478,05 ₽/мес
≈ 337,49 ₽/час / карта
Перейти →

128 vCPU / 720 ГБ RAM · мин. 1 месяц · Россия

H100Passthrough
Immers.cloud
80 ГБ × 4 = 320 ГБ
1 350,60 ₽/час
972 432 ₽/мес
≈ 337,65 ₽/час / карта
Перейти →

44 vCPU / 256 ГБ RAM · мин. 1 час · Россия

RTX 6000 PROPassthrough
Servercore
96 ГБ × 4 = 384 ГБ
1 373,89 ₽/час
1 002 940,66 ₽/мес
≈ 343,47 ₽/час / карта
Перейти →

64 vCPU / 480 ГБ RAM · мин. 1 месяц · Казахстан

H100Passthrough
Immers.cloud
80 ГБ × 4 = 320 ГБ
1 396,02 ₽/час
1 005 134,4 ₽/мес
≈ 349,01 ₽/час / карта
Перейти →

44 vCPU / 512 ГБ RAM · мин. 1 час · Россия

H200Passthrough
Selectel
141 ГБ × 2 = 282 ГБ
1 397,62 ₽/час
1 020 259,62 ₽/мес
≈ 698,81 ₽/час / карта
Перейти →

48 vCPU / 360 ГБ RAM · мин. 1 месяц · Россия

RTX 4090Passthrough
Selectel
48 ГБ × 8 = 384 ГБ
1 408,71 ₽/час
1 028 356,25 ₽/мес
≈ 176,09 ₽/час / карта
Перейти →

192 vCPU / 896 ГБ RAM · мин. 1 месяц · Россия

A100Passthrough
Selectel
80 ГБ × 4 = 320 ГБ
1 457,22 ₽/час
1 063 769,16 ₽/мес
≈ 364,31 ₽/час / карта
Перейти →

48 vCPU / 512 ГБ RAM · мин. 1 месяц · Россия

B300Passthrough
Cloud4Y
288 ГБ
1 465,73 ₽/час
105 532 800 ₽/мес
Перейти →

мин. 1 час · Россия

RTX 6000 PROPassthrough
Servercore
96 ГБ × 4 = 384 ГБ
1 520,04 ₽/час
1 109 628,16 ₽/мес
≈ 380,01 ₽/час / карта
Перейти →

128 vCPU / 720 ГБ RAM · мин. 1 месяц · Казахстан

A100Passthrough
Selectel
80 ГБ × 4 = 320 ГБ
1 521,16 ₽/час
1 110 443,78 ₽/мес
≈ 380,29 ₽/час / карта
Перейти →

96 vCPU / 512 ГБ RAM · мин. 1 месяц · Россия

A100Passthrough
Cloud.ru
80 ГБ × 5 = 400 ГБ
1 564,43 ₽/час
1 142 034,19 ₽/мес
≈ 312,89 ₽/час / карта
Перейти →

100 vCPU / 625 ГБ RAM · мин. 1 месяц · Россия

A100Passthrough
Yandex Cloud
80 ГБ × 2 = 160 ГБ
1 607,83 ₽/час
1 173 718,66 ₽/мес
≈ 803,92 ₽/час / карта
Перейти →

36 vCPU / 288 ГБ RAM · мин. 1 час · Россия

H100Passthrough
Cloud.ru
80 ГБ × 3 = 240 ГБ
1 624,59 ₽/час
1 185 954,19 ₽/мес
≈ 541,53 ₽/час / карта
Перейти →

60 vCPU / 330 ГБ RAM · мин. 1 месяц · Россия

H200Passthrough
Immers.cloud
141 ГБ × 4 = 564 ГБ
1 715,25 ₽/час
1 234 980 ₽/мес
≈ 428,81 ₽/час / карта
Перейти →

32 vCPU / 768 ГБ RAM · мин. 1 час · Россия

A100Passthrough
Yandex Cloud
80 ГБ × 4 = 320 ГБ
1 863,60 ₽/час
1 360 426,18 ₽/мес
≈ 465,90 ₽/час / карта
Перейти →

112 vCPU / 476 ГБ RAM · мин. 1 час · Россия

A100Passthrough
Cloud.ru
80 ГБ × 6 = 480 ГБ
1 877,29 ₽/час
1 370 418,19 ₽/мес
≈ 312,88 ₽/час / карта
Перейти →

120 vCPU / 750 ГБ RAM · мин. 1 месяц · Россия

A100Passthrough
Selectel
40 ГБ × 8 = 320 ГБ
1 957,21 ₽/час
1 428 760,4 ₽/мес
≈ 244,65 ₽/час / карта
Перейти →

48 vCPU / 704 ГБ RAM · мин. 1 месяц · Россия

RTX 6000 PROPassthrough
SmartCloud
96 ГБ × 8 = 768 ГБ
1 979,16 ₽/час
1 444 784 ₽/мес
≈ 247,40 ₽/час / карта
Перейти →

512 ГБ RAM · мин. 1 месяц · Казахстан

H100Passthrough
Cloud.ru
80 ГБ × 4 = 320 ГБ
2 166,07 ₽/час
1 581 234,19 ₽/мес
≈ 541,52 ₽/час / карта
Перейти →

80 vCPU / 440 ГБ RAM · мин. 1 месяц · Россия

A100Passthrough
Yandex DataSphere
80 ГБ × 4 = 320 ГБ
2 171,52 ₽/час
1 585 209,6 ₽/мес
≈ 542,88 ₽/час / карта
Перейти →

112 vCPU / 476 ГБ RAM · мин. 1 час · Россия

A100Passthrough
Cloud.ru
80 ГБ × 7 = 560 ГБ
2 190,14 ₽/час
1 598 802,19 ₽/мес
≈ 312,88 ₽/час / карта
Перейти →

140 vCPU / 875 ГБ RAM · мин. 1 месяц · Россия

RTX 6000 PROPassthrough
Selectel
96 ГБ × 8 = 768 ГБ
2 318,32 ₽/час
1 692 377,11 ₽/мес
≈ 289,79 ₽/час / карта
Перейти →

128 vCPU / 960 ГБ RAM · мин. 1 месяц · Россия

A100Passthrough
Cloud.ru
80 ГБ × 8 = 640 ГБ
2 502,99 ₽/час
1 827 186,19 ₽/мес
≈ 312,87 ₽/час / карта
Перейти →

160 vCPU / 900 ГБ RAM · мин. 1 месяц · Россия

RTX 6000 PROPassthrough
Selectel
96 ГБ × 8 = 768 ГБ
2 506,42 ₽/час
1 829 685,56 ₽/мес
≈ 313,30 ₽/час / карта
Перейти →

256 vCPU / 1000 ГБ RAM · мин. 1 месяц · Россия

H100Passthrough
Cloud.ru
80 ГБ × 3 = 240 ГБ
2 527,06 ₽/час
1 844 754,19 ₽/мес
≈ 842,35 ₽/час / карта
Перейти →

60 vCPU / 558 ГБ RAM · мин. 1 месяц · Россия

H200Passthrough
Selectel
141 ГБ × 4 = 564 ГБ
2 625,74 ₽/час
1 916 787,95 ₽/мес
≈ 656,44 ₽/час / карта
Перейти →

48 vCPU / 480 ГБ RAM · мин. 1 месяц · Россия

H100Passthrough
Cloud.ru
80 ГБ × 5 = 400 ГБ
2 707,55 ₽/час
1 976 514,19 ₽/мес
≈ 541,51 ₽/час / карта
Перейти →

100 vCPU / 550 ГБ RAM · мин. 1 месяц · Россия

RTX 6000 PROPassthrough
Servercore
96 ГБ × 8 = 768 ГБ
2 747,78 ₽/час
2 005 881,31 ₽/мес
≈ 343,47 ₽/час / карта
Перейти →

128 vCPU / 960 ГБ RAM · мин. 1 месяц · Казахстан

H200Passthrough
Selectel
141 ГБ × 4 = 564 ГБ
2 795,23 ₽/час
2 040 519,24 ₽/мес
≈ 698,81 ₽/час / карта
Перейти →

96 vCPU / 720 ГБ RAM · мин. 1 месяц · Россия

A100Passthrough
Selectel
80 ГБ × 8 = 640 ГБ
2 903,88 ₽/час
2 119 832,64 ₽/мес
≈ 362,99 ₽/час / карта
Перейти →

96 vCPU / 1000 ГБ RAM · мин. 1 месяц · Россия

A100Passthrough
Yandex Cloud
80 ГБ × 4 = 320 ГБ
3 215,67 ₽/час
2 347 437,31 ₽/мес
≈ 803,92 ₽/час / карта
Перейти →

72 vCPU / 576 ГБ RAM · мин. 1 час · Россия

H100Passthrough
Cloud.ru
80 ГБ × 6 = 480 ГБ
3 249,03 ₽/час
2 371 794,19 ₽/мес
≈ 541,51 ₽/час / карта
Перейти →

120 vCPU / 660 ГБ RAM · мин. 1 месяц · Россия

A100Passthrough
Yandex Cloud
80 ГБ × 8 = 640 ГБ
3 727,20 ₽/час
2 720 852,36 ₽/мес
≈ 465,90 ₽/час / карта
Перейти →

224 vCPU / 952 ГБ RAM · мин. 1 час · Россия

H100Passthrough
Cloud.ru
80 ГБ × 7 = 560 ГБ
3 790,51 ₽/час
2 767 074,19 ₽/мес
≈ 541,50 ₽/час / карта
Перейти →

140 vCPU / 770 ГБ RAM · мин. 1 месяц · Россия

H200Passthrough
Selectel
141 ГБ × 8 = 1128 ГБ
5 251,47 ₽/час
3 833 575,9 ₽/мес
≈ 656,43 ₽/час / карта
Перейти →

96 vCPU / 960 ГБ RAM · мин. 1 месяц · Россия

H100Passthrough
Cloud.ru
80 ГБ × 7 = 560 ГБ
5 896,27 ₽/час
4 304 274,19 ₽/мес
≈ 842,32 ₽/час / карта
Перейти →

140 vCPU / 1302 ГБ RAM · мин. 1 месяц · Россия

A100Passthrough
Yandex Cloud
80 ГБ × 8 = 640 ГБ
6 544,67 ₽/час
4 777 606,08 ₽/мес
≈ 818,08 ₽/час / карта
Перейти →

180 vCPU / 1440 ГБ RAM · мин. 1 час · Россия

H100Passthrough
Cloud.ru
80 ГБ × 8 = 640 ГБ
6 738,57 ₽/час
4 919 154,19 ₽/мес
≈ 842,32 ₽/час / карта
Перейти →

160 vCPU / 1488 ГБ RAM · мин. 1 месяц · Россия

B200Passthrough
SmartCloud
192 ГБ
по запросу
Перейти →

мин. 1 месяц · Казахстан

H100Passthrough
SmartCloud
80 ГБ
по запросу
Перейти →

мин. 1 месяц · Казахстан

Без своего сервера - через API агрегаторов

Альтернатива аренде GPU: готовый API с оплатой в рублях

Все LLM API →

LLaMA 3.3 70B

от 900 ₽/1M за вход

Частые вопросы

Сколько VRAM нужно для Llama 70B?+
Q4/AWQ — от 40 ГБ (A100 40, L40S 48). FP8 — одна H100 80 ГБ. FP16 — около 140 ГБ, это уже 2×H100.
Как запустить?+
vllm serve meta-llama/Llama-3.3-70B-Instruct --port 8000. Квант: AWQ/GPTQ или GGUF в llama.cpp. Эндпоинт совместим с OpenAI API.
Выделенный или облачный сервер для Llama 70B?+
Выделенный сервер даёт карту целиком без соседей - для длинных прогонов. Облачный (Passthrough или vGPU) дешевле на коротких задачах и проще взять на час. Для Llama 70B нужна карта от 40 ГБ.
70B или 405B?+
70B — одна карта и дешевле в простое. 405B сильнее на сложных задачах, но это кластер от 4×H100: Llama 405B.

Похожие инструменты