GPU для llm
Какой GPU нужен для llm. Сравните цены на аренду видеокарт.
LLM
Ollama
Локальный запуск LLM одной командой
VRAM от 4 ГБ
GPU от 10,62 ₽/часAPI от 15,5 ₽/1M
LLM
T-pro
RU LLM 32B, T-Bank (t-tech)
VRAM от 24 ГБ
GPU от 17,90 ₽/часAPI от 8,2 ₽/1M
LLM
T-lite
RU LLM 7B, T-Bank (t-tech)
VRAM от 6 ГБ
GPU от 10,62 ₽/час
LLM
Vikhr-7B
Открытая русскоязычная LLM 7B от Vikhrmodels
VRAM от 6 ГБ
GPU от 10,62 ₽/час
LLM
ruGPT-3.5
RU 13B, SberDevices / AI Forever
VRAM от 10 ГБ
GPU от 10,62 ₽/час
LLM
llama.cpp
Квантизованный инференс LLM на CPU и GPU
VRAM от 4 ГБ
GPU от 10,62 ₽/часAPI от 15,5 ₽/1M
LLM
Kimi K3
Open 2.8T MoE от Moonshot: vision + 1M контекст
VRAM от 1400 ГБ
GPU от 133,20 ₽/часAPI от 299,58 ₽/1M
LLM
DeepSeek R1
Открытая reasoning-модель класса o1
VRAM от 8 ГБ
GPU от 10,62 ₽/часAPI от 72,31 ₽/1M
LLM
Qwen
Открытая семья LLM от Alibaba: от 0.5B до 671B
VRAM от 6 ГБ
GPU от 10,62 ₽/часAPI от 3,71 ₽/1M
Большие языковые модели (LLM) - для генерации текста, чат-ботов, анализа данных и написания кода. Можно запускать локально на GPU или использовать через API провайдеров. Сравните LLM API каталог или посмотрите все AI-инструменты.
LLM API каталог
Готовый API с оплатой в рублях
Все AI-инструменты
22 инструментов во всех категориях