Выделенный сервер с 8×NVIDIA B300

8 карт B300, это 2304 ГБ суммарной памяти HBM3e: конфигурация уровня топовых кластеров в одном физическом сервере. B300, флагман поколения Blackwell, и восемь таких карт дают пул памяти, который на H100 или H200 собрать без нескольких машин невозможно. Это редкий флагманский тариф: у Selectel конфигурация 8×288 ГБ за 9 000 000 ₽/мес. В Dedicated-режиме весь этот объём целиком на вашу задачу.

8×288 ГБ, это не карта на 2304 ГБ: её не существует, поэтому крупнейшие модели обучают именно на связке флагманских карт. Если карты связаны NVLink, tensor parallelism распределяет веса по восьми B300, и обмен идёт по быстрым межкарточным каналам. Если связь только по PCIe, обмен медленнее. Для контекста: 2304 ГБ, это в 3,6 раза больше, чем у 8×H100. Моделям, которым нужны сотни гигабайт только на веса, здесь хватает места целиком, а эффективность масштабирования зависит от того, как карты соединены у конкретного провайдера.

В 2304 ГБ помещается то, что для остальных конфигураций каталога, кластер: обучение и сервинг моделей уровня 100B+ и крупнее, несколько больших моделей одновременно, огромные батчи и очень длинный контекст. Это единственная конфигурация каталога, где суммарная память измеряется терабайтами, а не сотнями гигабайт.

B300, это шаг «вверх» от 8×H200 (1128 ГБ): если не хватает ~1,1 ТБ, B300 даёт 2304 ГБ в одном узле. Цена соответствует: 9 000 000 ₽/мес против 3 200 000 ₽/мес за 8×H200. Если ваша модель помещается в 640–1128 ГБ, H100 или H200 обойдутся в разы дешевле, берите их. B300 оправдан только тогда, когда меньший пул физически не вмещает задачу: это инструмент для самых больших моделей, а не конфигурация «на вырост».