Перейти к содержимому
Флагманские GPU

NVIDIA B200: что нового в Blackwell и когда стоит переходить с H200

Что такое NVIDIA B200, чем она отличается от H200 и H100, для каких задач нужна и когда переход с Hopper оправдан.

Коротко

B200 — GPU для дата-центров из поколения Blackwell, которое пришло на смену Hopper (H100 и H200). Против H200 у неё больше памяти (180 ГБ против 141 ГБ), в 1,67 раза быстрее память (8 ТБ/⁠с против 4,8 ТБ/⁠с) и вдвое быстрее связь между картами (NVLink 1,8 ТБ/⁠с). Новый формат FP4 ускоряет инференс крупных моделей. Переход оправдан, если вы обучаете большие модели или упираетесь в память H200; для моделей, которые уже удобно работают на H200, выигрыш не окупит разницу в цене.

Содержание8 разделов

NVIDIA B200 — основная серверная карта архитектуры Blackwell. Внутри у неё два кристалла, соединённых в одну GPU, память HBM3e на 180 ГБ и пятое поколение NVLink. Для языковых моделей это значит, что на одну карту помещается модель крупнее, ответы генерируются быстрее, а восемь карт в сервере обмениваются данными вдвое быстрее, чем у Hopper.

Конфигурации, цена «от» и сроки запуска — на странице аренда B200.

Что такое Blackwell и где в нём B200

Blackwell — название архитектуры, как Hopper у H100 и H200 или Ampere у A100. В поколении несколько продуктов:

  • B200 — GPU в форм-факторе SXM, обычно восемь штук на плате HGX B200;
  • B300 — версия Blackwell Ultra с памятью до 288 ГБ на чип и ускоренным вниманием (подробно — в статье про B300);
  • GB200 и GB300 — суперчипы, где GPU Blackwell соединены с процессором Grace; их ставят в стойки NVL72 на 72 GPU.

Что нового в B200

Подробно поколение разобрано в обзоре Blackwell против Hopper; для B200 важны четыре цифры.

Два кристалла в одной GPU. Чип собран из двух кристаллов, связанных каналом 10 ТБ/⁠с, — всего 208 млрд транзисторов, и для программ это одна GPU.

Рис. 1Два кристалла Blackwell работают как одна GPU. Источник данных — страница архитектуры Blackwell на сайте NVIDIA.

Память: 180 ГБ и 8 ТБ/⁠с. В сервере NVIDIA DGX B200 стоит 1 440 ГБ HBM3e на восемь GPU, то есть 180 ГБ на карту, и 64 ТБ/⁠с суммарной скорости памяти — 8 ТБ/⁠с на карту. По сравнению с H200 памяти больше на 39 ГБ, а скорость выше в 1,67 раза. NVIDIA указывает и 192 ГБ для других версий Blackwell; для серверов B200 ориентируйтесь на 180 ГБ.

NVLink пятого поколения. Каждая B200 обменивается данными с соседями на 1,8 ТБ/⁠с, а на плате HGX B200 суммарная пропускная способность NVLink между восемью картами — 14,4 ТБ/⁠с.

FP4. Второй Transformer Engine добавил 4-битный формат: плата HGX B200 из восьми GPU выдаёт 72 PFLOPS в FP4 без учёта разреженности — вдвое больше, чем в FP8, если модель и движок инференса поддерживают формат.

B200 против H200 и H100

Листайте вбок →
 H100 SXMH200 SXMB200
ПоколениеHopperHopperBlackwell
Память80 ГБ HBM3141 ГБ HBM3e180 ГБ HBM3e
Скорость памяти3,35 ТБ/⁠с4,8 ТБ/⁠с8 ТБ/⁠с
NVLink на GPU900 ГБ/⁠с (4-е поколение)900 ГБ/⁠с (4-е поколение)1,8 ТБ/⁠с (5-е поколение)
Новые форматыFP8FP8FP8, FP6, FP4
Мощностьдо 700 Втдо 700 Вт—
Сервер DGX на 8 GPU, максимум10,2 кВт10,2 кВт≈ 14,3 кВт
Таблица 1B200, H200 и H100 SXM: что меняется (данные NVIDIA, на GPU)
Подберём GPU под задачу

Пришлём 2–3 варианта с форм-фактором, числом GPU и ценой. Ответим за 15 минут в рабочее время.

Оставить заявку

Для чипа Blackwell NVIDIA указывает мощность до 1 200 Вт; в серверах HGX B200 её настраивают ниже.

B200 — другой чип: вдвое быстрее связь, новые форматы и больше памяти. Зато она и требовательнее к инфраструктуре: сервер на восемь B200 потребляет примерно на 40 % больше, чем такой же на H200 (арифметика по данным DGX).

Рис. 2Между H200 и B200 разница в памяти 39 ГБ, зато скорость памяти выросла с 4,8 до 8 ТБ/⁠с.

Для каких задач B200 даёт больше всего

Обучение и полное дообучение крупных моделей. Здесь сходятся все три преимущества: больше памяти на карту, быстрее связь между картами и выше вычислительная мощность. Если ваш сервер на восемь H200 загружен обучением неделями, переход на B200 сокращает срок или позволяет взять модель крупнее.

Инференс больших моделей в FP4 и FP8. Скорость памяти 8 ТБ/⁠с прямо ускоряет генерацию токенов, а FP4 позволяет поместить на карту модель вдвое крупнее, чем в FP8. Модель на 200 млрд параметров в FP4 занимает около 100 ГБ весов (арифметика: 0,5 байта на параметр) и помещается на одну B200 с запасом под контекст.

Модели, которым тесно в 141 ГБ. 70B в FP16 (140 ГБ весов) на одной H200 не работает — нет места под кэш. На B200 остаётся около 40 ГБ — это десяток запросов по 8 тысяч токенов (по 2,7 ГБ кэша на каждый — расчёт для Llama 3.1 70B есть в статье про H200).

Когда переход с H200 не окупается

Новое поколение не всегда выгоднее. B200 стоит дороже в час, а выигрыш получается только там, где задача упирается в то, что изменилось.

  1. Модель уже удобно работает на H200 — помещается с запасом, задержка устраивает. Больше памяти не понадобится, а прибавка в скорости генерации не окупит разницу в цене.
  2. Код и пайплайн настроены под Hopper. Перенос на Blackwell требует свежих версий драйверов, CUDA и фреймворков, а старые зависимости проекта придётся обновить вместе с ними.
  3. Нужно FP16 без квантования и короткие задачи. Главная прибавка B200 в вычислениях приходится на FP4 и FP8. Если вы осознанно остаётесь в 16 битах, выигрыш будет в основном за счёт памяти.

А если, наоборот, тесно уже и в 180 ГБ, — смотрите B300: та же архитектура, около 260 ГБ на GPU в сервере DGX B300 (2,1 ТБ на 8 GPU; чип — до 288 ГБ).

Что нужно серверу с B200

B200 ставят на плату HGX B200: восемь GPU SXM, коммутаторы NVLink пятого поколения, сетевые адаптеры на 0,8 ТБ/⁠с суммарно. Готовый сервер NVIDIA DGX B200 на такой плате потребляет до 14,3 кВт — это заметно больше обычной стойки, поэтому B200 живут в дата-центрах, рассчитанных на плотное питание и охлаждение. Как устроена плата на восемь GPU и зачем там коммутаторы, разобрано на примере H200 в статье 8 × H200 на платформе HGX; для B200 принцип тот же.

Рис. 3Короткий способ решить, нужен ли переход с H200.

B200 в Ampuna

B200 в Ampuna — от 1 до 8 GPU в сервере. Одна B200 — от 816,00 ₽/⁠ч (≈ 595 680 ₽/⁠мес); сборки на 2, 4 и 8 GPU подбираем под задачу и присылаем цену в ответе на заявку. Для B200 — аванс за первый месяц, запуск до 3 рабочих дней после оплаты.

NVIDIA B200Blackwell · 180 ГБ HBM3e · Индия180 ГБ HBM3e, NVLink 1,8 ТБ/⁠сот 816 ₽/ч≈ 595 680 ₽/месОткрыть B200 →

Вопросы и ответы

Чем B200 отличается от H200?

B200 — другое поколение (Blackwell против Hopper). У неё 180 ГБ памяти против 141 ГБ, скорость памяти 8 ТБ/⁠с против 4,8 ТБ/⁠с, NVLink 1,8 ТБ/⁠с против 900 ГБ/⁠с и поддержка FP4. Чип собран из двух кристаллов и потребляет больше энергии.

Нужна ли B200, если хватает H100?

Если H100 справляется с вашей задачей, B200 даст только скорость. Это оправдано для долгого обучения и нагруженного инференса; для разовых экспериментов и небольших моделей выгоднее остаться на Hopper.

Какую модель можно запустить на одной B200?

С весами в FP8 — модель примерно до 150 млрд параметров, в FP4 — примерно до 300 млрд, и в обоих случаях около 30 ГБ остаётся под контекст (расчёт редакции: 1 и 0,5 байта на параметр при 180 ГБ памяти). Модель на 70B в 16 битах тоже помещается: после весов остаётся около 40 ГБ под кэш.

Подбор GPU

Сервер с B200 под вашу задачу

Расскажите, что обучаете или запускаете, — посчитаем, на какой карте поместится ваша модель, и пришлём конфигурации с ценой. Ответим за 15 минут в рабочее время: пн–пт 10:00–19:00 МСК.

ПоделитьсяTelegram
Источники · проверено 14 ноября 2026
  1. NVIDIA Blackwell Architecture — 208 млрд транзисторов, два кристалла, канал 10 ТБ/⁠с, Transformer Engine второго поколения, FP4 и micro-tensor scaling, NVLink пятого поколения
  2. NVIDIA DGX B200 — 8 GPU, 1 440 ГБ HBM3e, 64 ТБ/⁠с, NVLink 14,4 ТБ/⁠с, ≈ 14,3 кВт, FP4 144 / 72 PFLOPS, FP8 72 PFLOPS (с разреженностью)
  3. NVIDIA HGX — HGX B200: NVLink 1,8 ТБ/⁠с на GPU, 14,4 ТБ/⁠с суммарно, сеть 0,8 ТБ/⁠с
  4. NVIDIA Technical Blog, «Inside NVIDIA Blackwell Ultra» — сравнение Blackwell и Blackwell Ultra: память, NVFP4, внимание, мощность до 1 200 и 1 400 Вт
  5. NVIDIA H200 — 141 ГБ, 4,8 ТБ/⁠с, NVLink 900 ГБ/⁠с, до 700 Вт
  6. NVIDIA H100 — 80 ГБ, 3,35 ТБ/⁠с, NVLink 900 ГБ/⁠с, до 700 Вт
  7. NVIDIA Hopper Architecture — более 80 млрд транзисторов, FP8, NVLink четвёртого поколения
  8. NVIDIA DGX H100/H200 User Guide — 10,2 кВт максимум