NVIDIA GB200 (Grace-Blackwell): especificações e compatibilidade com IA local
Plataforma de superchip Grace-Blackwell para IA à escala de rack. Provisória.
Alguns detalhes aqui são provisório (Anunciado). Trate as especificações como aproximadas e verifique-as junto do fabricante antes de confiar nelas ou de comprar.
Especificações
- Memória
- 384 GB unificada
- Tipo de memória
- HBM3e + LPDDR5X
- Largura de banda
- a verificar
- FP16 aprox.
- a verificar
- Arquitetura
- Grace Blackwell
- Processo
- TSMC 4NP
- Consumo
- a verificar
- Lançamento
- 2025
Modelos que este chip pode executar
Modelos abertos avaliados para um único NVIDIA GB200 (Grace-Blackwell), o de melhor ajuste primeiro.
- Gemma 2 27BGemma · ~27B · 8K ctx · Gemma Terms of Use
Cabe em FP16 (~54GB) com ~214.8GB de margem — cerca de 4 instâncias em simultâneo.
FP16 · ~54GBCorre bem - Gemma 3 27BGemma 3 · ~27B · 128K ctx · Gemma Terms of Use
Cabe em FP16 (~54GB) com ~214.8GB de margem — cerca de 4 instâncias em simultâneo.
FP16 · ~54GBCorre bem - Mistral Small 24BMistral · ~24B · 32K ctx · Apache-2.0
Cabe em FP16 (~48GB) com ~220.8GB de margem — cerca de 5 instâncias em simultâneo.
FP16 · ~48GBCorre bem - DeepSeek-Coder V2 (class)DeepSeek · ~16B · 128K ctx · DeepSeek License
Cabe em FP16 (~33GB) com ~235.8GB de margem — cerca de 8 instâncias em simultâneo.
FP16 · ~33GBCorre bem - StarCoder2 15BStarCoder · ~15B · 16K ctx · BigCode OpenRAIL-M
Cabe em FP16 (~30GB) com ~238.8GB de margem — cerca de 8 instâncias em simultâneo.
FP16 · ~30GBCorre bem - Qwen2.5 14BQwen · ~14B · 128K ctx · Apache-2.0
Cabe em FP16 (~30GB) com ~238.8GB de margem — cerca de 8 instâncias em simultâneo.
FP16 · ~30GBCorre bem - Qwen3 14BQwen · ~14B · 128K ctx · Apache-2.0
Cabe em FP16 (~30GB) com ~238.8GB de margem — cerca de 8 instâncias em simultâneo.
FP16 · ~30GBCorre bem - Phi-3 Medium (14B)Phi · ~14B · 128K ctx · MIT
Cabe em FP16 (~28GB) com ~240.8GB de margem — cerca de 9 instâncias em simultâneo.
FP16 · ~28GBCorre bem
Construa um AI Business OS privado sobre NVIDIA GB200 (Grace-Blackwell)
Run your own AI agents on hardware you control — private by design, no per-seat data leaving your premises. BrainOutput helps you pick the right machine and turn it into a working AI Business OS.