NVIDIA GB200 (Grace-Blackwell): especificaciones y compatibilidad con IA local
Plataforma de superchip Grace-Blackwell para IA a escala de rack. Provisional.
Algunos detalles aquí son provisional (Anunciado). Considera las especificaciones como aproximadas y verifícalas con el fabricante antes de confiar en ellas o comprar.
Especificaciones
- Memoria
- 384 GB unificada
- Tipo de memoria
- HBM3e + LPDDR5X
- Ancho de banda
- por verificar
- FP16 aprox.
- por verificar
- Arquitectura
- Grace Blackwell
- Proceso
- TSMC 4NP
- Consumo
- por verificar
- Lanzamiento
- 2025
Modelos que este chip puede ejecutar
Modelos abiertos evaluados para un solo NVIDIA GB200 (Grace-Blackwell), primero el de mejor ajuste.
- Gemma 2 27BGemma · ~27B · 8K ctx · Gemma Terms of Use
Cabe en FP16 (~54GB) con ~214.8GB de margen — alrededor de 4 instancias simultáneas.
FP16 · ~54GBFunciona bien - Gemma 3 27BGemma 3 · ~27B · 128K ctx · Gemma Terms of Use
Cabe en FP16 (~54GB) con ~214.8GB de margen — alrededor de 4 instancias simultáneas.
FP16 · ~54GBFunciona bien - Mistral Small 24BMistral · ~24B · 32K ctx · Apache-2.0
Cabe en FP16 (~48GB) con ~220.8GB de margen — alrededor de 5 instancias simultáneas.
FP16 · ~48GBFunciona bien - DeepSeek-Coder V2 (class)DeepSeek · ~16B · 128K ctx · DeepSeek License
Cabe en FP16 (~33GB) con ~235.8GB de margen — alrededor de 8 instancias simultáneas.
FP16 · ~33GBFunciona bien - StarCoder2 15BStarCoder · ~15B · 16K ctx · BigCode OpenRAIL-M
Cabe en FP16 (~30GB) con ~238.8GB de margen — alrededor de 8 instancias simultáneas.
FP16 · ~30GBFunciona bien - Qwen2.5 14BQwen · ~14B · 128K ctx · Apache-2.0
Cabe en FP16 (~30GB) con ~238.8GB de margen — alrededor de 8 instancias simultáneas.
FP16 · ~30GBFunciona bien - Qwen3 14BQwen · ~14B · 128K ctx · Apache-2.0
Cabe en FP16 (~30GB) con ~238.8GB de margen — alrededor de 8 instancias simultáneas.
FP16 · ~30GBFunciona bien - Phi-3 Medium (14B)Phi · ~14B · 128K ctx · MIT
Cabe en FP16 (~28GB) con ~240.8GB de margen — alrededor de 9 instancias simultáneas.
FP16 · ~28GBFunciona bien
Crea un AI Business OS privado sobre NVIDIA GB200 (Grace-Blackwell)
Run your own AI agents on hardware you control — private by design, no per-seat data leaving your premises. BrainOutput helps you pick the right machine and turn it into a working AI Business OS.