NVIDIA B300 (Blackwell Ultra): Spezifikationen & Eignung für lokale KI
Blackwell-Ultra-Beschleuniger der nächsten Stufe — Platzhalter, vor Einsatz prüfen.
Einige Angaben hier sind vorläufig (Angekündigt). Betrachten Sie die Spezifikationen als ungefähr und gleichen Sie sie mit dem Hersteller ab, bevor Sie sich darauf verlassen oder einen Kauf tätigen.
Spezifikationen
- Speicher
- 288 GB
- Speichertyp
- HBM3e
- Bandbreite
- zu prüfen
- FP16 ca.
- zu prüfen
- Architektur
- Blackwell Ultra
- Fertigung
- TSMC 4NP
- Leistung
- zu prüfen
- Markteinführung
- 2025
Modelle, die dieser Chip ausführen kann
Offene Modelle, bewertet für einen einzelnen NVIDIA B300 (Blackwell Ultra), beste Eignung zuerst.
- Llama 3.1 405BLlama · ~405B · 128K ctx · Llama Community License
Passt mit Q4_K_M (~230GB) bei ~23.4GB Reserve — etwa 1 gleichzeitige Instanz.
Q4_K_M · ~230GBLäuft gut - Qwen3 235B-A22B (MoE)Qwen · ~235B · 128K ctx · Apache-2.0
Passt mit Q8_0 (~235GB) bei ~18.4GB Reserve — etwa 1 gleichzeitige Instanz.
Q8_0 · ~235GBLäuft gut - Qwen2.5 72BQwen · ~72B · 128K ctx · Qwen License
Passt mit FP16 (~145GB) bei ~108.4GB Reserve — etwa 1 gleichzeitige Instanz.
FP16 · ~145GBLäuft gut - Llama 3.1 70BLlama · ~70B · 128K ctx · Llama Community License
Passt mit FP16 (~140GB) bei ~113.4GB Reserve — etwa 1 gleichzeitige Instanz.
FP16 · ~140GBLäuft gut - Llama 3.3 70BLlama · ~70B · 128K ctx · Llama Community License
Passt mit FP16 (~140GB) bei ~113.4GB Reserve — etwa 1 gleichzeitige Instanz.
FP16 · ~140GBLäuft gut - DeepSeek-R1 Distill Llama 70BDeepSeek · ~70B · 128K ctx · MIT
Passt mit FP16 (~140GB) bei ~113.4GB Reserve — etwa 1 gleichzeitige Instanz.
FP16 · ~140GBLäuft gut - Mixtral 8x7B (MoE)Mistral · ~47B · 32K ctx · Apache-2.0
Passt mit FP16 (~90GB) bei ~163.4GB Reserve — etwa 2 gleichzeitige Instanzen.
FP16 · ~90GBLäuft gut - CodeLlama 34BCodeLlama · ~34B · 16K ctx · Llama Community License
Passt mit FP16 (~68GB) bei ~185.4GB Reserve — etwa 3 gleichzeitige Instanzen.
FP16 · ~68GBLäuft gut
Bauen Sie ein privates AI Business OS auf NVIDIA B300 (Blackwell Ultra)
Run your own AI agents on hardware you control — private by design, no per-seat data leaving your premises. BrainOutput helps you pick the right machine and turn it into a working AI Business OS.