BBrainOutput
NVIDIA·GPUVorläufig

NVIDIA RTX PRO 6000 Blackwell 96GB: Spezifikationen & Eignung für lokale KI

Blackwell-Profi-Karte mit 96GB — sehr großer Speicher auf einer einzigen Karte. Spezifikationen prüfen.

Einige Angaben hier sind vorläufig (placeholder). Betrachten Sie die Spezifikationen als ungefähr und gleichen Sie sie mit dem Hersteller ab, bevor Sie sich darauf verlassen oder einen Kauf tätigen.

Spezifikationen

Speicher
96 GB
Speichertyp
GDDR7 ECC
Bandbreite
zu prüfen
FP16 ca.
zu prüfen
Architektur
Blackwell
Fertigung
TSMC 4NP
Leistung
600 W
Markteinführung
2025

Modelle, die dieser Chip ausführen kann

Offene Modelle, bewertet für einen einzelnen NVIDIA RTX PRO 6000 Blackwell 96GB, beste Eignung zuerst.

  • Qwen2.5 72B
    Qwen · ~72B · 128K ctx · Qwen License

    Passt mit Q8_0 (~78GB) bei ~6.5GB Reserve — etwa 1 gleichzeitige Instanz.

    Q8_0 · ~78GBLäuft gut
  • Llama 3.1 70B
    Llama · ~70B · 128K ctx · Llama Community License

    Passt mit Q8_0 (~75GB) bei ~9.5GB Reserve — etwa 1 gleichzeitige Instanz.

    Q8_0 · ~75GBLäuft gut
  • Llama 3.3 70B
    Llama · ~70B · 128K ctx · Llama Community License

    Passt mit Q8_0 (~75GB) bei ~9.5GB Reserve — etwa 1 gleichzeitige Instanz.

    Q8_0 · ~75GBLäuft gut
  • DeepSeek-R1 Distill Llama 70B
    DeepSeek · ~70B · 128K ctx · MIT

    Passt mit Q8_0 (~75GB) bei ~9.5GB Reserve — etwa 1 gleichzeitige Instanz.

    Q8_0 · ~75GBLäuft gut
  • Mixtral 8x7B (MoE)
    Mistral · ~47B · 32K ctx · Apache-2.0

    Passt mit Q8_0 (~50GB) bei ~34.5GB Reserve — etwa 1 gleichzeitige Instanz.

    Q8_0 · ~50GBLäuft gut
  • CodeLlama 34B
    CodeLlama · ~34B · 16K ctx · Llama Community License

    Passt mit FP16 (~68GB) bei ~16.5GB Reserve — etwa 1 gleichzeitige Instanz.

    FP16 · ~68GBLäuft gut
  • Qwen2.5 32B
    Qwen · ~32B · 128K ctx · Apache-2.0

    Passt mit FP16 (~64GB) bei ~20.5GB Reserve — etwa 1 gleichzeitige Instanz.

    FP16 · ~64GBLäuft gut
  • Qwen3 32B
    Qwen · ~32B · 128K ctx · Apache-2.0

    Passt mit FP16 (~64GB) bei ~20.5GB Reserve — etwa 1 gleichzeitige Instanz.

    FP16 · ~64GBLäuft gut

Bauen Sie ein privates AI Business OS auf NVIDIA RTX PRO 6000 Blackwell 96GB

Run your own AI agents on hardware you control — private by design, no per-seat data leaving your premises. BrainOutput helps you pick the right machine and turn it into a working AI Business OS.