Intel Gaudi 3 128GB: Spezifikationen & Eignung für lokale KI
KI-Beschleuniger mit 128GB für Training/Inferenz — Ökosystem-Eignung prüfen.
Einige Angaben hier sind vorläufig (placeholder). Betrachten Sie die Spezifikationen als ungefähr und gleichen Sie sie mit dem Hersteller ab, bevor Sie sich darauf verlassen oder einen Kauf tätigen.
Spezifikationen
- Speicher
- 128 GB
- Speichertyp
- HBM2e
- Bandbreite
- 3,700 GB/s
- FP16 ca.
- zu prüfen
- Architektur
- Gaudi 3
- Fertigung
- TSMC 5nm
- Leistung
- 900 W
- Markteinführung
- 2024
Modelle, die dieser Chip ausführen kann
Offene Modelle, bewertet für einen einzelnen Intel Gaudi 3 128GB, beste Eignung zuerst.
- Qwen2.5 72BQwen · ~72B · 128K ctx · Qwen License
Passt mit Q8_0 (~78GB) bei ~34.6GB Reserve — etwa 1 gleichzeitige Instanz.
Q8_0 · ~78GBLäuft gut - Llama 3.1 70BLlama · ~70B · 128K ctx · Llama Community License
Passt mit Q8_0 (~75GB) bei ~37.6GB Reserve — etwa 1 gleichzeitige Instanz.
Q8_0 · ~75GBLäuft gut - Llama 3.3 70BLlama · ~70B · 128K ctx · Llama Community License
Passt mit Q8_0 (~75GB) bei ~37.6GB Reserve — etwa 1 gleichzeitige Instanz.
Q8_0 · ~75GBLäuft gut - DeepSeek-R1 Distill Llama 70BDeepSeek · ~70B · 128K ctx · MIT
Passt mit Q8_0 (~75GB) bei ~37.6GB Reserve — etwa 1 gleichzeitige Instanz.
Q8_0 · ~75GBLäuft gut - Mixtral 8x7B (MoE)Mistral · ~47B · 32K ctx · Apache-2.0
Passt mit FP16 (~90GB) bei ~22.6GB Reserve — etwa 1 gleichzeitige Instanz.
FP16 · ~90GBLäuft gut - CodeLlama 34BCodeLlama · ~34B · 16K ctx · Llama Community License
Passt mit FP16 (~68GB) bei ~44.6GB Reserve — etwa 1 gleichzeitige Instanz.
FP16 · ~68GBLäuft gut - Qwen2.5 32BQwen · ~32B · 128K ctx · Apache-2.0
Passt mit FP16 (~64GB) bei ~48.6GB Reserve — etwa 1 gleichzeitige Instanz.
FP16 · ~64GBLäuft gut - Qwen3 32BQwen · ~32B · 128K ctx · Apache-2.0
Passt mit FP16 (~64GB) bei ~48.6GB Reserve — etwa 1 gleichzeitige Instanz.
FP16 · ~64GBLäuft gut
Bauen Sie ein privates AI Business OS auf Intel Gaudi 3 128GB
Run your own AI agents on hardware you control — private by design, no per-seat data leaving your premises. BrainOutput helps you pick the right machine and turn it into a working AI Business OS.