AMD Instinct MI325X 256GB: Spezifikationen & Eignung für lokale KI
256GB-HBM3e-Beschleuniger — sehr großer Speicher für die Bereitstellung großer Modelle.
Einige Angaben hier sind vorläufig (placeholder). Betrachten Sie die Spezifikationen als ungefähr und gleichen Sie sie mit dem Hersteller ab, bevor Sie sich darauf verlassen oder einen Kauf tätigen.
Spezifikationen
- Speicher
- 256 GB
- Speichertyp
- HBM3e
- Bandbreite
- 6,000 GB/s
- FP16 ca.
- zu prüfen
- Architektur
- CDNA 3
- Fertigung
- TSMC
- Leistung
- 1,000 W
- Markteinführung
- 2024
Modelle, die dieser Chip ausführen kann
Offene Modelle, bewertet für einen einzelnen AMD Instinct MI325X 256GB, beste Eignung zuerst.
- Qwen3 235B-A22B (MoE)Qwen · ~235B · 128K ctx · Apache-2.0
Passt mit Q4_K_M (~130GB) bei ~95.3GB Reserve — etwa 1 gleichzeitige Instanz.
Q4_K_M · ~130GBLäuft gut - Qwen2.5 72BQwen · ~72B · 128K ctx · Qwen License
Passt mit FP16 (~145GB) bei ~80.3GB Reserve — etwa 1 gleichzeitige Instanz.
FP16 · ~145GBLäuft gut - Llama 3.1 70BLlama · ~70B · 128K ctx · Llama Community License
Passt mit FP16 (~140GB) bei ~85.3GB Reserve — etwa 1 gleichzeitige Instanz.
FP16 · ~140GBLäuft gut - Llama 3.3 70BLlama · ~70B · 128K ctx · Llama Community License
Passt mit FP16 (~140GB) bei ~85.3GB Reserve — etwa 1 gleichzeitige Instanz.
FP16 · ~140GBLäuft gut - DeepSeek-R1 Distill Llama 70BDeepSeek · ~70B · 128K ctx · MIT
Passt mit FP16 (~140GB) bei ~85.3GB Reserve — etwa 1 gleichzeitige Instanz.
FP16 · ~140GBLäuft gut - Mixtral 8x7B (MoE)Mistral · ~47B · 32K ctx · Apache-2.0
Passt mit FP16 (~90GB) bei ~135.3GB Reserve — etwa 2 gleichzeitige Instanzen.
FP16 · ~90GBLäuft gut - CodeLlama 34BCodeLlama · ~34B · 16K ctx · Llama Community License
Passt mit FP16 (~68GB) bei ~157.3GB Reserve — etwa 3 gleichzeitige Instanzen.
FP16 · ~68GBLäuft gut - Qwen2.5 32BQwen · ~32B · 128K ctx · Apache-2.0
Passt mit FP16 (~64GB) bei ~161.3GB Reserve — etwa 3 gleichzeitige Instanzen.
FP16 · ~64GBLäuft gut
Bauen Sie ein privates AI Business OS auf AMD Instinct MI325X 256GB
Run your own AI agents on hardware you control — private by design, no per-seat data leaving your premises. BrainOutput helps you pick the right machine and turn it into a working AI Business OS.