BBrainOutput
Apple·SoC

Apple M2 Ultra: Spezifikationen & Eignung für lokale KI

Bis zu ~192GB Unified Memory — eine bewährte Apple-Option für große Modelle.

Spezifikationen

Speicher
192 GB unified
Speichertyp
Unified LPDDR5
Bandbreite
800 GB/s
FP16 ca.
zu prüfen
Architektur
Apple M2 Ultra
Fertigung
TSMC N5P
Leistung
90 W
Markteinführung
2023

Modelle, die dieser Chip ausführen kann

Offene Modelle, bewertet für einen einzelnen Apple M2 Ultra, beste Eignung zuerst.

  • Gemma 2 27B
    Gemma · ~27B · 8K ctx · Gemma Terms of Use

    Passt mit FP16 (~54GB) bei ~80.4GB Reserve — etwa 2 gleichzeitige Instanzen.

    FP16 · ~54GBLäuft gut
  • Gemma 3 27B
    Gemma 3 · ~27B · 128K ctx · Gemma Terms of Use

    Passt mit FP16 (~54GB) bei ~80.4GB Reserve — etwa 2 gleichzeitige Instanzen.

    FP16 · ~54GBLäuft gut
  • Mistral Small 24B
    Mistral · ~24B · 32K ctx · Apache-2.0

    Passt mit FP16 (~48GB) bei ~86.4GB Reserve — etwa 2 gleichzeitige Instanzen.

    FP16 · ~48GBLäuft gut
  • DeepSeek-Coder V2 (class)
    DeepSeek · ~16B · 128K ctx · DeepSeek License

    Passt mit FP16 (~33GB) bei ~101.4GB Reserve — etwa 4 gleichzeitige Instanzen.

    FP16 · ~33GBLäuft gut
  • StarCoder2 15B
    StarCoder · ~15B · 16K ctx · BigCode OpenRAIL-M

    Passt mit FP16 (~30GB) bei ~104.4GB Reserve — etwa 4 gleichzeitige Instanzen.

    FP16 · ~30GBLäuft gut
  • Qwen2.5 14B
    Qwen · ~14B · 128K ctx · Apache-2.0

    Passt mit FP16 (~30GB) bei ~104.4GB Reserve — etwa 4 gleichzeitige Instanzen.

    FP16 · ~30GBLäuft gut
  • Qwen3 14B
    Qwen · ~14B · 128K ctx · Apache-2.0

    Passt mit FP16 (~30GB) bei ~104.4GB Reserve — etwa 4 gleichzeitige Instanzen.

    FP16 · ~30GBLäuft gut
  • Phi-3 Medium (14B)
    Phi · ~14B · 128K ctx · MIT

    Passt mit FP16 (~28GB) bei ~106.4GB Reserve — etwa 4 gleichzeitige Instanzen.

    FP16 · ~28GBLäuft gut

Geräte auf Basis dieses Chips

Bauen Sie ein privates AI Business OS auf Apple M2 Ultra

Run your own AI agents on hardware you control — private by design, no per-seat data leaving your premises. BrainOutput helps you pick the right machine and turn it into a working AI Business OS.