BBrainOutput
Apple·SoC

Apple M4 Pro: Spezifikationen & Eignung für lokale KI

Mehr Bandbreite und bis zu ~64GB Unified Memory für Modelle mittlerer Größe.

Spezifikationen

Speicher
64 GB unified
Speichertyp
Unified LPDDR5X
Bandbreite
273 GB/s
FP16 ca.
zu prüfen
Architektur
Apple M4 Pro
Fertigung
TSMC N3E
Leistung
40 W
Markteinführung
2024

Modelle, die dieser Chip ausführen kann

Offene Modelle, bewertet für einen einzelnen Apple M4 Pro, beste Eignung zuerst.

  • CodeLlama 13B
    CodeLlama · ~13B · 16K ctx · Llama Community License

    Passt mit FP16 (~26GB) bei ~18.8GB Reserve — etwa 1 gleichzeitige Instanz.

    FP16 · ~26GBLäuft gut
  • Gemma 3 12B
    Gemma 3 · ~12B · 128K ctx · Gemma Terms of Use

    Passt mit FP16 (~24GB) bei ~20.8GB Reserve — etwa 1 gleichzeitige Instanz.

    FP16 · ~24GBLäuft gut
  • Mistral Nemo 12B
    Mistral · ~12B · 128K ctx · Apache-2.0

    Passt mit FP16 (~24GB) bei ~20.8GB Reserve — etwa 1 gleichzeitige Instanz.

    FP16 · ~24GBLäuft gut
  • Gemma 2 9B
    Gemma · ~9B · 8K ctx · Gemma Terms of Use

    Passt mit FP16 (~19GB) bei ~25.8GB Reserve — etwa 2 gleichzeitige Instanzen.

    FP16 · ~19GBLäuft gut
  • Llama 3.1 8B
    Llama · ~8B · 128K ctx · Llama Community License

    Passt mit FP16 (~17GB) bei ~27.8GB Reserve — etwa 2 gleichzeitige Instanzen.

    FP16 · ~17GBLäuft gut
  • Qwen3 8B
    Qwen · ~8B · 128K ctx · Apache-2.0

    Passt mit FP16 (~17GB) bei ~27.8GB Reserve — etwa 2 gleichzeitige Instanzen.

    FP16 · ~17GBLäuft gut
  • Granite 3 8B
    Granite · ~8B · 128K ctx · Apache-2.0

    Passt mit FP16 (~17GB) bei ~27.8GB Reserve — etwa 2 gleichzeitige Instanzen.

    FP16 · ~17GBLäuft gut
  • DeepSeek-R1 Distill 8B
    DeepSeek · ~8B · 128K ctx · MIT

    Passt mit FP16 (~17GB) bei ~27.8GB Reserve — etwa 2 gleichzeitige Instanzen.

    FP16 · ~17GBLäuft gut

Geräte auf Basis dieses Chips

Bauen Sie ein privates AI Business OS auf Apple M4 Pro

Run your own AI agents on hardware you control — private by design, no per-seat data leaving your premises. BrainOutput helps you pick the right machine and turn it into a working AI Business OS.