BBrainOutput
Apple·SoC

Apple M2 Ultra: especificações e compatibilidade com IA local

Até ~192GB de memória unificada — uma opção Apple comprovada para modelos grandes.

Especificações

Memória
192 GB unificada
Tipo de memória
Unified LPDDR5
Largura de banda
800 GB/s
FP16 aprox.
a verificar
Arquitetura
Apple M2 Ultra
Processo
TSMC N5P
Consumo
90 W
Lançamento
2023

Modelos que este chip pode executar

Modelos abertos avaliados para um único Apple M2 Ultra, o de melhor ajuste primeiro.

  • Gemma 2 27B
    Gemma · ~27B · 8K ctx · Gemma Terms of Use

    Cabe em FP16 (~54GB) com ~80.4GB de margem — cerca de 2 instâncias em simultâneo.

    FP16 · ~54GBCorre bem
  • Gemma 3 27B
    Gemma 3 · ~27B · 128K ctx · Gemma Terms of Use

    Cabe em FP16 (~54GB) com ~80.4GB de margem — cerca de 2 instâncias em simultâneo.

    FP16 · ~54GBCorre bem
  • Mistral Small 24B
    Mistral · ~24B · 32K ctx · Apache-2.0

    Cabe em FP16 (~48GB) com ~86.4GB de margem — cerca de 2 instâncias em simultâneo.

    FP16 · ~48GBCorre bem
  • DeepSeek-Coder V2 (class)
    DeepSeek · ~16B · 128K ctx · DeepSeek License

    Cabe em FP16 (~33GB) com ~101.4GB de margem — cerca de 4 instâncias em simultâneo.

    FP16 · ~33GBCorre bem
  • StarCoder2 15B
    StarCoder · ~15B · 16K ctx · BigCode OpenRAIL-M

    Cabe em FP16 (~30GB) com ~104.4GB de margem — cerca de 4 instâncias em simultâneo.

    FP16 · ~30GBCorre bem
  • Qwen2.5 14B
    Qwen · ~14B · 128K ctx · Apache-2.0

    Cabe em FP16 (~30GB) com ~104.4GB de margem — cerca de 4 instâncias em simultâneo.

    FP16 · ~30GBCorre bem
  • Qwen3 14B
    Qwen · ~14B · 128K ctx · Apache-2.0

    Cabe em FP16 (~30GB) com ~104.4GB de margem — cerca de 4 instâncias em simultâneo.

    FP16 · ~30GBCorre bem
  • Phi-3 Medium (14B)
    Phi · ~14B · 128K ctx · MIT

    Cabe em FP16 (~28GB) com ~106.4GB de margem — cerca de 4 instâncias em simultâneo.

    FP16 · ~28GBCorre bem

Dispositivos baseados neste chip

Apple
Apple Mac Pro (M2 Ultra)
6 configurações

Construa um AI Business OS privado sobre Apple M2 Ultra

Run your own AI agents on hardware you control — private by design, no per-seat data leaving your premises. BrainOutput helps you pick the right machine and turn it into a working AI Business OS.

Explorar o AI Business OS