BBrainOutput
Phi·General LLM·MIT·Microsoft·2024

Phi-4 (14B): hardware e adequação ao negócio

  • Reasoning
  • Code

Um modelo compacto mais recente focado em raciocínio. Verifique o lançamento exato; a licença MIT mantém o uso comercial simples.

Parâmetros
~14B
Contexto
~16K tokens
Implantação
local
VRAM a 4 bits
~9GB

Para que serve o Phi-4 (14B)

  • Raciocínio e análise
  • Lógica de back-office
  • RAG
raciocíniomatemáticalicença MITcompacto

Melhores opções de quantização

Memória aproximada por quantização (pesos + cache KV com contexto moderado). Trate como ±.

Quant.~MemóriaQuando usar
Q4_K_M~9GBMelhor equilíbrio tamanho/qualidade — a opção padrão habitual para servir localmente.
Q8_0~15GBMaior fidelidade; ~1,7× a memória de 4 bits.
FP16~28GBPrecisão completa; maior pegada, melhor qualidade.

Executar o Phi-4 (14B) localmente

Descarregue e execute com Ollama, ou obtenha os pesos no Hugging Face.

$ ollama run phi4
Repositório Hugging Face
microsoft/phi-4

Hardware compatível

Dispositivos do nosso catálogo avaliados para o Phi-4 (14B), primeiro os que melhor se adequam.

  • Supermicro 8x H100 SuperServer
    Supermicro · AI Servers

    Cabe em FP16 (~28GB) com ~535.2GB de margem — cerca de 20 instâncias em simultâneo.

    FP16 · ~28GBCorre bem
  • Dell PowerEdge XE9680
    Dell · AI Servers

    Cabe em FP16 (~28GB) com ~535.2GB de margem — cerca de 20 instâncias em simultâneo.

    FP16 · ~28GBCorre bem
  • AMD Instinct MI300X
    AMD · Datacenter GPUs

    Cabe em FP16 (~28GB) com ~141GB de margem — cerca de 6 instâncias em simultâneo.

    FP16 · ~28GBCorre bem
  • NVIDIA H200 (141GB)
    NVIDIA · Datacenter GPUs

    Cabe em FP16 (~28GB) com ~96.1GB de margem — cerca de 4 instâncias em simultâneo.

    FP16 · ~28GBCorre bem
  • Cloud H200 141GB (profile)
    Cloud · Cloud GPU Profiles

    Cabe em FP16 (~28GB) com ~96.1GB de margem — cerca de 4 instâncias em simultâneo.

    FP16 · ~28GBCorre bem
  • NVIDIA H100 (80GB)
    NVIDIA · Datacenter GPUs

    Cabe em FP16 (~28GB) com ~42.4GB de margem — cerca de 2 instâncias em simultâneo.

    FP16 · ~28GBCorre bem
  • Cloud H100 80GB (profile)
    Cloud · Cloud GPU Profiles

    Cabe em FP16 (~28GB) com ~42.4GB de margem — cerca de 2 instâncias em simultâneo.

    FP16 · ~28GBCorre bem
  • HP Z8 Fury G5 Workstation
    HP · AI Workstations

    Cabe em FP16 (~28GB) com ~56.5GB de margem — cerca de 3 instâncias em simultâneo.

    FP16 · ~28GBCorre bem
  • Lenovo ThinkStation PX Workstation
    Lenovo · AI Workstations

    Cabe em FP16 (~28GB) com ~56.5GB de margem — cerca de 3 instâncias em simultâneo.

    FP16 · ~28GBCorre bem
  • Supermicro AI Workstation
    Supermicro · AI Workstations

    Cabe em FP16 (~28GB) com ~56.5GB de margem — cerca de 3 instâncias em simultâneo.

    FP16 · ~28GBCorre bem

Use dentro do AI Business OS

Phi-4 (14B) adequa-se a estes arquétipos de agente do AI Business OS:

Um modelo é apenas o motor. Dentro do AI Business OS é envolvido com permissões, ferramentas, conectores, RAG e auditoria para que possa fazer trabalho de negócio em segurança — veja como funciona o AI Business OS →

Perguntas frequentes

Que hardware preciso para executar o Phi-4 (14B)?+

A 4 bits precisa de cerca de ~9GB de memória utilizável. A opção auto-alojável mínima no nosso catálogo é a NVIDIA GeForce RTX 3060 12GB. Para uma execução confortável recomendamos a Supermicro 8x H100 SuperServer.

Que quantização devo usar para o Phi-4 (14B)?+

Q4_K_M é a opção padrão habitual — o melhor equilíbrio tamanho/qualidade. Passe para Q8_0 ou FP16 se tiver memória de sobra e quiser maior fidelidade.

Devo executar o Phi-4 (14B) localmente ou na nuvem?+

Para o Phi-4 (14B) recomenda-se local primeiro. Cabe confortavelmente em hardware próprio, mantendo os dados privados e os custos previsíveis.

Outros tamanhos na família Phi

Todos os modelos Phi →

Mesma família, tamanho diferente. Escolha a variante que se adapta ao seu hardware.

Modelos relacionados

Opções semelhantes — modelos da mesma família e de tamanho mais próximo do mesmo tipo.

Use o Phi-4 (14B) dentro do seu AI Business OS

A BrainOutput ajuda-o a executar o Phi-4 (14B) como um agente de negócio privado — envolvido com as ferramentas, conectores, RAG e salvaguardas de que precisa para fazer trabalho real em hardware que você controla.