BBrainOutput
Qwen·General LLM·Apache-2.0·Alibaba·2025

Qwen3 235B-A22B (MoE): hardware e adequação ao negócio

  • Tools
  • Reasoning
  • Code
  • Multilingual
  • Long context

Um MoE aberto de classe de fronteira. A memória é limitada pelos parâmetros totais; o débito beneficia da ativação esparsa. Os valores são provisórios — verifique antes de planear hardware.

Parâmetros
~235B (≈22B active, MoE)
Contexto
~128K tokens
Implantação
cloud
VRAM a 4 bits
~130GB

Para que serve o Qwen3 235B-A22B (MoE)

  • Serviço privado com qualidade de fronteira
  • Plataforma para toda a organização
eficiência MoEqualidade de classe de fronteiraraciocínio

Melhores opções de quantização

Memória aproximada por quantização (pesos + cache KV com contexto moderado). Trate como ±.

Quant.~MemóriaQuando usar
Q4_K_M~130GBMelhor equilíbrio tamanho/qualidade — a opção padrão habitual para servir localmente.
Q8_0~235GBMaior fidelidade; ~1,7× a memória de 4 bits.
FP16~470GBPrecisão completa; maior pegada, melhor qualidade.

Executar o Qwen3 235B-A22B (MoE) localmente

Descarregue e execute com Ollama, ou obtenha os pesos no Hugging Face.

$ ollama run qwen3:235b
Repositório Hugging Face
Qwen/Qwen3-235B-A22B

Hardware compatível

Dispositivos do nosso catálogo avaliados para o Qwen3 235B-A22B (MoE), primeiro os que melhor se adequam.

  • Supermicro 8x H100 SuperServer
    Supermicro · AI Servers

    Cabe em FP16 (~470GB) com ~93.2GB de margem — cerca de 1 instância em simultâneo.

    FP16 · ~470GBCorre bem
  • Dell PowerEdge XE9680
    Dell · AI Servers

    Cabe em FP16 (~470GB) com ~93.2GB de margem — cerca de 1 instância em simultâneo.

    FP16 · ~470GBCorre bem
  • AMD Instinct MI300X
    AMD · Datacenter GPUs

    Cabe em Q4_K_M (~130GB) com ~39GB de margem — cerca de 1 instância em simultâneo.

    Q4_K_M · ~130GBCorre bem
  • Apple Mac Studio (M2 Ultra)
    Apple · Apple Silicon

    Cabe em Q4_K_M (~130GB) mas a largura de banda limitada torna a geração de tokens lenta para um modelo de 235B.

    Q4_K_M · ~130GBCorre lentamente
  • NVIDIA H200 (141GB)
    NVIDIA · Datacenter GPUs

    Mesmo a quantização mais pequena (~130GB) excede a memória utilizável (~124.1GB). Escolha um modelo mais pequeno ou opte por hardware superior.

    Não recomendado
  • Cloud H200 141GB (profile)
    Cloud · Cloud GPU Profiles

    Mesmo a quantização mais pequena (~130GB) excede a memória utilizável (~124.1GB). Escolha um modelo mais pequeno ou opte por hardware superior.

    Não recomendado
  • NVIDIA H100 (80GB)
    NVIDIA · Datacenter GPUs

    Mesmo a quantização mais pequena (~130GB) excede a memória utilizável (~70.4GB). Escolha um modelo mais pequeno ou opte por hardware superior.

    Não recomendado
  • Cloud H100 80GB (profile)
    Cloud · Cloud GPU Profiles

    Mesmo a quantização mais pequena (~130GB) excede a memória utilizável (~70.4GB). Escolha um modelo mais pequeno ou opte por hardware superior.

    Não recomendado
  • HP Z8 Fury G5 Workstation
    HP · AI Workstations

    Mesmo a quantização mais pequena (~130GB) excede a memória utilizável (~84.5GB). Escolha um modelo mais pequeno ou opte por hardware superior.

    Não recomendado
  • Lenovo ThinkStation PX Workstation
    Lenovo · AI Workstations

    Mesmo a quantização mais pequena (~130GB) excede a memória utilizável (~84.5GB). Escolha um modelo mais pequeno ou opte por hardware superior.

    Não recomendado

Use dentro do AI Business OS

Qwen3 235B-A22B (MoE) adequa-se a estes arquétipos de agente do AI Business OS:

Um modelo é apenas o motor. Dentro do AI Business OS é envolvido com permissões, ferramentas, conectores, RAG e auditoria para que possa fazer trabalho de negócio em segurança — veja como funciona o AI Business OS →

Perguntas frequentes

Que hardware preciso para executar o Qwen3 235B-A22B (MoE)?+

A 4 bits precisa de cerca de ~130GB de memória utilizável. A opção auto-alojável mínima no nosso catálogo é a Apple Mac Studio (M2 Ultra). Para uma execução confortável recomendamos a Supermicro 8x H100 SuperServer.

Que quantização devo usar para o Qwen3 235B-A22B (MoE)?+

Q4_K_M é a opção padrão habitual — o melhor equilíbrio tamanho/qualidade. Passe para Q8_0 ou FP16 se tiver memória de sobra e quiser maior fidelidade.

Devo executar o Qwen3 235B-A22B (MoE) localmente ou na nuvem?+

Para o Qwen3 235B-A22B (MoE) recomenda-se nuvem / API. O seu tamanho ou modelo de alojamento tornam a nuvem a opção prática; combine-o com modelos locais mais pequenos para o trabalho privado diário.

Outros tamanhos na família Qwen

Todos os modelos Qwen →

Mesma família, tamanho diferente. Escolha a variante que se adapta ao seu hardware.

Modelos relacionados

Opções semelhantes — modelos da mesma família e de tamanho mais próximo do mesmo tipo.

Use o Qwen3 235B-A22B (MoE) dentro do seu AI Business OS

A BrainOutput ajuda-o a executar o Qwen3 235B-A22B (MoE) como um agente de negócio privado — envolvido com as ferramentas, conectores, RAG e salvaguardas de que precisa para fazer trabalho real em hardware que você controla.