BBrainOutput
Qwen·General LLM·Apache-2.0·Alibaba·2025

Qwen3 235B-A22B (MoE): hardware y encaje de negocio

  • Tools
  • Reasoning
  • Code
  • Multilingual
  • Long context

Un MoE abierto de clase frontera. La memoria está limitada por los parámetros totales; el rendimiento se beneficia de la activación dispersa. Las cifras son provisionales: verifica antes de planificar el hardware.

Parámetros
~235B (≈22B active, MoE)
Contexto
~128K tokens
Despliegue
cloud
VRAM a 4 bits
~130GB

Para qué sirve Qwen3 235B-A22B (MoE)

  • Servicio privado con calidad de frontera
  • Plataforma para toda la organización
eficiencia MoEcalidad de clase fronterarazonamiento

Mejores opciones de cuantización

Memoria aproximada por cuantización (pesos + caché KV con contexto moderado). Trátala como ±.

Cuant.~MemoriaCuándo usarla
Q4_K_M~130GBMejor equilibrio tamaño/calidad: la opción por defecto habitual para servir en local.
Q8_0~235GBMayor fidelidad; ~1,7× la memoria de 4 bits.
FP16~470GBPrecisión completa; mayor huella, mejor calidad.

Ejecuta Qwen3 235B-A22B (MoE) en local

Descárgalo y ejecútalo con Ollama, o consigue los pesos en Hugging Face.

$ ollama run qwen3:235b
Repositorio de Hugging Face
Qwen/Qwen3-235B-A22B

Hardware compatible

Dispositivos de nuestro catálogo valorados para Qwen3 235B-A22B (MoE), primero los que mejor encajan.

  • Supermicro 8x H100 SuperServer
    Supermicro · AI Servers

    Cabe en FP16 (~470GB) con ~93.2GB de margen — alrededor de 1 instancia simultánea.

    FP16 · ~470GBFunciona bien
  • Dell PowerEdge XE9680
    Dell · AI Servers

    Cabe en FP16 (~470GB) con ~93.2GB de margen — alrededor de 1 instancia simultánea.

    FP16 · ~470GBFunciona bien
  • AMD Instinct MI300X
    AMD · Datacenter GPUs

    Cabe en Q4_K_M (~130GB) con ~39GB de margen — alrededor de 1 instancia simultánea.

    Q4_K_M · ~130GBFunciona bien
  • Apple Mac Studio (M2 Ultra)
    Apple · Apple Silicon

    Cabe en Q4_K_M (~130GB) pero el ancho de banda limitado hace que la generación de tokens sea lenta para un modelo de 235B.

    Q4_K_M · ~130GBFunciona despacio
  • NVIDIA H200 (141GB)
    NVIDIA · Datacenter GPUs

    Incluso la cuantización más pequeña (~130GB) supera la memoria utilizable (~124.1GB). Elige un modelo más pequeño o sube de hardware.

    No recomendado
  • Cloud H200 141GB (profile)
    Cloud · Cloud GPU Profiles

    Incluso la cuantización más pequeña (~130GB) supera la memoria utilizable (~124.1GB). Elige un modelo más pequeño o sube de hardware.

    No recomendado
  • NVIDIA H100 (80GB)
    NVIDIA · Datacenter GPUs

    Incluso la cuantización más pequeña (~130GB) supera la memoria utilizable (~70.4GB). Elige un modelo más pequeño o sube de hardware.

    No recomendado
  • Cloud H100 80GB (profile)
    Cloud · Cloud GPU Profiles

    Incluso la cuantización más pequeña (~130GB) supera la memoria utilizable (~70.4GB). Elige un modelo más pequeño o sube de hardware.

    No recomendado
  • HP Z8 Fury G5 Workstation
    HP · AI Workstations

    Incluso la cuantización más pequeña (~130GB) supera la memoria utilizable (~84.5GB). Elige un modelo más pequeño o sube de hardware.

    No recomendado
  • Lenovo ThinkStation PX Workstation
    Lenovo · AI Workstations

    Incluso la cuantización más pequeña (~130GB) supera la memoria utilizable (~84.5GB). Elige un modelo más pequeño o sube de hardware.

    No recomendado

Úsalo dentro del AI Business OS

Qwen3 235B-A22B (MoE) encaja con estos arquetipos de agente del AI Business OS:

Un modelo es solo el motor. Dentro del AI Business OS se envuelve con permisos, herramientas, conectores, RAG y auditoría para que pueda hacer trabajo de negocio de forma segura: descubre cómo funciona el AI Business OS →

Preguntas frecuentes

¿Qué hardware necesito para ejecutar Qwen3 235B-A22B (MoE)?+

A 4 bits necesitas aproximadamente ~130GB de memoria utilizable. La opción autoalojable mínima de nuestro catálogo es la Apple Mac Studio (M2 Ultra). Para una ejecución cómoda recomendamos la Supermicro 8x H100 SuperServer.

¿Qué cuantización debería usar para Qwen3 235B-A22B (MoE)?+

Q4_K_M es la opción por defecto habitual: el mejor equilibrio tamaño/calidad. Sube a Q8_0 o FP16 si tienes memoria de sobra y quieres mayor fidelidad.

¿Debería ejecutar Qwen3 235B-A22B (MoE) en local o en la nube?+

Para Qwen3 235B-A22B (MoE) se recomienda nube / API. Su tamaño o modelo de alojamiento hacen de la nube la opción práctica; combínalo con modelos locales más pequeños para el trabajo privado diario.

Otros tamaños de la familia Qwen

Todos los modelos Qwen →

Misma familia, distinto tamaño. Elige la variante que encaje con tu hardware.

Modelos relacionados

Opciones similares: hermanos de familia y modelos del mismo tipo con tamaño más próximo.

Usa Qwen3 235B-A22B (MoE) dentro de tu AI Business OS

BrainOutput te ayuda a ejecutar Qwen3 235B-A22B (MoE) como un agente de negocio privado, envuelto con las herramientas, los conectores, el RAG y las salvaguardas que necesita para hacer trabajo real en hardware que tú controlas.