BBrainOutput
Qwen·General LLM·Apache-2.0·Alibaba·2025

Qwen3 235B-A22B (MoE) : matériel et adéquation métier

  • Tools
  • Reasoning
  • Code
  • Multilingual
  • Long context

Un MoE ouvert de classe frontière. La mémoire est bornée par les paramètres totaux ; le débit bénéficie de l'activation parcimonieuse. Les chiffres sont des estimations : vérifiez avant de planifier le matériel.

Paramètres
~235B (≈22B active, MoE)
Contexte
~128K tokens
Déploiement
cloud
VRAM en 4 bits
~130GB

À quoi sert Qwen3 235B-A22B (MoE)

  • Service privé à la qualité de la frontière
  • Plateforme à l'échelle de l'organisation
efficacité MoEqualité de classe frontièreraisonnement

Meilleurs choix de quantification

Mémoire approximative par quantification (poids + cache KV à contexte modéré). À considérer comme ±.

Quant.~MémoireQuand l’utiliser
Q4_K_M~130GBMeilleur compromis taille/qualité — le choix par défaut habituel pour le service local.
Q8_0~235GBPlus grande fidélité ; ~1,7× la mémoire du 4 bits.
FP16~470GBPrécision complète ; empreinte la plus grande, meilleure qualité.

Exécuter Qwen3 235B-A22B (MoE) en local

Téléchargez et exécutez avec Ollama, ou récupérez les poids sur Hugging Face.

$ ollama run qwen3:235b
Dépôt Hugging Face
Qwen/Qwen3-235B-A22B

Matériel compatible

Appareils de notre catalogue évalués pour Qwen3 235B-A22B (MoE), les plus adaptés d’abord.

  • Supermicro 8x H100 SuperServer
    Supermicro · AI Servers

    Tient en FP16 (~470GB) avec ~93.2GB de marge — environ 1 instance simultanée.

    FP16 · ~470GBFonctionne bien
  • Dell PowerEdge XE9680
    Dell · AI Servers

    Tient en FP16 (~470GB) avec ~93.2GB de marge — environ 1 instance simultanée.

    FP16 · ~470GBFonctionne bien
  • AMD Instinct MI300X
    AMD · Datacenter GPUs

    Tient en Q4_K_M (~130GB) avec ~39GB de marge — environ 1 instance simultanée.

    Q4_K_M · ~130GBFonctionne bien
  • Apple Mac Studio (M2 Ultra)
    Apple · Apple Silicon

    Tient en Q4_K_M (~130GB) mais une bande passante limitée rend la génération de tokens lente pour un modèle de 235B.

    Q4_K_M · ~130GBFonctionne lentement
  • NVIDIA H200 (141GB)
    NVIDIA · Datacenter GPUs

    Même la quantification la plus légère (~130GB) dépasse la mémoire utilisable (~124.1GB). Choisissez un modèle plus petit ou montez en gamme de matériel.

    Non recommandé
  • Cloud H200 141GB (profile)
    Cloud · Cloud GPU Profiles

    Même la quantification la plus légère (~130GB) dépasse la mémoire utilisable (~124.1GB). Choisissez un modèle plus petit ou montez en gamme de matériel.

    Non recommandé
  • NVIDIA H100 (80GB)
    NVIDIA · Datacenter GPUs

    Même la quantification la plus légère (~130GB) dépasse la mémoire utilisable (~70.4GB). Choisissez un modèle plus petit ou montez en gamme de matériel.

    Non recommandé
  • Cloud H100 80GB (profile)
    Cloud · Cloud GPU Profiles

    Même la quantification la plus légère (~130GB) dépasse la mémoire utilisable (~70.4GB). Choisissez un modèle plus petit ou montez en gamme de matériel.

    Non recommandé
  • HP Z8 Fury G5 Workstation
    HP · AI Workstations

    Même la quantification la plus légère (~130GB) dépasse la mémoire utilisable (~84.5GB). Choisissez un modèle plus petit ou montez en gamme de matériel.

    Non recommandé
  • Lenovo ThinkStation PX Workstation
    Lenovo · AI Workstations

    Même la quantification la plus légère (~130GB) dépasse la mémoire utilisable (~84.5GB). Choisissez un modèle plus petit ou montez en gamme de matériel.

    Non recommandé

Utilisez-le dans l’AI Business OS

Qwen3 235B-A22B (MoE) convient à ces archétypes d’agent de l’AI Business OS :

Un modèle n’est que le moteur. Dans l’AI Business OS, il est entouré de permissions, d’outils, de connecteurs, de RAG et d’un audit pour accomplir un vrai travail métier en toute sécurité — découvrez comment fonctionne l’AI Business OS →

Questions fréquentes

De quel matériel ai-je besoin pour exécuter Qwen3 235B-A22B (MoE) ?+

En 4 bits, il vous faut environ ~130GB de mémoire utilisable. L’option auto-hébergeable minimale de notre catalogue est la Apple Mac Studio (M2 Ultra). Pour une exécution confortable, nous recommandons la Supermicro 8x H100 SuperServer.

Quelle quantification utiliser pour Qwen3 235B-A22B (MoE) ?+

Q4_K_M est le choix par défaut habituel — le meilleur compromis taille/qualité. Passez à Q8_0 ou FP16 si vous avez de la mémoire en réserve et voulez plus de fidélité.

Faut-il exécuter Qwen3 235B-A22B (MoE) en local ou dans le cloud ?+

Pour Qwen3 235B-A22B (MoE), le cloud / l’API est recommandé. Sa taille ou son modèle d’hébergement font du cloud le choix pratique ; associez-le à de plus petits modèles locaux pour le travail privé quotidien.

Autres tailles de la famille Qwen

Tous les modèles Qwen →

Même famille, taille différente. Choisissez la variante adaptée à votre matériel.

Modèles associés

Choix similaires — modèles de la même famille et de taille la plus proche du même type.

Utilisez Qwen3 235B-A22B (MoE) dans votre AI Business OS

BrainOutput vous aide à exécuter Qwen3 235B-A22B (MoE) comme un agent métier privé — entouré des outils, connecteurs, RAG et garde-fous dont il a besoin pour accomplir un vrai travail sur du matériel que vous contrôlez.