Local Office AI Appliance (reference profile): IA locale et adéquation métier
Une boîte silencieuse au format compact pour un seul bureau : assez pour un assistant privé et du RAG documentaire léger sur un modèle 7–14B.
Voici ce que représente le Local Office AI Appliance (reference profile) pour une entreprise qui veut exécuter une IA privée sur du matériel qu’elle maîtrise : quels LLM ouverts conviennent, quels agents il peut alimenter, le niveau AI Business OS qui lui correspond et s’il faut l’exécuter en local, dans le cloud ou en hybride.
Recommended on-prem appliance
Run it on a GB10 box with AI Business OS pre-installed
The simplest way to put a private AI workforce on-premise: a compact GB10 Grace Blackwell appliance with ~128 GB unified memory — from ASUS, Dell or NVIDIA — shipped by BrainOutput with BrainOS pre-installed, so it runs your agents the day it arrives.
128GB unified · GB10 Grace Blackwell · on-prem
128GB unified · GB10 Grace Blackwell · on-prem
128GB unified · GB10 Grace Blackwell · on-prem
Spécifications en un coup d’œil
- Mémoire
- 16 GB
- Type de mémoire
- GDDR6
- Bande passante
- 450 GB/s
- FP16 approx.
- 80 TFLOPS
- Architecture
- Ada Lovelace
- Gravure
- TSMC 4N
- Consommation
- 250 W
- Année de sortie
- 2024
Les spécifications sont des chiffres approximate. Profil représentatif bâti autour d'un GPU de bureau de 16 Go dans un châssis compact. La rampe d'accès abordable vers un AI Business OS privé pour une petite équipe — commencez ici et évoluez vers des agents spécialisés.
Scores de compatibilité IA
Heuristiques transparentes de 0 à 100 combinant mémoire utilisable, bande passante et calcul : indication relative, pas des benchmarks.
LLM compatibles
Modèles de chat, de code et de raisonnement à poids ouverts de notre catalogue, notés pour le Local Office AI Appliance (reference profile), les plus adaptés en premier.
- DeepSeek-Coder V2 (class)DeepSeek · 16B · DeepSeek License
Tient en Q4_K_M (~11GB) avec ~3.1GB de marge — environ 1 instance simultanée.
Q4_K_M · ~11GBFonctionne bien - StarCoder2 15BStarCoder · 15B · BigCode OpenRAIL-M
Tient en Q4_K_M (~10GB) avec ~4.1GB de marge — environ 1 instance simultanée.
Q4_K_M · ~10GBFonctionne bien - Qwen2.5 14BQwen · 14B · Apache-2.0
Tient en Q4_K_M (~10GB) avec ~4.1GB de marge — environ 1 instance simultanée.
Q4_K_M · ~10GBFonctionne bien - Qwen3 14BQwen · 14B · Apache-2.0
Tient en Q4_K_M (~10GB) avec ~4.1GB de marge — environ 1 instance simultanée.
Q4_K_M · ~10GBFonctionne bien - Phi-3 Medium (14B)Phi · 14B · MIT
Tient en Q4_K_M (~9GB) avec ~5.1GB de marge — environ 1 instance simultanée.
Q4_K_M · ~9GBFonctionne bien - Phi-4 (14B)Phi · 14B · MIT
Tient en Q4_K_M (~9GB) avec ~5.1GB de marge — environ 1 instance simultanée.
Q4_K_M · ~9GBFonctionne bien - DeepSeek-R1 Distill 14BDeepSeek · 14B · MIT
Tient en Q4_K_M (~10GB) avec ~4.1GB de marge — environ 1 instance simultanée.
Q4_K_M · ~10GBFonctionne bien - Qwen2.5-Coder 14BQwen · 14B · Apache-2.0
Tient en Q4_K_M (~10GB) avec ~4.1GB de marge — environ 1 instance simultanée.
Q4_K_M · ~10GBFonctionne bien
Meilleurs modèles par charge de travail métier
Idéal pour les agents de code
Complétion, revue et refactoring de code sur du source privé.
- DeepSeek-Coder V2 (class)Fonctionne bien
- StarCoder2 15BFonctionne bien
- Qwen2.5 14BFonctionne bien
Idéal pour le RAG / la recherche
Réponses sur vos documents avec citations.
- Qwen2.5 14BFonctionne bien
- Qwen3 14BFonctionne bien
- Phi-3 Medium (14B)Fonctionne bien
Idéal pour l’automatisation métier
Extraction de documents et workflows administratifs.
- Qwen2.5 14BFonctionne bien
- Qwen3 14BFonctionne bien
- Phi-4 (14B)Fonctionne bien
Adapté à un AI Business OS privé ?
Oui — c’est un hôte privé viable pour l’AI Business OS en déploiement à assistant unique, faisant tourner des modèles comme DeepSeek-Coder V2 (class) sur du matériel que vous contrôlez.
Conseil de mise à niveau : Pour des modèles plus grands, un contexte plus long ou plus d’agents simultanés, passez à une carte de 24-48GB, une station multi-GPU, ou débordez vers le cloud.
Modèle phare qu’il peut héberger : DeepSeek-Coder V2 (class).
Là où il atteint ses limites
- ▸Une bande passante mémoire modeste plafonne le débit de génération de tokens.
Agents métier pertinents
Comment cette machine s’inscrit dans les archétypes d’agents AI Business OS :
- PerformantAgent de support client
Répond aux clients à partir de vos documents, rédige des réponses, trie les tickets.
- PerformantAgent documentaire / RAG
Lit contrats, rapports et wikis et répond avec des citations.
- Assistance cloudAgent de preuves juridiques (type DocMatch)
Parcourt dossiers et pièces pour faire ressortir et relier les preuves.
- PerformantAgent hôtellerie / accueil
Gère la messagerie clients, les réservations et l’automatisation de la réception.
- Assistance cloudAgent comptabilité / Odoo
Extrait les factures, rapproche les données et pilote les workflows ERP.
- Assistance cloudAgent de code / ingénierie produit
Complétion, revue et refactoring de code en local sur du source privé.
- Assistance cloudFounder Ops / centre de commande de l’entreprise
Une flotte d’agents coopérants qui pilotent toute l’entreprise en privé.
« Assistance cloud » signifie l’exécuter en local pour les charges légères et déborder vers le cloud pour les travaux plus lourds. Voir cas d’usage métier pour savoir comment chaque agent se rattache au matériel.
Questions fréquentes
Le Local Office AI Appliance (reference profile) est-il adapté à l’IA locale ?+
Il obtient 39/100 sur notre Local AI Score (niveau Débutant), d’après ses 16GB de mémoire et sa bande passante/puissance de calcul disponibles. Cela le rend adapté au niveau Starter de l’AI Business OS.
Quels LLM le Local Office AI Appliance (reference profile) peut-il faire tourner ?+
Confortablement : Mistral Small 24B (Q4_K_M), DeepSeek-Coder V2 (class) (Q4_K_M), StarCoder2 15B (Q4_K_M). Des modèles plus grands peuvent tourner avec une quantification plus poussée ou en répartissant la charge sur plusieurs appareils.
Faut-il exécuter l’IA en local ou dans le cloud sur le Local Office AI Appliance (reference profile) ?+
Une approche hybride est recommandé. À réserver aux assistants locaux légers en s’appuyant sur le cloud pour tout ce qui est volumineux — une rampe d’accès économique.
Puis-je transformer le Local Office AI Appliance (reference profile) en AI Business OS privé ?+
Oui. AI Business OS peut tourner sur cette machine au niveau Starter, vous offrant des agents privés sur votre propre matériel. Voyez l’appel à l’action ci-dessus pour commencer.
Transformez le Local Office AI Appliance (reference profile) en AI Business OS privé
Exécutez vos propres agents IA sur du matériel que vous maîtrisez : privé par conception, aucune donnée par utilisateur ne quitte vos locaux. BrainOutput vous aide à choisir la bonne machine et à en faire un AI Business OS opérationnel.
Matériel similaire
NVIDIA DGX Spark (GB10)
L'appliance d'IA de bureau GB10 Grace Blackwell de NVIDIA avec ~128 Go de mémoire unifiée — une boîte on-premise silencieuse et compacte pour une main-d'œuvre IA privée. Disponible chez BrainOutput avec BrainOS préinstallé.
- Mémoire
- 128 GB unified
- Architecture
- NVIDIA Grace Blackwell GB10
ASUS Ascent GX10 (GB10)
La mini appliance d'IA GB10 Grace Blackwell d'ASUS (~128 Go de mémoire unifiée) — une boîte on-premise compacte pour des agents privés et le RAG. Disponible chez BrainOutput avec BrainOS préinstallé.
- Mémoire
- 128 GB unified
- Architecture
- NVIDIA Grace Blackwell GB10
Dell Pro Max with GB10
L'appliance d'IA de bureau GB10 Grace Blackwell de Dell (~128 Go de mémoire unifiée) pour des agents privés on-premise. Disponible chez BrainOutput avec BrainOS préinstallé.
- Mémoire
- 128 GB unified
- Architecture
- NVIDIA Grace Blackwell GB10
Hotel AI Automation Box (reference profile)
Une boîte sur site pour l'hôtellerie : exécute un agent multilingue de messagerie clients et d'automatisation de la réception sans envoyer les données des clients dans le cloud.
- Mémoire
- 16 GB
- Architecture
- Ada Lovelace