← Toutes les pages modèles on-premise
Exécuter DeepSeek-V4-Flash on-premise (deux unités empilées)
● Mesuré sur notre parc — nous exploitons ce modèle en production
DeepSeek-V4-Flash est un modèle à mélange d'experts de 284 milliards de paramètres (~13 Md actifs par token), conçu pour les contextes longs. Il est trop grand pour une seule unité de 128 Go — et c'est exactement la raison d'être de l'empilement : nous l'exploitons en production, en parallèle tensoriel sur deux unités classe GB10 interconnectées.
Cette page, c'est la promesse « empilez des unités pour servir des modèles plus grands » de notre page appareils, avec les chiffres qui la portent.
Capacité mémoire sur deux unités empilées — mesurée
| Paramètres | 284 Md au total, ~13 Md actifs par token (mélange d'experts) |
|---|---|
| Checkpoint FP8 — mesuré sur disque | ~149 Go (ne tient pas sur une unité de 128 Go) |
| Poids par unité en parallèle tensoriel 2 — mesuré | ~78–84 Go |
| Matériel | 2 × 128 Go de mémoire unifiée, interconnexion directe 200 GbE |
| Fenêtre de contexte dans notre configuration | ~131K tokens |
| Unités nécessaires | 2 (empilées) |
Une unité ne peut pas contenir ~149 Go de poids. Deux unités les répartissent à peu près en deux moitiés, chacune gardant de la marge pour sa part du cache de contexte. L'interconnexion est un lien direct à 200 gigabits entre les deux machines — pas de commutateur, pas de datacenter.
Ce qu'il sert bien
- Planification et ingénierie lourdes — c'est le cerveau haut de gamme de notre propre parc.
- Travail à contexte long : grands corpus documentaires, bases de code entières, sessions agentiques étendues.
- Le « cerveau d'entreprise » derrière une équipe d'agents, quand un modèle mono-unité ne suffit pas.
Notre déploiement en production
DeepSeek-V4-Flash est le modèle haut de gamme du parc BrainOutput — le cerveau de planification et d'ingénierie derrière nos propres produits — servi en parallèle tensoriel sur deux unités empilées, via un lien direct 200 GbE. Dans la configuration que nous exploitons, les registres de notre parc documentent un débit agrégé de l'ordre de 100 tokens par seconde avec une fenêtre de contexte stable d'environ 131K tokens.
C'est exactement la configuration à laquelle renvoie la promesse d'empilement de notre page appareils. Nous vendons la configuration que nous exploitons.
Limites honnêtes
- Les chiffres ci-dessus décrivent notre configuration (poids FP8, parallèle tensoriel 2, contexte ~131K). D'autres quantifications ou réglages de contexte changent l'arithmétique — l'évaluation dimensionne la vôtre.
- Un déploiement à deux unités est un engagement plus lourd qu'une seule machine. Si un modèle mono-unité de classe 122 Md couvre votre charge, c'est ce que nous recommanderons — moins cher, plus simple, même souveraineté.
Questions fréquentes
- DeepSeek-V4-Flash peut-il tourner sur une seule unité de 128 Go ?
- Non. Le checkpoint FP8 pèse à lui seul ~149 Go — plus que la mémoire entière d'une unité. Il tourne sur deux unités empilées, ~78–84 Go de poids par unité : c'est exactement ainsi que notre propre parc de production le sert.
- Comment les deux unités communiquent-elles ?
- Par un lien Ethernet direct à 200 gigabits entre les deux machines — un seul câble, pas de commutateur, pas de datacenter. Le modèle est servi en parallèle tensoriel : chaque unité porte la moitié des poids et elles calculent ensemble.
- En avons-nous besoin, ou un modèle mono-unité suffit-il ?
- La plupart des charges sont couvertes par un modèle mono-unité comme Qwen3.5-122B ou Mistral Large en 4 bits. La classe à deux unités se justifie sur la planification et l'ingénierie complexes à contexte long. L'évaluation répond honnêtement pour votre cas — y compris quand la réponse est « une unité suffit ».