BrainOutput
Français

Toutes les pages modèles on-premise

Exécuter Mistral Large on-premise

Arithmétique mémoire — un calcul vérifiable, pas une affirmation de déploiement

Mistral Large est la famille de modèles open-weight phare de l'Europe — environ 123 milliards de paramètres en transformeur dense, excellent en français et dans les langues de l'UE. Pour une entreprise européenne réglementée, l'exécuter sur du matériel qui vous appartient est l'argument de souveraineté le plus propre qui soit : un modèle européen, dans vos locaux, sous juridiction européenne de bout en bout.

La vraie question des acheteurs est plus étroite : est-ce que ça tient ? Voici le calcul sur une unité classe GB10 — l'appareil à 128 Go de mémoire unifiée que nous vendons et exploitons nous-mêmes.

Capacité mémoire sur une unité de 128 Go

Paramètres~123 Md (dense)
Pleine précision (FP16)~246 Go — nécessite plusieurs unités
Poids en 8 bits~123 Go — plus de marge de travail sur une unité
Poids en 4 bits (le choix pratique)~62–74 Go selon la quantification
Mémoire de l'appareil128 Go unifiés (une unité classe GB10)
Reste pour cache de contexte + système en 4 bitsenviron 45–55 Go

Chaque ligne suit la même règle : paramètres × octets par paramètre (FP16 ≈ 2, 8 bits ≈ 1, 4 bits ≈ 0,5), plus la place du cache KV qui porte votre fenêtre de contexte. En 4 bits, Mistral Large tient sur une seule unité avec une marge de contexte confortable ; en 8 bits, il faut deux unités empilées.

Ce qu'il sert bien

  • Rédaction, analyse et synthèse en français et dans les langues de l'UE, au niveau d'un modèle phare.
  • Analyse documentaire privée et recherche (RAG) sur des contrats, dossiers et archives qui ne peuvent pas sortir de vos murs.
  • Assistants pour les professions réglementées, quand un modèle européen sur du matériel sous contrôle européen est une exigence, pas une préférence.
  • Parcours clients multilingues servis depuis votre propre machine.

Limites honnêtes

  • Cette page est de l'arithmétique, pas un benchmark : nous n'avons pas encore exploité Mistral Large dans notre propre parc de production. En revanche, l'enveloppe mémoire de la classe 122 Md est celle que nous exploitons quotidiennement — voir la page Qwen3.5-122B — le calcul de capacité repose donc sur la même arithmétique, validée sur le même matériel.
  • Mistral publie ses poids sous ses propres conditions de licence ; un déploiement commercial peut nécessiter un accord avec Mistral AI. Nous traitons la question des licences dans le cadre de l'évaluation.
  • Un modèle dense de 123 Md produit des tokens plus lentement que les modèles à mélange d'experts de la même classe de taille. Si le débit compte plus pour vous que la provenance du modèle, nous vous le dirons dans l'évaluation.

Questions fréquentes

Mistral Large tient-il sur une seule unité classe GB10 ?
Oui, quantifié en 4 bits : environ 62–74 Go de poids pour 128 Go de mémoire unifiée, avec des dizaines de gigaoctets restants pour le cache de contexte et le système. En pleine précision ou en 8 bits, il faut deux unités empilées.
Avez-vous vous-mêmes déployé Mistral Large en production ?
Pas encore — et nous ne prétendrons pas le contraire. Nous exploitons quotidiennement en production un modèle de la même classe de taille (Qwen3.5-122B, 78 Go quantifié, mesuré) sur une unité, ce qui valide l'enveloppe mémoire décrite sur cette page.
Pourquoi exécuter un modèle européen on-premise plutôt que via une API cloud souveraine ?
Une API hébergée déplace toujours vos requêtes et vos documents vers l'infrastructure d'un tiers. Sur votre propre unité, rien ne sort de vos locaux : l'argument de souveraineté devient physique au lieu d'être contractuel.
Demander une évaluation et un devisLa machine derrière ces calculs — Sovereign DevicesAffiner un modèle sur vos données — LLM Factory