Tourne sur une box IA privée qui vous appartient
Un appareil compact classe GB10 — 128 Go de mémoire unifiée — l'exécute dans vos locaux, vendu et provisionné par nos soins. Sans clés d'API cloud, sans données qui sortent de vos murs.
← Toutes les pages modèles on-premise
Exécuter Llama 4 Scout on-premise
○ Arithmétique mémoire — un calcul vérifiable, pas une affirmation de déploiement
Llama 4 Scout est la variante compacte de Llama 4 de Meta : 109 milliards de paramètres au total avec 17 milliards actifs (16 experts), nativement multimodale et annoncée avec une très longue fenêtre de contexte. Elle tient sur une seule unité classe GB10 en 4 bits, avec de la place pour le contexte.
Voici le calcul sur une unité de 128 Go.
Capacité mémoire sur une unité de 128 Go
| Paramètres | 109 Md au total, 17 Md actifs (16 experts, MoE) |
|---|---|
| Poids en 4 bits | ~55–60 Go |
| Mémoire de l'appareil | 128 Go unifiés (une unité) |
| Reste pour cache de contexte + système | environ 50 Go |
| Unités nécessaires | 1 |
En 4 bits, Scout tient sur une unité ; son long contexte annoncé est borné en pratique par la mémoire de cache KV que vous laissez libre, que nous dimensionnons lors de l'évaluation.
Ce qu'il sert bien
- Charges multimodales (texte + images) servies entièrement dans vos locaux.
- Tâches sur documents longs où une grande fenêtre de contexte aide.
- Équipes qui se standardisent sur l'écosystème et l'outillage Llama.
Limites honnêtes
- Arithmétique, pas notre déploiement mesuré. L'enveloppe mémoire est plus petite que des modèles que nous exploitons, mesurés, sur ce matériel.
- Llama 4 est livré sous la licence Llama 4 Community de Meta, qui comporte des restrictions d'usage (dont une clause pour les très grands nombres d'utilisateurs). Nous examinons l'adéquation de licence dans le cadre de l'évaluation.
- Le plus grand Llama 4 Maverick (~400 Md) ne tient PAS sur une box — il faut plusieurs unités empilées ou il est hors périmètre.
Questions fréquentes
- Llama 4 Scout tient-il sur une unité ?
- Oui, en 4 bits : ~55–60 Go de poids pour 128 Go, laissant environ 50 Go pour le contexte et le système.
- La licence est-elle entièrement ouverte ?
- Non — c'est la licence Llama 4 Community avec des restrictions d'usage, pas une simple licence OSI. Nous le signalons plutôt que de laisser croire le contraire.
- Et Llama 4 Maverick ?
- Maverick (~400 Md) ne tient pas sur une seule unité de 128 Go ; il faudrait plusieurs unités empilées. Nous le disons clairement.