Exécuter Llama 4 Scout on-premise
○ Arithmétique mémoire — un calcul vérifiable, pas un benchmark
Llama 4 Scout est la variante compacte de Llama 4 de Meta : 109 milliards de paramètres au total avec 17 milliards actifs (16 experts), nativement multimodale et annoncée avec une très longue fenêtre de contexte. Elle tient dans une machine de 128 Go en 4 bits, avec de la place pour le contexte.
Voici le calcul pour une machine dotée de 128 Go de mémoire.
Capacité mémoire dans 128 Go
| Paramètres | 109 Md au total, 17 Md actifs (16 experts, MoE) |
|---|---|
| Poids en 4 bits | ~55–60 Go |
| Mémoire de référence | 128 Go (une machine) |
| Reste pour cache de contexte + système | environ 50 Go |
| Tient dans 128 Go | oui |
En 4 bits, Scout tient dans une machine de 128 Go ; son long contexte annoncé est borné en pratique par la mémoire de cache KV que vous laissez libre, que nous dimensionnons lors de l'évaluation.
Ce qu'il sert bien
- Charges multimodales (texte + images) servies entièrement dans vos locaux.
- Tâches sur documents longs où une grande fenêtre de contexte aide.
- Équipes qui se standardisent sur l'écosystème et l'outillage Llama.
Limites honnêtes
- Arithmétique mémoire, pas un benchmark.
- Llama 4 est livré sous la licence Llama 4 Community de Meta, qui comporte des restrictions d'usage (dont une clause pour les très grands nombres d'utilisateurs). Nous examinons l'adéquation de licence dans le cadre de l'évaluation.
- Le plus grand Llama 4 Maverick (~400 Md) ne tient PAS dans 128 Go — il exige un serveur GPU ou un cloud privé, ou il est hors périmètre.
Questions fréquentes
Llama 4 Scout tient-il dans 128 Go de mémoire ?
Oui, en 4 bits : ~55–60 Go de poids pour 128 Go, laissant environ 50 Go pour le contexte et le système.
La licence est-elle entièrement ouverte ?
Non — c'est la licence Llama 4 Community avec des restrictions d'usage, pas une simple licence OSI. Nous le signalons plutôt que de laisser croire le contraire.
Et Llama 4 Maverick ?
Maverick (~400 Md) ne tient pas dans 128 Go de mémoire ; il faudrait un serveur GPU ou un cloud privé. Nous le disons clairement.
Savoir quel modèle convient à votre travail
Un diagnostic IA cartographie vos processus, classe ce qui est sensible et dimensionne le modèle et le matériel sur vos vraies tâches.