Exécuter Gemma 3 27B on-premise
○ Arithmétique mémoire — un calcul vérifiable, pas un benchmark
Gemma 3 27B est le modèle ouvert de taille moyenne efficace de Google — 27 milliards de paramètres denses, multimodal, publié sous licence Gemma (usage commercial autorisé, avec conditions d'usage). En 4 bits, il n'utilise qu'une petite part de 128 Go de mémoire.
Voici le calcul pour une machine dotée de 128 Go de mémoire.
Capacité mémoire dans 128 Go
| Paramètres | 27 Md (dense), multimodal |
|---|---|
| Poids en 4 bits | ~15 Go |
| Mémoire de référence | 128 Go (une machine) |
| Reste pour contexte + autres modèles | environ 100 Go |
| Tient dans 128 Go | oui, avec de la place pour d'autres modèles |
À ~15 Go, le modèle laisse libre l'essentiel de 128 Go — idéal pour co-héberger d'autres modèles ou servir une forte concurrence.
Ce qu'il sert bien
- Chat et analyse multimodaux efficaces sur une mémoire modeste.
- Machines à forte concurrence ou multi-modèles.
- Un défaut de taille moyenne capable quand un modèle de classe 100 Md est excessif.
Limites honnêtes
- Arithmétique mémoire, pas un benchmark.
- La licence Gemma autorise l'usage commercial mais comporte les conditions d'usage de Google ; nous examinons l'adéquation lors de l'évaluation.
Questions fréquentes
Gemma 3 27B tient-il dans 128 Go de mémoire ?
Facilement — ~15 Go en 4 bits pour 128 Go laisse environ 100 Go libres pour le contexte et d'autres modèles.
Est-il multimodal ?
Oui — Gemma 3 27B gère le texte et les images, servi sur votre propre matériel.
Puis-je l'utiliser commercialement ?
La licence Gemma autorise l'usage commercial sous réserve des conditions de Google ; nous confirmons l'adéquation à votre cas lors de l'évaluation.
Savoir quel modèle convient à votre travail
Un diagnostic IA cartographie vos processus, classe ce qui est sensible et dimensionne le modèle et le matériel sur vos vraies tâches.