Exécuter Phi-4 on-premise
○ Arithmétique mémoire — un calcul vérifiable, pas un benchmark
Phi-4 est le modèle de 14 milliards de paramètres de Microsoft sous licence permissive MIT, reconnu pour ses maths et son raisonnement forts au regard de sa taille. Son empreinte mémoire minime en fait un choix naturel pour les machines multi-modèles et la forte concurrence.
Voici le calcul pour une machine dotée de 128 Go de mémoire.
Capacité mémoire dans 128 Go
| Paramètres | 14 Md (dense) |
|---|---|
| Poids en 4 bits | ~8 Go |
| Mémoire de référence | 128 Go (une machine) |
| Reste pour contexte + autres modèles | environ 110 Go |
| Tient dans 128 Go | oui — plusieurs peuvent cohabiter |
À ~8 Go, Phi-4 entame à peine 128 Go — vous pouvez faire tourner plusieurs instances ou l'associer à des modèles bien plus grands sur la même machine.
Ce qu'il sert bien
- Tâches de maths, de logique et de raisonnement structuré à faible coût.
- Service à forte concurrence et déploiements multi-modèles.
- Un cheval de trait sous licence permissive pour l'extraction, le routage et les outils.
Limites honnêtes
- Arithmétique mémoire, pas un benchmark.
- Un modèle de 14 Md n'est pas un fleuron — pour la connaissance générale la plus large, nous routerions vers un modèle plus grand, que les mêmes 128 Go peuvent aussi contenir.
Questions fréquentes
Combien de mémoire Phi-4 occupe-t-il ?
Environ 8 Go en 4 bits — près de 110 Go des 128 Go restent libres pour le contexte et d'autres modèles.
Licence ?
MIT — permissive et compatible commercial.
En quoi est-il bon ?
Maths et raisonnement structuré au regard de sa taille ; nous le testons sur vos tâches précises lors de l'évaluation.
Savoir quel modèle convient à votre travail
Un diagnostic IA cartographie vos processus, classe ce qui est sensible et dimensionne le modèle et le matériel sur vos vraies tâches.