NVIDIA H100 80GB : spécifications et compatibilité IA locale
Le cheval de bataille Hopper : 80GB HBM3 et une très large bande passante.
Spécifications
- Mémoire
- 80 GB
- Type de mémoire
- HBM3
- Bande passante
- 3,350 GB/s
- FP16 approx.
- 990 TFLOPS
- Architecture
- Hopper
- Gravure
- TSMC 4N
- Consommation
- 700 W
- Sortie
- 2022
Modèles que cette puce peut exécuter
Modèles ouverts évalués pour une seule NVIDIA H100 80GB, du meilleur ajustement d'abord.
- Qwen2.5 72BQwen · ~72B · 128K ctx · Qwen License
Tient en Q4_K_M (~44GB) avec ~26.4GB de marge — environ 1 instance simultanée.
Q4_K_M · ~44GBFonctionne bien - Llama 3.1 70BLlama · ~70B · 128K ctx · Llama Community License
Tient en Q4_K_M (~42GB) avec ~28.4GB de marge — environ 1 instance simultanée.
Q4_K_M · ~42GBFonctionne bien - Llama 3.3 70BLlama · ~70B · 128K ctx · Llama Community License
Tient en Q4_K_M (~42GB) avec ~28.4GB de marge — environ 1 instance simultanée.
Q4_K_M · ~42GBFonctionne bien - DeepSeek-R1 Distill Llama 70BDeepSeek · ~70B · 128K ctx · MIT
Tient en Q4_K_M (~42GB) avec ~28.4GB de marge — environ 1 instance simultanée.
Q4_K_M · ~42GBFonctionne bien - Mixtral 8x7B (MoE)Mistral · ~47B · 32K ctx · Apache-2.0
Tient en Q8_0 (~50GB) avec ~20.4GB de marge — environ 1 instance simultanée.
Q8_0 · ~50GBFonctionne bien - CodeLlama 34BCodeLlama · ~34B · 16K ctx · Llama Community License
Tient en FP16 (~68GB) avec ~2.4GB de marge — environ 1 instance simultanée.
FP16 · ~68GBFonctionne bien - Qwen2.5 32BQwen · ~32B · 128K ctx · Apache-2.0
Tient en FP16 (~64GB) avec ~6.4GB de marge — environ 1 instance simultanée.
FP16 · ~64GBFonctionne bien - Qwen3 32BQwen · ~32B · 128K ctx · Apache-2.0
Tient en FP16 (~64GB) avec ~6.4GB de marge — environ 1 instance simultanée.
FP16 · ~64GBFonctionne bien
Appareils basés sur cette puce
Construisez un AI Business OS privé sur NVIDIA H100 80GB
Run your own AI agents on hardware you control — private by design, no per-seat data leaving your premises. BrainOutput helps you pick the right machine and turn it into a working AI Business OS.