BBrainOutput
NVIDIA·GPU

NVIDIA RTX 5000 Ada 32GB : spécifications et compatibilité IA locale

Carte pro Ada de 32GB — solide option mono-carte pour les grands modèles.

Spécifications

Mémoire
32 GB
Type de mémoire
GDDR6 ECC
Bande passante
576 GB/s
FP16 approx.
65 TFLOPS
Architecture
Ada Lovelace
Gravure
TSMC 4N
Consommation
250 W
Sortie
2023

Modèles que cette puce peut exécuter

Modèles ouverts évalués pour une seule NVIDIA RTX 5000 Ada 32GB, du meilleur ajustement d'abord.

  • CodeLlama 34B
    CodeLlama · ~34B · 16K ctx · Llama Community License

    Tient en Q4_K_M (~21GB) avec ~7.2GB de marge — environ 1 instance simultanée.

    Q4_K_M · ~21GBFonctionne bien
  • Qwen2.5 32B
    Qwen · ~32B · 128K ctx · Apache-2.0

    Tient en Q4_K_M (~20GB) avec ~8.2GB de marge — environ 1 instance simultanée.

    Q4_K_M · ~20GBFonctionne bien
  • Qwen3 32B
    Qwen · ~32B · 128K ctx · Apache-2.0

    Tient en Q4_K_M (~20GB) avec ~8.2GB de marge — environ 1 instance simultanée.

    Q4_K_M · ~20GBFonctionne bien
  • DeepSeek-R1 Distill 32B
    DeepSeek · ~32B · 128K ctx · MIT

    Tient en Q4_K_M (~20GB) avec ~8.2GB de marge — environ 1 instance simultanée.

    Q4_K_M · ~20GBFonctionne bien
  • Qwen2.5-Coder 32B
    Qwen · ~32B · 128K ctx · Apache-2.0

    Tient en Q4_K_M (~20GB) avec ~8.2GB de marge — environ 1 instance simultanée.

    Q4_K_M · ~20GBFonctionne bien
  • Gemma 2 27B
    Gemma · ~27B · 8K ctx · Gemma Terms of Use

    Tient en Q4_K_M (~17GB) avec ~11.2GB de marge — environ 1 instance simultanée.

    Q4_K_M · ~17GBFonctionne bien
  • Gemma 3 27B
    Gemma 3 · ~27B · 128K ctx · Gemma Terms of Use

    Tient en Q4_K_M (~17GB) avec ~11.2GB de marge — environ 1 instance simultanée.

    Q4_K_M · ~17GBFonctionne bien
  • Mistral Small 24B
    Mistral · ~24B · 32K ctx · Apache-2.0

    Tient en Q8_0 (~25GB) avec ~3.2GB de marge — environ 1 instance simultanée.

    Q8_0 · ~25GBFonctionne bien

Construisez un AI Business OS privé sur NVIDIA RTX 5000 Ada 32GB

Run your own AI agents on hardware you control — private by design, no per-seat data leaving your premises. BrainOutput helps you pick the right machine and turn it into a working AI Business OS.

Découvrir l'AI Business OS