BBrainOutput
NVIDIA·GPU

NVIDIA RTX A6000 48GB : spécifications et compatibilité IA locale

Carte pro de 48GB — accueille des modèles de 70B en 4 bits sur une seule carte.

Spécifications

Mémoire
48 GB
Type de mémoire
GDDR6 ECC
Bande passante
768 GB/s
FP16 approx.
39 TFLOPS
Architecture
Ampere
Gravure
Samsung 8nm
Consommation
300 W
Sortie
2020

Modèles que cette puce peut exécuter

Modèles ouverts évalués pour une seule NVIDIA RTX A6000 48GB, du meilleur ajustement d'abord.

  • Mixtral 8x7B (MoE)
    Mistral · ~47B · 32K ctx · Apache-2.0

    Tient en Q4_K_M (~28GB) avec ~14.2GB de marge — environ 1 instance simultanée.

    Q4_K_M · ~28GBFonctionne bien
  • CodeLlama 34B
    CodeLlama · ~34B · 16K ctx · Llama Community License

    Tient en Q8_0 (~37GB) avec ~5.2GB de marge — environ 1 instance simultanée.

    Q8_0 · ~37GBFonctionne bien
  • Qwen2.5 32B
    Qwen · ~32B · 128K ctx · Apache-2.0

    Tient en Q8_0 (~34GB) avec ~8.2GB de marge — environ 1 instance simultanée.

    Q8_0 · ~34GBFonctionne bien
  • Qwen3 32B
    Qwen · ~32B · 128K ctx · Apache-2.0

    Tient en Q8_0 (~34GB) avec ~8.2GB de marge — environ 1 instance simultanée.

    Q8_0 · ~34GBFonctionne bien
  • DeepSeek-R1 Distill 32B
    DeepSeek · ~32B · 128K ctx · MIT

    Tient en Q8_0 (~34GB) avec ~8.2GB de marge — environ 1 instance simultanée.

    Q8_0 · ~34GBFonctionne bien
  • Qwen2.5-Coder 32B
    Qwen · ~32B · 128K ctx · Apache-2.0

    Tient en Q8_0 (~34GB) avec ~8.2GB de marge — environ 1 instance simultanée.

    Q8_0 · ~34GBFonctionne bien
  • Gemma 2 27B
    Gemma · ~27B · 8K ctx · Gemma Terms of Use

    Tient en Q8_0 (~29GB) avec ~13.2GB de marge — environ 1 instance simultanée.

    Q8_0 · ~29GBFonctionne bien
  • Gemma 3 27B
    Gemma 3 · ~27B · 128K ctx · Gemma Terms of Use

    Tient en Q8_0 (~29GB) avec ~13.2GB de marge — environ 1 instance simultanée.

    Q8_0 · ~29GBFonctionne bien

Appareils basés sur cette puce

HP
HP Z8 Fury (RTX A6000)
4 configurations

Construisez un AI Business OS privé sur NVIDIA RTX A6000 48GB

Run your own AI agents on hardware you control — private by design, no per-seat data leaving your premises. BrainOutput helps you pick the right machine and turn it into a working AI Business OS.

Découvrir l'AI Business OS