BBrainOutput
NVIDIA·GPU

NVIDIA RTX 6000 Ada 48GB: especificações e compatibilidade com IA local

Carro-chefe profissional Ada de 48GB — modelos de 70B numa placa eficiente.

Especificações

Memória
48 GB
Tipo de memória
GDDR6 ECC
Largura de banda
960 GB/s
FP16 aprox.
91 TFLOPS
Arquitetura
Ada Lovelace
Processo
TSMC 4N
Consumo
300 W
Lançamento
2022

Modelos que este chip pode executar

Modelos abertos avaliados para um único NVIDIA RTX 6000 Ada 48GB, o de melhor ajuste primeiro.

  • Mixtral 8x7B (MoE)
    Mistral · ~47B · 32K ctx · Apache-2.0

    Cabe em Q4_K_M (~28GB) com ~14.2GB de margem — cerca de 1 instância em simultâneo.

    Q4_K_M · ~28GBCorre bem
  • CodeLlama 34B
    CodeLlama · ~34B · 16K ctx · Llama Community License

    Cabe em Q8_0 (~37GB) com ~5.2GB de margem — cerca de 1 instância em simultâneo.

    Q8_0 · ~37GBCorre bem
  • Qwen2.5 32B
    Qwen · ~32B · 128K ctx · Apache-2.0

    Cabe em Q8_0 (~34GB) com ~8.2GB de margem — cerca de 1 instância em simultâneo.

    Q8_0 · ~34GBCorre bem
  • Qwen3 32B
    Qwen · ~32B · 128K ctx · Apache-2.0

    Cabe em Q8_0 (~34GB) com ~8.2GB de margem — cerca de 1 instância em simultâneo.

    Q8_0 · ~34GBCorre bem
  • DeepSeek-R1 Distill 32B
    DeepSeek · ~32B · 128K ctx · MIT

    Cabe em Q8_0 (~34GB) com ~8.2GB de margem — cerca de 1 instância em simultâneo.

    Q8_0 · ~34GBCorre bem
  • Qwen2.5-Coder 32B
    Qwen · ~32B · 128K ctx · Apache-2.0

    Cabe em Q8_0 (~34GB) com ~8.2GB de margem — cerca de 1 instância em simultâneo.

    Q8_0 · ~34GBCorre bem
  • Gemma 2 27B
    Gemma · ~27B · 8K ctx · Gemma Terms of Use

    Cabe em Q8_0 (~29GB) com ~13.2GB de margem — cerca de 1 instância em simultâneo.

    Q8_0 · ~29GBCorre bem
  • Gemma 3 27B
    Gemma 3 · ~27B · 128K ctx · Gemma Terms of Use

    Cabe em Q8_0 (~29GB) com ~13.2GB de margem — cerca de 1 instância em simultâneo.

    Q8_0 · ~29GBCorre bem

Dispositivos baseados neste chip

Dell
Dell Precision (RTX 6000 Ada)
4 configurações

Construa um AI Business OS privado sobre NVIDIA RTX 6000 Ada 48GB

Run your own AI agents on hardware you control — private by design, no per-seat data leaving your premises. BrainOutput helps you pick the right machine and turn it into a working AI Business OS.

Explorar o AI Business OS