BBrainOutput
NVIDIA·GPUA verificar

NVIDIA RTX 5090 32GB: especificações e compatibilidade com IA local

Carro-chefe Blackwell de 32GB — margem para modelos locais maiores. Verifique as especificações.

Alguns detalhes aqui são provisório (to-verify). Trate as especificações como aproximadas e verifique-as junto do fabricante antes de confiar nelas ou de comprar.

Especificações

Memória
32 GB
Tipo de memória
GDDR7
Largura de banda
1,790 GB/s
FP16 aprox.
a verificar
Arquitetura
Blackwell
Processo
TSMC 4NP
Consumo
575 W
Lançamento
2025

Modelos que este chip pode executar

Modelos abertos avaliados para um único NVIDIA RTX 5090 32GB, o de melhor ajuste primeiro.

  • CodeLlama 34B
    CodeLlama · ~34B · 16K ctx · Llama Community License

    Cabe em Q4_K_M (~21GB) com ~7.2GB de margem — cerca de 1 instância em simultâneo.

    Q4_K_M · ~21GBCorre bem
  • Qwen2.5 32B
    Qwen · ~32B · 128K ctx · Apache-2.0

    Cabe em Q4_K_M (~20GB) com ~8.2GB de margem — cerca de 1 instância em simultâneo.

    Q4_K_M · ~20GBCorre bem
  • Qwen3 32B
    Qwen · ~32B · 128K ctx · Apache-2.0

    Cabe em Q4_K_M (~20GB) com ~8.2GB de margem — cerca de 1 instância em simultâneo.

    Q4_K_M · ~20GBCorre bem
  • DeepSeek-R1 Distill 32B
    DeepSeek · ~32B · 128K ctx · MIT

    Cabe em Q4_K_M (~20GB) com ~8.2GB de margem — cerca de 1 instância em simultâneo.

    Q4_K_M · ~20GBCorre bem
  • Qwen2.5-Coder 32B
    Qwen · ~32B · 128K ctx · Apache-2.0

    Cabe em Q4_K_M (~20GB) com ~8.2GB de margem — cerca de 1 instância em simultâneo.

    Q4_K_M · ~20GBCorre bem
  • Gemma 2 27B
    Gemma · ~27B · 8K ctx · Gemma Terms of Use

    Cabe em Q4_K_M (~17GB) com ~11.2GB de margem — cerca de 1 instância em simultâneo.

    Q4_K_M · ~17GBCorre bem
  • Gemma 3 27B
    Gemma 3 · ~27B · 128K ctx · Gemma Terms of Use

    Cabe em Q4_K_M (~17GB) com ~11.2GB de margem — cerca de 1 instância em simultâneo.

    Q4_K_M · ~17GBCorre bem
  • Mistral Small 24B
    Mistral · ~24B · 32K ctx · Apache-2.0

    Cabe em Q8_0 (~25GB) com ~3.2GB de margem — cerca de 1 instância em simultâneo.

    Q8_0 · ~25GBCorre bem

Construa um AI Business OS privado sobre NVIDIA RTX 5090 32GB

Run your own AI agents on hardware you control — private by design, no per-seat data leaving your premises. BrainOutput helps you pick the right machine and turn it into a working AI Business OS.