AMD Radeon RX 7900 XTX 24GB: especificações e compatibilidade com IA local
Placa de consumo de 24GB; capaz, mas verifique o suporte de ROCm para o seu stack.
Especificações
- Memória
- 24 GB
- Tipo de memória
- GDDR6
- Largura de banda
- 960 GB/s
- FP16 aprox.
- 123 TFLOPS
- Arquitetura
- RDNA 3
- Processo
- TSMC 5nm
- Consumo
- 355 W
- Lançamento
- 2022
Modelos que este chip pode executar
Modelos abertos avaliados para um único AMD Radeon RX 7900 XTX 24GB, o de melhor ajuste primeiro.
- Gemma 2 27BGemma · ~27B · 8K ctx · Gemma Terms of Use
Cabe em Q4_K_M (~17GB) com ~4.1GB de margem — cerca de 1 instância em simultâneo.
Q4_K_M · ~17GBCorre bem - Gemma 3 27BGemma 3 · ~27B · 128K ctx · Gemma Terms of Use
Cabe em Q4_K_M (~17GB) com ~4.1GB de margem — cerca de 1 instância em simultâneo.
Q4_K_M · ~17GBCorre bem - Mistral Small 24BMistral · ~24B · 32K ctx · Apache-2.0
Cabe em Q4_K_M (~14GB) com ~7.1GB de margem — cerca de 1 instância em simultâneo.
Q4_K_M · ~14GBCorre bem - DeepSeek-Coder V2 (class)DeepSeek · ~16B · 128K ctx · DeepSeek License
Cabe em Q8_0 (~18GB) com ~3.1GB de margem — cerca de 1 instância em simultâneo.
Q8_0 · ~18GBCorre bem - StarCoder2 15BStarCoder · ~15B · 16K ctx · BigCode OpenRAIL-M
Cabe em Q8_0 (~17GB) com ~4.1GB de margem — cerca de 1 instância em simultâneo.
Q8_0 · ~17GBCorre bem - Qwen2.5 14BQwen · ~14B · 128K ctx · Apache-2.0
Cabe em Q8_0 (~16GB) com ~5.1GB de margem — cerca de 1 instância em simultâneo.
Q8_0 · ~16GBCorre bem - Qwen3 14BQwen · ~14B · 128K ctx · Apache-2.0
Cabe em Q8_0 (~16GB) com ~5.1GB de margem — cerca de 1 instância em simultâneo.
Q8_0 · ~16GBCorre bem - Phi-3 Medium (14B)Phi · ~14B · 128K ctx · MIT
Cabe em Q8_0 (~15GB) com ~6.1GB de margem — cerca de 1 instância em simultâneo.
Q8_0 · ~15GBCorre bem
Construa um AI Business OS privado sobre AMD Radeon RX 7900 XTX 24GB
Run your own AI agents on hardware you control — private by design, no per-seat data leaving your premises. BrainOutput helps you pick the right machine and turn it into a working AI Business OS.