BBrainOutput
AMD·GPU

AMD Radeon RX 7900 XTX 24GB: Spezifikationen & Eignung für lokale KI

24GB-Consumer-Karte; leistungsfähig, aber prüfen Sie die ROCm-Unterstützung für Ihren Stack.

Spezifikationen

Speicher
24 GB
Speichertyp
GDDR6
Bandbreite
960 GB/s
FP16 ca.
123 TFLOPS
Architektur
RDNA 3
Fertigung
TSMC 5nm
Leistung
355 W
Markteinführung
2022

Modelle, die dieser Chip ausführen kann

Offene Modelle, bewertet für einen einzelnen AMD Radeon RX 7900 XTX 24GB, beste Eignung zuerst.

  • Gemma 2 27B
    Gemma · ~27B · 8K ctx · Gemma Terms of Use

    Passt mit Q4_K_M (~17GB) bei ~4.1GB Reserve — etwa 1 gleichzeitige Instanz.

    Q4_K_M · ~17GBLäuft gut
  • Gemma 3 27B
    Gemma 3 · ~27B · 128K ctx · Gemma Terms of Use

    Passt mit Q4_K_M (~17GB) bei ~4.1GB Reserve — etwa 1 gleichzeitige Instanz.

    Q4_K_M · ~17GBLäuft gut
  • Mistral Small 24B
    Mistral · ~24B · 32K ctx · Apache-2.0

    Passt mit Q4_K_M (~14GB) bei ~7.1GB Reserve — etwa 1 gleichzeitige Instanz.

    Q4_K_M · ~14GBLäuft gut
  • DeepSeek-Coder V2 (class)
    DeepSeek · ~16B · 128K ctx · DeepSeek License

    Passt mit Q8_0 (~18GB) bei ~3.1GB Reserve — etwa 1 gleichzeitige Instanz.

    Q8_0 · ~18GBLäuft gut
  • StarCoder2 15B
    StarCoder · ~15B · 16K ctx · BigCode OpenRAIL-M

    Passt mit Q8_0 (~17GB) bei ~4.1GB Reserve — etwa 1 gleichzeitige Instanz.

    Q8_0 · ~17GBLäuft gut
  • Qwen2.5 14B
    Qwen · ~14B · 128K ctx · Apache-2.0

    Passt mit Q8_0 (~16GB) bei ~5.1GB Reserve — etwa 1 gleichzeitige Instanz.

    Q8_0 · ~16GBLäuft gut
  • Qwen3 14B
    Qwen · ~14B · 128K ctx · Apache-2.0

    Passt mit Q8_0 (~16GB) bei ~5.1GB Reserve — etwa 1 gleichzeitige Instanz.

    Q8_0 · ~16GBLäuft gut
  • Phi-3 Medium (14B)
    Phi · ~14B · 128K ctx · MIT

    Passt mit Q8_0 (~15GB) bei ~6.1GB Reserve — etwa 1 gleichzeitige Instanz.

    Q8_0 · ~15GBLäuft gut

Bauen Sie ein privates AI Business OS auf AMD Radeon RX 7900 XTX 24GB

Run your own AI agents on hardware you control — private by design, no per-seat data leaving your premises. BrainOutput helps you pick the right machine and turn it into a working AI Business OS.