NVIDIA RTX 3080 10GB: Spezifikationen & Eignung für lokale KI
Schnell, aber mit 10GB speicherbegrenzt — am besten für kleinere Modelle.
Spezifikationen
- Speicher
- 10 GB
- Speichertyp
- GDDR6X
- Bandbreite
- 760 GB/s
- FP16 ca.
- 30 TFLOPS
- Architektur
- Ampere
- Fertigung
- Samsung 8nm
- Leistung
- 320 W
- Markteinführung
- 2020
Modelle, die dieser Chip ausführen kann
Offene Modelle, bewertet für einen einzelnen NVIDIA RTX 3080 10GB, beste Eignung zuerst.
- Gemma 2 9BGemma · ~9B · 8K ctx · Gemma Terms of Use
Passt mit Q4_K_M (~7GB) bei ~1.8GB Reserve — etwa 1 gleichzeitige Instanz.
Q4_K_M · ~7GBLäuft gut - Llama 3.1 8BLlama · ~8B · 128K ctx · Llama Community License
Passt mit Q4_K_M (~6GB) bei ~2.8GB Reserve — etwa 1 gleichzeitige Instanz.
Q4_K_M · ~6GBLäuft gut - Qwen3 8BQwen · ~8B · 128K ctx · Apache-2.0
Passt mit Q4_K_M (~6GB) bei ~2.8GB Reserve — etwa 1 gleichzeitige Instanz.
Q4_K_M · ~6GBLäuft gut - Granite 3 8BGranite · ~8B · 128K ctx · Apache-2.0
Passt mit Q4_K_M (~6GB) bei ~2.8GB Reserve — etwa 1 gleichzeitige Instanz.
Q4_K_M · ~6GBLäuft gut - DeepSeek-R1 Distill 8BDeepSeek · ~8B · 128K ctx · MIT
Passt mit Q4_K_M (~6GB) bei ~2.8GB Reserve — etwa 1 gleichzeitige Instanz.
Q4_K_M · ~6GBLäuft gut - Qwen2.5 7B InstructQwen2.5 · ~7.6B · 33K ctx · apache-2.0
Passt mit Q8_0 (~8.4GB) bei ~0.4GB Reserve — etwa 1 gleichzeitige Instanz.
Q8_0 · ~8.4GBLäuft gut - Qwen2.5 Coder 7B InstructQwen2.5 · ~7.6B · 131K ctx · apache-2.0
Passt mit Q8_0 (~8.4GB) bei ~0.4GB Reserve — etwa 1 gleichzeitige Instanz.
Q8_0 · ~8.4GBLäuft gut - Qwen2.5 7BQwen · ~7B · 128K ctx · Apache-2.0
Passt mit Q8_0 (~8GB) bei ~0.8GB Reserve — etwa 1 gleichzeitige Instanz.
Q8_0 · ~8GBLäuft gut
Bauen Sie ein privates AI Business OS auf NVIDIA RTX 3080 10GB
Run your own AI agents on hardware you control — private by design, no per-seat data leaving your premises. BrainOutput helps you pick the right machine and turn it into a working AI Business OS.