DeepSeek-R1 671B (MoE): Hardware & Business-Eignung
- Reasoning
- Code
- Long context
Das vollständige DeepSeek-R1, aufgenommen zur Verankerung der Spitze der Schlussfolgerungsklasse. Nur die destillierten Varianten sind für die lokale Bereitstellung auf einer einzelnen Maschine realistisch. Die Angaben sind Platzhalter.
- Parameter
- ~671B (≈37B active, MoE)
- Kontext
- ~128K Tokens
- Bereitstellung
- cloud
- VRAM bei 4 Bit
- ~400GB
Wofür sich DeepSeek-R1 671B (MoE) eignet
- ▸Frontier-Schlussfolgern, selbst gehostet im großen Maßstab
- ▸Analyse auf Forschungsniveau
Beste Quantisierungsoptionen
Ungefährer Speicher pro Quantisierung (Gewichte + KV-Cache bei moderatem Kontext). Als ± behandeln.
| Quant. | ~Speicher | Wann verwenden |
|---|---|---|
| Q4_K_M | ~400GB | Bester Kompromiss aus Größe und Qualität – der übliche Standard für lokalen Betrieb. |
| Q8_0 | ~700GB | Höhere Genauigkeit; ~1,7× der Speicher von 4 Bit. |
| FP16 | ~1340GB | Volle Präzision; größter Speicherbedarf, beste Qualität. |
DeepSeek-R1 671B (MoE) lokal betreiben
Herunterladen und ausführen mit Ollama, oder holen Sie sich die Gewichte von Hugging Face.
$ ollama run deepseek-r1:671bdeepseek-ai/DeepSeek-R1Kompatible Hardware
Geräte aus unserem Katalog, bewertet für DeepSeek-R1 671B (MoE), beste Eignung zuerst.
- Supermicro 8x H100 SuperServerSupermicro · AI Servers
Passt mit Q4_K_M (~400GB) bei ~163.2GB Reserve — etwa 1 gleichzeitige Instanz.
Q4_K_M · ~400GBLäuft gut - Dell PowerEdge XE9680Dell · AI Servers
Passt mit Q4_K_M (~400GB) bei ~163.2GB Reserve — etwa 1 gleichzeitige Instanz.
Q4_K_M · ~400GBLäuft gut - AMD Instinct MI300XAMD · Datacenter GPUs
Selbst die kleinste Quantisierung (~400GB) übersteigt den nutzbaren Speicher (~169GB). Wählen Sie ein kleineres Modell oder leistungsstärkere Hardware.
Nicht empfohlen - NVIDIA H200 (141GB)NVIDIA · Datacenter GPUs
Selbst die kleinste Quantisierung (~400GB) übersteigt den nutzbaren Speicher (~124.1GB). Wählen Sie ein kleineres Modell oder leistungsstärkere Hardware.
Nicht empfohlen - Cloud H200 141GB (profile)Cloud · Cloud GPU Profiles
Selbst die kleinste Quantisierung (~400GB) übersteigt den nutzbaren Speicher (~124.1GB). Wählen Sie ein kleineres Modell oder leistungsstärkere Hardware.
Nicht empfohlen - NVIDIA H100 (80GB)NVIDIA · Datacenter GPUs
Selbst die kleinste Quantisierung (~400GB) übersteigt den nutzbaren Speicher (~70.4GB). Wählen Sie ein kleineres Modell oder leistungsstärkere Hardware.
Nicht empfohlen - Cloud H100 80GB (profile)Cloud · Cloud GPU Profiles
Selbst die kleinste Quantisierung (~400GB) übersteigt den nutzbaren Speicher (~70.4GB). Wählen Sie ein kleineres Modell oder leistungsstärkere Hardware.
Nicht empfohlen - HP Z8 Fury G5 WorkstationHP · AI Workstations
Selbst die kleinste Quantisierung (~400GB) übersteigt den nutzbaren Speicher (~84.5GB). Wählen Sie ein kleineres Modell oder leistungsstärkere Hardware.
Nicht empfohlen - Lenovo ThinkStation PX WorkstationLenovo · AI Workstations
Selbst die kleinste Quantisierung (~400GB) übersteigt den nutzbaren Speicher (~84.5GB). Wählen Sie ein kleineres Modell oder leistungsstärkere Hardware.
Nicht empfohlen - Supermicro AI WorkstationSupermicro · AI Workstations
Selbst die kleinste Quantisierung (~400GB) übersteigt den nutzbaren Speicher (~84.5GB). Wählen Sie ein kleineres Modell oder leistungsstärkere Hardware.
Nicht empfohlen
Im AI Business OS einsetzen
DeepSeek-R1 671B (MoE) passt zu diesen AI Business OS-Agenten-Archetypen:
Ein Modell ist nur der Motor. Im AI Business OS wird es mit Berechtigungen, Tools, Konnektoren, RAG und Audit umgeben, damit es Geschäftsarbeit sicher erledigen kann – so funktioniert das AI Business OS →
Häufige Fragen
Welche Hardware brauche ich, um DeepSeek-R1 671B (MoE) zu betreiben?+
Bei 4 Bit benötigen Sie rund ~400GB nutzbaren Speicher. Die minimale selbst hostbare Option in unserem Katalog ist die Supermicro 8x H100 SuperServer. Für einen komfortablen Betrieb empfehlen wir die Supermicro 8x H100 SuperServer.
Welche Quantisierung sollte ich für DeepSeek-R1 671B (MoE) verwenden?+
Q4_K_M ist der übliche Standard – der beste Kompromiss aus Größe und Qualität. Steigen Sie auf Q8_0 oder FP16 um, wenn Sie Speicher übrig haben und höhere Genauigkeit wollen.
Sollte ich DeepSeek-R1 671B (MoE) lokal oder in der Cloud betreiben?+
Für DeepSeek-R1 671B (MoE) wird Cloud / API empfohlen. Größe oder Hosting machen die Cloud zur praktischen Wahl; kombinieren Sie es für die tägliche private Arbeit mit kleineren lokalen Modellen.
Andere Größen in der DeepSeek-Familie
Alle DeepSeek-Modelle →Gleiche Familie, andere Größe. Wählen Sie die Variante, die zu Ihrer Hardware passt.
Verwandte Modelle
Ähnliche Optionen – Familienmitglieder und größennächste Modelle derselben Art.
Nutzen Sie DeepSeek-R1 671B (MoE) in Ihrem AI Business OS
BrainOutput hilft Ihnen, DeepSeek-R1 671B (MoE) als privaten Geschäfts-Agenten zu betreiben – umgeben von den Tools, Konnektoren, dem RAG und den Schutzmechanismen, die es braucht, um echte Arbeit auf Hardware zu leisten, die Sie kontrollieren.