Bibliothek lokaler LLMs & Hardware-Anforderungen

67 Modelle, die Sie nach Typ, Fähigkeit und Größe durchsuchen und filtern können. Die Speicherangaben sind Working-Set-Schätzungen pro Quantisierung (als ± behandeln) – sie ordnen Modellgrößen Hardware-Stufen zu, nicht exakten Benchmarks. Öffnen Sie jedes Modell für kompatible Geräte und eine empfohlene Konfiguration.

Beste lokale LLMs Beste Coding-LLMs Beste RAG-Modelle LLM-Hardware-Anforderungen Das richtige Modell finden →

Type

Capability

Size

67 models

Sort by

Nach Familie durchsuchen

Sehen Sie alle Größen einer Familie nebeneinander, mit der jeweils benötigten Hardware.

Qwen16 DeepSeek7 Llama7 Mistral4 CodeLlama3 Gemma3 Gemma 33 LLaVA3 Phi3 StarCoder3 Granite2 Qwen2.52

Zu den führenden API-Modellen: Claude (Anthropic API), GPT-class (OpenAI API), Gemini-class (Google API) sind nur als Qualitäts- und Kostenvergleich für die Hybridstrategie aufgeführt – sie laufen als gehostete Dienste, nicht auf lokaler Hardware, und senden Daten an den Anbieter.

Ein Hinweis zur Ehrlichkeit: Modellgrößen, Kontextfenster und Speicherbedarf ändern sich zwischen Releases, und Lizenzen variieren. Behandeln Sie die Zahlen als ungefähre Orientierung und prüfen Sie die genaue Variante und ihre Bedingungen vor dem Einsatz. Reasoning-, Vision- und API-Einträge sind entsprechend gekennzeichnet.

Betreiben Sie diese Modelle in einem privaten AI Business OS

Run your own AI agents on hardware you control — private by design, no per-seat data leaving your premises. BrainOutput helps you pick the right machine and turn it into a working AI Business OS.

AI Business OS erkunden

DeepSeek-R1 671B (MoE)

Llama 3.1 405B

Qwen3 235B-A22B (MoE)

Qwen2.5 72B

Llama 3.1 70B

Llama 3.3 70B

DeepSeek-R1 Distill Llama 70B

Mixtral 8x7B (MoE)

CodeLlama 34B

Qwen2.5 32B

Qwen3 32B

DeepSeek-R1 Distill 32B

Qwen2.5-Coder 32B

Gemma 2 27B

Gemma 3 27B

Mistral Small 24B

DeepSeek-Coder V2 (class)

StarCoder2 15B

Qwen2.5 14B

Qwen3 14B

Phi-3 Medium (14B)

Phi-4 (14B)

DeepSeek-R1 Distill 14B

Qwen2.5-Coder 14B

CodeLlama 13B

LLaVA 13B (vision)

Gemma 3 12B

Mistral Nemo 12B

Llama 3.2 Vision 11B

Gemma 2 9B

Llama 3.1 8B

Qwen3 8B

Granite 3 8B

DeepSeek-R1 Distill 8B

LLaVA-Llama3 8B (vision)

MiniCPM-V 8B (vision)

Qwen2.5 7B Instruct

Qwen2.5 Coder 7B Instruct

Qwen2.5 7B

Mistral 7B

Qwen2.5-Coder 7B

CodeLlama 7B

StarCoder2 7B

Qwen2-VL 7B (vision)

LLaVA 7B (vision)

Gemma 3 4B

Phi-3.5 Mini (3.8B)

Llama 3.2 3B

Qwen2.5 3B

StarCoder2 3B

Gemma 2 2B

Granite 3 2B

Moondream 2 (vision)

SmolLM2 1.7B

Qwen2.5 1.5B

DeepSeek-R1 Distill 1.5B

Qwen2.5-Coder 1.5B

Llama 3.2 1B

BGE-M3 Embeddings (class)

Qwen2.5 0.5B

mxbai-embed-large (class)

Snowflake Arctic Embed (class)

Nomic Embed Text (class)

all-MiniLM (class)

Claude (Anthropic API)

GPT-class (OpenAI API)

Gemini-class (Google API)

Nach Familie durchsuchen

Betreiben Sie diese Modelle in einem privaten AI Business OS