LLM VRAM- & Hardware-Rechner für lokale KI
Berechne in Echtzeit, wie viel Grafikspeicher (VRAM) oder Unified Memory du für DeepSeek-R1, Llama 3.3, Qwen 2.5 Coder, Gemma 3 und Mistral in Ollama oder LM Studio benötigst.
ollama run llama3.1:8b
Läuft flüssig mit 40–75 Tokens/Sekunde komplett im GPU-Speicher ohne langsames System-RAM-Swapping.
* Partnerlink zu Amazon.de • Keine Mehrkosten für dich
Die beste KI-Hardware 2026 nach Leistungsklassen
Bei lokalen Sprachmodellen entscheidet vor allem eines über Geschwindigkeit und Modellgröße: Speicherkapazität (VRAM) und Speicherbandbreite (GB/s). Hier sind unsere getesteten Empfehlungen:
Einsteiger & Kompakte Home-Lab KI (bis 8B Parameter)
Ideal für Llama 3.1 8B, DeepSeek-R1 7B/8B, Qwen 2.5 Coder 7B, Gemma 3 4B und lokale Embeddings (RAG).
Beelink SER8 (Ryzen 7 8845HS + Ryzen AI NPU)
8 Kerne / 16 Threads, 32GB DDR5 RAM, 1TB PCIe 4.0 NVMe, Radeon 780M iGPU (bis 16GB zuweisbar)
💡 Perfekt für Ollama + OpenWebUI + Home-Server im 24/7-Dauerbetrieb (nur ~15W Idle)
Apple Mac Mini M4 (16GB / 24GB Unified Memory)
Apple M4 Chip (10-Core CPU/GPU, 16-Core Neural Engine), extrem hohe Speicherbandbreite, lautlos
💡 Erreicht 35–50 Tokens/s bei 8B–14B Modellen via Ollama & MLX bei minimalem Stromverbrauch
Mittelklasse & Coding-Workstation (14B bis 32B Parameter)
Die goldene Mitte für Qwen 2.5 Coder 14B/32B, DeepSeek-R1 14B, Gemma 3 12B/27B und Mistral Small 3 24B.
NVIDIA GeForce RTX 4060 Ti (16GB VRAM Edition)
16 GB GDDR6 VRAM, CUDA & Tensor Cores, niedrige Leistungsaufnahme (165W TDP)
💡 Lädt 14B- und 24B-Modelle (Q4_K_M) komplett in den schnellen Grafikspeicher (>45 Tokens/s)
NVIDIA GeForce RTX 3060 (12GB VRAM)
12 GB GDDR6 VRAM (192-Bit Speicherinterface), unschlagbares GB-pro-Euro-Verhältnis
💡 Bester günstiger Einstieg in echtes CUDA-GPU-Beschleunigen für 8B–14B LLMs & ComfyUI
Minisforum UM890 Pro (Ryzen 9 8945HS, 64GB DDR5, OCuLink)
64GB DDR5-5600 RAM, 1TB SSD + nativer OCuLink-Port für externe Desktop-GPUs ohne Leistungsverlust
💡 Kombinierbar mit einer externen GPU über OCuLink – ideal fürs modulare KI-Homelab
NVIDIA GeForce RTX 4070 Ti SUPER (16GB GDDR6X)
16 GB GDDR6X (672 GB/s Speicherbandbreite!), 8.448 CUDA-Kerne
💡 Fast 2,5x höhere Speicherbandbreite als die 4060 Ti – ideal für schnelle Coding-Agents (OpenCode/Continue)
Enthusiast & Enterprise Local-AI (32B bis 70B+ Parameter)
Für kompromisslose lokale Intelligenz: Llama 3.3 70B, DeepSeek-R1 32B & 70B, Qwen 2.5 Coder 32B mit großem 64k Kontext.
Apple Mac Mini M4 Pro (48GB / 64GB Unified Memory)
M4 Pro (bis 14-Core CPU, 20-Core GPU), 273 GB/s Speicherbandbreite, Thunderbolt 5
💡 Führt 70B-Modelle (Llama 3.3 70B / DeepSeek-R1 70B in Q4_K_M ~42GB) komplett im Unified Memory aus!
NVIDIA GeForce RTX 4090 (24GB) / RTX 5090 (32GB)
24–32 GB GDDR6X/GDDR7 VRAM, >1.000 GB/s Bandbreite, kompromisslose Tensor-Leistung
💡 Unschlagbare Antwortgeschwindigkeit für 32B-Modelle, Feintuning (LoRA), Whisper & Bild/Video-KI
Essenzielle Speicher- & RAM-Upgrades für lokale LLMs
Große Sprachmodelle sind 10 bis 45 GB groß. Schnelle NVMe-SSDs und Dual-Channel DDR5-RAM verhindern minutenlange Ladezeiten.
Samsung 990 PRO 2TB NVMe M.2 SSD (PCIe 4.0)
Bis zu 7.450 MB/s Lesen – lädt ein 20 GB LLM in unter 3 Sekunden von der SSD in den Speicher
💡 Platz für über 40 lokale GGUF-Modelle in Ollama & LM Studio ohne Nachlade-Ruckler
Crucial Pro DDR5 RAM 64GB Kit (2x32GB, 5600MHz)
64 GB Dual-Channel DDR5 (Desktop oder SO-DIMM für Mini-PCs) für CPU/GPU Hybrid-Offloading
💡 Pflicht-Upgrade, wenn große Modelle teilweise im System-RAM (CPU-Offload) ausgeführt werden
OpenWebUI, LibreChat & n8n AI-Agents auf eigenem deutschen Server
Du möchtest deine KI-Oberfläche (OpenWebUI, LibreChat, OpenCLAW oder n8n) 24/7 von überall erreichbar machen? Hoste das Frontend auf einem günstigen deutschen Root-Server und binde lokale oder API-Modelle sicher per WireGuard ein.
❓ Häufige Fragen zur KI-Hardware & VRAM-Berechnung
Wie viel VRAM brauche ich für Llama 3.3 70B oder DeepSeek-R1 70B?
In der empfohlenen 4-Bit-Quantisierung (Q4_K_M) belegt ein 70B-Modell allein für die Modellgewichte rund 40 bis 42 GB Speicher. Zusammen mit einem 8k- bis 16k-Kontextfenster (KV-Cache) solltest du mindestens 48 GB bis 64 GB Speicher einplanen – idealerweise über einen Mac Mini M4 Pro (48/64 GB Unified Memory) oder ein Dual-GPU-Setup (z. B. 2x 24 GB VRAM).
Welche Grafikkarte hat 2026 das beste Preis-Leistungs-Verhältnis für Ollama?
Unter 300 € ist die NVIDIA RTX 3060 mit 12 GB VRAM ungeschlagen. In der Mittelklasse (unter 500 €) bietet die RTX 4060 Ti in der 16-GB-Version genügend Speicher für starke 14B- und 24B-Modelle (wie Qwen 2.5 Coder 14B oder Mistral Small 3 24B). Wer 32B-Modelle mit maximaler Geschwindigkeit nutzen will, greift zu 24 GB+ VRAM oder einem Mac mit Unified Memory.
Was bedeutet Q4_K_M bei Ollama und LM Studio?
Q4_K_M ist das Standard-Kompressionsverfahren (4-Bit-Quantisierung) bei GGUF-Modellen. Es reduziert den Speicherbedarf im Vergleich zu unkomprimiertem FP16 um fast 70 %, während über 98 % der Antwortqualität erhalten bleiben. Ein 8B-Modell benötigt in Q4_K_M inklusive Kontext nur etwa 5,5 bis 6,5 GB statt 16 GB VRAM.