KAPITEL 02 · HARDWARE-KOMPASS & KAUFBERATUNGVerifizierte Messwerte · Oktober 2026

Welche Modelle laufen auf deiner Hardware – und welche Karte lohnt sich?

Alle Empfehlungen basieren auf unseren 139.000 bewerteten Benchmark-Antworten (Scoring v2.1) und echten Bandbreiten-, Prefill- und Strommessungen. Ohne gesponserte Links, ohne Marketing-Versprechen.

SCHRITT 1 · DEIN SETUP WÄHLEN

Interaktiver VRAM- & Modell-Berater

24 GB VRAM · SWEETSPOT

24 GB Klasse („Value King“) — Gebrauchte RTX 3090 (~1.300 €) / 2× 3090 (48 GB)

Typischer Straßenpreis: ~1.300 € (3090 gebraucht) bis ~2.800 € (4090)

👑 Bester Allrounder, Büro & Coding90,5 / 100

Qwen 3.8-27B (ohne Thinking, Q4_K_M / NInfer) →

15,3 GB in Q4_K_M. Auf der 3090 via Don-Chad/ninfer-3090 ~65–70 Tok/s, auf 4090 ~106,5 Tok/s. Terminal-Bench 2.1: ~8/10 gelöst.

llama-server -m qwen3.8-27b-q4_k_m.gguf -c 32768 -fa --reasoning-budget 0

🧠 Max. Qualität (93,3) oder Max. Tempo (MoE)93,3 bzw. 92,6 / 100

Qwen 3.5-27B Thinking / Qwen 3.5-35B-A3B Thinking →

Qwen 3.5-27B Thinking ist die Nr. 1 im Gesamttest (93,3). Wer ~198 Tok/s in llama.cpp sucht, nimmt Qwen 3.5-35B-A3B Thinking (92,6).

llama-server -m qwen3.5-27b-thinking-q4_k_m.gguf -fa

KAUF-KOMPASS · 24 GB Klasse („Value King“)

Die gebrauchte RTX 3090 für ~1.300 € ist der ungeschlagene Preis-Leistungs-König. Und weil Q4_K_M gegenüber BF16 nur 0,13 Punkte kostet, läuft die komplette 27B/35B-Spitzenklasse darauf ohne Qualitätsverlust.

KAPITEL 03 · SPEICHERBANDBREITE & 30.000-TOKEN-TEST

RTX 5090 vs. Mac Studio M3 Ultra vs. DGX Spark

Gemessen mit gpt-oss-20b und 30.000 Token Kontext (ein langes Dokument einlesen + beantworten).

System	Speicher & Bandbreite	Antworten (Tok/s)	30.000 Token Lesen (Prefill)	Ehrliches Fazit
NVIDIA RTX 5090 Blackwell · Desktop-GPU	32 GB GDDR7 · 1.792 GB/s	299 Tok/s (368 Tok/s @ b10853 / 430W)	2,5 s (1,7 s @ b10853)	Unschlagbar bei Tempo & Dokumenten-Prefill bis 32 GB VRAM (mit 96 GB DDR5 auch für 125B MoE via Strata).
Apple Mac Studio M3 Ultra Unified Memory	64–192 GB · 819 GB/s	116 Tok/s	22,0 s (fehlende Tensor-Kerne vor M5)	Leise und stark beim Antworten großer Modelle, aber zäh beim Einlesen langer PDFs/Codebasen.
NVIDIA DGX Spark 128 GB Kompakt-Box	128 GB · 273 GB/s	86 Tok/s (57 Tok/s bei 7B = GTX 1080 Ti)	10,0 s	Durch die schmale 273-GB/s-Anbindung beim Schreiben langsamer als eine gebrauchte RTX 3090 (936 GB/s).

MEIN EHRLICHES URTEIL ZUM DGX SPARK

„Für die meisten ein Fehlkauf. Aber: Wer genau weiß, welches große Modell er auf 128 GB betreiben will und mit dem Tempo leben kann, für den kann er reichen.“ Wer dagegen ein schnelles Arbeitstier für den Alltag sucht, fährt mit einer gebrauchten RTX 3090 (24 GB für ~1.300 €, 936 GB/s Bandbreite) oder zwei RTX 3090 (48 GB für ~2.600 € statt einer teuren 4090) um Welten besser.

KAPITEL 04 · STROMKOSTEN- & AMORTISATIONSRECHNER

Was kostet lokale KI an Strom – und wann rechnet sich die Karte?

Wähle deine GPU, deine tägliche Nutzungsdauer unter Last, deinen Stromtarif und deine bisherigen Cloud-API-/Abo-Ausgaben:

HARDWARE-SETUP WÄHLEN:

Aktive KI-Nutzung pro Tag (unter Last):4 Std. / Tag

Strompreis (BDEW-Schnitt 2026 = 37 Ct/kWh):37 Ct / kWh

Bisherige Cloud-Abos / API-Ausgaben:60 € / Monat

STROMKOSTEN PRO MONAT

14,10 €

~169 € / Jahr (inkl. Idle)

NETTO-ERSPARNIS VS. CLOUD

+46 € / Mon.

Amortisiert nach ~29 Monaten (+ 100 % Datenschutz)

KAPITEL 05 · NInfer & COMMUNITY-PORTS

Maximales Tempo aus 3090, 4090 & 5090 holen

Neben llama.cpp und Strata sorgt die Engine NInfer mit spekulativem Decoding (MTP3) für enorme Geschwindigkeitsgewinne bei Qwen 3.8-27B:

RTX 5090 (NInfer NVFP4 + MTP3)143,8 Tok/s (C=1)

Gegenüber 69 Tok/s in llama.cpp (`Q4_K_M`) mehr als doppelt so schnell bei vollen 90,5 Punkten.

RTX 4090 (`sergiuszm/ninfer-4090` Port)~106,5 Tok/s

Verifizierter Ada-Lovelace-Port für 24 GB VRAM.

RTX 3090 (`Don-Chad/ninfer-3090` Port)~65–70 Tok/s

Verifizierte Community-Messung (`@superalesha`) auf der gebrauchten 1.300-€-Karte.