Selfhost-GPU TT.09.2026: Qwen3.8-27B auf 2×5090
| Modell + Quant/Stack | VRAM / GPUs laut Thread | Karte | tok/s oder Fazit | Link |
|—|—|—|—|—|
| Qwen 3.8 27B Q4, Q8 KV | 64 GB (2×5090) | RTX 5090 | ~120 t/s | CachyOS Qwen 3.8 27b on 2x 5090 vLLM |
| Qwen3.8-27B UD-Q6_K and Q8_0 | 64 GB (2×5090) | RTX 5090 + RTX 3090 | 1,220–1,234 t/s (prefill) | 5090 + 3090, Qwen3.8 27B and Flash-Next at 60k–160k context tests with llama.cpp |
| Qwen3.8-27B Q4, Q8 KV | 24 GB (1×3090) | RTX 3090 | ~250 t/s (prefill) | The bear can dance: Qwen 3.8 27B on one 3090 for 3 weeks |
Zusammenfassung
Heute gibt es einige interessante Runs von Qwen 3.8 27B auf verschiedenen GPU-Konfigurationen. Besonders auffällig ist der Run von Qwen 3.8 27B auf 2×5090, der eine beeindruckende Geschwindigkeit von ~120 t/s erreicht. Ein weiterer Run zeigt, wie Qwen 3.8 27B auf einer Kombination aus 5090 und 3090 bei einem Prefill von 1,220–1,234 t/s performt. Schließlich gibt es auch ein Beispiel, wie Qwen 3.8 27B auf einer einzelnen 3090 bei einem Prefill von ~250 t/s läuft.