Selfhost-GPU TT.09.2026: Qwen 3.8 27B auf 2×3090
| Modell + Quant/Stack | VRAM / GPUs laut Thread | Karte | tok/s oder Fazit | Link |
|—|—|—|—|—|
| Qwen 3.8 27B Q4, Q8 KV | 24 GB / 2×3090 | RTX 3090 | >70 tok/s, 10k tok/s prefill | Link |
| Qwen 3.8 27B Q4, Q8 KV | 24 GB / 2×3090 | RTX 3090 | ~21 days, ~12 human messages | Link |
| Qwen 3.8 27B Q4, Q8 KV | 24 GB / 2×3090 | RTX 3090 | ~1200 tok/s prefill, ~700 tok/s decode | Link |
Zusammenfassung
Heute gibt es einige interessante Runs von Qwen 3.8 27B auf 2×3090. Die Benutzer erreichen beeindruckende tok/s-Raten und können das Modell effizient auf Consumer-Karten laufen lassen. Die Setup-Variationen und die verschiedenen Optimierungen zeigen, wie flexibel und leistungsfähig diese Kombination sein kann.
👁 2 Aufrufe
👤 2 Leser