Selfhost-GPU TT.23.10.2026: DeepSeek-V4.1-Flash auf 4x 3090 + EPYC

Selfhost-GPU TT.23.10.2026: DeepSeek-V4.1-Flash auf 4x 3090 + EPYC

| Modell + Quant/Stack | VRAM / GPUs laut Thread | Karte | tok/s oder Fazit | Link |
|—|—|—|—|—|
| DeepSeek-V4.1-Flash (UD-Q4_K_XL) | 96 GB / 4x 3090 | RTX 3090 | 12-25 tok/s prose, 39 tok/s code | Link |
| Qwen3.8-27B (Geezuz kernel) | 24 GB / 2x 3090 | RTX 3090 | 190 tok/s (1 request), 620 tok/s (8 requests) | Link |

Heute gibt es zwei interessante Runs von Community-Mitgliedern, die große Modelle auf Consumer-GPUs laufen lassen. DeepSeek-V4.1-Flash wird auf 4x RTX 3090 laufen, während Qwen3.8-27B auf 2x RTX 3090 mit dem Geezuz-Kernel beeindruckende Leistungen zeigt.