Selfhost-GPU TT.09.2026: DeepSeek V4.1 Flash auf 4×4090
Echte lokale Inference-Runs aus r/LocalLLaMA
| Modell + Quant/Stack | VRAM / GPUs laut Thread | Karte | tok/s oder Fazit | Link |
|—|—|—|—|—|
| DeepSeek V4.1 Flash | 96 GB VRAM / 4×4090 | RTX 4090 | 1.3k prefill, 70tg code/60tg prose | Link |
Zusammenfassung
Heute gibt es einen beeindruckenden Run von DeepSeek V4.1 Flash auf einer 4-GPU-Setup mit 4× RTX 4090. Der Nutzer hat eine Leistung von 1.3k tok/s im Prefill und 70tg code/60tg prose erreicht. Dies zeigt, dass große Modelle wie DeepSeek V4.1 Flash auch auf Consumer-Karten ausgezeichnet laufen können, wenn man die richtige Hardware und die passenden Optimierungen einsetzt.
Für weitere Details und Diskussionen zum Setup und den Ergebnissen, siehe den vollständigen Thread.
👁 7 Aufrufe
👤 7 Leser