Selfhost-GPU TT.09.2026: Qwen 3.8 Next auf 6×V100
| Modell + Quant/Stack | VRAM / GPUs laut Thread | Karte | tok/s oder Fazit | Link |
|—|—|—|—|—|
| Qwen 3.8 Next (TP2 PP3) | 8.78 GiB KV Cache, 6×V100 | V100 | 22.59 (Base) / 42.70 (MTP) tok/s | Link |
Zusammenfassung:
Ein Benutzer hat erfolgreich Qwen 3.8 Next auf einem 6-GPU-Rig mit V100-Karten laufen lassen. Nach intensiven Troubleshooting-Sessions und Konfigurationen konnte er stabilen Betrieb mit TP2 PP3 erreichen. Die Benchmarks zeigen beeindruckende Leistungssteigerungen durch die Aktivierung von MTP (Multi-Threaded Prefetching), die die Textgenerierungsdurchsatz fast verdoppeln. Zudem wurden umfangreiche thermische Tests durchgeführt, die keine kritischen Überhitzungsprobleme aufgezeigt haben.
👁 1 Aufrufe
👤 1 Leser