Reddit Heat 12.10.2026: Lokale KI-Modelle und Selfhosting-Software
KI
| Thema | Warum heiß | Hardware/Modell falls genannt | Link |
|—|—|—|—|
| Lokale Modelle für 10-16GB VRAM | Ranking der besten Modelle für geringe VRAM-Anforderungen | 10-16GB VRAM, 26-32GB RAM | Link |
| RTX 5090 und AI | Kostenaufwand und Nachfrage von AI-Unternehmen | RTX 5090 | Link |
| Strata für GLM5.3 Flash | Verbesserung der Token-Rate und Leistung | RTX 4090, RTX 5090 | Link |
Selfhosting
| Thema | Warum heiß | Hardware/Modell falls genannt | Link |
|—|—|—|—|
| Dispatcharr-Plugins | Erweiterung der Funktionalität durch Plugins | – | Link |
| Filebrowser Quantum v2.0.0 | Neuer stabiler Release mit Sicherheits- und Leistungsverbesserungen | – | Link |
| Self-Hosted Stack | Ersatz von Google-Diensten durch Selfhosting | – | Link |
Ausführliche Threads
#### Lokale Modelle für 10-16GB VRAM
Ein Benutzer hat ein Ranking der besten lokalen KI-Modelle für Systeme mit 10-16GB VRAM erstellt. Die Bewertung basiert auf Kriterien wie Geschwindigkeit (mindestens 10 Tokens pro Sekunde), Kohärenz, Sprachverarbeitung und mehr. Besonders hervorgehoben werden Modelle wie Gemma 4 26B-A4B und Qwen 35B-A3B.
Link
#### RTX 5090 und AI
Die hohe Nachfrage von AI-Unternehmen nach RTX 5090-GPUs führt zu Preisen von 5000 USD. Diese Karten werden in Massen gekauft, um leistungsstarke AI-Modelle lokal zu betreiben.
Link
#### Strata für GLM5.3 Flash
Die neue Strata-Version für GLM5.3 Flash verbessert die Token-Rate erheblich. Benutzer berichten von 30 Tokens pro Sekunde auf einem RTX 5090. Das Projekt ermöglicht es, ein 321-Milliarden-Parameter-Modell auf einem eigenen GPU zu betreiben.
Link
#### Dispatcharr-Plugins
Ein Benutzer hat entdeckt, dass Dispatcharr durch Plugins erweitert werden kann, um die Kanalwahlen zu vereinfachen. Dies hat die Benutzerfreundlichkeit und die Effizienz des Tools erheblich gesteigert.
Link
#### Filebrowser Quantum v2.0.0
Die neue stabile Version von Filebrowser Quantum bringt erhebliche Verbesserungen in Sicherheit und Leistung. Der Entwickler ruft zur Unterstützung und Mithilfe bei der Migration auf.
Link
#### Self-Hosted Stack
Ein Benutzer teilt seine Erfahrungen mit dem Ersatz von Google-Diensten durch Selfhosting. Er verwendet Tools wie Immich für Fotos und Jellyfin für Medienstreaming. Sein Setup umfasst sowohl virtuelle als auch bare Metal-Systeme.
Link