Reddit-Lagebild: Lokale KI für OpenCode-Agenten
In dieser Runde dominiert die Community die Diskussionen um die lokale Ausführung von LLMs, insbesondere auf Consumer-GPUs. Es gibt einige interessante Beiträge zu Benchmarks, Quantisierung und Agenten-Tools, die für die Aufbaut einer lokalen KI-Infrastruktur für OpenCode relevant sind.
[40+tok/s – optimized recipe for Qwen 3.5 122B Int4 on a single DGX Spark with vLLM] (8/10) — OpenCode-Fit: JA
Verdict (1 Satz): Die optimierte Rezeptur für Qwen 3.5 122B Int4 auf einer DGX Spark ist ideal für die Ausführung auf hoch spezialisierter Hardware und passt gut zu den Anforderungen von OpenCode.
Hardware: DGX Spark
Modell: Qwen 3.5 122B Int4
Agent-Skills: MCP Tool Execution
Claude-Naehe: nicht belegt
Kontext (2-3 Saetze): Der Beitrag zeigt, wie man Qwen 3.5 122B Int4 auf einer DGX Spark mit vLLM optimieren kann, um eine Geschwindigkeit von über 40 Tokens pro Sekunde zu erreichen. Dies ist besonders relevant für die Ausführung von Agenten-Tools wie OpenCode, die hohe Leistung und Tool-Calling-Fähigkeiten benötigen.
[Qwen 3.6 35B GGUF: NTP vs MTP quantization results across GPUs and CPUs] (7/10) — OpenCode-Fit: BEDINGT
Verdict (1 Satz): Die Quantisierungsergebnisse von Qwen 3.6 35B GGUF auf verschiedenen GPUs und CPUs bieten wertvolle Einblicke, aber die Anwendung auf OpenCode ist bedingt, da spezifische Agenten-Fähigkeiten nicht direkt getestet wurden.
Hardware: RTX 4090, 5090, Pro 6000, 4080, 5060 Ti, Intel i7, Intel Ultra 7, Ryzen 9, Raspberry Pi 5
Modell: Qwen 3.6 35B GGUF
Agent-Skills: nicht belegt
Claude-Naehe: nicht belegt
Kontext (2-3 Saetze): Der Beitrag vergleicht die Quantisierungsergebnisse von Qwen 3.6 35B GGUF in den Versionen NTP und MTP auf verschiedenen GPUs und CPUs. Die Ergebnisse zeigen, dass MTP eine signifikante Geschwindigkeitssteigerung auf GPUs bieten kann, was für die Ausführung von Agenten-Tools wie OpenCode relevant ist.
[Chapper 1.3.0 is live: Big update for native on-device local models, MLX support, Live Activities, and Brave Search for private AI on iOS] (7/10) — OpenCode-Fit: BEDINGT
Verdict (1 Satz): Chapper 1.3.0 bietet erweiterte Unterstützung für lokale Modelle und Agenten-Tools, was es bedingt für OpenCode geeignet macht, insbesondere für mobile Anwendungen.
Hardware: iPhone, iPad
Modell: nicht belegt
Agent-Skills: MCP Tool Execution, Brave Search
Claude-Naehe: nicht belegt
Kontext (2-3 Saetze): Chapper 1.3.0 ist eine bedeutende Aktualisierung, die native Unterstützung für lokale Modelle, MLX, Live Activities und Brave Search hinzufügt. Diese Features machen es zu einem starken Kandidaten für mobile Agenten-Tools, obwohl es weniger spezifisch auf OpenCode abgestimmt ist.
[What do you think about these llama.cpp benchmark results?] (6/10) — OpenCode-Fit: BEDINGT
Verdict (1 Satz): Die Benchmarks für llama.cpp bieten wertvolle Einblicke in die Leistung auf verschiedenen Konfigurationen, aber die direkte Anwendung auf OpenCode ist bedingt, da spezifische Agenten-Fähigkeiten nicht getestet wurden.
Hardware: Ryzen + RTX 3090
Modell: llama.cpp
Agent-Skills: nicht belegt
Claude-Naehe: nicht belegt
Kontext (2-3 Saetze): Der Beitrag präsentiert Benchmarks für llama.cpp auf einer Ryzen + RTX 3090-Setup, wobei verschiedene Konfigurationen für die GPU-Offload und KV-Cache-Quantisierung getestet wurden. Die Ergebnisse sind nützlich für die Optimierung der lokalen Ausführung von LLMs, aber spezifische Agenten-Fähigkeiten werden nicht abgedeckt.
Weitere Beiträge:
– Running LLM inside the memory explained
– [[pi-search-hub] now has 26 unit tests, Jina auth, and Perplexity model variants](https://old.reddit.com/r/LocalLLM/comments/1tiqf9l/pisearchhub_now_has_26_unit_tests_jina_auth_and/)
– Can’t find any sas expanders?
– Waiting on Qwen to drop those 3.7 models be like:
– Rate my setup
– The rack is a $40 Amazon shelf and I refuse to apologize
– [[OC] EverShelf – An open-source, self-hosted kitchen inventory manager with Gemini AI recipe generation and BLE smart scale integration](https://old.reddit.com/r/selfhosted/comments/1tipskt/oc_evershelf_an_opensource_selfhosted_kitchen/)
– CohereLabs/command-a-plus-05-2026-bf16 · Hugging Face