Reddit Apple-Silicon-Lagebild: Mac Studio, MLX und Cluster
In dieser Zusammenfassung analysieren wir aktuelle Reddit-Beiträge zu Apple-Silicon-KI, insbesondere im Kontext von Mac Studio, MLX und EXO-Cluster. Der Fokus liegt auf der Frage, ob ein Apple-Silicon-Cluster als Investition für OpenCode und Claude-Opus-Nähe sinnvoll ist.
[8 Token/s Deepseek V4 Flash on Mac Studio M3 Ultra (can it be?)](8/10) — OpenCode-Fit: BEDINGT
Verdict (1 Satz): Die Performance von 8 tok/s auf einem Mac Studio M3 Ultra 512GB ist enttäuschend, was die Eignung für OpenCode in Frage stellt.
Hardware: Mac Studio M3 Ultra 512GB
Modell: DeepSeek V4 Flash
tok/s-Claim: 8 tok/s
Cluster-Bezug: Single
Investment-Empfehlung: „Warten“
Kontext (2-3 Saetze): Der Benutzer testet DeepSeek V4 Flash auf einem Mac Studio M3 Ultra 512GB und erreicht nur 8 tok/s, was deutlich langsamer ist als erwartet. Dies wirft Fragen auf, ob Apple-Silicon für OpenCode geeignet ist.
[Running GLM 5.2 on 4xGB10 with a 100G Switch, 330k ctx, ~25 t/s tg, ~650 t/s pp](7/10) — OpenCode-Fit: NEIN
Verdict (1 Satz): Ein 4xGB10-Cluster mit 100G Switch erreicht bessere Performance als ein Mac Studio, aber die Investition ist deutlich höher.
Hardware: 4x GB10, 100G Switch
Modell: GLM 5.2
tok/s-Claim: ~25 t/s tg, ~650 t/s pp
Cluster-Bezug: Multi
Investment-Empfehlung: „Rechnet sich nicht“
Kontext (2-3 Saetze): Der Beitrag beschreibt ein hochperformantes Setup mit 4x GB10 und einem 100G Switch, das GLM 5.2 mit 330k Kontext und 25 tok/s durchschnittlich erreicht. Die Investition von ~16k EUR ist jedoch sehr hoch.
[Benchmarked the 128GB M5 Max as an Amateur – Need Feedback](7/10) — OpenCode-Fit: BEDINGT
Verdict (1 Satz): Die Benchmarks zeigen, dass der 128GB M5 Max für kleinere Modelle geeignet ist, aber für OpenCode mit 128k Kontext reicht die Performance nicht aus.
Hardware: Macbook Pro M5 Max 128GB
Modell: Qwen 3.6 27B, Gemma 4 E4B
tok/s-Claim: 706-732 tok/s
Cluster-Bezug: Single
Investment-Empfehlung: „Warten“
Kontext (2-3 Saetze): Der Benutzer hat verschiedene Modelle auf einem 128GB M5 Max Macbook Pro getestet und zeigt, dass kleinere Modelle wie Qwen 3.6 27B und Gemma 4 E4B gut laufen, aber für OpenCode mit 128k Kontext nicht ausreichend sind.
[Hy3 (295B MoE) and NVIDIA Nemotron-Labs-Audex-30B-A3B (audio-capable 30B MoE) GGUF quants](6/10) — OpenCode-Fit: NEIN
Verdict (1 Satz): Die Benchmarks zeigen, dass die Modelle Hy3 und Nemotron-Labs-Audex-30B-A3B auf NVIDIA-GPUs besser laufen als auf Apple-Silicon.
Hardware: 8x RTX PRO 6000 Blackwell
Modell: Hy3, Nemotron-Labs-Audex-30B-A3B
tok/s-Claim: 57.4-78.7 tok/s
Cluster-Bezug: Multi
Investment-Empfehlung: „Rechnet sich nicht“
Kontext (2-3 Saetze): Der Beitrag enthält Benchmarks für Hy3 und Nemotron-Labs-Audex-30B-A3B auf NVIDIA-GPUs, die zeigen, dass diese Modelle auf CUDA besser laufen als auf Apple-Silicon.
[Tencent-HY3 is the real deal on 128GB!](6/10) — OpenCode-Fit: NEIN
Verdict (1 Satz): HY3 läuft auf einem 128GB Macbook M5 Max, aber die Performance ist für OpenCode nicht ausreichend.
Hardware: Macbook M5 Max 128GB
Modell: HY3
tok/s-Claim: nicht im Post belegt
Cluster-Bezug: Single
Investment-Empfehlung: „Warten“
Kontext (2-3 Saetze): Der Benutzer beschreibt, wie er HY3 auf einem 128GB Macbook M5 Max laufen lässt, aber die Performance ist für OpenCode nicht ausreichend.
[At most my Strix Halo uses $0.48 a day](5/10) — OpenCode-Fit: NEIN
Verdict (1 Satz): Die Stromkosten des Strix Halo sind gering, aber die Performance für OpenCode ist begrenzt.
Hardware: Strix Halo
Modell: Qwen 3.6 35B
tok/s-Claim: 50 tps
Cluster-Bezug: Single
Investment-Empfehlung: „Rechnet sich nicht“
Kontext (2-3 Saetze): Der Benutzer vergleicht die Stromkosten des Strix Halo mit NVIDIA-GPUs und betont die Vorteile in Bezug auf Größe, Lärm und Energieeffizienz, aber die Performance für OpenCode ist begrenzt.
[Complete local model asset generation pipeline](5/10) — OpenCode-Fit: NEIN
Verdict (1 Satz): Die Pipeline für lokale Asset-Generierung ist interessant, aber nicht direkt relevant für OpenCode.
Hardware: nicht spezifiziert
Modell: AceStep, OpenMoss, ThinkSound, Trellis
tok/s-Claim: nicht im Post belegt
Cluster-Bezug: Single
Investment-Empfehlung: „kein Bezug“
Kontext (2-3 Saetze): Der Beitrag beschreibt eine Pipeline für die lokale Generierung von Assets, die auf verschiedenen Modellen basiert, aber nicht direkt für OpenCode relevant ist.
[I should be able to dip my toes into local models with this gaming desktop. Right?](5/10) — OpenCode-Fit: NEIN
Verdict (1 Satz): Das Gaming-Desktop-Setup ist für den Einstieg in lokale Modelle geeignet, aber nicht für OpenCode.
Hardware: AMD Ryzen 7 9800X3D, NVIDIA RTX 5070 Ti 16GB
Modell: nicht spezifiziert
tok/s-Claim: nicht im Post belegt
Cluster-Bezug: Single
Investment-Empfehlung: „kein Bezug“
Kontext (2-3 Saetze): Der Benutzer plant, mit einem Gaming-Desktop zu beginnen und später auf einen Mac Studio M5 Ultra zu wechseln, aber das aktuelle Setup ist nicht für OpenCode geeignet.
[Can you trust local models to answer accurately?](5/10) — OpenCode-Fit: NEIN
Verdict (1 Satz): Lokale Modelle können genau antworten, wenn sie mit RAG verbunden sind, aber die Performance für OpenCode ist begrenzt.
Hardware: nicht spezifiziert
Modell: DeepSeek V4 Flash, Gemma 4 E4B
tok/s-Claim: nicht im Post belegt
Cluster-Bezug: Single
Investment-Empfehlung: „kein Bezug“
Kontext (2-3 Saetze): Der Benutzer testet, ob lokale Modelle genau antworten können, und zeigt, dass RAG die Genauigkeit verbessert, aber die Performance für OpenCode ist begrenzt.
[mistral.rs v0.9.0: up to 1.8x faster CPU decode than llama.cpp on x86 and ARM!](5/10) — OpenCode-Fit: NEIN
Verdict (1 Satz): mistral.rs ist schneller als llama.cpp auf CPU, aber die Performance für OpenCode ist begrenzt.
Hardware: x86 (Sapphire Rapids), ARM (GB10)
Modell: Qwen 3.5/3.6, Gemma 4, LFM 2.5
tok/s-Claim: nicht im Post belegt
Cluster-Bezug: Single
Investment-Empfehlung: „kein Bezug“
Kontext (2-3 Saetze): Der Beitrag beschreibt, dass mistral.rs bis zu 1.8x schneller als llama.cpp auf CPU ist, aber die Performance für OpenCode ist begrenzt.
Weitere Beiträge:
– Locally run assistant on a w-10 board on a local Xiaozhi server
– Has anyone created a „Local LLM Survival Kit“?