ServeTheHome: AI/GPU-Hardware: Funktionierende lokale KI-Setups im Realitäts-Check

Kurzfassung (4-6 Sätze): ServeTheHome deckt aktuell eine Vielzahl von Themen rund um AI-Workstations und Home-Lab-Setups ab. Besonders hervorzuheben sind die Ankündigungen von AMD zur Threadripper Halo Station, einem hochleistungsfähigen AI-Entwickler-Workstation, sowie der Review des MikroTik CRS804-4DDQ-hRM, eines kostengünstigen 400GbE-Switches für lokale AI-Cluster. Diese Woche bieten diese Beiträge konkrete Setups, die für den Aufbau eines lokalen KI-Setups relevant sind.
[AMD Announces Threadripper Halo Station: A High-End AI-Centric Developer Workstation] (8/10) — OpenCode-Fit: BEDINGT

Worum es geht (2-4 Sätze): AMD hat bei IFA 2026 die Threadripper Halo Station angekündigt, eine hochleistungsfähige Workstation für AI-Entwickler. Das System kombiniert einen Threadripper Pro CPU mit AMD Instinct MI350P-Acceleratoren und bietet bis zu 2TB DDR5-RAM und 144GB HBM3E pro GPU.
Reales Setup (komplette Fakten-Tabelle siehe oben):
| Feld | Wert |
|—|—|
| GPU(s) | 2x/4x AMD Instinct MI350P |
| CPU / Mainboard | AMD Threadripper Pro 9995WX (96C/192T) |
| RAM | Up to 2TB DDR5 (CPU) / 144GB HBM3E (GPU) |
| PSU | TBC |
| Chassis / Kuehlung | Tower Workstation |
| Framework + Version | TBC |
| Modell + Quant | TBC |
| Kontext-Laenge | TBC |
| tok/s (single) | TBC |
| tok/s (batched) | TBC |
| Strom (full load) | TBC |
| Rohkosten | TBC |
| Autarkie-Fit | BEDINGT |
Was funktioniert konkret? (3-5 Sätze): Die Threadripper Halo Station bietet eine hohe Leistung für lokale AI-Inferenz und -Entwicklung. Mit bis zu 2TB DDR5-RAM und 144GB HBM3E pro GPU ist sie für anspruchsvolle Workloads geeignet. Die Kombination von CPU und GPU ermöglicht eine effiziente parallele Verarbeitung.
Was NICHT funktioniert / Limits (2-4 Sätze): Der Preis und die Stromverbrauch sind nicht im Post belegt, was die Eignung für einen privaten Haushalt erschweren könnte. Zudem fehlen konkrete Benchmarks und Leistungsdaten.
Nachbau-Empfehlung (2-4 Sätze): Das Setup ist für Entwickler und Fortgeschrittene geeignet, die hohe Leistung für AI-Aufgaben benötigen. Für den privaten Haushalt könnte es aufgrund der Kosten und des Stromverbrauchs eher bedingt geeignet sein.
Weitere Beitraege (automatisch gefiltert):
– Cheap Desktop 400GbE Switch MikroTik CRS804-4DDQ-hRM Review — keine Hardware belegt, kein nachbaubares Setup