ServeTheHome: AI/GPU-Hardware: Funktionierende lokale KI-Setups im Realitäts-Check
Kurzfassung: ServeTheHome: AI/GPU-Hardware deckt aktuell eine Vielzahl von Themen ab, von neuen Apple-Workstations bis hin zu spezialisierten AI-Setups. In dieser Woche sind besonders die neuen Apple Mac Studio M5 Ultra und Mac Mini M6 hervorzuheben, die für lokale KI-Aufgaben optimiert sind. Zudem gibt es interessante Diskussionen über HBF (High-Bandwidth Flash) und seine Rolle in der AI-Inferenz. Ein Leser kann heute Abend mit den Apple-Workstations oder HBF-geführten Setups beginnen, um seine lokalen KI-Projekte voranzutreiben.
[Apple Mac Studio M5 Ultra and Mac Mini M6 Launched] (8/10) — OpenCode-Fit: JA
Worum es geht: Apple hat die neuen Mac Studio M5 Ultra und Mac Mini M6 vorgestellt. Beide Modelle sind speziell für lokale KI-Aufgaben mit Apple’s unified memory konzipiert.
Reales Setup (komplette Fakten-Tabelle):
| Feld | Wert |
|—|—|
| GPU(s) | Apple M5 Ultra: 80-core GPU, Apple M6: 12-core GPU |
| CPU / Mainboard | Apple M5 Ultra: 36-core CPU, Apple M6: 12-core CPU |
| RAM | Apple M5 Ultra: 512 GB unified memory, Apple M6: 32 GB unified memory |
| PSU | nicht im Post belegt |
| Chassis / Kuehlung | nicht im Post belegt |
| Framework + Version | nicht im Post belegt |
| Modell + Quant | nicht im Post belegt |
| Kontext-Länge | nicht im Post belegt |
| tok/s (single) | nicht im Post belegt |
| tok/s (batched) | nicht im Post belegt |
| Strom (full load) | nicht im Post belegt |
| Rohkosten | Apple M5 Ultra: ca. 6.000 EUR, Apple M6: ca. 1.500 EUR |
| Autarkie-Fit | JA |
Was funktioniert konkret? Die Apple Mac Studio M5 Ultra und Mac Mini M6 sind hervorragend für lokale KI-Aufgaben geeignet, insbesondere dank der hohen GPU-Leistung und der großen unified memory. Die M5 Ultra kann große Sprachmodelle lokal ausführen, während der M6 für kleinere Aufgaben reicht.
Was NICHT funktioniert / Limits: Die M5 Ultra ist teurer und hat eine höhere Leistungsaufnahme, was sie für kleinere Haushalte weniger geeignet macht. Der M6 ist dagegen preiswerter, aber beschränkt in der GPU-Leistung.
Nachbau-Empfehlung: Die M5 Ultra ist ideal für Benutzer mit höherem Budget und komplexeren KI-Projekten. Der M6 eignet sich für Anfänger und kleinere Aufgaben. Beide Modelle sind nachbaubar und stabil.
Weitere Beitraege (automatisch gefiltert):
– Oxmiq Labs HBF in AI Compute at Hot Chips 2026 — keine Hardware belegt, kein nachbaubares Setup