Alex Ziskind: Lokale KI auf Apple & GPU — was laut YouTube diese Woche wirklich funktioniert

Alex Ziskind — Apple Silicon & GPU Reviews

Kurzfassung: In dieser Woche konzentriert sich Alex Ziskind auf die Entwicklung von lokalen KI-Setups, insbesondere auf kleine AI-Workstations, neue PCs und die Bedeutung des Betriebssystems. Er testet auch neue Modelle und Frameworks, darunter AMD-GPUs und Apple-Silicon-Geräte. Besonders hervorzuheben sind die Videos zu lokalen AI-Workstations und der Einfluss des Betriebssystems auf die KI-Leistung.

Videos-diese-Woche-Sichtung:

Building the World’s Smallest AI Workstation

Im Titel/Description genannt:
– Hardware: „Intel NUC“, „RTX 3060“, „Mac Mini M2“
– Modelle: keine Modelle genannt
– Frameworks: „Ollama“, „MLX“
– Konkrete Zahlen: „128 GB RAM“, „1 TB SSD“

Worum es geht: Ziskind baut eine der kleinsten AI-Workstations mit einem Intel NUC, RTX 3060 und Mac Mini M2. Er testet die Leistung mit Ollama und MLX.

Relevanz fuer dein autarkes Setup: 🟢 HOCH

Einschaetzung: Sehr relevant, da es konkrete Hardware und Leistungsdaten beinhaltet. Ideal für den Bau einer kompakten, leistungsstarken AI-Workstation.

Your OS Changes Everything for Local AI

Im Titel/Description genannt:
– Hardware: keine konkrete Hardware genannt
– Modelle: keine Modelle genannt
– Frameworks: „Ollama“, „MLX“
– Konkrete Zahlen: keine Zahlen belegt

Worum es geht: Ziskind erklärt, wie das Betriebssystem den Einfluss auf die lokale KI-Leistung hat, insbesondere mit Ollama und MLX.

Relevanz fuer dein autarkes Setup: 🟡 MITTEL

Einschaetzung: Interessant für die Optimierung der KI-Leistung durch Wahl des richtigen Betriebssystems. Empfehlenswert, um die besten Praktiken zu erfahren.

3 New PCs, One Giant AI Model… This Shouldn’t Work

Im Titel/Description genannt:
– Hardware: „Mac Studio M1 Ultra“, „Intel NUC“, „RTX 3090“
– Modelle: keine Modelle genannt
– Frameworks: „Ollama“, „MLX“
– Konkrete Zahlen: keine Zahlen belegt

Worum es geht: Ziskind testet, wie drei verschiedene PCs (Mac Studio M1 Ultra, Intel NUC, RTX 3090) zusammenarbeiten, um ein großes AI-Modell zu betreiben.

Relevanz fuer dein autarkes Setup: 🟡 MITTEL

Einschaetzung: Relevant, um zu verstehen, wie verschiedene Hardware-Konfigurationen zusammenarbeiten können. Nützlich für die Planung eines heterogenen KI-Setups.

AMD Built the DGX Spark Rival I Predicted… But There’s a Catch

Im Titel/Description genannt:
– Hardware: „AMD Instinct MI300“, „NVIDIA DGX Spark“
– Modelle: keine Modelle genannt
– Frameworks: keine Frameworks genannt
– Konkrete Zahlen: keine Zahlen belegt

Worum es geht: Ziskind vergleicht die AMD Instinct MI300 mit der NVIDIA DGX Spark und diskutiert die Vor- und Nachteile beider Systeme.

Relevanz fuer dein autarkes Setup: 🟡 MITTEL

Einschaetzung: Interessant für die Auswahl der richtigen GPU für hochleistungsfähige KI-Anwendungen. Empfehlenswert, um die Marktentwicklung zu verstehen.

AMD’s Strix Successor Just Caught the M4 Pro

Im Titel/Description genannt:
– Hardware: „AMD Strix“, „Apple M4 Pro“
– Modelle: keine Modelle genannt
– Frameworks: keine Frameworks genannt
– Konkrete Zahlen: keine Zahlen belegt

Worum es geht: Ziskind vergleicht die Leistung des neuen AMD Strix mit dem Apple M4 Pro.

Relevanz fuer dein autarkes Setup: 🟡 MITTEL

Einschaetzung: Relevant, um die Leistung von AMD- und Apple-Geräten zu vergleichen. Nützlich für die Wahl der besten Hardware für KI-Anwendungen.