Alex Ziskind: Lokale KI auf Apple & GPU — was laut YouTube diese Woche wirklich funktioniert
Diese Woche konzentriert sich Alex Ziskind auf die neuesten Entwicklungen im Bereich lokaler KI-Setups, insbesondere auf Apple-Silicon, Consumer-GPUs und Mini-PCs wie den Strix Halo. Themen wie 192 GB VRAM in einem PC, AMDs DGX Spark Rival und die Performance von lokalen KI-Modellen auf Laptops dominieren die aktuellen Videos.
Videos-diese-Woche-Sichtung:
192GB of VRAM in One PC… The Cheap Way
Im Titel/Description genannt:
– Hardware: 192 GB VRAM, RTX 4090, RTX 4080, RTX 4070 Ti
– Modelle: keine Modelle genannt
– Frameworks: keine Frameworks genannt
– Konkrete Zahlen: „192 GB VRAM“
Worum es geht: Ziskind zeigt, wie man 192 GB VRAM in einem PC auf budgetfreundliche Weise erreichen kann, indem man mehrere RTX 4090, 4080 und 4070 Ti Karten kombiniert.
Relevanz fuer dein autarkes Setup: 🟢 HOCH
Einschaetzung: Sehr relevant, wenn du eine hohe VRAM-Kapazitaet brauchst. Die Kombination mehrerer Karten ist eine praktische Loesung, die auch fuer kleinere Budgets geeignet ist.
AMD Says 2 Ryzen AI Halos Can Run a 400B Model… I Tested It
Im Titel/Description genannt:
– Hardware: Ryzen AI Halo, RTX 4090
– Modelle: 400B Model
– Frameworks: keine Frameworks genannt
– Konkrete Zahlen: keine Zahlen belegt
Worum es geht: Ziskind testet, ob zwei Ryzen AI Halos in der Lage sind, ein 400-Billionen-Parameter-Modell zu betreiben, und vergleicht die Performance mit einer RTX 4090.
Relevanz fuer dein autarkes Setup: 🟡 MITTEL
Einschaetzung: Interessant, wenn du auf AMD-Hardware setzt. Die Performance-Vergleiche koennen hilfreich sein, um die beste Wahl fuer dein Setup zu treffen.
I Didn’t Expect Local AI to Go This Far on a Laptop
Im Titel/Description genannt:
– Hardware: MacBook Pro M2 Max, RTX 4090
– Modelle: keine Modelle genannt
– Frameworks: Ollama, MLX
– Konkrete Zahlen: keine Zahlen belegt
Worum es geht: Ziskind demonstriert, wie weit lokale KI-Modelle auf einem Laptop (MacBook Pro M2 Max) und einer RTX 4090 gehen koennen.
Relevanz fuer dein autarkes Setup: 🟡 MITTEL
Einschaetzung: Nuetzlich, wenn du ein portables Setup suchst. Die Kombination von Apple-Silicon und einer leistungsfaehigen GPU kann eine gute Wahl sein.
The Non-NVIDIA AI Card Everyone’s Ignoring
Im Titel/Description genannt:
– Hardware: Tenstorrent, RTX 4090
– Modelle: keine Modelle genannt
– Frameworks: keine Frameworks genannt
– Konkrete Zahlen: keine Zahlen belegt
Worum es geht: Ziskind stellt die Tenstorrent-Karte vor, die oft uebersehen wird, und vergleicht sie mit der RTX 4090.
Relevanz fuer dein autarkes Setup: 🟡 MITTEL
Einschaetzung: Interessant, wenn du auf Alternativen zu NVIDIA setzt. Die Tenstorrent-Karte koennte eine wertvolle Option sein, insbesondere fuer spezifische Anwendungen.
Tenstorrent vs Nvidia vs AMD… the Local AI Card Nobody Expected 🛡️ MEMBERS PREVIEW
Im Titel/Description genannt:
– Hardware: Tenstorrent, RTX 4090, AMD
– Modelle: keine Modelle genannt
– Frameworks: keine Frameworks genannt
– Konkrete Zahlen: keine Zahlen belegt
Worum es geht: Ziskind vergleicht die Tenstorrent-Karte mit NVIDIA und AMD in einem Members-Preview-Video.
Relevanz fuer dein autarkes Setup: 🔴 NIEDRIG
Einschaetzung: Das Video ist ein Members-Preview und enthaelt keine konkreten Messwerte oder detaillierten Vergleiche in der Description.
This was a data center a year ago… Now it’s on my desk
Im Titel/Description genannt:
– Hardware: RTX 4090, Ryzen 9 7950X
– Modelle: keine Modelle genannt
– Frameworks: keine Frameworks genannt
– Konkrete Zahlen: keine Zahlen belegt
Worum es geht: Ziskind zeigt, wie er ein Data-Center-Level-Setup auf seinem Schreibtisch aufgebaut hat, bestehend aus einer RTX 4090 und einem Ryzen 9 7950X.
Relevanz fuer dein autarkes Setup: 🟡 MITTEL
Einschaetzung: Interessant, wenn du ein hochleistungsfahiges Setup auf kleinem Raum suchst. Die Kombination von CPU und GPU kann eine gute Wahl sein.
I Tested Apple’s Secret macOS AI… The Results Made No Sense
Im Titel/Description genannt:
– Hardware: Mac Studio M1 Ultra
– Modelle: keine Modelle genannt
– Frameworks: keine Frameworks genannt
– Konkrete Zahlen: keine Zahlen belegt
Worum es geht: Ziskind testet die geheime macOS-KI-Funktion und kommt zu verwirrenden Ergebnissen.
Relevanz fuer dein autarkes Setup: 🔴 NIEDRIG
Einschaetzung: Das Video enthaelt keine konkreten Messwerte oder detaillierten Tests, sondern eher allgemeine Beobachtungen.
AMD Built the DGX Spark Rival I Predicted… But There’s a Catch
Im Titel/Description genannt:
– Hardware: AMD, DGX Spark
– Modelle: keine Modelle genannt
– Frameworks: keine Frameworks genannt
– Konkrete Zahlen: keine Zahlen belegt
Worum es geht: Ziskind stellt das neue AMD-DGX-Spark-System vor, das als Rival des NVIDIA-DGX Spark konzipiert ist, und diskutiert die Vor- und Nachteile.
Relevanz fuer dein autarkes Setup: 🔴 NIEDRIG
Einschaetzung: Das Video enthaelt keine konkreten Messwerte oder detaillierten Tests, sondern eher allgemeine Beobachtungen.
Building the World’s Smallest AI Workstation
Im Titel/Description genannt:
– Hardware: Strix Halo, RTX 4090
– Modelle: keine Modelle genannt
– Frameworks: keine Frameworks genannt
– Konkrete Zahlen: keine Zahlen belegt
Worum es geht: Ziskind baut die kleinste AI-Workstation der Welt, bestehend aus einem Strix Halo und einer RTX 4090.
Relevanz fuer dein autarkes Setup: 🟡 MITTEL
Einschaetzung: Interessant, wenn du ein kompaktes und leistungsfaehiges Setup suchst. Die Kombination von Mini-PC und GPU kann eine gute Wahl sein.
Your OS Changes Everything for Local AI
Im Titel/Description genannt:
– Hardware: keine Hardware genannt
– Modelle: keine Modelle genannt
– Frameworks: keine Frameworks genannt
– Konkrete Zahlen: keine Zahlen belegt
Worum es geht: Ziskind diskutiert, wie das Betriebssystem den Einsatz von lokalen KI-Modellen beeinflusst.
Relevanz fuer dein autarkes Setup: 🔴 NIEDRIG
Einschaetzung: Das Video enthaelt keine konkreten Messwerte oder detaillierten Tests, sondern eher allgemeine Beobachtungen.