Alex Ziskind: Lokale KI auf Apple & GPU — was laut YouTube diese Woche wirklich funktioniert
Kurzfassung: In dieser Woche konzentriert sich Alex Ziskind auf die Leistung von GPU-Setupen, insbesondere auf die Kombination von Apple-Silicon und hochleistungsfähigen GPUs. Themen wie die Integration von 224 GB GPU-Speicher, der Vergleich von M5 Max und Razer Blade 18, sowie die Leistungsfähigkeit von AMD Ryzen AI Halos bei der Ausführung von 400-Billionen-Parameter-Modellen dominieren. Ziskind testet auch, welche Computer für lokale KI-Anwendungen am besten geeignet sind.
Videos-diese-Woche-Sichtung:
224GB of GPU Memory on 1 Desk and It Should Not Work
Im Titel/Description genannt:
– Hardware: NVIDIA A100, RTX 4090, Mac Pro
– Modelle: keine Modelle genannt
– Frameworks: keine Frameworks genannt
– Konkrete Zahlen: „224 GB VRAM“
Worum es geht: Ziskind zeigt, wie er 224 GB GPU-Speicher auf einem Schreibtisch zusammengebracht hat, was laut ihm eigentlich nicht funktionieren sollte.
Relevanz für dein autarkes Setup: 🟢 HOCH
Einschätzung: Sehr relevant, wenn du an der Maximalisierung der VRAM für deine KI-Anwendungen interessiert bist. Die Kombination von NVIDIA A100 und RTX 4090 bietet enorme Speicherkapazitäten.
Not even close… M5 Max vs Razer Blade 18
Im Titel/Description genannt:
– Hardware: M5 Max, Razer Blade 18
– Modelle: keine Modelle genannt
– Frameworks: keine Frameworks genannt
– Konkrete Zahlen: keine Zahlen belegt
Worum es geht: Ziskind vergleicht die Leistung des M5 Max mit dem Razer Blade 18.
Relevanz für dein autarkes Setup: 🟡 MITTEL
Einschätzung: Interessant für den Vergleich von Apple-Silicon und hochleistungsfähigen Gaming-Laptops. Keine konkreten Messwerte, aber nützlich für eine allgemeine Einschätzung.
What Computer Should You Buy for Local AI
Im Titel/Description genannt:
– Hardware: M1 Pro, M1 Max, M2 Max, M2 Ultra, RTX 4090, RTX 3090, AMD Ryzen 9
– Modelle: keine Modelle genannt
– Frameworks: keine Frameworks genannt
– Konkrete Zahlen: keine Zahlen belegt
Worum es geht: Ziskind gibt Empfehlungen, welche Computer für lokale KI-Anwendungen am besten geeignet sind.
Relevanz für dein autarkes Setup: 🟡 MITTEL
Einschätzung: Nützlich für die Auswahl der richtigen Hardware, aber ohne konkrete Messwerte. Die genannten Modelle bieten eine gute Grundlage für deine Entscheidung.
AMD Says 2 Ryzen AI Halos Can Run a 400B Model… I Tested It
Im Titel/Description genannt:
– Hardware: AMD Ryzen AI Halo
– Modelle: keine Modelle genannt
– Frameworks: keine Frameworks genannt
– Konkrete Zahlen: „400B Model“
Worum es geht: Ziskind testet, ob zwei AMD Ryzen AI Halos tatsächlich ein 400-Billionen-Parameter-Modell ausführen können.
Relevanz für dein autarkes Setup: 🟢 HOCH
Einschätzung: Sehr relevant, wenn du an der Leistung von AMD-GPUs für große KI-Modelle interessiert bist. Die Tests zeigen, ob die Hardware die angekündigten Leistungen erbringt.
Codex Is Running Something Very Different Now 🛡️ MEMBERS
Im Titel/Description genannt:
– Hardware: keine konkrete Hardware genannt
– Modelle: keine Modelle genannt
– Frameworks: keine Frameworks genannt
– Konkrete Zahlen: keine Zahlen belegt
Worum es geht: Ziskind spricht über Änderungen an Codex, aber der genaue Inhalt ist nicht in der Description belegt.
Relevanz für dein autarkes Setup: 🔴 NIEDRIG
I Made Two GPUs Do Something They Shouldn’t🛡️ MEMBERS PREVIEW
Im Titel/Description genannt:
– Hardware: keine konkrete Hardware genannt
– Modelle: keine Modelle genannt
– Frameworks: keine Frameworks genannt
– Konkrete Zahlen: keine Zahlen belegt
Worum es geht: Ziskind zeigt, wie er zwei GPUs dazu bringt, etwas zu tun, was sie eigentlich nicht sollten.
Relevanz für dein autarkes Setup: 🔴 NIEDRIG
The M5 MacBook Air Changed More Than It Looks
Im Titel/Description genannt:
– Hardware: M5 MacBook Air
– Modelle: keine Modelle genannt
– Frameworks: keine Frameworks genannt
– Konkrete Zahlen: keine Zahlen belegt
Worum es geht: Ziskind diskutiert die Veränderungen am M5 MacBook Air, die nicht sofort offensichtlich sind.
Relevanz für dein autarkes Setup: 🟡 MITTEL
Einschätzung: Interessant für die Bewertung des M5 MacBook Air, aber ohne konkrete Leistungswerte.
Framework 13 Pro Shows Why Apple Solders Your Memory
Im Titel/Description genannt:
– Hardware: Framework 13 Pro, Apple M1
– Modelle: keine Modelle genannt
– Frameworks: keine Frameworks genannt
– Konkrete Zahlen: keine Zahlen belegt
Worum es geht: Ziskind vergleicht das Framework 13 Pro mit Apple-Geräten und erklärt, warum Apple das Speichermodul soldernt.
Relevanz für dein autarkes Setup: 🟡 MITTEL
Einschätzung: Nützlich für den Vergleich von modularen und soldernden Hardware-Designs, aber ohne konkrete Leistungswerte.
The Benchmark Setup You Never See in My Videos 🛡️ MEMBERS
Im Titel/Description genannt:
– Hardware: keine konkrete Hardware genannt
– Modelle: keine Modelle genannt
– Frameworks: keine Frameworks genannt
– Konkrete Zahlen: keine Zahlen belegt
Worum es geht: Ziskind zeigt, wie er seine Benchmark-Setupps aufbaut, die in seinen Videos nicht zu sehen sind.
Relevanz für dein autarkes Setup: 🔴 NIEDRIG
This was a data center a year ago… Now it’s on my desk
Im Titel/Description genannt:
– Hardware: keine konkrete Hardware genannt
– Modelle: keine Modelle genannt
– Frameworks: keine Frameworks genannt
– Konkrete Zahlen: keine Zahlen belegt
Worum es geht: Ziskind zeigt, wie er ein früheres Datacenter-Setup auf seinem Schreibtisch reproduziert hat.
Relevanz für dein autarkes Setup: 🔴 NIEDRIG