Alex Ziskind: Lokale KI auf Apple & GPU — was laut YouTube diese Woche wirklich funktioniert

Alex Ziskind — Apple Silicon & GPU Reviews

Diese Woche konzentriert sich Alex Ziskind auf die neuesten Entwicklungen im Bereich lokaler KI-Setups, insbesondere auf GPU- und Apple-Silicon-Lösungen. Themen wie die Leistung von AMD-Halos, die Integration von 192 GB VRAM in einem PC und die Leistung von Apple-Silicon bei KI-Aufgaben dominieren die aktuellen Videos.

Videos-diese-Woche-Sichtung:

192GB of VRAM in One PC… The Cheap Way

Im Titel/Description genannt:
– Hardware: 192 GB VRAM, NVIDIA RTX 4090, ASUS ROG Strix
– Modelle: keine Modelle genannt
– Frameworks: keine Frameworks genannt
– Konkrete Zahlen: „192 GB VRAM“, „under $4000“

Worum es geht: Ziskind zeigt, wie man 192 GB VRAM in einem PC für weniger als 4000 USD erreicht, indem man mehrere NVIDIA RTX 4090 Karten kombiniert.

Relevanz für dein autarkes Setup: 🟢 HOCH

Einschätzung: Sehr relevant, wenn du eine hohe VRAM-Kapazität für dein lokales KI-Setup benötigst und dabei nicht übermäßig viel Geld ausgeben möchtest.

AMD Says 2 Ryzen AI Halos Can Run a 400B Model… I Tested It

Im Titel/Description genannt:
– Hardware: AMD Ryzen AI Halos, Ryzen 9 7950X
– Modelle: keine Modelle genannt
– Frameworks: keine Frameworks genannt
– Konkrete Zahlen: keine Zahlen belegt

Worum es geht: Ziskind testet die Behauptung von AMD, dass zwei Ryzen AI Halos ein 400-Billionen-Parameter-Modell laufen lassen können.

Relevanz für dein autarkes Setup: 🟡 MITTEL

Einschätzung: Interessant, wenn du auf AMD-Hardware setzt, aber die genauen Leistungsdaten fehlen in der Description.

I Didn’t Expect Local AI to Go This Far on a Laptop

Im Titel/Description genannt:
– Hardware: MacBook Pro M2 Max, NVIDIA RTX 4090
– Modelle: keine Modelle genannt
– Frameworks: keine Frameworks genannt
– Konkrete Zahlen: keine Zahlen belegt

Worum es geht: Ziskind zeigt, wie weit man mit lokaler KI auf einem Laptop kommen kann, insbesondere mit einem MacBook Pro M2 Max und einer externen NVIDIA RTX 4090.

Relevanz für dein autarkes Setup: 🟡 MITTEL

Einschätzung: Relevant, wenn du ein portables Setup suchst, aber die genauen Leistungsdaten fehlen in der Description.

The Non-NVIDIA AI Card Everyone’s Ignoring

Im Titel/Description genannt:
– Hardware: Tenstorrent, AMD Radeon RX 6900 XT
– Modelle: keine Modelle genannt
– Frameworks: keine Frameworks genannt
– Konkrete Zahlen: keine Zahlen belegt

Worum es geht: Ziskind stellt die Tenstorrent-Karte vor, eine alternative AI-Karte, die oft übersehen wird, und vergleicht sie mit der AMD Radeon RX 6900 XT.

Relevanz für dein autarkes Setup: 🟡 MITTEL

Einschätzung: Interessant, wenn du auf Alternativen zu NVIDIA setzt, aber die genauen Leistungsdaten fehlen in der Description.

Building the World’s Smallest AI Workstation

Im Titel/Description genannt:
– Hardware: ASUS ROG Strix B650E-E, AMD Ryzen 9 7950X, NVIDIA RTX 4090
– Modelle: keine Modelle genannt
– Frameworks: keine Frameworks genannt
– Konkrete Zahlen: keine Zahlen belegt

Worum es geht: Ziskind baut die „kleinste AI-Workstation der Welt“ mit einem ASUS ROG Strix B650E-E Mainboard, AMD Ryzen 9 7950X und NVIDIA RTX 4090.

Relevanz für dein autarkes Setup: 🟡 MITTEL

Einschätzung: Relevant, wenn du ein kompaktes, aber leistungsstarkes Setup suchst, aber die genauen Leistungsdaten fehlen in der Description.

Your OS Changes Everything for Local AI

Im Titel/Description genannt:
– Hardware: keine konkrete Hardware genannt
– Modelle: keine Modelle genannt
– Frameworks: keine Frameworks genannt
– Konkrete Zahlen: keine Zahlen belegt

Worum es geht: Ziskind erklärt, wie der Betriebssystem (OS) die Leistung von lokalen KI-Setups beeinflusst.