Alex Ziskind: Lokale KI auf Apple & GPU — was laut YouTube diese Woche wirklich funktioniert
Kurzfassung: In dieser Woche konzentriert sich Alex Ziskind auf die lokalen KI-Setups, insbesondere auf die Kombination von Apple-Silicon und GPU-Setups. Themen wie die Verwendung von NVIDIA-GPUs mit Macs, die Testung von Intel-Arten und die Effizienz von VRAM-Optimierungen dominieren. Besondere Aufmerksamkeit erhalten auch kleinere Geräte wie der MacBook Air und der Tiiny Box, die erstaunliche Leistungen bei der lokalen KI-Bearbeitung zeigen.
Videos-diese-Woche-Sichtung:
Intel just CRUSHED Nvidia & AMD GPU pricing
Im Titel/Description genannt:
– Hardware: Intel Arc Pro B70, NVIDIA RTX Pro 4000, AMD R9700
– Modelle: keine Modelle genannt
– Frameworks: keine Frameworks genannt
– Konkrete Zahlen: „128 GB VRAM“, „same price as RTX 5090“
Worum es geht: Laut Description vergleicht Ziskind den Preis des Intel Arc Pro B70 (128 GB VRAM) mit RTX Pro 4000 und AMD R9700 — „VRAM zum RTX-5090-Preis“.
Relevanz fuer dein autarkes Setup: 🟢 HOCH
Einschaetzung: Sehr relevant, wenn du auf hohe VRAM-Kapazitaeten setzt und Budget einsparst. Die genauen Benchmarks sind im Video zu finden.
I Tested the Cheapest Path to 96GB of VRAM
Im Titel/Description genannt:
– Hardware: AMD, NVIDIA, Intel
– Modelle: keine Modelle genannt
– Frameworks: keine Frameworks genannt
– Konkrete Zahlen: „96 GB VRAM“
Worum es geht: Ziskind testet, wie man mit günstigeren VRAM-Optionen von Intel 96 GB VRAM erreichen kann.
Relevanz fuer dein autarkes Setup: 🟢 HOCH
Einschaetzung: Interessant für Budget-Optimierungen bei hohen VRAM-Anforderungen. Die genauen Ergebnisse sind im Video zu sehen.
This Shouldn’t Be Able to Run 120B Locally
Im Titel/Description genannt:
– Hardware: MacBook Neo, Tiiny Box
– Modelle: keine Modelle genannt
– Frameworks: keine Frameworks genannt
– Konkrete Zahlen: keine Zahlen belegt
Worum es geht: Ziskind zeigt, wie er mit einem kleinen AI-Boxen und einem MacBook Neo lokale KI-Modelle mit 120 Milliarden Parametern laufen lassen kann.
Relevanz fuer dein autarkes Setup: 🟡 MITTEL
Einschaetzung: Zeigt, dass auch kleinere Geräte für komplexe KI-Aufgaben geeignet sein können. Die genauen Leistungsdaten sind im Video zu finden.
After This, 16GB Feels Different
Im Titel/Description genannt:
– Hardware: keine konkrete Hardware genannt
– Modelle: keine Modelle genannt
– Frameworks: keine Frameworks genannt
– Konkrete Zahlen: keine Zahlen belegt
Worum es geht: Ziskind diskutiert, dass der nächste große Sprung in der lokalen KI nicht durch schnellere Chips, sondern durch eine andere Art der Kompression kommt.
Relevanz fuer dein autarkes Setup: 🔴 NIEDRIG
This Shouldn’t Work on a Mac… But It Does
Im Titel/Description genannt:
– Hardware: NVIDIA GPUs, Mac
– Modelle: keine Modelle genannt
– Frameworks: keine Frameworks genannt
– Konkrete Zahlen: keine Zahlen belegt
Worum es geht: Ziskind zeigt, wie man NVIDIA-GPUs mit Macs verwenden kann.
Relevanz fuer dein autarkes Setup: 🟡 MITTEL
Einschaetzung: Interessant für Mac-Nutzer, die NVIDIA-GPUs in ihre lokalen KI-Setups integrieren möchten. Die genauen Schritte sind im Video zu sehen.
Private AI on the go… a new trick
Im Titel/Description genannt:
– Hardware: MacBook Air
– Modelle: keine Modelle genannt
– Frameworks: keine Frameworks genannt
– Konkrete Zahlen: keine Zahlen belegt
Worum es geht: Ziskind zeigt, wie er mit einem kleinen MacBook Air lokale KI-Modelle laufen lässt.
Relevanz fuer dein autarkes Setup: 🔴 NIEDRIG
I Pay for Fewer AI Tools Now… But These 8 Stayed
Im Titel/Description genannt:
– Hardware: keine konkrete Hardware genannt
– Modelle: keine Modelle genannt
– Frameworks: keine Frameworks genannt
– Konkrete Zahlen: keine Zahlen belegt
Worum es geht: Ziskind präsentiert die AI-Tools und -Abonnements, die er weiterhin in seinem Workflow verwendet.
Relevanz fuer dein autarkes Setup: 🔴 NIEDRIG