Technik & Digitales – Do, 15.10.2026 Morgens

Lokale LLMs mit Janas: RAM-Überwindung durch SSD-Streaming

Janas ermöglicht es, LLMs größer als der verfügbare RAM durch das Streamen von Expertenmodulen von der SSD zu betreiben. Dies erweitert die Möglichkeiten für lokale KI-Anwendungen und reduziert die Abhängigkeit von Cloud-Diensten.

Für Homelab-Betreiber und Selfhoster, die große KI-Modelle lokal betreiben möchten, ist Janas eine spannende Option. Es ermöglicht die Nutzung von leistungsfähigen Modellen auf Hardware mit begrenztem RAM.

● hoch · HackerNews · [infrastructure]

Harbor + Docker Sandboxes: Sichere und reproduzierbare AI-Agenten

Harbor kann nun jede Evaluierungsaufgabe in Docker Sandboxes ausführen. Diese MicroVM-Umgebungen ermöglichen die sichere und reproduzierbare Ausführung von AI-Agenten wie Claude. Dies erhöht die Sicherheit und Stabilität von AI-Anwendungen.

Wer Harbor im Einsatz hat und AI-Agenten evaluiert, sollte diese Funktion nutzen. Sie bietet eine zusätzliche Schicht der Sicherheit und Reproduzierbarkeit.

● mittel · Medium · [security]

Petal: Kostenloses und quelloffenes CoScreen-Tool

Petal ist ein neues, kostenloses und quelloffenes Tool für gemeinsames Programmieren (Pair Programming), das von den Entwicklern von CoScreen erstellt wurde. Es bietet ähnliche Funktionen wie CoScreen und ScreenHero.

Für Entwickler und Teams, die cost-effective Lösungen für gemeinsames Programmieren suchen, ist Petal eine interessante Alternative. Es ist leicht zu integrieren und bietet eine gute Benutzererfahrung.

● hoch · HackerNews · [collaboration_tools]

Oxynote: Selbstgehostetes Wiki mit Live-Metriken

Oxynote ist eine selbstgehostete Wiki-Software für Ingenieurteams, die Live-Metriken und interaktive Charts unterstützt. Es bietet Echtzeit-Zusammenarbeit, Kommentarfunktionen und eine benutzerfreundliche Schnittstelle.

Für Teams, die eine flexible und leistungsstarke Wiki-Lösung suchen, ist Oxynote eine gute Wahl. Es ist einfach zu betreiben und bietet nützliche Funktionen für die Dokumentation und Zusammenarbeit.

● mittel · Medium · [wiki]

3090 Founders Edition: Überhitzung bei LLM-Betrieb

Die 3090 Founders Edition hat Probleme mit übermäßiger Erwärmung des VRAM bei der Ausführung von LLMs. VRAM-Temperaturen erreichen schnell 112°C, obwohl die Chips nur für 96°C konzipiert sind. Dies kann zu Schäden führen.

Wer eine 3090 Founders Edition besitzt und LLMs lokal betreibt, sollte auf die VRAM-Temperaturen achten und gegebenenfalls die Kühlung verbessern oder alternative Hardware in Betracht ziehen.

● hoch · Reddit · [hardware]

Lokales Qwen3.8FN: Kostengünstiger als Cloud

Ein Nutzer berichtet, dass das lokale Betreiben des AI-Modells Qwen3.8FN auf einem selbstgebaute Server kostengünstiger ist als die meisten Cloud-Optionen, insbesondere bei günstiger Stromversorgung. Dies zeigt die Vorteile des lokalen Betriebs von KI-Modellen.

Für Selfhoster und Homelab-Betreiber, die KI-Modelle betreiben möchten, ist das lokale Hosting von Qwen3.8FN eine kosteneffiziente Alternative zur Cloud. Es erfordert jedoch eine geeignete Hardware und günstigen Strom.

● mittel · Reddit · [local_ai]