Revision 711: LLMs zuhause betreiben

About this episode

The episode discusses how to run current language and image models at home, focusing on hardware, sustainability, and practical applications.

Wir sprechen darüber, wie man aktuelle Sprach- und Bildmodelle zu Hause betreiben kann, welche Hardware dafür realistisch ist und warum das Thema gerade zwischen Datenschutz, Kostenkontrolle und digitaler Souveränität interessant wird. Schepp erzählt von seinem Setup mit einem gebrauchten Mac Studio, LM Studio, ComfyUI, lokalen Modellen und Open WebUI als Weboberfläche für die Familie. Dabei geht es nicht nur um die Technik, sondern auch um die Frage, wie nachhaltig die aktuellen Abo- und Credit-Modelle großer AI-Anbieter sind, wie viel RAM Modelle und Kontextfenster wirklich brauchen und wo lokale LLMs im Alltag schon nützlich sind. UNSER SPONSOR Im Webcafé, dem Podcast zu Webentwicklung, Webdesign und Unternehmenskultur, nehmen euch Felix und Kay mit auf eine spannende Reise durch die Welt moderner Softwareentwicklung. Gerade ihre unterschiedliche Perspektive macht dabei den Reiz aus: Felix schaut als Geschäftsführer der Geenen IT-Systeme GmbH auf Strategie, Führung und Unternehmensentwicklung, Kay bringt als Technical Lead den Blick auf Technik, Tools und Architektur ein. Genau daraus entstehen ehrliche, fundierte und persönliche Gespräche über Webtechnologien, Zusammenarbeit…

People in this episode

Hosts: Vanessa Otto, Peter Kröner, Hans Christian Reinl, Stefan Baumgartner, Christian »Schepp« Schaefer

Guest: Schepp

Topics covered

• LLMs
• local AI models
• hardware
• data privacy
• cost control
• digital sovereignty

Keywords

• LLMs
• local models
• Mac Studio
• data privacy
• AI sustainability
• hardware requirements
• digital sovereignty

Mentioned in this episode

Organizations: Geenen IT-Systeme GmbH

Products: Mac Studio, LM Studio, ComfyUI, Open WebUI

Places: Deutschland

More episodes of Working Draft

• Revision 715: Hörendenfragen zu PWAs, Tailwind und Browsern · June 2, 2026 · 1h 9m
• Revision 714: Kirby, KI und die Verantwortung langlebiger Software, mit Bastian Allgeier · May 26, 2026 · 1h 21m
• Revision 713: ARIA-Glücksrad – von Dialogen, Definitionen und Datepickern · May 19, 2026 · 1h 8m
• Revision 712: The Web Beyond the Edges of the Browser Window, with Niels Leenheer · May 12, 2026 · 1h 20m
• Revision 710: React- & TypeScript-Glücksrad, mit Hans-Christian Otto · April 28, 2026 · 1h 21m
• Revision 709: HTTP/3 und WebTransport, mit Max Inden · April 21, 2026 · 1h 40m