Episode 231 - Vom Sparse Autoencoder zum Natural Language Autoencoder – Ein neuer Blick in die KI-Blackbox

About this episode

The episode discusses a recent paper on Natural Language Autoencoders and their innovative approach to verbalizing activations in natural language.

Send us Fan Mail In dieser Folge widmen sich Sigurd Schacht und Carsten Lanquillon einem brandaktuellen Paper aus dem Mai 2026: den Natural Language Autoencoders. Während klassische Sparse Autoencoder Aktivierungen über Umwege in Konzepte übersetzen, gehen diese neuen Modelle einen radikal anderen Weg – sie verbalisieren Aktivierungen direkt in natürlicher Sprache. Die beiden diskutieren, wie Activation Verbalizer und Activation Reconstructor zusammenspielen, warum ein „Warmstart" beim Traini...

People in this episode

Hosts: Sigurd Schacht, Carsten Lanquillon

Topics covered

• Natural Language Processing
• Autoencoders
• Machine Learning
• AI Research
• Activation Verbalizer
• Activation Reconstructor

Keywords

• Sparse Autoencoder
• Natural Language Autoencoder
• Activation Verbalizer
• Activation Reconstructor
• AI Blackbox

Mentioned in this episode

Books & works: Natural Language Autoencoders

More episodes of Knowledge Science - Alles über KI, ML und NLP

• Episode 232 - After Automation - Mehr Agenten, mehr Slop, mehr Experten? · May 31, 2026 · 37 min
• Episode 230 - Wenn KI lügt, obwohl sie es besser weiß – der MASK-Benchmark und warum Ehrlichkeit ≠ Genauigkeit ist · May 2, 2026 · 41 min
• Episode 229 - Wenn KI mogelt – Sandbagging: Wie Sprachmodelle bei Tests absichtlich schlechter abschneiden · April 25, 2026 · 32 min
• Episode 228 - Project Glasswing: Antropics neues Frontier-Modell Claude Mythos Preview und das Ende der Sicherheit, wie wir sie kannten · April 11, 2026 · 48 min
• Episode 227 - AI Harness, Coase und die Firma der Zukunft · March 28, 2026 · 43 min
• Episode 226 - Wenn KI-Agenten sich absprechen – Kollusion in Multi-Agenten-Systemen · March 14, 2026 · 43 min