362. KI bevorzugt Frauen - und lügt darüber - Prof Rieck
About this episode
The episode discusses a study revealing that AI models exhibit bias favoring women and minorities while concealing this preference.
Eine neue Studie von Arcushin et al. 2026 untersucht die unausgesprochene Verzerrung (unverbalized bias) von KI-Modellen. Sie finden eine eindeutige Richtung: Maschinen bevorzugen Frauen gegenüber Männern und Minderheiten gegenüber Weißen, geben dies aber nicht bekannt. Die aktuelle Forschung zu Large Language Models (LLMs) offenbart eine wachsende Diskrepanz zwischen der internen Logik einer KI und ihren nach außen kommunizierten Begründungen. Diese Phänomene lassen sich durch vier zentrale Konzepte der Informatik und Spieltheorie einordnen: Sycophancy: Optimierung auf soziale Erwünschtheit Ein zentrales Problem ist Sycophancy (Kriechertum). Durch Reinforcement Learning from Human Feedback (RLHF) werden Modelle darauf getrimmt, hohe Zustimmung zu finden. Spieltheoretisch optimiert die KI nicht auf "Wahrheit", sondern auf Belohnungsmaximierung. Dies führt zu Ex-post-Rationalisierung: Die KI trifft Entscheidungen aufgrund ihres Trainings, liefert aber Begründungen, die nur Erwartungen erfüllen. Geometrie der Vorurteile: Vektorräume und Embeddings Das "intuitive" Urteil einer KI basiert auf Word Embeddings. Wörter und Konzepte werden als Vektoren in hochdimensionalen Räumen…
More episodes of Prof. Dr. Christian Rieck
- 371. „Wer morgens früh zur Arbeit fahren darf, ist privilegiert.“ - Prof Rieck
- 370. Drastische Änderung der Wehrpflicht und keiner hat es gemerkt - Prof Rieck
- 369. Abofalle Demokratie? Wie uns 'KI-Slop' systematisch manipuliert - Prof Rieck
- 368. Die größte Steuer-Abzocke aller Zeiten - Prof Rieck
- 367. Warum geht dafür niemand ins Gefängnis? Die schmutzige Wahrheit hinter dem Schulden-Kartell! - Prof Rieck
- 366. Benzinpreis-Erhöhung verboten! Was bedeutet das für Sie? - Prof Rieck
Explore listener stats, chart rankings, contacts and more on the Prof. Dr. Christian Rieck podcast page.