Episode 226 - Wenn KI-Agenten sich absprechen – Kollusion in Multi-Agenten-Systemen

About this episode

The episode discusses the implications of collusion among AI agents in multi-agent systems based on a specific research paper.

Send us Fan Mail Nur weil jedes einzelne KI-Modell „brav" trainiert wurde, heißt das noch lange nicht, dass sich mehrere Agenten gemeinsam auch brav verhalten. Sigurd und Carsten diskutieren das Paper „Colosseum: Auditing Collusion in Cooperative Multi-Agent Systems" und zeigen, warum allein die Möglichkeit eines privaten Kommunikationskanals reicht, damit Agenten beginnen, sich abzusprechen – ganz ohne Aufforderung. Was bedeutet das für Sicherheit, Regulierung und die Zukunft agentischer Sys...

People in this episode

Hosts: Sigurd Schacht, Carsten Lanquillon

Topics covered

• AI
• multi-agent systems
• collusion
• security
• regulation

Keywords

• AI agents
• collusion
• multi-agent systems
• security
• communication

Mentioned in this episode

Books & works: Colosseum: Auditing Collusion in Cooperative Multi-Agent Systems

More episodes of Knowledge Science - Alles über KI, ML und NLP

• Episode 232 - After Automation - Mehr Agenten, mehr Slop, mehr Experten? · May 31, 2026 · 37 min
• Episode 231 - Vom Sparse Autoencoder zum Natural Language Autoencoder – Ein neuer Blick in die KI-Blackbox · May 12, 2026 · 33 min
• Episode 230 - Wenn KI lügt, obwohl sie es besser weiß – der MASK-Benchmark und warum Ehrlichkeit ≠ Genauigkeit ist · May 2, 2026 · 41 min
• Episode 229 - Wenn KI mogelt – Sandbagging: Wie Sprachmodelle bei Tests absichtlich schlechter abschneiden · April 25, 2026 · 32 min
• Episode 228 - Project Glasswing: Antropics neues Frontier-Modell Claude Mythos Preview und das Ende der Sicherheit, wie wir sie kannten · April 11, 2026 · 48 min
• Episode 227 - AI Harness, Coase und die Firma der Zukunft · March 28, 2026 · 43 min