Episode 226 - Wenn KI-Agenten sich absprechen – Kollusion in Multi-Agenten-Systemen
About this episode
The episode discusses the implications of collusion among AI agents in multi-agent systems based on a specific research paper.
Send us Fan Mail Nur weil jedes einzelne KI-Modell „brav" trainiert wurde, heißt das noch lange nicht, dass sich mehrere Agenten gemeinsam auch brav verhalten. Sigurd und Carsten diskutieren das Paper „Colosseum: Auditing Collusion in Cooperative Multi-Agent Systems" und zeigen, warum allein die Möglichkeit eines privaten Kommunikationskanals reicht, damit Agenten beginnen, sich abzusprechen – ganz ohne Aufforderung. Was bedeutet das für Sicherheit, Regulierung und die Zukunft agentischer Sys...
People in this episode
Hosts: Sigurd Schacht, Carsten Lanquillon
Topics covered
- AI
- multi-agent systems
- collusion
- security
- regulation
Keywords
- AI agents
- collusion
- multi-agent systems
- security
- communication
Mentioned in this episode
Books & works: Colosseum: Auditing Collusion in Cooperative Multi-Agent Systems
More episodes of Knowledge Science - Alles über KI, ML und NLP
- Episode 229 - Wenn KI mogelt – Sandbagging: Wie Sprachmodelle bei Tests absichtlich schlechter abschneiden
- Episode 228 - Project Glasswing: Antropics neues Frontier-Modell Claude Mythos Preview und das Ende der Sicherheit, wie wir sie kannten
- Episode 227 - AI Harness, Coase und die Firma der Zukunft
- Episode 225 - Doc to LoRA – Wie Dokumente blitzschnell zum Modellwissen werden
- Episode 224 - KI-Texte in der Wissenschaft: Segen oder Sünde?
- Episode 223 - Spiele als KI-Labor: Wie wir agentisches Verhalten erforschen
Explore listener stats, chart rankings, contacts and more on the Knowledge Science - Alles über KI, ML und NLP podcast page.