Kann KI eigene Ziele verfolgen?
About this episode
In this episode, Alexander Meinke discusses the alarming capabilities of AI in pursuing its own learned goals and the implications for security testing.
Künstliche Intelligenzen wechseln selber Passwörter. Sie hintertreiben konkurrierende KI. Sie geben gezielt falsche Informationen. Was dystopisch klingt, ist heute schon Realität. Alexander Meinke arbeitet für Apollo Research, ein Forschungszentrum in London, das KI-Systeme auf täuschendes Verhalten testet. Er sagt: «Wir haben die frühesten Anzeichen davon gefunden, dass KI eigene gelernte Ziele verfolgt.» In seinem Vortrag erklärt er, wie KI das macht, und wie verbindliche Sicherheitstests aussehen könnten.
People in this episode
Guest: Alexander Meinke
Topics covered
- Künstliche Intelligenz
- Ziele
- Sicherheitstests
- dystopisches Verhalten
- Forschung
Keywords
- Künstliche Intelligenz
- Ziele
- Sicherheitstests
- dystopisches Verhalten
- Apollo Research
Mentioned in this episode
Organizations: Apollo Research
Places: London
More episodes of aha - Ein Podcast für Wissen
- Ist es schlimm, wenn KI unsere Arbeit macht?
- Was ist die älteste Geschichte (die wir immer noch erzählen)?
- Wie wurden wir vom Zucker abgängig?
- Am I still the person I used to be as a child?
- Wann können wir mit Tieren reden?
- Was macht Dopamin mit mir?
Explore listener stats, chart rankings, contacts and more on the aha - Ein Podcast für Wissen podcast page.