About this episode
The episode discusses the use of AI agents in autonomous research and the development of new adversarial attack algorithms.
Seventy3：借助NotebookLM的能力进行论文解读，专注人工智能、大模型、机器人算法、crypto方向，让大家跟着AI一起进步。 如果你想要解读自己的论文，获得更多曝光度。请联系小助手微信：seventy3_podcast 加群。 合作邮箱：zhiwudazhanjiangshi# gmail.com 今天的主题是： 像 Claude Code 这样的 LLM 智能体不仅能编写代码，还能用于自主的 AI 研究与工程开发。我们展示了一个由 Claude Code 驱动的“自主研究”（Autoresearch） 流水线，它成功发现了新型白盒对抗攻击算法。在越狱和提示词注入的评估中，该算法的性能 显著超越了现有的所有（30 多种）方法。 核心发现： 突破性的攻击成功率 ：该智能体从 GCG 等现有实现出发进行自我迭代。在针对 GPT-OSS-Safeguard-20B 模型的 CBRN（化生放核） 敏感查询攻击中，新算法实现了高达 40% 的成功率（ASR），而现有算法均 ≤ 10% 。 卓越的泛化与迁移能力 ：在代理模型上优化的攻击可以直接迁移至其他模型。在针对 Meta-SecAlign-70B 的测试中，该算法达成了 100% 的攻击成功率 ，远超最佳基准方法的 56%。 安全研究的自动化范式 ：实验结果初步证明，增量式的安全研究可以由 LLM 智能体自动化完成。 白盒对抗红队测试 尤其适合这一领域，因为现有方法提供了强大的起点，且优化目标能够提供密集、量化的反馈。 开源发布： 我们已将所有发现的攻击算法、基准实现及评估代码公开在：[相关 URL 链接]。 原文链接： https://arxiv.org/abs/2603.24511
People in this episode
Host: 任雨山
Topics covered
- AI research
- LLM
- adversarial attacks
- automation
- machine learning
Keywords
- AI
- LLM
- adversarial attacks
- Claude Code
- NotebookLM
- automation
- machine learning
Mentioned in this episode
Organizations: Meta-SecAlign-70B, GPT-OSS-Safeguard-20B
Products: Claude Code, NotebookLM
Books & works: arxiv.org
More episodes of Seventy3
- 【第621期】多智能体大语言模型系统的多样性坍缩 · June 12, 2026 · 22 min
- 【第620期】MASS-RAG：多智能体合成检索增强生成技术 · June 11, 2026 · 20 min
- 【第619期】Learning Mechanics：大模型学习力学 · June 10, 2026 · 21 min
- 【第618期】无状态决策记忆：企业级AI智能体架构 · June 9, 2026 · 28 min
- 【第617期】自动演化EDA工具：多智能体自进化ABC · June 8, 2026 · 23 min
- 【第616期】原生智能：通向自主演化智能体的元学习范式 · June 7, 2026 · 17 min
Explore listener stats, chart rankings, contacts and more on the Seventy3 podcast page.