Topic Timeline
#安全评测
这个主题在过往早报中的出现记录。深度条目直达研究报告，其余条目回到当日 edition。
- 研究论文2026-10-04 · 周日重要度 4/5深度报告 →
DelegationBench追问agent何时应先问用户
arXiv 10月4日提交DelegationBench，论文用156个场景测试agent在邮件、文件编辑和购买等动作前是否应询问用户。
- 这篇论文把agent授权边界写成可测任务，避免停留在“人在回路”的泛化表述。
- 最值得注意的是，同义改写会让行动率相差最多52.5个百分点。
- 研究论文2026-09-12 · 周六重要度 3/5深度报告 →
EvoSafeHarness给Agent安全加部署约束
EvoSafeHarness论文原始提交于9月5日，9月11日进入HF Daily Papers并给出项目入口；论文主张为冻结模型和目标领域自动演化安全harness。
- 政策治理2026-07-16 · 周四重要度 4/5深度报告 →
OpenAI 提议州法先收敛前沿 AI 安全基线
OpenAI 7 月 15 日提出“反向联邦主义”路径，主张州法围绕风险评估公开、重大事故报告和独立审计收敛，再与仍在制定的联邦网络评测框架衔接。
- 这不是新法规，而是 OpenAI 对正在形成的美国规则体系表态。
- 公司支持统一联邦标准，同时把三州法律视为事实基线，兼顾安全义务与避免监管碎片化。
- 安全研究2026-07-16 · 周四重要度 5/5深度报告 →
Anthropic 更新四类 Agent 失准模拟
Anthropic 7 月 15 日公布四类高风险模拟：代码破坏、协助欺诈、动机性误标和引导人类泄密。研究覆盖六家厂商的前沿模型，并强调这些不是现实事故。
- 这项研究的价值在于把抽象失准拆成可审计行为。
- 它不能用于简单排模型名次，因为场景经定向搜索，且每个模型每场景常只有 20 次运行。