Topic Timeline
#安全评估
这个主题在过往早报中的出现记录。深度条目直达研究报告,其余条目回到当日 edition。
- 安全治理2026-09-25 · 周五重要度 4/5深度报告 →
Microsoft把Agent风险评估做成复测流程
Microsoft Command Line 9月24日介绍run-assert-eval,把风险发现、运行时策略生成和同集复测串成agent治理闭环。
它把AI治理从静态清单推进到运行时闭环。示例数字仍是Microsoft自报,但流程设计值得开发者复用。
- 研究论文2026-09-24 · 周四重要度 5/5深度报告 →
OpenAI发布MentalHealthBench
OpenAI 9月23日发布MentalHealthBench,称80多名持证心理健康专家参与制定,用于评估真实心理健康对话回应。
- OpenAI把心理健康安全从危机拒答扩展到连续谱评估。
- 基准公开是积极增量,但合成对话和自动评分器会限制它对真实治疗场景的外推。
- 行业动态2026-09-23 · 周三重要度 4/5深度报告 →
待验证|OpenAI公布第三方评估原则
OpenAI官网9月22日可抓取到第三方AI安全评估原则;严格新鲜度脚本访问官网会403,本期按低置信记录流程增量。
这条公告关注长期外部审查机制,而非模型能力发布。由于缺少可抓取的非X新鲜锚点,发布事实保留,外部传播强度降级。
- 治理政策2026-09-13 · 周日重要度 5/5深度报告 →
Dario呼吁放慢前沿模型
Dario Amodei 9月12日发布《We Must Pace the Frontier》,呼吁放慢前沿模型能力提升节奏,并承诺引入嵌入式第三方评估者。
- 这项倡议把前沿实验室的竞争节奏变成治理对象。
- 它与OpenAI近期安全表态同日出现,使模型速度、IPO窗口和外部评估开始被放在同一张表上讨论。