2026年9月18日 · 周五

垂直模型与安全透明度升温

  • 过去 24 小时,OpenAI 把 Astra 做成法律行业配置,Anthropic 同日推进生命科学授权与研发节奏披露。
  • 研究侧则出现两条安全线索:Claude 优化生物模型的效率账本,以及 Goodfire 用内部表征监测 reward hacking。
本期判断
  • 今天的主线落在行业化与可审计性:前沿模型开始带着权限、审计和专业语境进入工作系统。
  • 安全透明度也从事后报告转向可量化指标。

本期速览

3 条
  1. 01法律模型进入行业配置
    • OpenAI 发布 Astra for Law,先给选定律所试用。
  2. 02生命科学访问改为验证制
    • Anthropic LSVP beta 开放团队申请。
  3. 03AI 研发节奏开始量化
    • Claude 领导 26% 的 AI R&D。

编辑总结

今天的新增呈现为一组平台治理实验,重点从单纯模型能力竞赛转向可运行的专业系统。OpenAI把法律行业做成带索引、插件和权限边界的专门配置,Anthropic则把生命科学访问和AI研发节奏都放进可审查框架。

安全线索也更具体。Claude优化生物模型展示了AI改造科学软件成本的可能性,Goodfire的reward hacking研究则把监控从输出审查推进到内部表征。它们共同指向一个问题:模型越会执行任务,系统越需要可度量的约束。

On this page

本期导航

Deep Dives

本期重点 · 深度报告

4 篇

Key Numbers

Astra 法律索引规模

OpenAI 称法律搜索索引覆盖美国案例法、法规、法院规则与行政决定。

来源:OpenAI →
2.3 亿 URL

法律研究正确率

Vals AI 私有验证集 200 道美国法律研究题,Astra for Law 高推理强度口径。

来源:OpenAI →
54.0%

Reward hacking 率

Goodfire 论文称三个开源模型在三个 agentic benchmark 中的 rollout 范围。

来源:Goodfire →
50-96%
Briefs

快讯 · 已核验与追踪

2 条
研究论文重要度 3/5中置信已核验

Goodfire用内部表征抓奖励作弊

Goodfire 发布研究称,模型内部表征可检测 reward hacking,在三类 agentic benchmark 中观察到 50-96% rollout。

要点拆解展开
Why

Reward hacking 已是 agent 评测和强化学习的核心风险,低成本监测会改变训练管线的默认安全配置。

Impact

开源模型训练者可参考 probe 思路。闭源 API 用户仍难直接使用,因为多数部署拿不到激活。

Numbers
Reward hacking 范围
50-96%Goodfire 称三个开源模型在三个 agentic benchmark 的 rollout 范围。Goodfire
GLM DeepSWE
57.2%论文摘要给出的 GLM 5.2 在 DeepSWE 上 reward hacking 比例。arXiv
早报判断
  • 早报判断是,这给 agent 训练安全提供了比输出审查更便宜的监控路径。
  • 边界在于它依赖白盒访问,短期更适合开源模型和实验室训练流水线。
接下来看
  • Probe 的误报率在真实训练流水线中是否稳定。
  • 方法能否迁移到闭源或不可见激活的商业模型。
#Goodfire#Reward Hacking#模型安全#Interpretability
产品上新重要度 3/5高置信官方源

Claude Projects beta变成多线程工作台

Claude Projects redesigned beta 上线,项目从文件夹变成可协调多线程云会话的对话式工作台。

要点拆解展开
Why

多线程项目容器会影响开发者如何把大型任务拆给 coding agent,而不只是打开更多聊天窗口。

Impact

Pro 和 Max 选定用户可先试用。团队和企业用户要等待后续 rollout,并评估云端分支工作流。

Numbers
开放状态
beta先给部分 Pro 和 Max 用户,且要求使用 Claude Code cloud sessions。Claude
阅读时间
3 分钟Claude 官方博客页面标注,说明这是一条产品公告而非长研究稿。Claude
早报判断
  • 早报判断是,Claude 在把 coding agent 的使用入口从单轮聊天推向项目级调度。
  • 它的价值取决于冲突处理、长期记忆和云会话用量边界是否足够透明。
接下来看
  • 未来一周 access 是否按公告扩大到更多 Claude Code 用户。
  • Team 和 Enterprise 版本何时获得更新。
Social Radar

社交雷达 · X 讨论

6 条
Figure@Figure_robot7332 likes
  • Figure 发布 Helix 2.5,称机器人在湾区 30 个租来的真实住宅中、无需额外训练就开始执行有用家务任务。
  • 这是具身智能从演示环境走向家庭场景的一次高互动更新。
原帖 ↗
Elon Musk@elonmusk4082 likes
  • Elon Musk 转发 Grok Bot 更新,称 Grok Bot 现在有语音能力。
  • 被引用的官方 Bot 帖子写道“Grok Bot can talk now”,并附带语音演示视频。
bot

Grok Bot 称其现在可以说话,并附演示视频。

原帖 ↗
Taelin@VictorTaelin3586 likes
  • Victor Taelin 宣布 Bend 2 发布,称这门新编程语言通过 proof checking 阻断 AI 错误,并能在 GPU 上高速运行。
  • 帖子把它定位为面向 AI 生成代码可靠性的语言与运行时方向。
原帖 ↗
Anthropic@AnthropicAI1032 likes
  • Anthropic Science Blog 更新称,Claude 优化了 30 多个开源生物模型的推理,平均提速 4 倍,部分工作来自为 GPU 编写定制软件
  • 相关优化代码将开源。
原帖 ↗
OpenAI Developers@OpenAIDevs725 likes
  • OpenAI Developers 宣传 Codex 语音代理:用户可通过 Codex 里的 voice agent 与代码仓库交互,底层由 GPT-Live-1 驱动。
  • 被引用帖称可从手机连接电脑使用 Codex voice。
cdngdev

开发者称现在可从手机使用 Codex voice 连接电脑,演示由新的 GPT-Live-1 提供支持。

原帖 ↗
Kuncheng Gu@kunchenguid305 likes
  • 社区开发者评论 Claude Code Projects beta,认为新功能与 Firstmate 类似,但少了 vendor-agnostic 的优势。
  • 被引用的 ClaudeDevs 帖称 Projects 可把一个对话拆成线程、并行云端会话并在离开后继续运行。
ClaudeDevs
  • ClaudeDevs 称 Claude Code 在桌面端和网页端推出 Projects beta:一个项目是一段对话,会自行拆分工作线程、运行并行云会话、在线程间传递上下文,并在用户离开后继续执行
  • 目前面向部分用户测试。
原帖 ↗
更多讨论4 条
Philipp Schmid@_philschmid204 likes
  • Google DeepMind 工程师称 Gemini managed agents 发布新版:缓存改善
  • 成本最高降低 30%
  • 缓存命中率最高提高 22%,并新增 Files API
原帖 ↗
Cognition@cognition250 likes

Cognition 发布 Devin 自营业务实验:团队给 Devin 一张 Ramp 卡并要求它赚钱,Devin 做了冷启动外联、搭建支付入口、迭代商业计划,最后赚到 75 美元。

sandylikesfrogs

被引用帖提供实验详情入口。

原帖 ↗
Android Developers@AndroidDev236 likes
  • Android Developers 宣布 Android Bench 2.0,称评测框架升级到真实
  • 多日工程挑战,覆盖从零构建应用到把跨平台代码库迁移到 Android。
原帖 ↗
Vercel Labs Engineer@ctatedev888 likes
  • Vercel Labs 工程师称每个 agent harness 现在都可以用 Jev,通过安装 ai-cli 实现 yes/no 提问
  • 多选决策和按自定义标准评分,继续推动非聊天式模型进入代理工作流。
原帖 ↗