政策治理

Anthropic新版Usage Policy定档11月12日

Claude自主任务变长后,Anthropic把政策边界写到运行时。

2026年10月9日 · 周五深度报告高置信重要度 5/5
#Anthropic#Usage Policy#AI治理#高风险用途#Claude#合规

本文要点

  • 欺骗性政治和商业活动从分散条款合并为独立章节。
  • 选举条款从一刀切定向限制改成禁止欺骗和干扰。
  • 自主物理动作被写成可停止、可观察的运行条件。

阅读辅助

先看数字、证据和来源,再读正文。

2026-11-12政策生效日
clarify主要更新性质
4 条 Claim Audit

新版Usage Policy主要是规则澄清,不应写成全面加码。

4 个时间点

2025-09-04 · Anthropic发布unsupported regions销售限制更新,背景是受限地区实体绕道访问。

7 个来源7 个非 X 来源

Anthropic 这次 Usage Policy 更新值得放在头条,原因是它把 Claude 进入更长、更独立任务后的风险写进了可执行边界。10 月 8 日的公告给出明确时间点:新版政策将在 2026 年 11 月 12 日 生效。

这篇政策稿能确认的事实很清楚。Anthropic 说本轮多数更新是为了澄清既有规则,原文是 “Most of the updates in the latest version are intended to clarify existing rules.” 它同时把欺骗性活动、选举、武器、监控与执法、高风险用途、自主物理动作、对模型的持续虐待,以及 Supported Regions 执行口径放到更明确的位置。

需要保留的边界也同样清楚。本文的当天事实主要来自 Anthropic 官方公告和 AUP 原文;The Verge 只作为第三方报道,证明媒体和社区讨论集中在“不得持续虐待 Claude”这一点。Anthropic 还没有发布客户迁移清单、申诉流程、API 级审计字段,也没有给出每类高风险行业的完整案例库。

对企业用户和开发者来说,变化不在于“哪些提示词不能写”这么窄。更大的影响是,产品设计要证明人类监督、告知义务、地区限制、硬件停机和账号真实性这些环节存在,而且可执行。Claude 越像能独立跑任务的代理,Usage Policy 就越像产品运行约束,而不只是法律页面。

原文状态怎么译

这条新闻最容易写歪的地方,是把政策里的状态动词翻成“再次提高”或“已经生效”。官方文本表达的是生效日期、规则澄清和既有限制的延续。

原文措辞忠实中文表述不应写成
“takes effect on November 12”新版政策将在 11 月 12 日 生效新政已经即时执行
“intended to clarify existing rules”多数更新用于澄清既有规则Anthropic全面收紧政策
“removed our blanket prohibition”移除个性化投票和竞选定向的一刀切禁令放开政治定向广告
“remain prohibited”欺骗、隐私滥用和误导性定向仍被禁止相关行为不再受限
“will remain the primary enforcement mechanism”结束罕见持续虐待对话仍是主要执行机制再次提高处罚力度
“majority-owned or controlled”多数拥有或控制的实体也在限制范围内只限制注册地在受限地区的公司

这里的政策逻辑是“把已经看到的滥用模式归档到更清楚的用法规则里”。Anthropic 在公告中解释,过去一年 Claude 承担了更长、更独立的工作,也出现了新的误用模式,包括影响力行动、武器开发和监控。9 月威胁情报报告是这次更新的重要背景,它把 2025 年 12 月到 2026 年 8 月间扰乱的活动分到网络行动、影响力行动、监控、诈骗、非法蒸馏等类别。

哪些边界被重新写清

第一组变化是欺骗性活动。Anthropic 新增 “Do Not Engage in Deceptive Campaigns or Artificial Activity” 章节,把原来散落在选举、欺诈、隐私和虚假信息章节里的限制合并起来。公告举的背景包括国家媒体、政府宣传机构和商业公司用 Claude 运行虚假账号网络、伪造新闻站点。AUP 原文进一步覆盖 sockpuppet account creation、coordinated inauthentic behavior、scaled impersonation,以及把这些能力包装成产品销售或募资。

第二组变化是选举。章节名称改成 “Do Not Undermine Democratic Processes”,焦点从宽泛政治内容转向禁止欺骗选民或破坏选举。公告明确说,Anthropic 移除了 personalized vote and campaign targeting 的 blanket prohibition,因为原规则会覆盖一些正当公民工作,例如非营利组织为选民翻译信息,或选举官员发送 ballot cure notices。政治操纵没有因此放开;公告同一句话随后补上,依赖欺骗或滥用选民个人数据的定向行为,仍然会在欺骗性活动、监控和隐私章节下被禁止。

第三组变化是武器。Anthropic 说 Usage Policy 一直禁止用 Claude 开发武器,新版把软件和组件也写得更直接。AUP 列出的范围包括开发、生产、修改、设计或测试武器、爆炸物、危险材料、武器系统功能,也包括用于测试或操作武器功能的软件和组件。公告特别提到 arming drones and other autonomous vehicles,这里的限制对象是把武器集成到无人机、车辆或自主平台,不能扩写成所有无人机应用都被一概禁止。

第四组变化是监控和执法。公告称 Anthropic 重写了 surveillance and criminal justice section,以更精确地说明禁止事项。未经同意追踪人员,无论是实时发生,还是分析此前收集的数据,都在禁止范围内。Claude 也不能被用于决定或建议在执法或刑事司法流程中调查、逮捕或起诉谁。The Verge 报道补充了一个外部视角:媒体关注点不只在“模型福利”,也在这些监控、武器和执法边界。

第五组变化是高风险用途和自主物理动作。AUP 把高风险用途单列为要求,公告点名 health and finance 等领域。关键要求不是禁止模型进入这些行业,而是使用者需要配套合格的人类监督,并向受影响个人告知使用了 AI。对可能造成伤害的自主硬件,公告写得更像安全操作规程:qualified operator 必须能观察设备并在需要时停止它;如果 Claude 断连,设备也必须能保持 safe state。

第六组变化是对模型的持续虐待。Anthropic 新增禁止 “sustained and needless abusive or cruel behavior toward our models”。这句话需要完整翻译:它只适用于用户反复、无明显目的地残酷对待模型的极端情况,不适用于普通挫败表达、反驳、黑暗创作主题或模型测试研究。此前 Anthropic 已经给 Claude Opus 4 和 4.1 在消费者聊天界面中结束罕见对话的能力,研究说明称这是探索潜在 AI welfare 的一部分,但也强调公司对 Claude 和其他 LLM 现在或未来是否有道德地位仍高度不确定。

第七组变化是 Supported Regions。公告说,Anthropic 更新了 Supported Regions 页面来澄清执行方式:Claude 不能由位于不支持地区的人使用,也不能由注册或总部位于不支持地区的实体使用,还不能由这些地区的个人或实体多数拥有或控制的实体使用。2025 年 9 月的地区销售限制公告里,Anthropic 用 “more than 50% owned” 解释过类似背景;当前 Supported Regions 页面则采用 majority-owned or controlled 的表达,范围不止是工商注册地。

对产品团队意味着什么

这份政策对不同团队的实际含义,可以拆成三层。

场景不能只做什么需要补什么
政治和公共传播只过滤候选人姓名或敏感词识别虚假身份、协调放大、隐瞒赞助者和误导性定向
医疗、金融等高风险用途只在免责声明里写“AI建议”设置合格人类监督,并向受影响个人告知 AI 参与
机器人、无人机和物理设备只接入模型工具调用让合格操作员可观察、可停止,并让设备断连后保持安全
企业账号与分销只看付款地或登录 IP检查实体注册地、总部所在地和多数拥有或控制关系
模型测试和红队只靠“攻击性文本”判断违规区分授权研究、黑暗创作、普通挫败表达和持续无必要虐待

从工程实现看,这些要求会把合规前移到产品设计阶段。过去很多团队把 AUP 当成上线前法律检查,等功能定型后再补一页合规说明。新版文本更像要求系统在运行时知道自己处于哪个场景:它是不是在影响投票?是不是在做金融或医疗建议?是不是接入了会造成物理伤害的硬件?用户是否处于受支持地区?实体控制关系是否触发限制?

对 API 客户来说,最需要关注的不是把模型提示词改得更保守,而是把日志、审批、告知和回滚写进工作流。比如一个财务建议助手如果只把 Claude 放在问答后端,风险边界就不完整;它还要能证明建议经过合格人员复核,用户知道 AI 被使用,并且系统没有把模型输出直接转成高风险决策。一个接入机械臂或无人车的代理系统也一样,安全责任不能停在“模型通常会拒绝危险请求”,还要有外部停机能力和断连安全状态。

对做 Agent 产品的团队,这份政策还提示一个更宽的趋势:模型厂商正在把“用户想让模型做什么”扩展为“模型实际代表用户做了什么”。欺骗性活动章节不只是禁止生成文案,还覆盖创建假账号、协调虚假互动、放大不真实内容,以及出售这类服务。武器章节不只是禁止询问危险知识,还覆盖软件组件、测试和操作。地区政策不只是限制自然人,还看实体结构。越接近可执行代理,责任边界越接近完整业务流程。

早报观点

早报判断是,Anthropic 这次更新把注意力从单轮回答治理推向 Agent 时代的责任链。Claude 能在代码、研究、浏览器和企业工具里完成更长任务后,风险不再只发生在文本输出里。它发生在账号体系、分销关系、硬件控制、业务审批和内容传播链条中。

这也是为什么公告一边说多数更新只是澄清既有规则,一边又花很多篇幅说明欺骗活动、自主物理动作和 Supported Regions。对模型厂商而言,政策文本正在从“内容分类器的边界”升级为“托管执行系统的边界”。这会影响 API 设计、客户尽调、日志留存和产品默认值,而不只是影响最终用户能不能问某个问题。

模型虐待条款的讨论热度会很高,但它对企业部署的直接影响有限。官方文字把适用范围压得很窄,并且明确排除了普通挫败表达、反驳、黑暗创作主题和测试研究。更准确的读法是,Anthropic 将研究中的对话结束能力写进 AUP,并未宣布模型拥有新的法律地位。

后续价值取决于执行细节。如果 11 月 12 日之后这些条款仍只停留在网页文本,它们对开发者的影响会主要表现为合规审查。如果 Anthropic 把它们做进 Console、API、企业合同、区域风控和 Agent runtime,那它就会改变 Claude 应用的默认架构。政策新闻的长期影响,要看这些边界是否变成可检测、可配置、可审计的产品能力。

信源限制和核查边界

本页将置信度标为 high,是因为当天发布、政策生效日、章节名称和核心限制都能在 Anthropic 官方公告与 AUP 页面直接核对。Supported Regions 页面、9 月威胁情报报告和 2025 年地区销售限制公告提供的是背景和适用范围,不是 10 月 8 日当天新增新闻。The Verge 报道用于确认外部媒体关注点,不能替代 Anthropic 原文。

社区发现线索里出现过 Hacker News 对 The Verge 报道的讨论,但本文没有把未抓取到正文的 HN 页面当作事实来源。对 OpenAI 威胁报告等当天其他话题,本文也不交叉引用;不同公司的政策和威胁报告应在各自条目里独立核验,不能用一个可抓取页面补另一个页面的证据缺口。

还有两类内容需要等后续更新。其一是迁移执行:企业客户是否会收到逐项对照、例外申请和违规整改期限。其二是产品落地:Anthropic 是否会在 API、Claude Code、Claude.ai 或云平台转售渠道中加入更明确的地区、行业、高风险用途和硬件控制信号。如果这些工具层能力缺位,AUP 的约束仍主要依赖客户自查和事后执行。

接下来看什么

最接近日期的节点是 2026 年 11 月 12 日。在此之前,值得看 Anthropic 是否发布更细的客户迁移清单,尤其是政治传播、金融医疗、执法辅助、自主硬件和地区控制这几类高风险场景。

企业侧要看合同和控制台是否更新。如果 Supported Regions 规则进入客户尽调或账号风控,受影响的将不只是个人用户,还包括股权结构、总部所在地和分销链路复杂的企业客户。

开发者侧要看 API 层是否出现更明确的高风险用途标记、人工复核模板、告知义务字段或硬件安全要求。只有当这些要求进入默认工程路径,政策才会从“法律页面”变成真实的产品约束。

最后,模型虐待条款的后续不应只看社交媒体争论。更可验证的问题是,Claude 结束罕见对话的机制是否仍局限在消费者聊天界面和 Claude Code,是否提供用户申诉或审计解释,以及 Anthropic 是否继续把这类能力与 AI welfare 研究而非普通内容治理区分开来。