行业动态

Google用HEIR展示加密推理工具链

HEIR把加密推理从密码学工程推进到AI编译器入口,但成本和延迟仍未解决。

2026年8月15日 · 周六深度报告高置信重要度 4/5
#Google#HEIR#同态加密#隐私计算#私有推理

本文要点

  • HEIR从同态加密编译器项目,变成Google公开展示的AI私有推理工具入口。
  • 展示对象从抽象FHE程序,推进到推荐、反欺诈、网络安全和热词检测四类AI应用。
  • Google明确把延迟数字放在单线程CPU口径,给后续硬件加速留下可验证缺口。

阅读辅助

先看数字、证据和来源,再读正文。

2026-08-14官方发布时间
4类私有推理demo
4 条 Claim Audit

HEIR的新闻增量是AI模型加密推理展示,不是单纯开源项目存在。

4 个时间点

2023 · Google公开推进HEIR意图,把同态加密编译器作为隐私计算工具链建设方向。

6 个来源6 个非 X 来源

加密推理有了更像工程入口的样子

Google在2026年8月14日的Security Blog里展示HEIR,把同态加密推理推进到AI编译器叙事里。HEIR的全名是Homomorphic Encryption Intermediate Representation,Google把它描述为开源编译器工具链和开发平台,用来把原本在未加密数据上运行的预训练AI模型,转换为能够处理加密输入的版本。

这件事值得写进早报,是因为新闻发生在过去24小时内,并且有清楚的产品化指向:Google把HEIR列入Private Computing Toolkit,展示了四类私有推理应用,还说明示例源代码已经放在GitHub仓库。理论上的同态加密AI被放进推荐、反欺诈、入侵检测和热词检测四个demo里,工程路线比概念本身更值得观察。

边界同样要放在开头。Google没有宣布HEIR已经解决生产延迟,也没有说这些demo可以直接替代明文推理或本地推理。博客中特别说明,应用延迟数字是按单线程CPU口径展示;社区讨论也集中在FHE推理高开销和商业可行性上。当前更合理的理解是:HEIR降低了把模型改写成加密推理形态的工程门槛,但性能账还没有结清。

对企业和开发者来说,这条新闻的影响对象很清楚。医疗、金融、安全、广告推荐这类场景长期面对同一个矛盾:数据越敏感,越难集中到云端模型里做推理;服务商越想保护模型IP,越不愿把模型完整下发到端侧。HEIR试图打开第三条路,让服务器在密文上计算,并把仍然加密的结果返回给用户或客户端。

Google到底展示了什么

Google文章的原文信息可以拆成三层。第一层是隐私计算问题:端到端加密保护数据,却会让服务端难以提供依赖内容的功能,例如垃圾信息检测、病毒检测或推荐。第二层是同态加密方案:服务器处理密文,不暴露底层信息。第三层才是HEIR:把这件事从密码学专家手工改写程序,推进到编译器工具链。

官方给出的关键句是,HEIR可以把在未加密数据上运行的预训练AI模型,转换为在加密输入上运行的版本。这里的状态动词很重要:Google说的是“can convert”,不是“已经把所有模型一键生产化”。文章还把愿景写成让HEIR成为一键式方案,使非专家能把加密推理纳入生产应用。愿景和现实之间仍有距离,这也是本文不把它写成生产延迟已解决的原因。

四个demo分别面向不同类型的敏感输入。推荐模型用于私有内容推荐,服务端不需要看到用户特征。信用卡欺诈检测用于金融交易场景,重点是让模型判断风险而不直接接触明文数据。威胁入侵demo基于Kitsune系统,目标是对加密网络流量做异常检测,服务提供者无需看到网络包内容。热词检测则面向音频触发式AI代理,目标是在保护音频录音隐私的同时识别热词。

展示应用合作方与口径隐私价值主要 caveat
推荐模型Google称与Belfort Labs、LG、NYU合作服务端可做内容推荐而不看用户特征推荐质量和延迟仍需公开可复现数据
信用卡欺诈检测Google称与Niobium、hardshell.ai合作金融机构可减少明文交易特征暴露误报率、吞吐和成本未给出生产口径
威胁入侵检测Google称与Niobium编译Kitsune可在加密网络流量上检测异常高速流量场景最容易被延迟和吞吐限制
热词检测Google称与Belfort Labs合作音频触发代理可降低录音隐私暴露端侧方案、可信硬件和加密推理仍需比较

这张表的重点在于四个demo都落在隐私冲突最尖锐的位置。推荐需要用户画像,反欺诈需要交易特征,入侵检测需要网络包,热词检测需要音频片段。Google选这些例子,是在说明HEIR试图进入AI应用的敏感输入面,而不只服务密码学基准测试。

HEIR为何是编译器新闻

同态加密真正难的地方,不只是“把数据加密”。在FHE里,程序要被改写成适合密文运算的形式,算子选择、数据布局、密文打包、噪声管理、后端库和硬件目标都会影响性能。Google在文章中说,手工把现有程序高效转换成同态加密版本通常需要密码学团队。HEIR的价值,就是把这类专家知识部分沉到编译器中。

从项目站点和GitHub README看,HEIR是基于MLIR的同态加密编译工具链。它不是单一运行时,而是面向多个后端和方案的中间表示系统。README列出的使用方式包括通过Bazel和rules_heir接入OpenFHE或Lattigo后端,安装OpenFHE并使用heir_py Python包,以及从源码构建后直接调用heir-opt和heir-translate。后端表则列出OpenFHE、Lattigo、tfhe-rs和Jaxite等组合。

这说明HEIR的定位更接近“FHE领域的编译器基础设施”,而不是一个面向终端用户的AI产品。开发者写的是高层程序或模型表示,HEIR负责把它逐步 lowering 到可执行的加密后端。硬件厂商则可以在更低层接入,加速bootstrapping、多项式运算或更高层的FHE操作。

Google点名的四家加速伙伴也在解释这条路线:Belfort、Niobium、Cornami和Optalysys。Google没有在这篇文章里给出加速后的统一结果,而是说计划在不久后展示这些加速器的延迟收益。因此,今天可确认的是合作和方向,不是加速结果已经达到生产要求。

延迟数字必须谨慎读

Google文章写明,四个应用均由HEIR编译,延迟数字按单线程CPU展示,源代码可在GitHub仓库获得。这个口径有两层含义。好的一面是,它避免把GPU、ASIC或集群工程混入早期demo,让研究者可以在更朴素的计算条件下观察编译器和FHE方案本身。保守的一面是,单线程CPU不等于真实生产部署,也不等于交互式体验已经可用。

Hacker News的讨论提供了有价值的反面提醒。有人指出FHE在推理任务上可能有很高开销,评论区也把注意力转向排序、整数运算、分支和神经网络算子的差异。还有评论者补充,AI模型里大量加法和乘法可能比分支密集任务更适合FHE,但距离广泛可商用仍然很远。这些不是一手性能证明,却能反映从业者最关心的验证点:不是能不能跑,而是慢多少、贵多少、能不能稳定服务。

因此本文对HEIR的判断需要分开写。事实层面,Google展示了四类私有推理demo,代码可得,项目已有研究生态,合作伙伴名单也明确。判断层面,它说明Google正在把同态加密从研究工具推进到AI工程入口。未解决层面,成本、延迟、模型规模、算子限制和硬件加速收益还需要公开数据来验证。

研究生态和开源状态

HEIR不是闭门项目。GitHub README把它定义为面向同态加密编译器的MLIR工具链,并指向HEIR网站文档。项目支持多种后端库和加密方案,README也说明干净构建可能耗时约30分钟,使用远程构建可把干净构建缩短到约5分钟。这类开发体验细节说明,HEIR仍是工程和研究开发者会直接接触的基础设施,而不是抽象宣传页。

Google博客还说,HEIR已经成为研究平台。密码学研究者可以基于它做优化,把现有基础设施用于测试、benchmark和比较。官方列出与Georgia Tech、Carnegie Mellon、UC Santa Barbara、Illinois Institute of Technology、Purdue、University of Edinburgh、Tsinghua University等机构的合作,并称已有四篇同行评审论文基于HEIR构建,更多仍在准备。

这里也要注意数字口径。项目站点“Research with HEIR”页面公开列出的研究条目,与Google博客里“四篇同行评审论文”的汇总口径可能不是完全同一时刻的页面快照。早报采用Google博客作为当天主来源,项目站点和arXiv条目用于确认HEIR作为通用同态加密编译器的背景,不把页面列表差异解读成矛盾或新增事实。

另外,GitHub README写明“not an officially supported Google product”。这句话对企业读者很关键:HEIR开源、由Google维护,并被Google Security Blog正式展示,但这并不等于它已经是带SLA、带云控制台入口、带商业支持的Google产品。企业可以把它纳入技术评估,不应直接按生产服务采购来理解。

早报观点 HEIR今天真正改变的,是把“隐私保护AI”的讨论从部署位置转到编译路径。过去很多私有AI方案主要在两端摆动:要么把模型放到本地设备,牺牲设备能力和模型IP保护;要么把数据放到云端或可信硬件里,依赖平台边界和硬件信任。HEIR代表的路线是第三种:让云端仍然能算,但尽量只接触密文。

这条路线对Google尤其合理。Google有云、安全、广告推荐、反欺诈和Android端侧能力,也有长期隐私计算研究积累。它不需要今天就证明FHE可以运行前沿大模型,只要先在高敏、小模型、窄任务里建立编译器和硬件生态,就能把未来的生产入口握在自己手里。

但早报不把HEIR写成“同态加密推理已经实用化”。Google这次展示的是方向、demo、代码和生态,不是通用生产性能。成本和延迟仍是最大门槛,尤其是实时安全检测、音频热词和推荐系统这类对吞吐敏感的场景。后续判断HEIR价值,不看宣传语里的“practical”,要看同一任务在明文推理、本地推理、TEE和FHE之间的成本曲线是否真的可比。

后续验证表

验证问题需要看到的数据影响对象
demo能否复现同一硬件、同一模型、同一数据集下的端到端延迟、吞吐、内存、密钥参数和精度损失安全团队与研究者
硬件加速是否有效Belfort、Niobium、Cornami和Optalysys给出的明文推理倍数、成本和能耗口径云平台与芯片伙伴
应用边界在哪里支持的模型结构、算子、后端和合规承诺医疗、金融和安全产品团队
与其他隐私路线如何分工与端侧推理、联邦学习、差分隐私、私有信息检索和可信执行环境的同任务对比企业买方与架构团队

最可能先落地的场景,是小模型、规则相对稳定、隐私价值高、可容忍较高延迟的任务。例如跨机构风控、医疗特征评分、私有推荐预过滤和离线安全分析。若未来Google或伙伴把HEIR接入云产品,早报会优先核对模型结构、后端范围、延迟口径和合规承诺。