Google用HEIR展示加密推理工具链
HEIR把加密推理从密码学工程推进到AI编译器入口,但成本和延迟仍未解决。
本文要点
- HEIR从同态加密编译器项目,变成Google公开展示的AI私有推理工具入口。
- 展示对象从抽象FHE程序,推进到推荐、反欺诈、网络安全和热词检测四类AI应用。
- Google明确把延迟数字放在单线程CPU口径,给后续硬件加速留下可验证缺口。
阅读辅助
先看数字、证据和来源,再读正文。
HEIR的新闻增量是AI模型加密推理展示,不是单纯开源项目存在。
2023 · Google公开推进HEIR意图,把同态加密编译器作为隐私计算工具链建设方向。
加密推理有了更像工程入口的样子
Google在2026年8月14日的Security Blog里展示HEIR,把同态加密推理推进到AI编译器叙事里。HEIR的全名是Homomorphic Encryption Intermediate Representation,Google把它描述为开源编译器工具链和开发平台,用来把原本在未加密数据上运行的预训练AI模型,转换为能够处理加密输入的版本。
这件事值得写进早报,是因为新闻发生在过去24小时内,并且有清楚的产品化指向:Google把HEIR列入Private Computing Toolkit,展示了四类私有推理应用,还说明示例源代码已经放在GitHub仓库。理论上的同态加密AI被放进推荐、反欺诈、入侵检测和热词检测四个demo里,工程路线比概念本身更值得观察。
边界同样要放在开头。Google没有宣布HEIR已经解决生产延迟,也没有说这些demo可以直接替代明文推理或本地推理。博客中特别说明,应用延迟数字是按单线程CPU口径展示;社区讨论也集中在FHE推理高开销和商业可行性上。当前更合理的理解是:HEIR降低了把模型改写成加密推理形态的工程门槛,但性能账还没有结清。
对企业和开发者来说,这条新闻的影响对象很清楚。医疗、金融、安全、广告推荐这类场景长期面对同一个矛盾:数据越敏感,越难集中到云端模型里做推理;服务商越想保护模型IP,越不愿把模型完整下发到端侧。HEIR试图打开第三条路,让服务器在密文上计算,并把仍然加密的结果返回给用户或客户端。
Google到底展示了什么
Google文章的原文信息可以拆成三层。第一层是隐私计算问题:端到端加密保护数据,却会让服务端难以提供依赖内容的功能,例如垃圾信息检测、病毒检测或推荐。第二层是同态加密方案:服务器处理密文,不暴露底层信息。第三层才是HEIR:把这件事从密码学专家手工改写程序,推进到编译器工具链。
官方给出的关键句是,HEIR可以把在未加密数据上运行的预训练AI模型,转换为在加密输入上运行的版本。这里的状态动词很重要:Google说的是“can convert”,不是“已经把所有模型一键生产化”。文章还把愿景写成让HEIR成为一键式方案,使非专家能把加密推理纳入生产应用。愿景和现实之间仍有距离,这也是本文不把它写成生产延迟已解决的原因。
四个demo分别面向不同类型的敏感输入。推荐模型用于私有内容推荐,服务端不需要看到用户特征。信用卡欺诈检测用于金融交易场景,重点是让模型判断风险而不直接接触明文数据。威胁入侵demo基于Kitsune系统,目标是对加密网络流量做异常检测,服务提供者无需看到网络包内容。热词检测则面向音频触发式AI代理,目标是在保护音频录音隐私的同时识别热词。
| 展示应用 | 合作方与口径 | 隐私价值 | 主要 caveat |
|---|---|---|---|
| 推荐模型 | Google称与Belfort Labs、LG、NYU合作 | 服务端可做内容推荐而不看用户特征 | 推荐质量和延迟仍需公开可复现数据 |
| 信用卡欺诈检测 | Google称与Niobium、hardshell.ai合作 | 金融机构可减少明文交易特征暴露 | 误报率、吞吐和成本未给出生产口径 |
| 威胁入侵检测 | Google称与Niobium编译Kitsune | 可在加密网络流量上检测异常 | 高速流量场景最容易被延迟和吞吐限制 |
| 热词检测 | Google称与Belfort Labs合作 | 音频触发代理可降低录音隐私暴露 | 端侧方案、可信硬件和加密推理仍需比较 |
这张表的重点在于四个demo都落在隐私冲突最尖锐的位置。推荐需要用户画像,反欺诈需要交易特征,入侵检测需要网络包,热词检测需要音频片段。Google选这些例子,是在说明HEIR试图进入AI应用的敏感输入面,而不只服务密码学基准测试。
HEIR为何是编译器新闻
同态加密真正难的地方,不只是“把数据加密”。在FHE里,程序要被改写成适合密文运算的形式,算子选择、数据布局、密文打包、噪声管理、后端库和硬件目标都会影响性能。Google在文章中说,手工把现有程序高效转换成同态加密版本通常需要密码学团队。HEIR的价值,就是把这类专家知识部分沉到编译器中。
从项目站点和GitHub README看,HEIR是基于MLIR的同态加密编译工具链。它不是单一运行时,而是面向多个后端和方案的中间表示系统。README列出的使用方式包括通过Bazel和rules_heir接入OpenFHE或Lattigo后端,安装OpenFHE并使用heir_py Python包,以及从源码构建后直接调用heir-opt和heir-translate。后端表则列出OpenFHE、Lattigo、tfhe-rs和Jaxite等组合。
这说明HEIR的定位更接近“FHE领域的编译器基础设施”,而不是一个面向终端用户的AI产品。开发者写的是高层程序或模型表示,HEIR负责把它逐步 lowering 到可执行的加密后端。硬件厂商则可以在更低层接入,加速bootstrapping、多项式运算或更高层的FHE操作。
Google点名的四家加速伙伴也在解释这条路线:Belfort、Niobium、Cornami和Optalysys。Google没有在这篇文章里给出加速后的统一结果,而是说计划在不久后展示这些加速器的延迟收益。因此,今天可确认的是合作和方向,不是加速结果已经达到生产要求。
延迟数字必须谨慎读
Google文章写明,四个应用均由HEIR编译,延迟数字按单线程CPU展示,源代码可在GitHub仓库获得。这个口径有两层含义。好的一面是,它避免把GPU、ASIC或集群工程混入早期demo,让研究者可以在更朴素的计算条件下观察编译器和FHE方案本身。保守的一面是,单线程CPU不等于真实生产部署,也不等于交互式体验已经可用。
Hacker News的讨论提供了有价值的反面提醒。有人指出FHE在推理任务上可能有很高开销,评论区也把注意力转向排序、整数运算、分支和神经网络算子的差异。还有评论者补充,AI模型里大量加法和乘法可能比分支密集任务更适合FHE,但距离广泛可商用仍然很远。这些不是一手性能证明,却能反映从业者最关心的验证点:不是能不能跑,而是慢多少、贵多少、能不能稳定服务。
因此本文对HEIR的判断需要分开写。事实层面,Google展示了四类私有推理demo,代码可得,项目已有研究生态,合作伙伴名单也明确。判断层面,它说明Google正在把同态加密从研究工具推进到AI工程入口。未解决层面,成本、延迟、模型规模、算子限制和硬件加速收益还需要公开数据来验证。
研究生态和开源状态
HEIR不是闭门项目。GitHub README把它定义为面向同态加密编译器的MLIR工具链,并指向HEIR网站文档。项目支持多种后端库和加密方案,README也说明干净构建可能耗时约30分钟,使用远程构建可把干净构建缩短到约5分钟。这类开发体验细节说明,HEIR仍是工程和研究开发者会直接接触的基础设施,而不是抽象宣传页。
Google博客还说,HEIR已经成为研究平台。密码学研究者可以基于它做优化,把现有基础设施用于测试、benchmark和比较。官方列出与Georgia Tech、Carnegie Mellon、UC Santa Barbara、Illinois Institute of Technology、Purdue、University of Edinburgh、Tsinghua University等机构的合作,并称已有四篇同行评审论文基于HEIR构建,更多仍在准备。
这里也要注意数字口径。项目站点“Research with HEIR”页面公开列出的研究条目,与Google博客里“四篇同行评审论文”的汇总口径可能不是完全同一时刻的页面快照。早报采用Google博客作为当天主来源,项目站点和arXiv条目用于确认HEIR作为通用同态加密编译器的背景,不把页面列表差异解读成矛盾或新增事实。
另外,GitHub README写明“not an officially supported Google product”。这句话对企业读者很关键:HEIR开源、由Google维护,并被Google Security Blog正式展示,但这并不等于它已经是带SLA、带云控制台入口、带商业支持的Google产品。企业可以把它纳入技术评估,不应直接按生产服务采购来理解。
这条路线对Google尤其合理。Google有云、安全、广告推荐、反欺诈和Android端侧能力,也有长期隐私计算研究积累。它不需要今天就证明FHE可以运行前沿大模型,只要先在高敏、小模型、窄任务里建立编译器和硬件生态,就能把未来的生产入口握在自己手里。
但早报不把HEIR写成“同态加密推理已经实用化”。Google这次展示的是方向、demo、代码和生态,不是通用生产性能。成本和延迟仍是最大门槛,尤其是实时安全检测、音频热词和推荐系统这类对吞吐敏感的场景。后续判断HEIR价值,不看宣传语里的“practical”,要看同一任务在明文推理、本地推理、TEE和FHE之间的成本曲线是否真的可比。
后续验证表
| 验证问题 | 需要看到的数据 | 影响对象 |
|---|---|---|
| demo能否复现 | 同一硬件、同一模型、同一数据集下的端到端延迟、吞吐、内存、密钥参数和精度损失 | 安全团队与研究者 |
| 硬件加速是否有效 | Belfort、Niobium、Cornami和Optalysys给出的明文推理倍数、成本和能耗口径 | 云平台与芯片伙伴 |
| 应用边界在哪里 | 支持的模型结构、算子、后端和合规承诺 | 医疗、金融和安全产品团队 |
| 与其他隐私路线如何分工 | 与端侧推理、联邦学习、差分隐私、私有信息检索和可信执行环境的同任务对比 | 企业买方与架构团队 |
最可能先落地的场景,是小模型、规则相对稳定、隐私价值高、可容忍较高延迟的任务。例如跨机构风控、医疗特征评分、私有推荐预过滤和离线安全分析。若未来Google或伙伴把HEIR接入云产品,早报会优先核对模型结构、后端范围、延迟口径和合规承诺。