登录 后可观看高清视频
ZK S3M8: ZKML
11次播放
15小时前
视频 AI 总结: 该视频探讨了零知识机器学习(ZKML)的核心概念、必要性及其技术挑战与解决方案。ZKML旨在通过密码学证明,验证AI模型在特定输入上运行并产生预期输出的完整性,同时可选择性地保护输入、模型或输出的隐私。面对AI模型日益增长的信任危机和对抗性环境(如区块链),ZKML提供了一种验证模型执行真实性的方法。视频深入讨论了如何将AI模型的浮点运算和非线性操作转化为ZK友好的有限域计算,并介绍了Ezekiel团队在构建ZKML系统时所做的关键技术选择。
关键信息:
- ZKML的定义与目的: ZKML通过零知识证明,验证AI模型在给定输入上正确执行并生成输出,同时允许对输入、模型或输出进行隐私保护。这解决了AI模型缺乏可信度的问题,尤其在决策委托和对抗性环境中至关重要。
- ZKML与传统ZKVM的区别: 传统的ZKVM主要优化于密码学操作(如哈希、签名),处理的是离散数据。而ZKML需要高效处理小实数(浮点数)和复杂的非线性运算,这在有限域的ZK电路中实现起来非常复杂且成本高昂。
- 前端选择与ONNX: 为了提高开发体验和适应AI模型生态,Ezekiel团队选择Python(PyTorch、TensorFlow)作为开发语言,并将其模型导出为ONNX(Open Neural Network Exchange)格式。ONNX作为一种抽象语法树(AST)或有向无环图(DAG),其结构天然接近ZK电路,便于编译。
- 编译式证明方法: 团队倾向于采用“编译式”而非“解释式”(ZKVM)的证明方法。编译式方法允许在编译时进行大量优化,例如融合操作、替换算法(如矩阵乘法),从而显著提高证明效率。
- 浮点数处理的挑战与ZK友好模型: IEEE 754浮点数标准在ZK电路中实现成本极高,因为涉及复杂的指数对齐、溢出/下溢检查和舍入模式。Ezekiel团队采用了一种ZK友好的定点数模型,为张量固定一个比例因子(scale),用单个有限域元素表示数值,并通过周期性重基(re-basing)来管理精度和范围。
- 非线性操作的处理: 对于ReLU、Sigmoid等非线性函数,团队探索了多种方法,包括查找表(Lookup Table)、多项式近似、分段线性近似和基于范围检查(Range Check)的位分解。随着实践深入,团队逐渐减少对查找表的依赖,转而使用更基础且对完备性影响较小的符号/比较操作。
- 非确定性与变分论证: ZKML利用非确定性(witnessing)来简化复杂运算(如平方根、除法)的证明,只需验证结果的正确性而非计算过程。此外,还引入了“变分论证”(Variational Arguments),通过检查相邻值来证明函数的最优性(例如最小值),这在量化和凸函数场景下非常高效。
- 模块化证明与未来方向: 尽管目前主要使用Halo 2等证明系统,但ZKML的电路描述与具体证明系统相对独立。未来方向包括探索更高效的证明系统组织方式(如分段SNARKs、折叠、IVC/PCD),利用中间张量的KZG承诺来分解大型计算图,以及持续寻找渐进式更快的证明算法。