本文讲述了在深度学习和LLM中实现可复现性的挑战,特别是使用Nvidia GPU时,浮点运算的非结合性以及硬件差异会导致结果不一致。文章分享了通过重写GEMM CUDA kernel,避免使用Tensor Cores,并确保运算顺序的确定性来解决这一问题,最终在不同硬件上实现了模型输出的一致性。
本文介绍了 zkDL++ 框架,该框架旨在为可证明的 AI 提供支持。zkDL++ 解决了生成式 AI 水印技术中的关键问题:如何在保护隐私的同时确保可证明性。通过改进 Meta 开发的水印系统,zkDL++ 解决了需要对水印提取器进行保密以避免攻击的问题,并提供了一种更安全的解决方案。此外,zkDL++ 能够高效地证明任何深度神经网络(DNN)的完整性。
ICICLE v3 发布,这是一个密码学库,旨在加速零知识证明(ZKP)。新版本引入了强大的CPU后端,将ICICLE的卓越性能和用户友好的多项式API扩展到标准处理器,从而实现更大的灵活性和可访问性。此外,新版本还优化了GPU功能,并支持更大的原语。
Brevis 集成了 Ingonyama 的 ICICLE 加速库,显著提升了零知识证明的性能,特别是在多标量乘法(MSM)和数论变换(NTT)等关键操作上,实现了高达 70% 的加速。通过此次集成,Brevis 能够更高效地处理大规模数据集上的复杂计算,并扩展其在区块链领域的应用,例如数据驱动的 DeFi、zkBridges 和 zkDID 等。
Kroma Network 通过集成 Ingonyama 的 ICICLE 库到其 Tachyon 项目中,显著加速了零知识证明的生成过程,特别是在 Circom 证明和 SP1 zkVM 证明方面。通过 GPU 加速,MSM 速度提升了 8-10 倍,NTT 速度提升了 3-5 倍,Circom 证明生成速度提升了 4 倍。
Ingonyama 与 Starknet 基金会合作,旨在优化 Starknet 的 ZK Prover 基础设施。
文章介绍了去中心化证明者市场(prover markets)的兴起及其独特的技术特点,以及Ingonyama与Twinstake的合作,共同探索为验证者提供高性能计算基础设施的方案。文章还展示了使用Ingonyama的ZaKi基础设施运行ZkSync prover,实现负载均衡和降低成本的 demo。
Ingonyama发布了ZaKi,一种新的、垂直集成的ZK托管服务,它基于ICICLE,并对硬件进行了优化配置,以运行加速的ZK工作负载,旨在提供卓越的性价比。ZaKi通过提供一个已经为ZK计算优化的托管环境,消除了硬件设置和配置的障碍,使团队能够专注于他们的ZK应用。
Ingonyama 正在为研究人员和实践者提供 10 万美元的资助,以推进 ZK(零知识证明)加速技术。资助方向包括:学生使用 Icicle 库进行研究、改进 Icicle 中现有加速原语的性能、将现有 ZK 协议移植到 Icicle、向 Icicle 添加新的原语以及将 ZK 基准测试与 Icicle 进行比较。Ingonyama 还将为获得资助者提供技术指导和 GPU 访问权限
Ingonyama 于 2024 年 4 月 11 日举办了 ZK Accelerate Athens,重点关注 ZK 工程和产品。活动包括 16 场技术讲座、演示和 3 场小组讨论。涵盖了 STWO 性能、去中心化证明层、zkEVM、隐私协议、硬件加速等多个主题,展示了 ZK 领域的最新进展。