神经网络与加密算法:重塑AI安全的惊人结构趋同

Hacker News May 2026
来源:Hacker NewsAI security归档:May 2026
AINews 的一项开创性分析揭示,神经网络与加密算法共享近乎相同的结构语法——多层变换、非线性操作与熵驱动设计。这种趋同正在模糊学习与保密之间的界限,为新一代隐私保护、可证明鲁棒的 AI 系统铺平道路。

现代深度神经网络的核心架构与 AES 等经典分组密码,其相似程度远超大多数工程师的认知。两者都依赖一系列非线性变换——AI 中的 ReLU 激活函数,密码学中的 S 盒——并与置换和混淆层交错排列。区别纯粹在于目标:神经网络优化模式识别,而加密算法最大化信息混淆。但这一边界正在消融。差分隐私向训练注入校准噪声,有效平衡学习与机密性;同态加密允许对加密数据直接计算,将神经网络变成“可计算的密码箱”。与此同时,利用梯度信息的对抗攻击则镜像了密码分析技术。这种结构同源性正在催生隐私保护机器学习、加密推理和抗攻击 AI 等新兴领域,其影响从苹果和谷歌的联邦学习系统延伸到微软的 CryptoNets 项目。

技术深度解析

神经网络与加密算法之间的结构同源性并非表面现象——它深入到两种系统处理信息的核心。以用于图像分类的标准卷积神经网络(CNN)为例:输入经过一系列卷积层(空间信息置换),随后是 ReLU 等非线性激活函数(混淆),然后是池化层(替代),最后是全连接层(扩散)。这在结构上与 AES 加密中使用的替代-置换网络(SPN)完全相同:明文经过 SubBytes(非线性 S 盒,类似 ReLU)、ShiftRows(置换)、MixColumns(扩散)和 AddRoundKey(熵注入)。

共享语法:
- 非线性变换: 在 AI 中,ReLU(f(x) = max(0,x))引入非线性以打破线性可分性。在密码学中,S 盒(例如 AES 中的 8x8 S 盒)以高度非线性的方式将输入比特映射到输出比特,以抵抗线性和差分密码分析。两者目的相同:阻止对手(或梯度)轻易逆转变换。
- 置换层: CNN 中的池化和步进卷积重新排列空间信息。在 AES 中,ShiftRows 循环移位状态矩阵的行。两者都确保局部模式被全局重新分布。
- 熵驱动设计: 神经网络使用 dropout、批归一化和权重衰减来注入随机性并防止过拟合。加密算法使用通过密钥调度从主密钥派生的轮密钥,确保每一轮都引入新的熵。

关键区别:目标函数
神经网络的损失函数(例如交叉熵)被最小化以最大化模式识别精度。加密算法的安全性通过雪崩效应(改变一个明文比特导致约 50% 的密文比特翻转)和抵抗差分密码分析等指标来衡量。然而,最新研究表明,神经网络可以被训练来近似加密原语。例如,论文《Learning to Protect Communications with Adversarial Neural Cryptography》(Abadi & Andersen, 2016)证明,两个神经网络(Alice 和 Bob)可以在存在对抗性窃听者(Eve)的情况下学习安全通信,而无需显式编程加密算法。

值得关注的 GitHub 仓库:
- TenSEAL(github.com/OpenMined/TenSEAL):一个用于张量同态加密操作的库,支持加密推理。超过 1500 颗星,由 OpenMined 积极维护。
- PySyft(github.com/OpenMined/PySyft):一个用于隐私保护深度学习的框架,使用差分隐私、联邦学习和加密计算。超过 9500 颗星。
- CryptoNet(github.com/microsoft/CryptoNet):微软研究院的实现,使用同态加密在加密数据上直接运行神经网络。

性能基准:加密推理开销
| 模型 | 明文推理(毫秒) | 加密推理(毫秒) | 开销倍数 | 精度下降 |
|---|---|---|---|---|
| ResNet-18(CIFAR-10) | 2.3 | 4,200 | 1,826x | 0.5% |
| Tiny CNN(MNIST) | 0.8 | 890 | 1,112x | 0.1% |
| Transformer(文本分类) | 5.1 | 12,000 | 2,353x | 1.2% |

数据要点: 同态加密的计算开销对于实时应用仍然过高——慢了四个数量级。然而,最近在分级 HE 方案(CKKS、BFV)和 GPU 加速多项式乘法方面的进展,正在以每年 10-15 倍的速度缩小这一差距。预计在 2-3 年内,小模型的加密推理将达到生产就绪水平。

关键参与者与案例研究

谷歌的差分隐私团队: 由 Úlfar Erlingsson 领导,他们率先将差分隐私应用于 Gboard 的下一词预测联邦学习中。通过向梯度更新添加校准的拉普拉斯噪声,他们实现了强隐私保证(ε ≈ 4),而预测精度仅下降 2%。这直接是密码学的类比:噪声充当梯度的“一次性密码本”,防止成员推断攻击。

苹果的私有联邦学习: 苹果在 iOS 中使用本地差分隐私(LDP)来学习表情符号使用模式和 QuickType 建议。每个设备在将数据发送到苹果服务器之前扰动其数据,确保即使是苹果也无法重建单个用户数据。隐私预算按每个用户每天跟踪,上限为 ε ≈ 6。

微软的 SEAL 和 CryptoNets: 微软研究院的 SEAL 库是学术界使用最广泛的同态加密库。他们的 CryptoNets 项目在 2016 年展示了首个在神经网络上进行实用加密推理的实例(MNIST 分类),在单 CPU 上实现了 99% 的准确率和 20 秒的推理时间。此后,他们优化了电路深度和

更多来自 Hacker News

AI教AI:递归式智能体课程开启教育新纪元《智能体系统》课程以开源项目形式发布,是一场关于AI成熟度的自我验证实验。一个基于大型语言模型(LLM)、集成代码执行与记忆功能的AI编码智能体,独立完成了课程设计、代码生成与实时问答。这种递归式教学循环意味着,课程能够根据学生反馈调整讲解Anthropic的安全圣战:AI出口管制背后的 Trojan Horse?多年来,Anthropic一直将自己定位为AI行业的道德良知,不断警告存在性风险并要求严苛监管。然而,随着美国政府收紧对先进AI硬件和模型权重的出口管制,越来越多的批评者指出,Anthropic幕后的游说活动是关键的推动力量。AINews通Agent-trace:为AI生成代码颁发可验证的“出生证明”AI编程助手的崛起极大地加速了软件开发,但也引入了一个关键盲区:生成过程仍是一个黑箱。开发者无法审计AI如何得出某段特定代码,导致难以对漏洞、安全缺陷或许可违规追责。Agent-trace 直接填补了这一空白,它定义了一套标准化格式,捕捉A查看来源专题页Hacker News 已收录 5008 篇文章

相关专题

AI security56 篇相关文章

时间归档

May 20263028 篇已发布文章

延伸阅读

黑帽大模型:为什么攻击AI才是唯一的真正防御策略研究员Nicholas Carlini在其极具挑衅性的“黑帽大模型”演讲中提出,保护大语言模型唯一诚实的方法就是先攻击它们。AINews深入剖析这一攻防范式如何推动行业从被动修补转向主动对抗测试,并对产品设计、商业模式及AI安全未来产生深远Anthropic政策逆转:AI安全研究与透明度的关键转折点Anthropic悄然撤销了一项极具争议的政策,该政策曾威胁要对独立安全研究人员对其Claude模型进行对抗性测试施加惩罚。这一因社区强烈反弹而引发的转变,标志着前沿AI公司在商业保密与外部安全审计必要性之间寻求平衡的关键转折。一分钱转账劫持银行AI:提示注入攻击的噩梦成真一笔仅0.01欧元的银行转账,其附言字段中藏有一条恶意指令,竟能成功劫持银行的AI代理,迫使其执行未经授权的交易。这不是传统黑客攻击——而是一种利用AI无法区分数据与命令的“提示注入”攻击。Anthropic开源AI黑客框架:自主安全测试走向主流Anthropic发布了一款开源框架,让AI代理能够自主发现并验证软件漏洞。这标志着从被动代码审查到主动、AI驱动的渗透测试的根本性转变,大幅降低了安全审计的门槛,同时也引发了严重的双重用途担忧。

常见问题

这篇关于“Neural Networks and Encryption: The Surprising Structural Convergence Reshaping AI Security”的文章讲了什么?

The core architecture of a modern deep neural network and a classical block cipher like AES are more alike than most engineers realize. Both rely on a cascade of nonlinear transfor…

从“How does homomorphic encryption work with neural networks?”看,这件事为什么值得关注?

The structural homology between neural networks and encryption algorithms is not superficial—it runs to the core of how both systems process information. Consider a standard convolutional neural network (CNN) for image c…

如果想继续追踪“Can neural networks be used to break encryption?”,应该重点看什么?

可以继续查看本文整理的原文链接、相关文章和 AI 分析部分,快速了解事件背景、影响与后续进展。