AI 时代的安全基石——从对称加密到零知识证明,从同态加密到差分隐私。
不是区块链炒作,是真正保护数据和隐私的数学武器。
传统上,密码学保护的是"传输中的数据"和"静止的数据"。但 AI 时代带来了全新的挑战:
用户怎么知道 AI 服务确实用了声称的模型跑推理,而不是偷偷换了廉价模型?零知识证明可以证明"我跑了这个模型"而不泄露模型权重。
ZKPzkML医院不敢把患者数据给 AI 公司,银行不敢把交易数据给风控平台。同态加密让数据在加密状态下被计算,多方安全计算让各方协同训练而不共享原始数据。
FHEMPCPrompt Injection 的密码学防御、模型水印(证明这是你的模型)、数据溯源(证明数据来源合法)。密码学是 AI 安全的工具箱,不是可选的奢侈品。
AI SecurityGDPR 要求数据可删除、可导出;中国《个人信息保护法》要求最小化数据收集。差分隐私、联邦学习、加密计算是合规的技术手段,不是噱头。
ComplianceDP去中心化 AI 训练需要验证贡献者确实做了计算,需要保证数据不被偷窥,需要激励相容的机制。这些全是密码学问题。
Web3DecAIAPI 密钥存储、JWT vs Session、密钥轮换策略——每个 SaaS 都在用的密码学原语,但大多数开发者做错了。了解原理才能做对。
AuthKey Mgmt以下是本知识库覆盖的核心技术领域及其关系:
| 技术领域 | 核心能力 | 典型应用 | 成熟度 | 页面 |
|---|---|---|---|---|
| 对称加密 | 高速加密解密,同一密钥 | 数据存储加密、TLS 数据传输 | ⭐⭐⭐⭐⭐ 极成熟 | 对称 & 非对称 |
| 非对称加密 | 公钥加密、私钥解密 | 密钥交换、数字签名、证书体系 | ⭐⭐⭐⭐⭐ 极成熟 | 对称 & 非对称 |
| 零知识证明 (ZKP) | 证明某命题为真,不泄露额外信息 | 隐私交易、zkML、身份验证 | ⭐⭐⭐⭐ 快速成熟 | 零知识证明 |
| 同态加密 (FHE) | 密文上计算 = 明文计算结果 | 加密数据推理、隐私保护分析 | ⭐⭐⭐ 研究活跃 | 同态加密 |
| 可信执行环境 (TEE) | 硬件隔离的安全计算区域 | 模型权重保护、密钥管理 | ⭐⭐⭐⭐ 工业可用 | TEE (待建) |
| 多方安全计算 (MPC) | N 方协同计算,不泄露各方输入 | 联邦学习、隐私协作 | ⭐⭐⭐ 研究活跃 | MPC (待建) |
| 差分隐私 (DP) | 数学保证个体不影响统计结果 | 数据发布、训练隐私、用户分析 | ⭐⭐⭐⭐ 工业可用 | 差分隐私 (待建) |
| AI 安全原语 | 水印、溯源、可验证推理 | 模型保护、数据合规 | ⭐⭐⭐ 新兴领域 | AI 安全原语 (待建) |
不同的隐私计算技术在性能开销和隐私保证之间有不同的权衡:
| 技术 | 计算开销(相对明文) | 通信开销 | 隐私保证 | 信任假设 |
|---|---|---|---|---|
| 明文计算(基线) | 1× | 1× | 无 | 信任计算方 |
| 差分隐私 (DP) | 1-2× | 1× | 统计隐私 (ε-δ) | 信任数据收集方 |
| 可信执行环境 (TEE) | 1.1-1.5× | 1× | 硬件级隔离 | 信任硬件厂商 |
| 多方安全计算 (MPC) | 10-100× | 10-1000× | 无任何方看到完整数据 | 非共谋假设 |
| 零知识证明 (ZKP) | 证明:高 / 验证:低 | 证明大小:数 KB | 证明声明为真,零额外泄露 | 密码学假设 |
| 全同态加密 (FHE) | 1,000-100,000× | 2-50× | 计算方完全看不到明文 | 密码学假设 |
密码学的选择取决于威胁模型。不同的场景,你要防的敌人不同:
| 威胁模型 | 攻击者能力 | 防御技术 | 典型场景 |
|---|---|---|---|
| 窃听者 | 可以读取通信内容,不能修改 | TLS/HTTPS、端到端加密 | 网络传输安全 |
| 中间人 (MITM) | 可以读取、修改、注入通信 | 证书体系、双向认证、HSTS | 公共 Wi-Fi、B2B 通信 |
| 半诚实服务器 | 遵守协议但想看数据 | FHE、MPC、DP | 云上 AI 推理、数据分析 |
| 恶意服务器 | 可能偏离协议行为 | ZKP、MPC+验证、TEE | 去中心化计算、外包推理 |
| 共谋攻击者 | 多个参与方串通 | 门限方案、非共谋假设的 MPC | 多方联合分析 |
| 量子计算机 | 可运行 Shor/Grover 算法 | 后量子密码 (PQC)、CRYSTALS | 长期数据保护 |
| 侧信道攻击者 | 通过时间/功耗/缓存推断密钥 | 常量时间实现、掩码、TEE | 密钥存储、加密实现 |
威胁:用户担心服务商偷偷换了廉价模型(模型替换攻击)
防御:ZKP 证明推理过程、TEE 保护模型执行环境、推理结果哈希上链
威胁:云服务商好奇地查看训练数据
防御:FHE 在加密数据上训练、DP 给训练数据加噪、MPC 多方协同训练
威胁:从聚合统计数据中推断个体信息
防御:差分隐私、k-匿名、本地 DP(数据不出设备)
Intel SGX、ARM TrustZone、AWS Nitro Enclaves。模型权重保护、推理可验证性。
工业可用 待建设秘密共享、混淆电路。联邦学习隐私保证。多机构协同训练。
研究活跃 待建设ε-δ 定义、Laplace/Exponential 机制。Apple/Google/Census 实际应用。
工业可用 待建设Prompt Injection 密码学防御、模型水印、推理可验证性、数据溯源。
新兴领域 待建设libsodium/age/NaCl 实操、密钥管理最佳实践、OpenSSL 命令、Python cryptography 库。
实用指南 待建设密码学与隐私计算不是孤岛,它和知识库的其他部分紧密关联: