CKKS同态加密神经网络入门指南：从理论到实战部署

1次阅读

共计 2474 个字符，预计需要花费 7 分钟才能阅读完成。

在传统的机器学习模型推理过程中，用户需要将原始数据发送到服务器进行计算，这带来了严重的隐私泄露风险。尤其是在医疗、金融等敏感领域，数据隐私保护变得尤为重要。联邦学习等分布式机器学习框架虽然可以在一定程度上保护数据隐私，但仍然无法完全避免中间结果的泄露。

同态加密（Homomorphic Encryption, HE）技术允许在加密数据上直接进行计算，而无需解密，从而解决了这一痛点。CKKS（Cheon-Kim-Kim-Song）方案是一种支持浮点数近似计算的同态加密方案，非常适合用于神经网络推理。

以下是 CKKS 与其他常见同态加密方案的对比：

方案	支持运算类型	计算精度	速度
Paillier	加法同态	精确	快
BFV	加法与乘法同态	精确	中等
CKKS	加法与乘法同态	近似	中等

CKKS 的优势在于支持浮点数近似计算，这在神经网络中非常重要，因为神经网络的激活函数（如 ReLU）和权重通常都是浮点数。

CKKS 的核心思想是将实数向量编码到多项式环上，并通过缩放因子（scale factor）控制浮点数的近似误差。具体流程如下：

编码（Encode）: 将实数向量 (\mathbf{v} \in \mathbb{R}^N) 通过缩放因子 (\Delta) 转换为整数多项式：
[\mathbf{v}’ = \lfloor \Delta \cdot \mathbf{v} \rceil ]
加密（Encrypt）: 使用公钥将编码后的多项式加密为密文。
同态计算（Homomorphic Operations）: 在密文上进行加法和乘法运算。
解密（Decrypt）: 使用私钥解密密文，得到编码后的多项式。
解码（Decode）: 将解码后的多项式通过缩放因子还原为实数向量：
[\mathbf{v} = \mathbf{v}’ / \Delta ]

缩放因子 (\Delta) 的选择非常重要，过小会导致精度损失，过大会导致计算溢出。

下面是一个使用 TF Encrypted 实现 MNIST 加密推理的示例代码：

import tf_encrypted as tfe
import tensorflow as tf

# 1. 模型权重同态加密初始化
model = tf.keras.models.Sequential([tf.keras.layers.Dense(128, activation='relu'),
    tf.keras.layers.Dense(10, activation='softmax')
])

# 使用 CKKS 加密模型权重
ckks_config = tfe.config.CKKSConfig(
    poly_modulus_degree=4096,
    coeff_mod_bit_sizes=[40, 20, 40]
)
encrypted_weights = tfe.encrypt(model.get_weights(), ckks_config)

# 2. 激活函数多项式近似（ReLU 的 3 次泰勒展开）def approx_relu(x):
    return 0.5 * x + 0.5 * x * x - 0.0208333 * x * x * x

# 3. 客户端加密输入与服务端加密计算的交互协议
@tfe.local_computation('client')
def provide_input():
    # 假设 input_data 是客户端的输入数据
    return tfe.encrypt(input_data, ckks_config)

@tfe.local_computation('server')
def compute(encrypted_input):
    # 同态计算
    encrypted_output = tfe.matmul(encrypted_input, encrypted_weights[0])
    encrypted_output = tfe.map(approx_relu, encrypted_output)
    encrypted_output = tfe.matmul(encrypted_output, encrypted_weights[1])
    return encrypted_output

# 运行加密推理
with tfe.protocol.CKKS(ckks_config):
    encrypted_input = provide_input()
    encrypted_output = compute(encrypted_input)
    output = tfe.decrypt(encrypted_output, ckks_config)

CKKS 的性能和精度受多项式模次数（N）和系数模数（coeff_mod_bit_sizes）的影响。在 128-bit 安全级别下，推荐以下参数：