3DES 加密结果和 OpenSSL 不一致?密钥顺序与兼容性验证

2026-11-19 后端开发 有希 49 次浏览

同样一段明文、同一个 24 字节密钥,自己写的 3DES 得到 372c1d08a4f057ba,OpenSSL 却给出另一个值;把密钥的三段顺序换一下,两边又对上了。问题通常不在 S 盒、填充或编码,而在 EDE 的三段密钥谁先谁后。下面用 OpenSSL 3.2.4 和 Node.js 24 复现,并给出前端实现和工具页的对拍方法。

先给结论

3DES 的密钥不是一整块,而是三段独立的 8 字节密钥。主流实现按密钥串的字节位置使用:前 8 字节做第一次加密,中间 8 字节做中间解密,最后 8 字节做最后一次加密。公式和密钥串的对应关系很容易看反;看反之后,自己的加密和解密仍然互逆,所以自测能过,但和对端一定对不上。

对接时不要靠“试到能解密”来确定顺序。固定一段明文、一把密钥和一个期望密文,写进测试用例,让双方都按这组值验收。

现象:自己能解开,对方解不开

这类问题通常有几个很像是“编码问题”的表现:

现象常见误判
自己加密、自己解密完全正常以为算法和填充都写对了
对方解密得到乱码,或报填充错误以为 Base64、十六进制或字符集不对
同一段明文在 ECB 下每次密文都一样以为是缓存或随机数问题
换一组密钥又能解开以为是某把密钥“有问题”
把密文转成 Base64 再传一遍,仍然失败没有意识到失败发生在解密后的第一个分组

“自己能解开”只能证明加密和解密用的是同一套密钥解释方式,不能证明这套方式和对端一致。两套相反的密钥顺序,各自都能形成一个完整的闭环,但两个闭环不能交叉。

最小复现:固定输入跑出两个密文

先固定所有变量:明文、密钥、模式、填充都写死,避免把编码或填充的差异混进来。

参数值
明文0123456789abcdef(8 字节,正好一个分组)
密钥0123456789abcdeffedcba98765432100011223344556677(24 字节)
模式ECB
填充关闭(-nopad),避免多出整块填充
期望密文372c1d08a4f057ba

用 OpenSSL 跑一次:

printf '\x01\x23\x45\x67\x89\xab\xcd\xef' \
  | openssl enc -des-ede3-ecb \
      -K 0123456789abcdeffedcba98765432100011223344556677 \
      -nopad \
  | xxd -p

输出:

372c1d08a4f057ba

再用 Node.js 的 crypto 跑同一组值:

const crypto = require('node:crypto')

const key = Buffer.from(
  '0123456789abcdeffedcba98765432100011223344556677',
  'hex'
)
const plain = Buffer.from('0123456789abcdef', 'hex')

const cipher = crypto.createCipheriv('des-ede3-ecb', key, null)
cipher.setAutoPadding(false)

const out = Buffer.concat([cipher.update(plain), cipher.final()])
console.log(out.toString('hex'))

两次都得到 372c1d08a4f057ba。现在只交换密钥的第一段和第三段,中间一段不动:

printf '\x01\x23\x45\x67\x89\xab\xcd\xef' \
  | openssl enc -des-ede3-ecb \
      -K 0011223344556677fedcba98765432100123456789abcdef \
      -nopad \
  | xxd -p

输出变成:

c65ef4ea3e9ee824

同一个算法、同一段明文、同一个中间密钥,只改了首尾两段的顺序,密文就完全不同。这说明问题不在算法实现,而在密钥进入算法时的排布。

根因:EDE 的三段密钥谁在最里层

3DES 又叫 DES-EDE,三个字母分别代表加密、解密、加密。用 E 表示 DES 加密,D 表示 DES 解密,三段密钥记作 K1、K2、K3,加密过程是:

C = E_K3( D_K2( E_K1(P) ) )

从里往外读:先用 K1 加密,再用 K2 解密,最后用 K3 加密。密钥串按字节切成三段时,通常就是:

密钥段字节范围在加密中的角色
K1第 0–7 字节最内层加密
K2第 8–15 字节中间解密
K3第 16–23 字节最外层加密

麻烦在于,不同资料的公式写法不完全一样:有的把最外层写成 K3,有的按 K1 开始编号;还有的把密钥串描述成“从后往前”使用。公式里的 K1、K2、K3 是逻辑角色,不是字节位置。只照公式下标去切密钥,很容易把第一段当成最外层,于是得到 E_K1(D_K2(E_K3(P))),正好和 OpenSSL 相反。

为什么两种顺序都能自解密

假设你的实现把第一段记作 A、第二段记作 B、第三段记作 C。如果加密按 A → B → C 执行,解密就必须按 C → B → A 逆序执行,才能还原。你自己写的加密和解密天然满足这个关系,所以自测一定通过。

但对端如果按 C → B → A 加密,它的密文需要按 A → B → C 解密。你仍然拿 C → B → A 去解,方向正好错开,结果就是乱码或填充校验失败。两边都没有写错 DES,只是对“第一段密钥是谁”这件事理解相反。

这也是为什么“换一组密钥又能解开”会误导人:某些密钥段碰巧相等,或者数据很短、填充刚好合法,都会让错误看起来时有时无。不要用这种偶然现象判断顺序。

修复:把密钥切分固定下来

修复通常不需要重写 DES 轮函数,只需要在密钥进入算法前,把三段切分和调用顺序固定下来,并把这个约定写进接口文档。下面是调用顺序示意,desEncryptBlock 和 desDecryptBlock 代表单块 DES 操作。

function splitTripleDesKey(key: Uint8Array) {
  if (key.length !== 16 && key.length !== 24) {
    throw new Error('3DES 密钥必须是 16 或 24 字节')
  }

  const k1 = key.subarray(0, 8)
  const k2 = key.subarray(8, 16)
  // 双密钥 3DES 约定 K3 = K1,不是补 8 个 0
  const k3 = key.length === 24 ? key.subarray(16, 24) : k1
  return { k1, k2, k3 }
}

function encryptBlock(block: Uint8Array, key: Uint8Array) {
  const { k1, k2, k3 } = splitTripleDesKey(key)
  const first = desEncryptBlock(block, k1)
  const second = desDecryptBlock(first, k2)
  return desEncryptBlock(second, k3)
}

function decryptBlock(block: Uint8Array, key: Uint8Array) {
  const { k1, k2, k3 } = splitTripleDesKey(key)
  const first = desDecryptBlock(block, k3)
  const second = desEncryptBlock(first, k2)
  return desDecryptBlock(second, k1)
}

重点在调用顺序:加密是 k1 → k2 → k3,解密是 k3 → k2 → k1。把这段顺序和密钥切分固定在一个地方,业务代码只传整把密钥,能减少“某处又手动切了一次”的机会。

还有一个容易忽略的点:不要在生产代码里同时尝试两种顺序,再根据“哪种能解出合法填充”来选择。PKCS#7 填充校验只检查最后几个字节,错误密钥碰巧生成合法填充的概率并非为零,大体在 1/256 量级;更糟的是,把填充是否合法暴露给调用方,会形成填充预言。密钥顺序应该在部署前用测试向量确定,而不是在运行时猜。

验证:OpenSSL、Node 和前端三方对拍

验证分三步:先用 OpenSSL 得到基准密文,再用另一种独立实现复算,最后用实际前端代码或工具页复算。三步都一致,才算密钥顺序对齐。

第一步,确认 OpenSSL 能解回原文:

printf '\x37\x2c\x1d\x08\xa4\xf0\x57\xba' \
  | openssl enc -d -des-ede3-ecb \
      -K 0123456789abcdeffedcba98765432100011223344556677 \
      -nopad \
  | xxd -p

输出应为:

0123456789abcdef

第二步,用前端实现加密同一组值。门户里的 tripleDesEncrypt 接收字节数组,密钥按十六进制解析,关闭填充:

import { hexToBytes } from '~/utils/crypto-padding'
import { tripleDesEncrypt } from '~/utils/des'

const key = hexToBytes('0123456789abcdeffedcba98765432100011223344556677')
const plain = hexToBytes('0123456789abcdef')
const cipher = tripleDesEncrypt(plain, key, { mode: 'ECB', padding: false })

const hex = [...cipher]
  .map(byte => byte.toString(16).padStart(2, '0'))
  .join('')

console.log(hex) // 期望 372c1d08a4f057ba

第三步,把同一组值贴进页面工具。选择 3DES、ECB,输入格式切到十六进制,关闭填充,密钥填 24 字节,明文填 0123456789abcdef,输出选十六进制。期望结果与上面一致。

检查项期望结果实际结果
OpenSSL 加密372c1d08a4f057ba一致
Node.js 加密372c1d08a4f057ba一致
前端 tripleDesEncrypt372c1d08a4f057ba一致
OpenSSL 解密回原文0123456789abcdef一致
首尾密钥交换后加密c65ef4ea3e9ee824确认顺序敏感

如果前端结果不是 372c...,先检查三件事:密钥是否按十六进制解析成了 24 字节、填充是否关闭、明文是否按十六进制解析成了 8 字节。任何一项不匹配,都会让结果看起来像“算法不一样”。

边界与坑

16 字节密钥不是“少一段”。 双密钥 3DES 约定 K3 = K1,安全性大约 112 位,比单 DES 强,但弱于三密钥。把 16 字节密钥补 8 个零当成 K3,会得到完全不同的结果,也不会被 OpenSSL 的 des-ede3 接受。

CBC 还要多一个 IV。 ECB 下相同明文块产生相同密文块,能看出数据规律;CBC 用前一块密文参与异或,需要 8 字节 IV。IV 错只会影响第一个明文块,后面的块可能仍然正常,这种“只坏开头”的现象容易被误判成数据截断。

填充会让密文多一块。 PKCS#7 在数据正好是 8 字节整数倍时也会补一整块 08,所以开启填充后,8 字节明文会得到 16 字节密文。做测试向量时关掉填充,或者把期望密文写成两段,不要拿 8 字节的期望值去比对 16 字节的输出。

OpenSSL 3 的单 DES 需要 legacy provider。 3DES 的 des-ede3-ecb 在默认 provider 里可用;单 DES 的 des-ecb 在 OpenSSL 3 默认配置下会报 unsupported。如果确实要验证单 DES,可以显式加载:

printf '\x01\x23\x45\x67\x89\xab\xcd\xef' \
  | openssl enc -des-ecb \
      -provider legacy -provider default \
      -K 0123456789abcdef \
      -nopad \
  | xxd -p

输出是 56cc09e7cfdc4cef。这也说明“OpenSSL 能跑 3DES”不代表“OpenSSL 默认还能跑单 DES”,两者在 OpenSSL 3 里的 provider 状态不同。

DES 的奇偶校验位不参与运算。 每字节最低位是奇偶校验位,DES 的密钥调度会把它丢掉。两把只在奇偶位上不同的密钥,加密结果完全一样。看到两串密钥“看起来不同”但对拍一致时,先确认是不是这个原因。

3DES 已经不适合新系统。 它只有 56 位有效密钥强度(三密钥约 112 位),分组只有 64 位,现代硬件下已经不够。NIST 也不再批准它用于新的加密场景。这里讨论它,是因为旧硬件、旧协议和存量系统还在用;新系统应该直接用 AES-GCM 这类带认证的算法。

相关工具

把上面的固定向量贴进 3DES 加解密工具,可以快速确认一段密文在 ECB 下是否按预期生成;排查时先关掉填充,避免多出一整块。

如果还需要对照 HMAC、SM4 或哈希结果,可以在 加密工具 里换算法复算。更多对接和排错记录放在 技术笔记。

FAQ

3DES 的密钥为什么可以是 16 字节,也可以是 24 字节?

24 字节是三密钥 3DES,三段各不相同,安全性最高。16 字节是双密钥 3DES,约定第三段复用第一段,即 K3 = K1。两种长度的分组和轮函数完全一样,只是密钥段的数量不同。

为什么我的 3DES 自己能解密,对方却解不开?

因为你的加密和解密使用了同一套密钥顺序,二者互逆;对方的加密也和对端的解密互逆。两套顺序相反时,各自都能闭环,但交叉不能还原。先拿固定测试向量对拍,不要靠“能解密”判断。

OpenSSL 3 还能用单 DES 吗?

默认 provider 下不行,des-ecb 会报 unsupported。需要显式加载 legacy provider。3DES 的 des-ede3-ecb 仍然在默认 provider 里可用,但同样只建议用于兼容旧系统。

新系统还能不能用 3DES?

不建议。3DES 分组小、有效密钥短,已经不符合新系统的安全要求。如果只是对接无法修改的旧设备,至少把密钥顺序、IV 和填充写成测试向量,并把 3DES 限制在必要的链路里;新链路直接用 AES-GCM。

对接旧系统时,最省时间的做法不是反复改代码,而是先拿一段固定明文和对接方跑出基准密文,再把同一组值贴进工具页复算。三方一致之后,再动业务代码。

评论

登录后即可参与评论

还没有评论,来说两句吧

相关文章