3DES 加密结果和 OpenSSL 不一致?密钥顺序与兼容性验证
同样一段明文、同一个 24 字节密钥,自己写的 3DES 得到 372c1d08a4f057ba,OpenSSL 却给出另一个值;把密钥的三段顺序换一下,两边又对上了。问题通常不在 S 盒、填充或编码,而在 EDE 的三段密钥谁先谁后。下面用 OpenSSL 3.2.4 和 Node.js 24 复现,并给出前端实现和工具页的对拍方法。
先给结论
3DES 的密钥不是一整块,而是三段独立的 8 字节密钥。主流实现按密钥串的字节位置使用:前 8 字节做第一次加密,中间 8 字节做中间解密,最后 8 字节做最后一次加密。公式和密钥串的对应关系很容易看反;看反之后,自己的加密和解密仍然互逆,所以自测能过,但和对端一定对不上。
对接时不要靠“试到能解密”来确定顺序。固定一段明文、一把密钥和一个期望密文,写进测试用例,让双方都按这组值验收。
现象:自己能解开,对方解不开
这类问题通常有几个很像是“编码问题”的表现:
| 现象 | 常见误判 |
|---|---|
| 自己加密、自己解密完全正常 | 以为算法和填充都写对了 |
| 对方解密得到乱码,或报填充错误 | 以为 Base64、十六进制或字符集不对 |
| 同一段明文在 ECB 下每次密文都一样 | 以为是缓存或随机数问题 |
| 换一组密钥又能解开 | 以为是某把密钥“有问题” |
| 把密文转成 Base64 再传一遍,仍然失败 | 没有意识到失败发生在解密后的第一个分组 |
“自己能解开”只能证明加密和解密用的是同一套密钥解释方式,不能证明这套方式和对端一致。两套相反的密钥顺序,各自都能形成一个完整的闭环,但两个闭环不能交叉。
最小复现:固定输入跑出两个密文
先固定所有变量:明文、密钥、模式、填充都写死,避免把编码或填充的差异混进来。
| 参数 | 值 |
|---|---|
| 明文 | 0123456789abcdef(8 字节,正好一个分组) |
| 密钥 | 0123456789abcdeffedcba98765432100011223344556677(24 字节) |
| 模式 | ECB |
| 填充 | 关闭(-nopad),避免多出整块填充 |
| 期望密文 | 372c1d08a4f057ba |
用 OpenSSL 跑一次:
printf '\x01\x23\x45\x67\x89\xab\xcd\xef' \
| openssl enc -des-ede3-ecb \
-K 0123456789abcdeffedcba98765432100011223344556677 \
-nopad \
| xxd -p
输出:
372c1d08a4f057ba
再用 Node.js 的 crypto 跑同一组值:
const crypto = require('node:crypto')
const key = Buffer.from(
'0123456789abcdeffedcba98765432100011223344556677',
'hex'
)
const plain = Buffer.from('0123456789abcdef', 'hex')
const cipher = crypto.createCipheriv('des-ede3-ecb', key, null)
cipher.setAutoPadding(false)
const out = Buffer.concat([cipher.update(plain), cipher.final()])
console.log(out.toString('hex'))
两次都得到 372c1d08a4f057ba。现在只交换密钥的第一段和第三段,中间一段不动:
printf '\x01\x23\x45\x67\x89\xab\xcd\xef' \
| openssl enc -des-ede3-ecb \
-K 0011223344556677fedcba98765432100123456789abcdef \
-nopad \
| xxd -p
输出变成:
c65ef4ea3e9ee824
同一个算法、同一段明文、同一个中间密钥,只改了首尾两段的顺序,密文就完全不同。这说明问题不在算法实现,而在密钥进入算法时的排布。
根因:EDE 的三段密钥谁在最里层
3DES 又叫 DES-EDE,三个字母分别代表加密、解密、加密。用 E 表示 DES 加密,D 表示 DES 解密,三段密钥记作 K1、K2、K3,加密过程是:
C = E_K3( D_K2( E_K1(P) ) )
从里往外读:先用 K1 加密,再用 K2 解密,最后用 K3 加密。密钥串按字节切成三段时,通常就是:
| 密钥段 | 字节范围 | 在加密中的角色 |
|---|---|---|
K1 | 第 0–7 字节 | 最内层加密 |
K2 | 第 8–15 字节 | 中间解密 |
K3 | 第 16–23 字节 | 最外层加密 |
麻烦在于,不同资料的公式写法不完全一样:有的把最外层写成 K3,有的按 K1 开始编号;还有的把密钥串描述成“从后往前”使用。公式里的 K1、K2、K3 是逻辑角色,不是字节位置。只照公式下标去切密钥,很容易把第一段当成最外层,于是得到 E_K1(D_K2(E_K3(P))),正好和 OpenSSL 相反。
为什么两种顺序都能自解密
假设你的实现把第一段记作 A、第二段记作 B、第三段记作 C。如果加密按 A → B → C 执行,解密就必须按 C → B → A 逆序执行,才能还原。你自己写的加密和解密天然满足这个关系,所以自测一定通过。
但对端如果按 C → B → A 加密,它的密文需要按 A → B → C 解密。你仍然拿 C → B → A 去解,方向正好错开,结果就是乱码或填充校验失败。两边都没有写错 DES,只是对“第一段密钥是谁”这件事理解相反。
这也是为什么“换一组密钥又能解开”会误导人:某些密钥段碰巧相等,或者数据很短、填充刚好合法,都会让错误看起来时有时无。不要用这种偶然现象判断顺序。
修复:把密钥切分固定下来
修复通常不需要重写 DES 轮函数,只需要在密钥进入算法前,把三段切分和调用顺序固定下来,并把这个约定写进接口文档。下面是调用顺序示意,desEncryptBlock 和 desDecryptBlock 代表单块 DES 操作。
function splitTripleDesKey(key: Uint8Array) {
if (key.length !== 16 && key.length !== 24) {
throw new Error('3DES 密钥必须是 16 或 24 字节')
}
const k1 = key.subarray(0, 8)
const k2 = key.subarray(8, 16)
// 双密钥 3DES 约定 K3 = K1,不是补 8 个 0
const k3 = key.length === 24 ? key.subarray(16, 24) : k1
return { k1, k2, k3 }
}
function encryptBlock(block: Uint8Array, key: Uint8Array) {
const { k1, k2, k3 } = splitTripleDesKey(key)
const first = desEncryptBlock(block, k1)
const second = desDecryptBlock(first, k2)
return desEncryptBlock(second, k3)
}
function decryptBlock(block: Uint8Array, key: Uint8Array) {
const { k1, k2, k3 } = splitTripleDesKey(key)
const first = desDecryptBlock(block, k3)
const second = desEncryptBlock(first, k2)
return desDecryptBlock(second, k1)
}
重点在调用顺序:加密是 k1 → k2 → k3,解密是 k3 → k2 → k1。把这段顺序和密钥切分固定在一个地方,业务代码只传整把密钥,能减少“某处又手动切了一次”的机会。
还有一个容易忽略的点:不要在生产代码里同时尝试两种顺序,再根据“哪种能解出合法填充”来选择。PKCS#7 填充校验只检查最后几个字节,错误密钥碰巧生成合法填充的概率并非为零,大体在 1/256 量级;更糟的是,把填充是否合法暴露给调用方,会形成填充预言。密钥顺序应该在部署前用测试向量确定,而不是在运行时猜。
验证:OpenSSL、Node 和前端三方对拍
验证分三步:先用 OpenSSL 得到基准密文,再用另一种独立实现复算,最后用实际前端代码或工具页复算。三步都一致,才算密钥顺序对齐。
第一步,确认 OpenSSL 能解回原文:
printf '\x37\x2c\x1d\x08\xa4\xf0\x57\xba' \
| openssl enc -d -des-ede3-ecb \
-K 0123456789abcdeffedcba98765432100011223344556677 \
-nopad \
| xxd -p
输出应为:
0123456789abcdef
第二步,用前端实现加密同一组值。门户里的 tripleDesEncrypt 接收字节数组,密钥按十六进制解析,关闭填充:
import { hexToBytes } from '~/utils/crypto-padding'
import { tripleDesEncrypt } from '~/utils/des'
const key = hexToBytes('0123456789abcdeffedcba98765432100011223344556677')
const plain = hexToBytes('0123456789abcdef')
const cipher = tripleDesEncrypt(plain, key, { mode: 'ECB', padding: false })
const hex = [...cipher]
.map(byte => byte.toString(16).padStart(2, '0'))
.join('')
console.log(hex) // 期望 372c1d08a4f057ba
第三步,把同一组值贴进页面工具。选择 3DES、ECB,输入格式切到十六进制,关闭填充,密钥填 24 字节,明文填 0123456789abcdef,输出选十六进制。期望结果与上面一致。
| 检查项 | 期望结果 | 实际结果 |
|---|---|---|
| OpenSSL 加密 | 372c1d08a4f057ba | 一致 |
| Node.js 加密 | 372c1d08a4f057ba | 一致 |
前端 tripleDesEncrypt | 372c1d08a4f057ba | 一致 |
| OpenSSL 解密回原文 | 0123456789abcdef | 一致 |
| 首尾密钥交换后加密 | c65ef4ea3e9ee824 | 确认顺序敏感 |
如果前端结果不是 372c...,先检查三件事:密钥是否按十六进制解析成了 24 字节、填充是否关闭、明文是否按十六进制解析成了 8 字节。任何一项不匹配,都会让结果看起来像“算法不一样”。
边界与坑
16 字节密钥不是“少一段”。 双密钥 3DES 约定 K3 = K1,安全性大约 112 位,比单 DES 强,但弱于三密钥。把 16 字节密钥补 8 个零当成 K3,会得到完全不同的结果,也不会被 OpenSSL 的 des-ede3 接受。
CBC 还要多一个 IV。 ECB 下相同明文块产生相同密文块,能看出数据规律;CBC 用前一块密文参与异或,需要 8 字节 IV。IV 错只会影响第一个明文块,后面的块可能仍然正常,这种“只坏开头”的现象容易被误判成数据截断。
填充会让密文多一块。 PKCS#7 在数据正好是 8 字节整数倍时也会补一整块 08,所以开启填充后,8 字节明文会得到 16 字节密文。做测试向量时关掉填充,或者把期望密文写成两段,不要拿 8 字节的期望值去比对 16 字节的输出。
OpenSSL 3 的单 DES 需要 legacy provider。 3DES 的 des-ede3-ecb 在默认 provider 里可用;单 DES 的 des-ecb 在 OpenSSL 3 默认配置下会报 unsupported。如果确实要验证单 DES,可以显式加载:
printf '\x01\x23\x45\x67\x89\xab\xcd\xef' \
| openssl enc -des-ecb \
-provider legacy -provider default \
-K 0123456789abcdef \
-nopad \
| xxd -p
输出是 56cc09e7cfdc4cef。这也说明“OpenSSL 能跑 3DES”不代表“OpenSSL 默认还能跑单 DES”,两者在 OpenSSL 3 里的 provider 状态不同。
DES 的奇偶校验位不参与运算。 每字节最低位是奇偶校验位,DES 的密钥调度会把它丢掉。两把只在奇偶位上不同的密钥,加密结果完全一样。看到两串密钥“看起来不同”但对拍一致时,先确认是不是这个原因。
3DES 已经不适合新系统。 它只有 56 位有效密钥强度(三密钥约 112 位),分组只有 64 位,现代硬件下已经不够。NIST 也不再批准它用于新的加密场景。这里讨论它,是因为旧硬件、旧协议和存量系统还在用;新系统应该直接用 AES-GCM 这类带认证的算法。
相关工具
把上面的固定向量贴进 3DES 加解密工具,可以快速确认一段密文在 ECB 下是否按预期生成;排查时先关掉填充,避免多出一整块。
如果还需要对照 HMAC、SM4 或哈希结果,可以在 加密工具 里换算法复算。更多对接和排错记录放在 技术笔记。
FAQ
3DES 的密钥为什么可以是 16 字节,也可以是 24 字节?
24 字节是三密钥 3DES,三段各不相同,安全性最高。16 字节是双密钥 3DES,约定第三段复用第一段,即 K3 = K1。两种长度的分组和轮函数完全一样,只是密钥段的数量不同。
为什么我的 3DES 自己能解密,对方却解不开?
因为你的加密和解密使用了同一套密钥顺序,二者互逆;对方的加密也和对端的解密互逆。两套顺序相反时,各自都能闭环,但交叉不能还原。先拿固定测试向量对拍,不要靠“能解密”判断。
OpenSSL 3 还能用单 DES 吗?
默认 provider 下不行,des-ecb 会报 unsupported。需要显式加载 legacy provider。3DES 的 des-ede3-ecb 仍然在默认 provider 里可用,但同样只建议用于兼容旧系统。
新系统还能不能用 3DES?
不建议。3DES 分组小、有效密钥短,已经不符合新系统的安全要求。如果只是对接无法修改的旧设备,至少把密钥顺序、IV 和填充写成测试向量,并把 3DES 限制在必要的链路里;新链路直接用 AES-GCM。
对接旧系统时,最省时间的做法不是反复改代码,而是先拿一段固定明文和对接方跑出基准密文,再把同一组值贴进工具页复算。三方一致之后,再动业务代码。
评论
还没有评论,来说两句吧