牛马论坛查看原帖 →

压缩的尽头是自指?从 LZMA2、PAQ8PX 到 zstd/ZIP/RAR Quine,我折腾了一遍“自包含压缩包”

呉乐天🏸 47 阅读 9 回复
最近把之前关于压缩的各种折腾整理成了一篇长文,发在博客上,想搬来论坛和大家聊聊。
一开始只是想给博客离线包找更强的压缩算法:7-Zip 的 LZMA2 已经很能打,但我不信邪,又试了 ZPAQ 、PAQ8PX 、NNCP 、cmix 。结果挺有意思:
[list]
[*][b]ZPAQ[/b]:一分钟左右把 16MiB 压到约 3.5MiB ,老算法但速度和压缩比还挺平衡;
[*][b]PAQ8PX[/b]:压到约 3.1MiB ,本次冠军,但花了一个半小时、吃了 30GiB 内存,解压同样痛苦;
[*][b]NNCP[/b]:FFmpeg 作者 Fabrice Bellard 的 Transformer 压缩算法,RTX 4090 上跑了一个半小时,结果 4.1MiB ,还没 LZMA2 高;
[*][b]cmix[/b]:测试时压到一半崩溃,内存和耗时也很夸张。
[/list]结论大概是:[b]追求极限压缩比,PAQ8PX 很强;日常使用,LZMA2 的 7-Zip 依然是最稳的选择;想在小文件上再挤一点,ZPAQ 可以试试。[/b]
更有意思的是后半篇:继续折腾“自包含压缩包 / Quine 压缩包”——也就是压缩包里包含一份和自身字节完全相同的副本。之前做过 7z Quine ,这次又让 AI 研究了:
[list]
[*][b]zstd Quine[/b]:利用可跳过帧、RAW block 和 XXH64 校验值构造,最终做成 .tar.zst,Windows 资源管理器也能直接打开;文章里附了完整生成代码;
[*][b]ZIP Quine[/b]:利用成员数据重叠绕过窗口限制,7-Zip 和 libarchive 能正常解压,但 Python zipfile 会因为检查压缩数据越过后续局部头而报错,算是一点兼容性代价;文章里也附了生成器;
[*][b]RAR Quine[/b]:原理上也能做,AI 也生成出来了,但因为 RAR 不是开源软件,文章里只放了生成后的样例供研究。
[/list]文章里还有一段让我挺感慨的:这些代码我基本看不懂,但 AI 就是能把问题解决。复杂格式、校验值构造、兼容性坑,全都硬啃下来了。于是最后也忍不住写了点关于 AI 和“记录还有没有意义”的感想。
原文在这里:[b]《关于压缩的各种探索》[/b]
感兴趣的朋友可以聊聊:
[list=1]
[*]你用过最离谱但确实有效的压缩算法是什么?
[*]极限压缩比和可用性之间,你会怎么选?
[*]对这种“压缩包包含自身”的 Quine 玩法,有没有其他格式可以继续挑战?
[*]AI 生成这种复杂但能跑的代码,你觉得是解放生产力,还是让人越来越看不懂基础设施?
[/list]欢迎拍砖、补充算法和格式,也欢迎试试文中的 zstd/ZIP 生成器~


⚠️内容来自互联网,如有侵权请点击反馈!侵权投诉
我是觉得图片视频等大文件压不动,小的文本文件本来就没多少,所以你这个命题有点无聊
@whileFalse 😓所以你觉得压缩没意义?
PAQ8PX这内存吃得太离谱了,30G压16M,日常谁敢用。倒是NNCP在4090上都干不过LZMA2有点意外,是不是小文件上Transformer反而吃亏?另外自包含压缩包这块,你说里面嵌一份和自身相同的副本,那解压时岂不是会递归套娃,这玩意儿有理论上的边界吗,还是纯粹玩个Quine花活?
[这只是一个小尾巴]
“把压缩包又用 7-Zip 额外压缩了一遍”……感觉应该直接压缩原始文件,再比较差异,会比较客观
@moonlord 我的博客压缩包构造是不压缩的,相当于 tar 那样,因为这几个压缩程序不是所有都有构造归档的功能,所以没办法压缩整个文件夹
把香农的信息论拿出来,压缩是有极限的。
要不要搞精神,灵魂压缩?最近赛博朋克 边缘行者 2 ,可下载了
@archxm 😂LLM 不就是灵魂压缩
PAQ8PX 那一小时半加 30G 内存实在太劝退了,压博客包完全不值,日常 LZMA2 确实够用。倒是后半段 7z Quine 怎么做到自包含的,很想听你细讲
[论坛助手]

阅读全文与全部回复 →