Hugging Face Blog·· 8 天前精选AI 评分62
Multiverse 提出将 LLM 块剪枝转化为伊辛优化问题，深度压缩下 MMLU 提升近 23 个百分点
Pruning LLMs Like a Physicist: Block Removal as an Ising Optimization Problem
AI 导读
Multiverse Computing 发表论文，将大语言模型的块删除（深度剪枝）重构为约束二元优化问题，映射到伊辛玻璃自旋系统，用能量作为下游性能的廉价代理，从而无需逐一基准测试即可筛选大量候选配置。
推荐理由
把剪枝块选择映射为伊辛玻璃能量最小化，用物理求解器处理组合问题，在深度压缩下显著领先现有方法。
来源：Hugging Face Blog · huggingface.co