自适应并行推理：高效推理扩展的下一个范式

Berkeley AI Research 发布综述，系统梳理自适应并行推理（APR）范式：让模型自行决定何时并行、开多少线程及如何协调，以缓解顺序推理在上下文长度、延迟和计算上的瓶颈。文章对比了 Multiverse、ThreadWeaver、Parallel-R1、NPR 等方法在推理引擎改造、训练奖励设计上的差异，并指出并行化是否在测试时稳定提升准确率仍是开放问题。