绕过推理瓶颈:Google 用 Retrieve-for-Train 加速复杂 AI 搜索
Google 在 ICML 2026 论文中提出 Retrieve-for-Train 框架,用离线强化学习将属性对齐的查询扇出编译为监督信号,并蒸馏进 53.9M 参数的扩散检索器,实现单次非自回归推理,无需测试时思维 token。该方法在 Gemma3-4B 和 Qwen3-4B 上微调,解决零样本 LLM 的释义坍缩与自回归延迟瓶颈。
Google 在 ICML 2026 论文中提出 Retrieve-for-Train 框架,用离线强化学习将属性对齐的查询扇出编译为监督信号,并蒸馏进 53.9M 参数的扩散检索器,实现单次非自回归推理,无需测试时思维 token。该方法在 Gemma3-4B 和 Qwen3-4B 上微调,解决零样本 LLM 的释义坍缩与自回归延迟瓶颈。
Mistral 发布 Agentic Search,一个多步骤检索层,让模型能搜索、导航、读取并验证复杂文档中的信息。在 FinanceBench 上,准确率从 26.7% 提升至 86%,OfficeQA Pro 上提升 45.6 个百分点;p90 延迟降低最多 39.6%,token 消耗减少三分之一。
推荐理由:官方给出了基准测试的准确率、延迟和 token 消耗数据,读者可据此判断 Agentic Search 相比传统 RAG 的实际收益。