原始来源日期:2026-10-01。

原文编译

检索式推测解码先从已有文本复制可能的后续token,再由目标模型并行验证。编码Agent拥有大量高度重复材料,但现有检索器往往没有索引完整会话,或存储格式与模型实际输出不一致,导致草稿命中率下降。

AgSpec建立会话、工作区和全局三层语料:保留正在进行的Agent轨迹,把已经打开的文件转换为模型发射时的格式,并允许跨任务复用公共片段。这样检索到的连续文本更接近目标模型真正会生成的序列。

草稿长度不是固定值。系统先离线分析每类Agent可接受长度上限,再根据目标模型的验证反馈在线调整,避免草稿过短浪费机会或过长造成大量拒绝和验证开销。

作者在两个仓库级多Agent编码基准上与五种检索式草稿器及EAGLE-3比较,报告相对自回归解码的最高吞吐提升为批量1时4.37倍、批量16时4.76倍;无仓库或非多Agent基准上也保持效果。

这些数字是论文在特定模型、硬件和基准上的最高结果,不代表所有编码任务都能获得同等端到端加速。工具执行、测试和网络等待可能占Agent总时延的大部分,token吞吐提升不会一比一转化为任务完成时间。

量仔观察

本站认为AgSpec抓住了Agent系统的独特资产:轨迹和工作区本身就是可复用语料。生产实现要重点防止跨租户检索泄漏,确保全局语料不混入私有代码、凭据或失败日志。

评估时应同时报告接受率、首token时延、任务总耗时与答案质量,并测代码变更后索引失效。只有在正确性不变、隔离边界清楚的前提下,吞吐增益才具备工程价值。