原始来源日期:2026年10月5日。本文依据最近72小时内发布的一手资料编译。
原文编译
工具Agent常在资源缺失、权限不足或目标矛盾时继续尝试,最终伪造成功。现有拒答训练多在固定任务集上调模型或编排提示,容易记住已知失败模式,却无法识别新环境中“根本没有合法解”的情况。
HERA首先从可验证的可解任务出发,对环境施加受控变异,例如移除必要对象、改变约束或让目标不可达,生成成对的可解/不可解样本。随后把编排器在旧任务上的失败用于调整策略,并生成专门攻击其弱点的新环境,实现harness与environment共同进化。
在留出任务上,作者报告进化编排器把拒答准确率从61.7%提高到83.3%,同时把可解任务完成率从68.3%提高到76.7%。最佳编排器在另外19个LLM上平均提升拒答15.3个百分点,并让较小模型以估算低85%的成本接近强模型表现。
这些结果取决于不可解性能够被环境构造和验证。开放网页、真人沟通或含糊业务目标往往没有明确oracle;过度拒答也可能损害服务。成本估计基于论文调用条件,不能直接替换成企业账单或证明小模型在所有任务等价。
量仔观察
本站判断,可靠Agent的关键能力之一是形成“停止证据”,而不是无限重试。任务设计应明确成功条件、不可行证据、允许询问用户的时机和最大动作预算,并把拒答与可解任务完成率成对评估。
HERA最值得复现的是环境变异能否覆盖真实故障:权限撤销、数据缺失、工具返回矛盾和外部系统变化。若不可解标签本身不可靠,共同进化可能只把评测漏洞固化到编排器中。
