原始来源日期:2026年10月5日。本文依据最近72小时内发布的一手资料编译。

原文编译

Agent服务的调度信息被分割在两层:编排器知道工作流依赖、哪些上下文会复用、哪个角色更重视延迟;推理引擎知道请求队列、KV缓存位置、显存压力和可用执行模式。现有接口只传普通推理请求,两边都无法利用对方信息做全局决策。

HEAR定义Harness—Engine双向配对协议。编排器向引擎表达工作流意图和执行要求,引擎返回运行时状态、能力与结果。协议把语义与具体优化策略分离,同一消息可以支持缓存感知调度、角色选择执行模式或其他策略,而不修改模型和工作流语义。

作者实现在线缓存感知协调与按Agent角色选择执行模式。在内存受限、并发服务的四个对话/研究Agent基准上,论文报告SCBench批处理加速1.61倍、中位首token时间降低2.23倍;BrowseComp-Plus和DeepResearchBench端到端分别加速1.23与2.45倍,未观察到任务质量下降。

这些倍数来自论文指定硬件、并发、模型和Mooncake等运行时,不能视为所有Agent平台承诺。暴露运行时状态还会带来接口稳定性、租户隔离和调度信息泄露问题。策略若错误估计角色负载,也可能牺牲尾延迟或公平性。

量仔观察

本站认为,HEAR反映Agent基础设施从“逐请求推理”走向“工作流感知服务”。工程上可以先定义最小意图集合,如依赖、缓存寿命、deadline和质量等级,再观察是否足以改善调度,避免把编排内部全部耦合给引擎。

复现时应同时报告吞吐、P50/P99延迟、显存、缓存命中、任务质量和多租户公平性。若只展示平均加速,可能把等待转移给低优先级角色。协议价值取决于跨引擎互操作和稳定语义。