原始来源日期:2026年10月5日。本文依据最近72小时内发布的一手资料编译。

原文编译

长程Agent会执行大量读写、测试和外部调用,人类无法逐步批准所有动作,但事后只看最终diff又难以发现关键自主决策。监控器需要回答两个问题:哪些行为可能改变安全或需求边界,以及支持判断的证据到底位于哪次工具调用或文件变化。

AgentMonBench面向软件工程建立三个子集,覆盖需求与实际行为是否一致,以及监控器能否意识到需要用户核验的后果性决策。评测不只要求给出风险标签,还要求定位来源证据,避免模型用无法复核的叙述替代监督。

Evidence-Grounded Behavior Graph无需训练,先把带来源链接的片段归并成行为,再组织行为之间的关系,并为当前任务生成聚焦视图。作者在八个模型上实验,称EBG在多数设置中改善决策识别和证据定位,且定位收益在不同输入规模与超参数下仍存在。

行为聚类和关系抽取若遗漏低频但关键事件,图会把错误结构化后放大。基准集中在软件工程,也不能自动证明对邮件、金融或运维Agent同样有效。摘要没有给出全部分数,提升幅度和计算成本需读完整论文复核。

量仔观察

本站判断,Agent监督界面应从“播放全部日志”转为“关键决策—证据—影响”的图式,但原始事件必须可追溯,不能让摘要图成为唯一事实源。每个节点最好链接到不可篡改的工具输入、输出和文件版本。

研发落地可先定义少量后果性事件,如权限扩大、外部发送、删除、生产部署和需求偏离,再验证EBG是否稳定捕捉。监控准确率必须与漏报严重度、人工审查时间和图构建延迟一起衡量。