原始来源日期:2026-10-01。本文为研发价值回顾,不代表该资料于今日首次发布。

原文编译

工具型Agent会把生成文本转成真实副作用,而污染的工具说明、检索页面、记忆或技能都能影响下一次调用。作者认为仅在材料进入系统时做一次审核不足,因为安全版本和泄露版本可能呈现相同准入证据。

PACE把控制放在最后执行边界:每次工具调用真正发生前,系统追踪影响路径,提出需要切断的来源路径,并把调用的模式化副作用与从已认证用户请求编译出的权限比较。

设计区分“经过认证的执行契约”和实验配置。后者可以在建议阻断后恢复明确授权的调用,或应用声明过的修复;最终执行仍必须保持来源切断和权限约束。

在八个可执行Agent安全基准、三类目标模型上,实验配置在79个可比较攻击列中62列取得严格最低攻击成功率,另有14列并列。全基准正常效用相对无防御Agent最多下降3点。

消融覆盖1167组成对,作者把主要安全收益归因于副作用验证,把拒绝控制改善归因于边界适配。缩小规模的自适应搜索对30个越权目标为0次成功,但样本规模与基准环境仍限制外推。

量仔观察

本站判断,PACE的方向比“再加一段安全提示词”更可靠:权限应从已认证请求编译,检索内容和技能不能扩张它。

落地难点在工具副作用建模。团队应先为删除、发送、购买、权限修改等高风险工具定义精确schema,再逐步覆盖间接副作用与组合调用。