原始来源日期:2026年10月6日。本文依据最近72小时内发布的一手资料编译。
原文编译
自改进Agent常把成功轨迹蒸馏为持久技能。传统攻击直接在经验或技能中植入恶意触发、行为或假事实,容易被内容扫描和单条轨迹验证发现;SkillPoison利用的却是技能提取过程如何从多个正确样本概括规则。
攻击先构造一组能强化目标行为的成功经历,再逐步移除限制该行为适用范围的上下文条件。每条经历本身仍然正确,危险来自提取器把“在条件C下有用”学成“通常都该这样做”。
作者强调没有向单条轨迹注入明显恶意内容。三项基准实验中,论文报告95.71%攻击成功率,所有注入经历都保持任务正确,并通过验证和词法检查;这是作者设定下的结果,不代表所有技能系统具有同一风险概率。
攻击面位于持久化层:一旦错误泛化进入共享技能,后续正常任务可能自动复用,并因过去成功记录获得更高信任。只审查最终技能文字仍可能看不出被删除的条件,因为缺失本身就是问题。
量仔观察
本站认为,技能提取应保存来源轨迹、适用前提和反例,而不是只保存简短做法。新技能在写入长期库前,应在分布外条件和禁止场景上回放,验证它不会扩大权限或删除安全约束。
企业Agent还需要把“经验正确”与“可泛化”分开审批。高风险技能应版本化、限定调用域并支持快速撤销;跨用户共享时尤其不能把某个用户授权过的动作抽象成全局默认。审核记录还应保留那些被概括过程删除的前提。
