2026-11-09,美国国家标准与技术研究院发布NIST SP 2400-102e2026《对抗机器学习:攻击与缓解的分类法和术语》初始公开草案。文件延续历史上的NIST AI 100-2系列,公开意见期从2026-11-09持续到2026-12-18,意见可提交至SP-2400-102@nist.gov。

草案覆盖预测式机器学习、生成式系统和智能体系统三个层次,按学习阶段、攻击目标、攻击者能力和知识等维度组织术语。NIST说明,这套分类与术语旨在为后续标准和实践指南建立共同语言;它本身是自愿使用的初稿,不具法律效力,也不是产品安全认证或已验证的防御基准。

本版最明显的增量是智能体系统章节及其索引。文件列出智能体劫持NISTAML.061、记忆投毒NISTAML.062、恶意工具NISTAML.063、恶意技能NISTAML.064、恶意智能体NISTAML.065、资源耗尽NISTAML.066和任务分解攻击NISTAML.067,并把这些事件映射到可用性、完整性、隐私、滥用与供应链目标。

分类法强调,智能体接收网页、文件、RAG知识库和长期记忆等不可信数据,还会调用具有自身权限的工具或与其他智能体交换消息。因此,攻击影响不再止于生成有害文本,还可能改变计划、触发动作、形成循环、泄露工作状态或跨多个代理传播。文件同时讨论分层隔离、最小权限、内容与工具验证等缓解方向,但没有给出单一措施可以消除风险的保证。

NIST特别征求三方面反馈:当前智能体系统还面临哪些新攻击、哪些缓解措施有效,以及哪些新术语需要标准化。这也意味着现有编号和分类仍可能根据意见调整。团队若把这些标识用于风险登记、测试用例或采购条款,应记录所依据的草案版本,避免将初稿编号当成不会变化的最终标准。

量仔观察

对Agent、MCP、RAG和多智能体平台研发者而言,这份草案最实用的价值是提供跨团队可引用的风险词汇,而不是替代威胁建模。现在可把NISTAML编号映射到资产、权限、数据源和测试用例,并核查工具描述、长期记忆和外部内容是否进入可信边界。下一观察点是2026-12-18意见截止后,NIST如何处理术语争议、缓解证据强度和智能体特有攻击的边界。