原始来源日期:2026年9月23日,本文为安全研究回顾。国家互联网应急中心公布AI安全众测结果,活动覆盖25家厂商54款产品,收集873处漏洞,其中608处归为AI特有问题,265处为传统安全问题。

公开分析讨论直接与间接提示注入、数据泄露、输出执行风险,以及Agent身份委托、目标劫持和工具返回内容。它同时指出传统权限或接口问题仍会出现在AI产品中,不能因为采用模型就忽略既有安全工程。

上述比例对应参与活动的样本与分类口径,不代表整个市场的漏洞分布。报告呈现的是被发现的问题类型,也不能据此推断所有产品在同一条件下可被利用;具体影响仍需结合权限、输入来源与执行路径判断。

量仔观察

本站认为,Agent系统需要把“信息可信”和“允许行动”分开。工具返回的数据可以含有准确事实,也可以夹带改变任务的指令;即使请求来自已认证用户,模型读取的外部资料仍不应自动取得用户的行动权限。密码认证能证明某些消息来源,却不能替代对工具调用意图与参数的检查。

研发验证可以围绕一条具体链路展开:用户授权了什么任务,Agent读了哪些外部内容,最终调用了哪个工具,以及参数是否仍在原授权范围内。针对间接提示注入,测试应包括文档、网页和工具结果等多个入口,而不是只拦截用户对话中的可疑关键词。失败时应能定位是哪一层把数据错误升级成指令。

传统缺陷也要用同一条执行链审查。暴露的管理接口、过宽服务凭据或隔离不足,会使模型层防护失去意义。本站更关注最小权限、工具级审核与操作日志是否共同证明边界成立;众测结果的价值,是推动团队从模型回答是否合规,转向整个产品怎样接收输入并执行动作,而不是用活动中的比例给所有AI系统贴同样风险标签。