原始来源日期:2026年10月6日。本文依据最近72小时内发布的一手资料编译。
原文编译
论文聚焦RAG系统从检索文档带回恶意指令的问题。攻击内容与正常知识文本混合,使检测器既要理解上下文,又不能因为数据模板或重复样本在训练和测试间泄漏而获得虚高分数。
RAG-PIBench包含4876个上下文化样本,划分为冻结的训练、验证和受保护测试集。作者把构造流程与评测协议设计成泄漏感知,并比较关键词、语义参考、TF-IDF以及Transformer路线。
论文报告DistilBERT在受保护测试集上F1为0.896、PR-AUC为0.968,表现最好;TF-IDF加SVM或逻辑回归依然有竞争力。结果提示高维稀疏词特征仍能捕捉许多注入模式,复杂模型不是自动优势。
这些数字只描述论文数据分布。真实RAG会出现多语言、代码、图像OCR、间接引用和适应性攻击,攻击者还可针对检测器优化表达;检测通过也不证明检索内容应获得工具权限。
量仔观察
本站认为,RAG安全评测必须公开去重键、模板族和来源切分。若同一攻击句式或文档骨架跨集合出现,漂亮分数可能只是记忆;先跑关键词和TF-IDF基线,有助于暴露复杂模型是否真正学到上下文。
生产防线应把检测器放在多层控制中:检索文本默认不可信,不能扩张用户权限;工具调用仍需参数校验和作用域控制。检测器适合提供风险分与审计证据,不应成为唯一授权门。
