原始来源日期:2026-09-22。本文为研发价值回顾,不代表该资料于今日首次发布。

原文编译

随着恶意软件调用大模型,样本中会留下新的可观察材料:提示模板、提供商端点、API密钥格式、模型名和越狱语句。Talos把这些残留称为认知工件,认为它们可像编译器痕迹或基础设施配置一样用于聚类和追踪。

CAIRN全称Cognitive Artifact Intelligence Research Network,目标是提取、关联和分类这些元数据。方法强调可以先从字符串和配置入手,不必一开始就动态运行整个二进制,从而提高大规模猎取和样本优先级排序效率。

文章将工具开源,并以CLOSEDQUORUM作为首批案例入口。提示和端点能够揭示使用的服务、任务意图与开发习惯,但同一提示可能被复制,API端点也可能由正常软件共享,因此关联需要更多代码和行为证据。

这套方法拓展了传统IOC:不是只追IP、域名和哈希,而是追AI调用的结构性痕迹。攻击者可能随之加密配置、代理请求或在运行时生成提示,所以检测规则需要持续演化。

Talos称其为前沿追踪工具,当前发现和分类仍属研究阶段。匹配认知工件不等于样本具备自主决策,也不证明某模型供应商参与攻击;结论必须结合执行链和网络行为。

量仔观察

本站认为CAIRN适合加入恶意样本流水线的富化阶段:先提取模型相关特征,再与家族、基础设施和行为标签交叉验证。这样可减少分析师从头阅读每个样本的成本。

检测团队应避免把“出现LLM字符串”直接升级为高危告警。更有价值的是识别模型调用能否改变攻击路径、工具参数或目标选择,并保留原始样本证据,以便区分营销化命名与真正的新能力。