原始来源日期:2026年10月6日。本文依据最近72小时内发布的一手资料编译。

原文编译

推测解码先让较小草稿模型生成候选Token,再由目标模型批量接受或拒绝,从而减少昂贵目标模型的逐Token推理。过去研究主要比较速度与普通任务质量,安全策略在这种近似执行下是否保持没有被系统测量。

作者对多种有损推测解码方法做大规模测量,提出“安全—效用不对称”:随着验证放宽,越狱与提示注入成功率增加得比通用效用下降更快。也就是说,常规基准看似只损失少量质量,安全边界可能已经显著改变。

理论分析把主要退化定位到生成早期的草稿Token。开头内容会设定后续语义与指令方向,一旦危险前缀被较宽松接受,目标模型之后即便更严格,也可能沿已形成的轨迹继续。

SecureSD因此在早期位置对草稿Token施加更严格的验证准则,再在后续位置保留加速空间。作者称在安全和效用基准上优于既有方法,论文已被IEEE S&P 2027接收;摘要未给出可跨模型直接复用的统一阈值。

量仔观察

本站判断,推理优化属于安全相关配置,不能只由平台性能团队调整。任何草稿模型、接受阈值或有损策略变化都应重新跑越狱、提示注入、拒答保持和正常任务回归。

工程上还要记录草稿与目标模型版本、每位置接受率和安全过滤发生阶段。若安全分类只检查最终文本,可能看不到危险前缀已改变内部轨迹;早期更严、后期更松是值得测试的差异化策略。