2026-11-05,独立评测机构 METR 发布对 Anthropic 2026年8月风险报告中“自动化研发风险”章节的审查。METR 获得了未公开版本和额外内部数据,并说明 Anthropic 对公开文本拥有删节权;关键删节及其对结论的影响在报告中单列。评估针对的是截至2026年7月15日的内部模型状态,不是对11月最新模型能力的直接测量。
Anthropic 的责任扩展政策把自动化关键领域研发分成两条触发线:模型能在成本不超过人类五倍的条件下完全替代研究科学家和工程师,或 AI 相关自动化使总体能力进步速度达到基线的两倍。METR 认为第一条尚未触发的论证总体可信,因为研究人员仍承担模型无法替代的工作;但它也提醒,公开基准正在饱和,工具、对齐或监督不足可能掩盖潜在能力。
争议集中在“2倍加速”阈值。METR 认为公开报告把低于2倍说得过于确定,而私有材料中的中心数值隐含约1.97倍;其自己的合理估计区间为1.3至2.8倍,方法不确定性很大。对于由 AI 造成的反事实加速,METR 与 Anthropic 相关人员多数仍倾向阈值未跨越,但都承认跨越是合理可能,公开报告没有充分呈现这种不确定性。
METR 还重新检查 Anthropic 的 AECI 能力趋势。按风险报告当时的数据,持续加速估计约为1.5倍;后续加入更多基准后,同一模型集合的估计提高到1.9倍。它认为现有数据无法可靠区分一次性能力跃升与持续加速,且某些模型并非专门优化单位算力能力、训练中的模型快照还会继续变化,因此不宜把单一趋势线当作硬结论。
尽管对阈值判断更谨慎,METR 仍同意7月模型直接引发灾难性研发加速的风险为低:当时模型不能完整自动化 AI 研发或其他关键领域研发,而远高于2倍的加速才更可能触及报告描述的严重情景。评估同时警告,未来六个月内进一步加速不能排除。完整证据、删节说明和时间线见[METR 审查](https://metr.org/blog/2026-11-05-rd-section-anthropic-risk-report-august-2026-review/)。
量仔观察
这份报告比“模型是否危险”的二元结论更有价值之处,是展示了能力治理中的测量缝隙:早期预警阈值可以尚未确定越过,同时证据已经足以要求更保守的公开措辞。企业和监管者应把基准饱和、反事实估计区间、删节权和评估滞后纳入决策,而不是把“低风险”误读成“无需持续监测”。
