量仔前沿新闻与技术实践

08:10早 · 每天这个点更新

前沿新闻

后量子算法、迁移与协议,标准、网络安全、AI 与 NGCC 公钥征集。每条都回到原始来源核实并标明日期;周五另有一份七天周报。

坐着读报纸的奶蛙
AI 前沿
SGLang GitHub

AI 前沿

SGLang 按流水线 rank 奇偶安排输出收发,打断跨节点推理环形等待

SGLang 将流水线输出交换统一改为偶数 rank 先发送、奇数 rank 先接收,处理多个微批同时在途时的跨节点挂起。补丁解释 NCCL 缓冲槽耗尽后发送也会等待对端接收,并提供 CPU 调度模型回归测试;它没有发布新的端到端性能结果,也不能替代真实多节点压力验证。

SGLang死锁修复流水线并行跨节点推理
阅读本期头条

3 条 · AI 前沿 · 一天一页

AI 前沿

03
02

vLLM 修复推测解码跨轮随机数复用,为草稿与块验证加入步索引

vLLM 主分支调整推测解码的随机种子组合,把推测步索引混入请求种子,避免未提交位置在后续验证轮复用随机抽样。补丁同步修改草稿、水印和拒绝采样路径,并新增多轮分布测试;这是采样正确性修复,不是模型能力提升,也没有公开统一的吞吐改善数字。

vLLM GitHub
03

Deep Agents 0.7.26 区分子 Agent 等待审批与真正完成,保留独立人工确认

Deep Agents 0.7.26 已发布,异步子 Agent 在等待人工输入或审批时报告 waiting,而不再把一次执行成功结束误当任务完成。版本还关联父级追踪、标识发起者并修正工具结果路径。waiting 与线程关联仍标为 Beta,主 Agent 不能代替用户批准自己的子 Agent 操作。

LangChain Deep Agents 发布说明
选编说明

专题栏目优先选编有实质新增的研究、标准、产业与部署消息,快讯简明呈现已核实的重要更新。 逐条核验原始来源并标明日期,不用重复旧闻凑数。