AI 前沿
SGLang 按流水线 rank 奇偶安排输出收发,打断跨节点推理环形等待
SGLang 将流水线输出交换统一改为偶数 rank 先发送、奇数 rank 先接收,处理多个微批同时在途时的跨节点挂起。补丁解释 NCCL 缓冲槽耗尽后发送也会等待对端接收,并提供 CPU 调度模型回归测试;它没有发布新的端到端性能结果,也不能替代真实多节点压力验证。
阅读本期头条08:10早 · 每天这个点更新
后量子算法、迁移与协议,标准、网络安全、AI 与 NGCC 公钥征集。每条都回到原始来源核实并标明日期;周五另有一份七天周报。

AI 前沿
SGLang 将流水线输出交换统一改为偶数 rank 先发送、奇数 rank 先接收,处理多个微批同时在途时的跨节点挂起。补丁解释 NCCL 缓冲槽耗尽后发送也会等待对端接收,并提供 CPU 调度模型回归测试;它没有发布新的端到端性能结果,也不能替代真实多节点压力验证。
阅读本期头条2026年10月
| 一 | 二 | 三 | 四 | 五 | 六 | 日 |
|---|---|---|---|---|---|---|
3 条 · AI 前沿 · 一天一页
AI 前沿
SGLang 将流水线输出交换统一改为偶数 rank 先发送、奇数 rank 先接收,处理多个微批同时在途时的跨节点挂起。补丁解释 NCCL 缓冲槽耗尽后发送也会等待对端接收,并提供 CPU 调度模型回归测试;它没有发布新的端到端性能结果,也不能替代真实多节点压力验证。
阅读解读vLLM 主分支调整推测解码的随机种子组合,把推测步索引混入请求种子,避免未提交位置在后续验证轮复用随机抽样。补丁同步修改草稿、水印和拒绝采样路径,并新增多轮分布测试;这是采样正确性修复,不是模型能力提升,也没有公开统一的吞吐改善数字。
vLLM GitHubDeep Agents 0.7.26 已发布,异步子 Agent 在等待人工输入或审批时报告 waiting,而不再把一次执行成功结束误当任务完成。版本还关联父级追踪、标识发起者并修正工具结果路径。waiting 与线程关联仍标为 Beta,主 Agent 不能代替用户批准自己的子 Agent 操作。
LangChain Deep Agents 发布说明