AI 前沿
vLLM 为 Gemma4 工具调用增加字符串增量输出,保持切片后 JSON 一致
vLLM 为 Gemma4 自定义工具参数格式增加开放字符串扩展器,让字符串尚未闭合时也能逐步发送内容。实现保留分隔符残片、尾空白和结束符边界,测试比较不同分块与一次性解析结果,并限制重复转换次数;重点是流式正确性与长参数处理。
阅读本期头条08:10早 · 每天这个点更新
后量子算法、迁移与协议,标准、网络安全、AI 与 NGCC 公钥征集。每条都回到原始来源核实并标明日期;周五另有一份七天周报。

AI 前沿
vLLM 为 Gemma4 自定义工具参数格式增加开放字符串扩展器,让字符串尚未闭合时也能逐步发送内容。实现保留分隔符残片、尾空白和结束符边界,测试比较不同分块与一次性解析结果,并限制重复转换次数;重点是流式正确性与长参数处理。
阅读本期头条2026年10月
| 一 | 二 | 三 | 四 | 五 | 六 | 日 |
|---|---|---|---|---|---|---|
3 条 · AI 前沿 · 一天一页
AI 前沿
vLLM 为 Gemma4 自定义工具参数格式增加开放字符串扩展器,让字符串尚未闭合时也能逐步发送内容。实现保留分隔符残片、尾空白和结束符边界,测试比较不同分块与一次性解析结果,并限制重复转换次数;重点是流式正确性与长参数处理。
阅读解读Codex 主分支扩展终端状态协议,通过 OSC 7501 区分 done、error 与 idle,并为阻塞请求标注权限、问题或认证原因。结果状态保留到明确输入确认,鼠标移动不会清除;改动有生命周期和协议快照测试,但尚不能据此认定所有发行客户端已经支持。
OpenAI Codex GitHubTransformers 调整加载时已分片模型的 PEFT 保存流程,从可训练参数构造适配器状态字典,并让所有 rank 参与 DTensor 聚合、仅主进程写盘。修复兼顾 LoRA 训练基础模型 bias 的情形,避免主进程单独保存时等待其他进程参与通信。
Hugging Face Transformers GitHub