2026-10-27,Liquid AI公开LFM3-VL-2B模型卡和权重,定位为可在边缘设备运行的视觉语言模型。模型总参数约1.92B,其中语言模型1.73B、视觉编码器164M、投影器25M,支持文本、图像和视频输入,最大上下文标为128K。模型采用LFM Open License v1.0,使用者仍需按许可证核对商业分发与衍生使用条件。

语言部分包含24层:13层门控短卷积、5层滑动窗口注意力和6层全局注意力,试图在长上下文能力与端侧内存、延迟之间折中。视频输入默认按每秒2帧采样,再与文本一起处理;这说明“支持视频”并不等同于对原始高帧率视频逐帧理解,动作细节、长视频时间一致性和实际上下文占用仍取决于采样与预处理策略。

发布同时提供BF16、GGUF、MLX 4-bit和ONNX等格式,覆盖服务器验证与苹果设备、通用本地推理等路径。模型卡称llama.cpp支持仍在代码审查阶段且暂不支持视频,vLLM支持正在开发,SGLang支持也在审查中。因而权重“可下载”不等于所有推理框架已经正式兼容,部署前需要逐项确认视觉投影器、视频输入和量化格式是否可用。

Liquid AI汇总了62项视觉、文档、OCR和语言基准:官方表格给出的平均分为启用thinking时71.4、关闭时62.1,旧版LFM2.5-VL为57.6。评测由厂商使用vLLM 0.27.1等配置完成,不是独立第三方结论;不同模型是否使用相同提示模板、图像分辨率、采样策略与思考预算,会直接影响横向比较,因此这些分数更适合用于筛选候选,而非证明普遍领先。

端侧测试也给出较完整口径:语言模型使用GGUF Q4_0、投影器使用F16,输入一张512×512图像和1024个文本token,再生成256个token;设备包括AMD Ryzen AI Max+395、Apple M5 Max和Samsung Galaxy S26 Ultra。模型卡另列NVIDIA B300上BF16、SGLang 0.5.22的吞吐测试。由于硬件、量化和批量设置不同,手机、桌面与数据中心结果不能直接互换。

能力边界写得相对坦率:模型不建议用于代码、多轮对话、复杂推理或需要高可靠性的场景。训练说明称基础语言模型经历22万亿token预训练,之后分阶段加入视觉与多模态数据,并使用MOPD等蒸馏方法,但这些数据规模和训练收益仍主要来自发布方陈述。应用团队应在自己的文档、屏幕截图和视频样本上评估幻觉、OCR错误与隐私风险。

量仔观察

LFM3-VL-2B的看点是把模型结构、格式、框架状态和端侧测试口径放在同一张模型卡里,降低了“下载后才发现链路不通”的试错成本。不过它最适合的是设备内摘要、视觉检索和轻量交互,而不是替代高可靠推理服务。采购或集成时应把本地运行带来的数据控制优势,与量化精度损失、视频采样盲区和框架尚在审查的成熟度一起验收。