原始日期:2026-10-29。Mistral Large 4(Le Chonk)在Hugging Face发布FP8与NVFP4两套官方权重,并提供GGUF转换。Hugging Face技术文章给出的规模约为1万亿总参数、49B激活参数,若连同嵌入和输出层则约52B激活,支持文本与图像输入、文本输出和100万词元上下文。权重采用Mistral Ecosystem Open-Weight License,它是MIT衍生许可,但对模型即服务另设限制,因此不能简单称为无条件完整开源。

架构把两类稀疏机制叠加。72层文本解码器除首层外均为MoE,每个词元由路由器从128个专家中选4个,再加一个始终运行的共享专家;注意力则用MLA压缩KV表示,并由稀疏索引器为每个查询选择最多2048个历史位置。视觉部分是1.6B参数的Pixtral编码器,使用14×14图块和合并投影。稀疏专家减少每词元实际计算,但完整权重的存储和部署仍然庞大。

工具链提供了首日可运行路径。Transformers示例以8进程加载FP8模型;vLLM支持面向Blackwell GPU的NVFP4检查点,并可用张量并行、专家并行、上下文并行和DSpark草稿头;llama.cpp已提供从IQ2_XXS到BF16的多种量化。Hugging Face称2位量化可在512GB统一内存的Apple Silicon Ultra上运行,其余高精度配置通常需要多卡或分布式推理。

性能数字必须按配置理解。文章报告Q2_K在单台M3 Ultra上预填充约90词元/秒、生成约15词元/秒;在4张RTX 6000 Pro上,NVFP4的32K上下文生成约10词元/秒,IQ2_XXS短上下文生成约30词元/秒,长上下文降到约3词元/秒。另一个8张H200的托管配方把最大上下文设为131K而非完整100万,说明模型能力上限与可部署服务配置不是同一件事。

能力评测也要区分来源。Hugging Face列出Artificial Analysis、DeepSWE、Terminal-Bench等成绩,并称模型在漏洞复现与修复任务上达到82%;其中部分描述来自Mistral内部测试或文章选取的榜单,不能当成本站独立复现。模型权重可本地检查,有助于研究拒答和安全行为,但同时也意味着部署者要自行承担内容政策、访问控制、补丁和监控责任。

文章还给出TRL微调示例,FP8训练配置使用8张B300,说明“开权重”并不意味着低成本定制。对于企业团队,更现实的第一步是验证目标精度量化、上下文长度和并发组合,确认许可证是否允许对外托管,再在自有任务上与更小模型比较总吞吐和成本,而不是用总参数或厂商榜单直接替代采购测试。

量仔观察

Mistral Large 4的重要增量是把超大稀疏多模态模型同时交给主流推理栈,而不是仅开放一个下载入口。它为安全研究和受控本地部署增加了选择,但49B级激活计算、完整权重存储和服务许可仍是硬约束。读者应把权重可得、框架兼容、量化可跑和生产可承载拆成四个验收阶段,并保留对厂商及平台评测的独立复核。