Muse Glimmer 是什么？Meta 开源的 30B 本地模型

2026 年 8 月 11 日，Meta 把自家旗舰模型 Muse Spark「缩小」成了一个 300 亿参数的开源小模型 Muse Glimmer：权重开放在 Hugging Face，采用 Apache 2.0 协议，官方目标是在单张消费级显卡上跑本地 AI Agent。这是 Meta 超级智能实验室（Meta Superintelligence Labs）旗下 Muse 系列的第一个开放权重模型。

从 Muse Spark 蒸馏出来的 30B：身世与许可

根据模型卡片与第三方整理页，Muse Glimmer 是一个 300 亿参数、开放权重的多模态模型，带独立感知编码器，由旗舰模型 Muse Spark 蒸馏而来。蒸馏的意思是：让小模型去学习大模型的输出行为，用更少的参数尽量保留大模型的能力，代价是部分极端场景下的能力上限会降低。

许可这一档 Meta 这次给得很宽：权重、两个 4-bit 量化版本、投机解码 drafter 和视觉编码器全部以 Apache 2.0 发布，可以免费用、改、商用，也没有按用户规模设门槛。这和 Llama 系列的自定义社区许可差别明显，后者附带了月活用户规模之类的附加条款。中文社区的普遍评价是「Meta 难得给的真开源」。

发布前过程也有波折，多家媒体用「五天反转重回开源」来形容 Meta 从摇摆到最终开放权重的过程。

4-bit 量化是门槛的关键：谁能本地跑

社区已有不少实测：有开发者用单张 RTX 4090（24GB 显存）跑通了本地多轮 Agent 任务。但更准确的门槛要看量化版本，这也是选型时最容易忽略的一步：

官方给的精度损失数据也值得看一眼：K-Quant-Dynamic 版本在 15 项常用基准上的平均准确率衰减约 0.2%，K-Quant-17GB 版本约 1.0%。也就是说，「压到 24GB 能跑」不是靠牺牲大量质量换来的。

权重直接在 Hugging Face 的 meta-models/Muse-Glimmer-30B 页面免费下载，Meta 官方的模型介绍页在 developer.meta.com；第三方整理页 AIHub 的 Muse Glimmer 词条有中文版参数与场景整理。

它瞄准的场景：不是聊天，是本地 Agent

Muse 系列的产品叙事是「个人超智能」：模型跑在你自己的机器上，能看图、能调工具、任务中断后能自主恢复。官方把训练目标写得很明确：工具调用失败或返回异常结果时，模型会被训练成先诊断错误再重试，而不是直接中断任务链，这是长程 Agent 能不能持续跑下去的关键。

其他几项规格也围着这个目标设计：上下文 131,072+ tokens，采用「局部×3 加全局」的循环注意力模式和 2048 滑动窗口；单张图片最多支持 4,096 个视觉 token，可以直接读截图、图表和文档；支持 low、medium、high、xhigh 四档推理强度，复杂编程和 Agent 任务建议用 high 或 xhigh。

对用户意味着两件事：一是数据不出本机，敏感文件可以放心喂；二是不用付 API 按量费用，跑多少次都没有账单。代价是你要自己准备硬件和部署环境，能力上也弱于云端旗舰。

官方自测跑分：赢在 Agent，输在电脑操作

按 Meta 官方评测（对比集为 Gemma4-31B 与 Qwen3.6-27B 的 Thinking Mode），结论并不一边倒：

一句话总结：Agent 和工具调用类任务占优，电脑操作与终端任务落后。以上全部是官方自测数据而不是独立复测，选型时建议按你自己的任务类型找对应基准，不要只看总分。

怎么把它跑起来

官方和生态已经给了现成路径，按你的场景选：

1. 本地桌面推理：Ollama、LM Studio、Unsloth。
2. 边缘部署：llama.cpp、ExecuTorch、MLX。
3. 服务端部署：vLLM 或 SGLang，均提供 Day-0 支持。

以 vLLM 为例，一行就能起一个 OpenAI 兼容接口：

vllm serve "meta-models/Muse-Glimmer-30B"

SGLang 的写法是 python3 -m sglang.launch_server --model-path "meta-models/Muse-Glimmer-30B"。想要更好的吞吐，记得把随模型附带的 DFlash drafter 也用上：官方实测在 RTX 5090 上解码速度从 74.9 tok/s 提升到 233.4 tok/s（约 3.1 倍），Apple M5 Max 提升约 1.8 倍、M4 Max 约 1.5 倍。

官方推荐的采样参数是 temperature 1.0、top_p 0.95、top_k 64，推理强度则在 system prompt 里写 Reasoning strength: <值> 来控制。模型兼容 OpenClaw、Hermes Agent 等编排框架，如果你已经在用 OpenClaw，可以把本地模型直接挂进去当供应商。

如果你还不清楚 Agent 和普通聊天的区别，可以先看我们的 AI Agent 入门 补基础；想了解它蒸馏前的母模型，可以看 Muse Spark 1.2 详解；想横向看开源小模型这一档，可以看 MiniCPM5-2B 指南。

边界与前提：三件容易被忽略的事

1. 官方没有为它提供 API 定价。Meta 只开放权重，不卖官方托管接口；想在云端调用要走 Together AI、Fireworks AI、OpenRouter 这类第三方推理平台，价格以各平台公示为准。
2. 多语言没有全量评测。训练数据覆盖 100 种以上语言，但官方明确未对全部语言做评测，强支持语种之外的表现可能下降，中文长文任务建议先自己压测。
3. 视频不是它的强项。输入支持文本与图像交错，输出只有文本，不支持音频；视频未做专门优化，只能按单帧图像处理。

许可证层面唯一的排除项是违反适用法律法规（含贸易合规法规）的用途，以及 Apache 2.0 本身禁止的行为。

同为开源模型的认知参考，还可以看 Stable Audio 3.0 是什么，它代表了开源音频模型这一侧的现状。