Meta开源300亿参数模型可在单卡本地运行

IT时代网8月10日消息，Meta 今日发布 AI 模型 Muse Glimmer，并以 Apache 2.0 许可协议开源了模型权重。

这是一款300亿参数（30B）的模型，方向很明确：为全天候常驻运行的本地智能体（Agent）工作流做深度优化。官方称，模型应用了 4bit 量化技术，24GB 或 32GB 显存的 Mac 与 PC 都能把它跑在本地。压缩会不会拖累智能体任务的表现？实测给出的结论是影响微乎其微，几乎没有衰减。

测试平台包括 MacBook M4 Max、M5 Max 以及 RTX 5090。按官方给出的结果，模型的运行速度足以支撑流畅对话和实时智能体交互，且所有计算100%在本地设备上完成，不必把数据交给云端。

横向比较方面，Meta 拿 Muse Glimmer 对上了 Gemma4-31B 与 Qwen3.6-27B，称其在多项主流大语言模型基准测试中，展现出同尺寸级别里的强劲性能。模型权重目前已在开源社区托管平台放出。

注：本文中包含AI辅助创作的内容。