Meta周一正式发布专为消费级设备打造的300亿参数模型Muse Glimmer。同日,公司CEO重申,人工智能的未来必须走向开放。
Muse Glimmer基于Muse Spark进行蒸馏,采用Apache 2.0许可协议,默认上下文窗口达128K令牌。Meta在技术文档中指出,该模型针对本地部署深度优化,旨在不牺牲质量的前提下,以实用速度在消费级硬件上运行。
为适配近期型号PC或Mac的内存限制,确保KV缓存、图像编码器及解码草稿器能同时运作,Glimmer被压缩至20GB以下,量化精度约为4位。Meta证实,这一压缩过程并未削弱模型在代理任务(agentic task)中的表现,这也构成了其作为部分离线推理替代方案的核心价值。
“将现有工具指向本地Muse Glimmer服务器并继续构建——你拥有权重、运行时和数据。”Meta表示。
【星途科讯 图文丨周鑫雨 首发于ZAKER科技,转载请注明出处】