状态空间模型在边缘设备上部署有哪些优势？

1. 固定且较小的推理状态

Transformer 推理的 KV 缓存随序列增长，对内存受限设备（如笔记本、手机）构成压力。SSM 的推理状态尺寸固定且较小，不随序列增长，更适合在低内存设备上运行。

2. 线性复杂度降低算力需求

SSM 的线性复杂度意味着处理长序列时的算力需求可控，降低了边缘设备的计算与功耗负担。

3. 端侧部署的可行性

得益于上述特性，SSM 被视为在资源受限设备上部署长上下文模型的重要方向之一。Mamba-3 进一步将状态尺寸压缩至 Mamba-2 的一半而保持同等困惑度，提升了端侧与低显存部署的性价比。