状态空间模型为何能实现线性复杂度？

1. 避免全局两两比对

Transformer 的自注意力需要对序列中每个 token 与其他所有 token 计算关系，形成长度为 N 的 N×N 注意力矩阵，因此复杂度为 O(N²)。SSM 不做全局比对，而是逐 token 更新固定维度状态，每个 token 的计算成本恒定。

2. 固定维度状态

SSM 的隐藏状态维度不随序列长度增长。处理 N 个 token 需要 N 步，每步成本相同，总复杂度因此为线性的 O(N)。这意味着序列长度翻倍时，计算量只翻倍，而非像 Transformer 那样增长为四倍。

3. 推理阶段的实际收益

线性复杂度在超长序列上优势尤为明显。当序列达到百万 token 级别时，Transformer 的平方复杂度在现有硬件上几乎不可行，而 SSM 的线性扩展使其能够处理基因组、长音频、长文档等超长输入。