原始音频波形采样率高、持续时间长,是典型的高频长序列。Transformer 处理这类信号时平方开销巨大,而 SSM 的线性复杂度使长时音频处理变得可行。
SSM 源于信号处理与控制理论,对连续或类信号数据(如音频、传感器流)具有天然适配性。S4 在音频、时间序列等连续信号任务上表现尤为出色。
在语音识别、长音频转录等任务中,SSM 能够高效处理长时依赖,并以恒定状态控制内存占用。这使其在长音频场景下相较 Transformer 具备明显的效率优势。