长录音分类可以先切片再把频谱拼成特征图
长时间声音分类常见于设备状态识别、工业异常检测、环境声音监测和边缘 AI 部署。输入可能是一段几十秒、几分钟甚至持续不断的录音。直接把整段波形送进模型,会带来三个问题:数据量大、有效信息稀疏、模型很难稳定学习长期变化规律。
比较可控的做法是先做特征构建:把长录音切成短时间窗口,每个窗口做 FFT,再对频谱结果做筛选、过滤、合并和降维。每个窗口输出一个紧凑的特征向量,随后按时间顺序堆叠,形成一张二维特征图。模型输入从原始长波形,变成已经压缩过的“时间 x 频率/特征”数据。

这套流程的本质,是把长时间声音分类问题转换成二维特征图分类问题。短时间窗口负责提取局部频率结构,时间堆叠负责保留长期变化模式,模型最终学习声音特征随时间变化的规律。
为什么不能直接处理整段长录音
声音采样率通常不低。以 16 kHz 单声道为例,1 分钟录音就有 960000 个采样点;如果使用 48 kHz,数据量还会增加 3 倍。对嵌入式设备或边缘网关来说,直接处理这种长度的原始序列会占用大量 RAM、算力和带宽。
长录音里也经常存在大量无效片段。设备可能大部分时间处于稳定运行状态,异常只出现在少数时间点;目标声音可能只持续几百毫秒。整段输入会把模型注意力分散到大量背景信息上,训练和推理都不经济。
模型结构也会受到限制。CNN 更擅长处理局部结构,RNN 和 Transformer 可以建模时序关系,但序列过长后计算和存储开销很快上升。工程上通常需要先把输入压缩成可控长度,再交给模型。
基本处理流程总览
完整流程可以拆成六步:
- 连续采集声音,按固定时间窗切成很多短片段。
- 对每个短片段做 FFT,得到频域能量分布。
- 对频谱做筛选、过滤、合并和降维,得到紧凑特征向量。
- 按时间顺序保存每个窗口的特征向量。
- 把一串特征向量堆叠成二维特征图。
- 将二维特征图输入分类模型,输出设备状态或声音类别。
可以把每个短片段理解为一帧声音数据。单帧提供局部频率信息,多帧堆叠提供时间演化信息。
第一步:短时间窗分段
连续录音先进入一个滑动窗口。窗口长度通常按任务特性选择,例如 20 ms、50 ms、100 ms 或 1 s。窗口太短,低频分辨率差;窗口太长,时间定位变粗,还会增加单帧计算量。
工业声音分类里,窗口长度要和目标现象的时间尺度匹配。电机轴承冲击、气阀泄漏、继电器吸合、风机叶片异常,这些声音的持续时间和频率结构不同,窗口设置也不同。
常见参数包括:
window_size:每帧采样点数量。hop_size:相邻窗口的步进长度。overlap:窗口重叠比例。sample_rate:原始采样率。
重叠窗口可以减少边界损失。比如窗口 100 ms、步进 50 ms,就有 50% 重叠。这样目标声音落在窗口边缘时,下一帧仍然可以捕捉到较完整的频率结构。
第二步:FFT 提取频域信息
短片段仍然是时域波形。波形能看到振幅随时间变化,但很多设备声音的差异主要体现在频率结构上。FFT 把一帧波形转换到频域,得到不同频率 bin 的幅值或能量。
典型处理链路如下:
原始采样帧 -> 去直流 -> 加窗 -> FFT -> 幅值谱/功率谱 -> 对数压缩加窗通常使用 Hann、Hamming 等窗函数,用来减轻频谱泄漏。FFT 输出复数结果,工程上常取幅值、功率或对数能量。对数压缩可以降低极大幅值对特征的支配,让弱但稳定的频率成分更容易被模型利用。
FFT 之后,每一帧可以表示为:
[bin_0, bin_1, bin_2, ..., bin_N]这些 bin 对应从低频到高频的频率成分。采样率和 FFT 点数决定频率分辨率。例如 16 kHz 采样、1024 点 FFT,频率间隔约为 15.625 Hz。
第三步:筛选、过滤、合并、降维
原始 FFT 频率 bin 数量可能很多。直接保留全部 bin 会增加数据量,也会把噪声和无关频段带入模型。特征构建的关键工作,就是把原始高维频谱压缩成任务相关的特征向量。
筛选负责保留有效频带。比如设备状态识别可能只关心 100 Hz 到 8 kHz,低于 100 Hz 的结构振动、供电纹波或环境低频噪声可以先排除;高于传感器有效带宽的频段也没有必要保留。
过滤负责抑制噪声。可以使用带通滤波、谱减、移动平均、中值滤波、噪声门限或背景谱扣除。对工业场景来说,稳定背景噪声经常存在,过滤步骤可以减少模型对现场环境的依赖。
合并负责降低频率维度。相邻频率 bin 往往高度相关,可以按线性频带、对数频带或任务定义的频段做聚合。聚合方式可以是求和、均值、最大值、能量积分或统计量组合。
降维负责得到固定长度特征。常见做法包括:
- 频带能量:每个频段输出一个能量值。
- 对数频带能量:对宽动态范围信号更稳定。
- MFCC 或类 Mel 特征:适合语音和部分环境声音任务。
- 频谱质心、带宽、滚降点:描述频谱形状。
- PCA 或轻量自编码器:在离线训练后部署压缩映射。
处理完成后,每一帧从高维频谱变成一个短向量:
原始频谱: [bin_0, bin_1, ..., bin_511]
压缩特征: [f_0, f_1, ..., f_31]这一层的意义很直接:减少数据量,降低模型负担,去掉和任务无关的频段,提高输入特征的稳定性。
第四步:沿时间方向堆叠
每个窗口都会输出一个压缩后的特征向量。录音持续进行时,系统不断产生新的向量:
t1 -> [f_0, f_1, ..., f_31]
t2 -> [f_0, f_1, ..., f_31]
t3 -> [f_0, f_1, ..., f_31]
...
tT -> [f_0, f_1, ..., f_31]这些向量按时间顺序排列后,可以保留声音随时间变化的轨迹。设备异常往往不只表现为某一帧能量升高,还会表现为某些频段持续增强、周期性出现、突然消失或随转速变化移动。
工程实现时通常使用环形缓冲区保存最近一段时间的特征。例如每 50 ms 产生一帧,保存最近 4 s,就需要保存 80 帧。如果每帧 32 维,输入矩阵大小就是 80 x 32。这比保存 4 s 原始波形轻得多。
第五步:形成二维特征图
把时间序列特征按行或列排列,就得到二维特征图。横轴通常是时间,纵轴是频率或压缩后的特征维度。数据形态类似简化声谱图:
时间 ->
特征0 [ . . . . . ]
特征1 [ . . . . . ]
特征2 [ . . . . . ]
...
特征31 [ . . . . . ]这张图不保留完整原始 FFT 结果。它已经经过频段筛选、噪声过滤、频带合并和降维,包含的是更贴近任务目标的特征。对设备状态分类来说,它可以表达某些频带的长期能量变化;对异常检测来说,它可以表达短时冲击和持续异常的组合模式。
二维特征图还便于做归一化和裁剪。可以按帧归一化、按频带归一化,也可以保留运行时统计量做在线标准化。输入尺寸固定后,模型部署也更简单。
第六步:送入模型分类
二维特征图可以输入不同类型的模型:
- CNN:把二维特征图当作单通道图像,学习局部时间-频率模式。
- RNN/GRU/LSTM:按时间步读取每一帧特征,学习时序变化。
- Transformer:用注意力机制建模较长时间范围内的依赖关系。
- TCN 或一维卷积:沿时间方向做轻量时序建模。
- 传统模型:使用统计池化后输入 SVM、随机森林或 GBDT。
边缘部署时,模型不一定要很大。很多设备状态任务可以先用 时间窗口 + 频带能量 + 轻量 CNN/TCN 起步。输入稳定、维度可控,往往比直接堆大模型更容易落地。
分类输出可以是:
- 正常 / 异常。
- 不同故障类型。
- 目标声音是否出现。
- 设备运行档位或工况。
- 告警等级。
如果任务是异常检测,也可以让模型输出异常分数,再由阈值和持续时间规则决定是否报警。
这种方法的优势
第一,输入数据量可控。原始长波形被压缩成二维特征图,RAM 和算力压力明显降低。
第二,特征更贴近任务。筛选和合并频段后,模型看到的是有用频带的变化,整段录音里的采样点已经在特征阶段被压缩。
第三,长期模式仍然保留。时间方向堆叠后,模型可以学习持续增强、周期性冲击、频带漂移等动态特征。
第四,部署链路清晰。FFT、滤波、频带合并和归一化都可以用确定性的 DSP 代码实现,模型只负责分类,便于调试和性能评估。
第五,容易做在线推理。新音频帧到来后,只需要更新一行特征和环形缓冲区,然后按固定周期触发模型推理。
在嵌入式和边缘 AI 中的意义
嵌入式设备通常受限于 MCU/DSP/NPU 算力、内存容量、功耗和实时性。长录音原始输入会把压力集中到模型侧,导致模型尺寸、输入长度和缓存需求全部上升。
把 FFT 和特征压缩放在模型前面,可以把一部分问题交给可解释、可优化的信号处理模块。FFT 可以使用 CMSIS-DSP、KissFFT、厂商 DSP 库或硬件加速单元;频带聚合和归一化可以用定点数实现;模型输入尺寸固定后,也更适合量化部署。
工业现场还需要可诊断性。原始波形分类很难解释错误原因;二维特征图可以直接观察某些频带在某段时间的变化。调试人员可以把特征图、分类结果和现场工况对齐,判断是传感器问题、噪声问题、阈值问题还是模型问题。
该流程适合以下任务:
- 电机、泵、风机、压缩机等旋转设备状态识别。
- 轴承、齿轮、阀门等部件异常声音检测。
- 产线撞击、摩擦、泄漏、松动等事件识别。
- 长时间环境声音监测。
- 低功耗设备上的目标声音唤醒或告警。
总结
长序列声音分类可以先转换成特征图分类。处理链路是:短时间窗分段、FFT、频谱筛选、噪声过滤、频带合并、降维、时间堆叠、模型分类。
短窗口提取局部频率结构,时间堆叠保留长期变化规律,二维特征图把长录音压缩成固定尺寸输入。模型学习的是声音特征随时间变化的模式,输出正常、异常、目标声音或设备状态类别。
对嵌入式和边缘 AI 项目来说,这条路线的价值在于输入可控、计算可拆分、特征可解释、部署路径清晰。先把长录音整理成高质量二维特征图,再选择合适模型,通常比直接处理整段波形更容易做出稳定系统。
本文由 AI 辅助生成,可能存在错误或遗漏,请以实际资料和官方文档为准。