时间卷积网络：时间序列的下一场革命？

这篇文章回顾了几个最新的基于TCN的解决方案。

咱们首先介绍运动检测的案例研究，并简要回顾一下TCN架构及其相对于传统方法(如卷积神经网络(CNN)和递归神经网络(RNN))的优点。而后介绍了TCN的几个新颖应用，包括改善交通预测，声音事件定位和检测以及几率预测。

TCN简要回顾

Lea等人的开创性工做。(2016)首先提出了基于视频的动做分割的时间卷积网络(TCN)。此常规过程的两个步骤包括：首先，使用(一般)对时空信息进行编码的CNN来计算低级特征，其次，将这些低级特征输入到使用(一般是)捕获高级时域信息的分类器中)RNN。这种方法的主要缺点是须要两个单独的模型。 TCN提供了一种统一的方法来分层捕获全部两个级别的信息。

编码器-解码器框架如图1所示，其中有关体系结构的更多信息能够在前两个参考文献中找到(在文章末尾)。提供了最关键的问题，以下所示：TCN能够采用一系列任意长度并将其输出为相同长度。在使用一维彻底卷积网络体系结构的状况下，使用因果卷积。一个关键特征是，时间t的输出 仅与t以前发生的元素卷积 。

随着Yan等人最近发表的研究成果，围绕TCN的话题甚至传到了《天然》杂志上。(2020)在TCN上进行天气预报任务。在他们的工做中，使用TCN和LSTM进行了对比实验。他们的结果之一是，除其余方法外，TCN在使用时序数据的预测任务中表现出色。

下一部分提供了此经典TCN的实现和扩展。

改善流量预测

拼车和在线导航服务能够改善交通预测效果并改变人们的出行方式。经过更好的交通预测能够实现更少的交通拥堵，更少的污染，安全和快速的驾驶等。因为这是实时数据驱动的问题，所以有必要利用即将到来的流量的累积数据。基于此，Dai等人最近(2020)提出了一种混合时空图卷积网络(H-STGCN)。整体思路是利用分段衬里流量密度关系的优点，并将即未来临的交通量转换为等效的行进时间。他们在这项工做中使用的最有趣的方法之一是图卷积以捕获空间依赖性。复合邻接矩阵捕获流量近似的固有特征(更多信息，请参见Li，2017)。在如下架构中，提出了四个模块来描述整个预测过程。

Dai et al. (2020)

声音事件定位和检测

声音事件定位和检测(SELD)的领域在不断增加。对环境的了解在自主导航中起着相当重要的做用。Guirguis等最近(2020)提出了一种声音事件SELD-TCN的新颖架构。他们声称，他们的框架在现场培训方面比当前最早进的技术领先。在他们的SELDnet(如下结构)中，以44.1 kHz采样的多声道音频记录经过应用短时傅立叶变换提取频谱的相位和幅度，并将其堆叠为单独的输入特征。而后，链接卷积块和循环块(双向GRU)，而后链接彻底链接的块。SELDnet的输出是声音事件检测(SED)和到达方向(DOA)。

Guirguis et al. (2020)

为了超越它，他们提出了SELD-TCN：

Guirguis et al. (2020)

因为扩张的卷积使网络可以处理各类输入，所以可能须要更深刻的网络(在反向传播期间，网络会受到不稳定梯度的影响)。他们经过适应WaveNet(Dario et al。，2017)架构克服了这一挑战。他们代表SELD任务不须要循环层，并成功检测到活动声音事件的开始和结束时间。

几率预测

由Chen等人设计的新颖框架(2020)可用于估计几率密度。时间序列预测改善了许多业务决策方案(例如，资源管理)。几率预测能够从历史数据中提取信息，并最大限度地减小将来事件的不肯定性。当预测任务是预测数以百万计的相关数据系列时(如在零售业务中)，它须要大量的劳动力和计算资源来进行参数估计。为了解决这些困难，他们提出了基于CNN的密度估计和预测框架。他们的框架能够学习系列之间的潜在关联。他们的工做中的新颖之处在于他们提出的深层TCN，如其体系结构所示：

Chen et al. (2020)

编码器-解码器模块解决方案可能有助于实际的大规模应用设计。

【编辑推荐】

1. 手机用北斗导航到底需不须要下APP：来了解下

2. 在远程工做环境中利用云计算技术的10个注意事项

3. 阿里达摩院青橙奖“硬核10人”出炉，钟南山寄语青年科学家

4. 那个被捧上天的GPT-3要开始收费了！网友：天价，溜了溜了

5. Gartner 首份 IaaS+PaaS 魔力象限：AWS、谷歌、微软领导者；阿里、甲骨文、IBM追随者

【责任编辑：未丽燕 TEL：（010）68476606】