A Time Delay Neural Network with Shared Weight Self-Attention for Small-Footprint Keyword Spotting浅析

文章:A Time Delay Neural Network with Shared Weight Self-Attention for Small-Footprint Keyword Spotting 中心思想:通过共享自注意力机制的权重,在维持性能不变的情况下,减少模型参数 本文的创新点:一是,用前馈神经网络代替在注意力机制中常用的回归神经网络,加速模型计算;二是,自注意力机制中的三个矩阵进行
相关文章
相关标签/搜索