卷积(转自wiki百科)

  • 维基百科,自由的百科全书

    图示两个方形脉冲波的卷积。其中函数 "g" 首先对 \tau=0 反射,接着平移 "t" ,成为 g(t-\tau) 。那么重叠部份的面积就至关于 "t" 处的卷积,其中横坐标表明待积变量 \tau 以及新函数 f\ast g 的自变量 "t" 。php

    图示方形脉冲波和指数衰退的脉冲波的卷积(后者可能出现于 RC电路中),一样地重叠部份面积就至关于 "t" 处的卷积。注意到由于 "g" 是对称的,因此在这两张图中,反射并不会改变它的形状。html

    泛函分析中,卷积(捲積)、旋積或摺積,是经过两个函数f 和g 生成第三个函数的一种数学算子,表征函数f 与通过翻转和平移的g 的重叠部分的累积。若是将参加卷积的一个函数看做区间指示函数,卷积还能够被看做是“滑动平均”的推广。git

    目录

    简单介绍

    卷积是分析数学中一种重要的运算。设: f(x) ,g(x)\mathbb{R}上的两个可积函数,做积分:算法

    \int_{-\infty}^{\infty} f(\tau) g(x - \tau)\, \mathrm{d}\tau

    能够证实,关于几乎全部的 x \in (-\infty,\infty) ,上述积分是存在的。这样,随着 x 的不一样取值,这个积分就定义了一个新函数h(x),称为函数f 与g 的卷积,记为h(x)=(f*g)(x)。咱们能够轻易验证:(f * g)(x) = (g * f)(x),而且(f * g)(x) 仍为可积函数。这就是说,把卷积代替乘法,L^1(R^1) 空间是一个代数,甚至是巴拿赫代数api

    卷积与傅里叶变换有着密切的关系。例如两函数的傅里叶变换的乘积等于它们卷积后的傅里叶变换,利用此一性质,能简化傅里叶分析中的许多问题。app

    由卷积获得的函数 f*g 通常要比 f 和 g 都光滑。特别当 g 为具备紧支集的光滑函数,f 为局部可积时,它们的卷积 f * g 也是光滑函数。利用这一性质,对于任意的可积函数 f ,均可以简单地构造出一列逼近于 f 的光滑函数列 f_s ,这种方法称为函数的光滑化或正则化。dom

    卷积的概念还能够推广到数列、测度以及广义函数上去。svg

    定义

    函数f 与g 的卷积记做f * g,它是其中一个函数翻转并平移后与另外一个函数的乘积的积分,是一个对平移量的函数。函数

    (f * g )(t) = \int f(\tau) g(t - \tau)\, d\tau

    积分区间取决于f 与g 的定义域spa

    对于定义在离散域的函数,卷积定义为

    (f * g)[m] = \sum_n {f[n] g[m - n]}

    图解卷积

    1. 首先将两个函数都用\tau来表示。
    2. 对其中一个函数作水平翻转: g(\tau) →g(-\tau).
    3. 加上一个时间偏移量,让 g(t-\tau) 能沿着 \tau 轴滑动。
    4. t从-∞滑动到+∞。两函数交会时,计算交会范围中两函数乘积的积分值。换句话说,咱们是在计算一个滑动的的加权平均值。也就是使用g(-\tau).当作加权函数,来对f(\tau)取加权平均值。
    最后获得的波形(未包含在此图中)就是 fg的卷积。

    若是f(t)是一个单位脉冲,咱们获得的乘积就是g(t)自己,称为冲激响应 。

    Convolution3.PNG

    计算卷积的方法

    当 f[n] 为有限长度 N , g[n] 为有限长度 M 的信号,计算卷积 f[n]*g[n] 有三种主要的方法,分别为 1.直接计算(Direct Method) 2.快速傅里叶转换(FFT) 和 3.分段卷积 (sectioned convolution)。方法1是直接利用定义来计算卷积,而方法2和3都是用到了FFT来快速计算卷积。也有不须要用到FFT的做法,如使用数论转换

    方法1 直接计算
    • 做法: 利用卷积的定义
    y[n] = f[n]*g[n] = \sum_{m=0}^{M-1} f[n-m]g[m]
    • f[n] 和 g[n] 皆为实数信号,则须要 MN 个乘法。
    • f[n] 和 g[n] 皆为更通常性的复数信号,不使用复数乘法的快速算法,会须要 4MN 个乘法;但若使用复数乘法的快速算法,则可简化至3MN 个乘法。
    所以,使用定义直接计算卷积的复杂度为  O(MN) 。
    方法2 快速傅里叶转换(FFT)
    • 概念:因为两个离散信号在时域(time domain)作卷积至关于这两个信号的离散傅里叶转换在频域(frequency domain)作相乘:
     
      
    ,能够看出在频域的计算较简单。
    • 做法: 所以这个方法便是先将信号从时域转成频域:
     
      
    ,因而
     
      
    ,最后再将频域信号转回时域,就完成了卷积的计算:
     
      
    总共作了 2 次 DFT 和 1 次 IDFT。
    • 特别注意 DFT 和 IDFT 的点数 P 要知足 P \ge M+N-1 。
    • 因为 DFT 有快速算法 FFT,因此运算量为 O(P\log_{2}P)
    • 假设P 点 DFT 的乘法量为 a ,f[n] 和 g[n] 为通常性的复数信号,并使用复数乘法的快速算法,则共须要3a + 3P 个乘法。
    方法3 分段卷积(sectioned convolution)
    • 概念: 将 f[n] 切成好几段,每一段分别和 g[n] 作卷积后,再将结果相加。
    • 做法: 先将 f[n] 切成每段长度为 L 的区段 (L > M),假设共切成S段:
     
      
    Section 1:  f_1[n] = f[n] , n=0,1,...,L-1
    Section 2:  f_2[n] = f[n+L], n=0,1,...,L-1
    \vdots
    Section r:  f_r[n] = f[n+(r-1)L], n=0,1,...,L-1
    \vdots
    Section S:  f_S[n] = f[n+(S-1)L], n=0,1,...,L-1
    f[n]为各个section的和
     
      
    所以,
    每一小段做卷积则是采用方法2,先将时域信号转到频域相乘,再转回时域:
    • 总共只须要作P 点 FFT 2S+1 次,由于 g[n] 只须要作一次FFT。
    • 假设P 点 DFT 的乘法量为 a ,f[n] 和 g[n] 为通常性的复数信号,并使用复数乘法的快速算法,则共须要(2S+1)a+3SP个乘法。
    • 运算量: \frac{N}{L}3(L+M-1)[\log_{2}(L+M-1)+1]
    • 运算复杂度: O(N) ,和 N 呈线性,较方法2小。
    • 分为 Overlap-Add 和 Overlap-Save 两种方法。
    • 分段卷积: Overlap-Add

      欲作{\displaystyle x[n]*h[n]}的分段卷积分,{\displaystyle x[n]} 长度为 {\displaystyle N}h[n] 长度为 {\displaystyle M},

      Step 1: 将{\displaystyle x[n]}每 L 分红一段

      Step 2: 再每段 L 点后面添加{\displaystyle M-1} 个零,变成长度 {\displaystyle L+M-1}

      Step 3: 把  h[n] 添加 {\displaystyle L-1}个零,变成长度  {\displaystyle L+M-1}的  h'[n]}{\displaystyle h'[n]}

      Step 4: 把每一个  x[n]}{\displaystyle x[n]} 的小段和  h'[n]}{\displaystyle h'[n]} 作快速卷积,也就是 IDFT_{L+M-1}\{{DFT_{L+M-1}(x[n])DFT_{L+M-1}(h'[n])}\}}{\displaystyle IDFT_{L+M-1}\{{DFT_{L+M-1}(x[n])DFT_{L+M-1}(h'[n])}\}},每小段会获得长度  {\displaystyle L+M-1} 的时域信号

      Step 5: 放置第  i}i 个小段的起点在位置  L\times i}{\displaystyle L\times i} 上,  i=0,1,...,\lceil {\frac {N}{L}}\rceil -1}{\displaystyle i=0,1,...,\lceil {\frac {N}{L}}\rceil -1}

      Step 6: 会发如今每一段的后面  M-1}{\displaystyle M-1} 点有重叠,将全部点都相加起来,顾名思义 Overlap-Add,最后获得结果

      举例来讲:

      x[n]=[1,2,3,4,5,-1,-2,-3,-4,-5,1,2,3,4,5]}{\displaystyle x[n]=[1,2,3,4,5,-1,-2,-3,-4,-5,1,2,3,4,5]}, 长度  N=15}{\displaystyle N=15}

      h[n]=[1,2,3]}{\displaystyle h[n]=[1,2,3]}, 长度  M=3}{\displaystyle M=3}

      令  L=5}{\displaystyle L=5}

      令  L=5}{\displaystyle L=5} 切成三段,分别为  x_{0}[n],x_{1}[n],x_{2}[n]}{\displaystyle x_{0}[n],x_{1}[n],x_{2}[n]}, 每段填  M-1}{\displaystyle M-1} 个零,并将  h[n] 填零至长度  {\displaystyle L+M-1}

      将每一段作 IDFT_{L+M-1}\{{DFT_{L+M-1}(x[n])DFT_{L+M-1}(h'[n])}\}}{\displaystyle IDFT_{L+M-1}\{{DFT_{L+M-1}(x[n])DFT_{L+M-1}(h'[n])}\}}

      若将每小段摆在一块儿,能够注意到第一段的范围是  0\thicksim 6}{\displaystyle 0\thicksim 6} ,第二段的范围是  5\thicksim 11}{\displaystyle 5\thicksim 11},第三段的范围是  10\thicksim 16}{\displaystyle 10\thicksim 16},三段的范围是有重叠的

      最后将三小段加在一块儿,并将结果和未分段的卷积作比较,上图是分段的结果,下图是没有分段并利用快速卷积所算出的结果,验证二者运算结果相同。

      分段卷积: Overlap-Save

      欲作 x[n]*h[n]}{\displaystyle x[n]*h[n]}的分段卷积分, x[n]}{\displaystyle x[n]} 长度为  N}{\displaystyle N} h[n] 长度为  M}{\displaystyle M},

      Step 1: 将  x[n]}{\displaystyle x[n]} 前面填  M-1}{\displaystyle M-1} 个零

      Step 2: 第一段  i=0}{\displaystyle i=0}, 重新的  {\displaystyle x[n]} 中  {\displaystyle L\times i-(M-1)\times i} 取到{\displaystyle L\times (i+1)-(M-1)\times i-1} 总共  L 点当作一段,所以每小段会重复取到前一小段的  {\displaystyle M-1}点,取到新的一段全为零为止

      Step 3: 把  h[n] 添加  L-M}{\displaystyle L-M} 个零,变成长度  L 的{\displaystyle h'[n]}

      Step 4: 把每一个{\displaystyle x[n]} 的小段和 {\displaystyle h'[n]} 作快速卷积,也就是{\displaystyle IDFT_{L}\{{DFT_{L}(x[n])DFT_{L}(h'[n])}\}},每小段会获得长度L 的时域信号

      Step 5: 对于每一个小段,只会保留末端的{\displaystyle L-(M-1)} 点,所以得名 Overlap-Save

      Step 6: 将全部保留的点合再一块儿,获得最后结果

      举例来讲:

      {\displaystyle x[n]=[1,2,3,4,5,6,7,8,9,10,11,12,13,14,15]}, 长度{\displaystyle N=15}

      {\displaystyle h[n]=[1,2,3]}, 长度{\displaystyle M=3}

      令 {\displaystyle L=7}

      将 {\displaystyle x[n]} 前面填{\displaystyle M-1} 个零之后,按照 Step 2 的方式分段,能够看到每一段都重复上一段的{\displaystyle M-1} 点

      再将每一段作{\displaystyle IDFT_{L}\{{DFT_{L}(x[n])DFT_{L}(h'[n])}\}}之后能够获得

      保留每一段末端的{\displaystyle L-(M-1)} 点,摆在一块儿之后,能够注意到第一段的范围是{\displaystyle 0\thicksim 4} ,第二段的范围是{\displaystyle 5\thicksim 9},第三段的范围是}{\displaystyle 10\thicksim 14},第四段的范围是{\displaystyle 15\thicksim 16},四段的范围是没有重叠的

      将结果和未分段的卷积作比较,下图是分段的结果,上图是没有分段并利用快速卷积所算出的结果,验证二者运算结果相同。

      至于为何要把前面  M-1}{\displaystyle M-1} 丢掉?

      如下以一例子来阐述:

      {\displaystyle x[n]=[1,2,3,4,5,6,7,8,9,10]}, 长度{\displaystyle L=10}

      {\displaystyle h[n]=[1,2,3,4,5]}, 长度{\displaystyle M=5},

      第一条蓝线表明 y  轴,而两条蓝线之间表明长度L,是在作快速卷积时的周期

      当在作快速卷积时{\displaystyle IDFT_{L}\{{DFT_{L}(x[n])DFT_{L}(h'[n])}\}},是把信号视为周期L,在时域上为循环卷积分,

      而在一开始前{\displaystyle M-1} 点所获得的值,是{\displaystyle h[0],h[6],h[7],h[8],h[9]} 和{\displaystyle x[0],x[6],x[7],x[8],x[9]} 内积的值,

      然而{\displaystyle h[6],h[7],h[8],h[9]} 这{\displaystyle M-1} 个值应该要为零,以往在作快速卷积时长度为  {\displaystyle L+M-1} 时不会遇到这些问题,

      而今天由于在作快速卷积时长度为L 才会把这{\displaystyle M-1} 点算进来,所以咱们要丢弃这{\displaystyle M-1} 点内积的结果

      为了要丢弃这  M-1}{\displaystyle M-1} 点内积的结果,位移  h[-n]}{\displaystyle h[-n]}  M-1}{\displaystyle M-1} 点,并把位移之后内积合的值才算有效。


    应用时机

    以上三种方法皆可用来计算卷积,其差异在于所需整体乘法量不一样。基于运算量以及效率的考量,在计算卷积时,一般会选择所需整体乘法量较少的方法。

    如下根据 f[n] 和 g[n] 的长度( N, M )分红5类,并列出适合使用的方法:

    1. M 为一很是小的整数 - 直接计算
    2. M \ll N - 快速傅里叶转换
    3. M \approx N - 分段卷积
    4. M \gg N - 快速傅里叶转换
    5. N 为一很是小的整数 - 直接计算

    基本上,以上只是粗略的分类。在实际应用时,最好仍是算出三种方法所需的总乘法量,再选择其中最有效率的方法来计算卷积。

    例子

    Q1: 当 N = 2000, M = 17 ,适合用哪一种方法计算卷积?

    Ans:

    方法1: 所需乘法量为  3MN = 102000
    方法2:  P \ge M+N-1 = 2016 ,而2016点的DFT最少乘法数  a = 12728 ,因此总乘法量为  3(a+P) = 44232
    方法3:
    若切成 8 块( S = 8),则 L = 250, P \ge M+L-1=266。选 P = 288,则总乘法量为  (2S+1)a+3SP = 26632 ,比方法1和2少了不少。
    可是若要找到最少的乘法量,必须依照如下步骤
    (1)先找出  L : 解  L :  \frac{\partial {\frac{N}{L}3(L+M-1)[\log_{2}(L+M-1)+1]}}{\partial L}=0
    (2)由 P \ge L+M-1 算出点数在  P 附近的DFT所需最少的乘法量,选择DFT的点数
    (3)最后由 L = P+1-M 算出  L_{opt}
    所以,
    (1)由运算量对  L 的偏微分为0而求出  L = 85
    (2) P \ge L+M-1 = 101,因此选择101点 DFT 附近点数乘法量最少的点数  P = 96或  P = 120 。
    (3-1)当  P = 96 \to a = 280, L = P+1-M = 80 \to S = 25 ,总乘法量为  (2S+1)a+3SP = 21480 。
    (3-2)当  P = 120 \to a = 380, L = P+1-M = 104 \to S = 20 ,总乘法量为  (2S+1)a+3SP = 22780 。
    由此可知,切成 20 块会有较好的效率,而所需总乘法量为 21480。
    • 所以,当N = 2000, M = 17,所需总乘法量: 分段卷积 < 快速傅里叶转换 < 直接计算。故,此时选择使用分段卷积来计算卷积最适合。

    Q2: 当 N = 1024, M = 3 ,适合用哪一种方法计算卷积?

    Ans:

    方法1: 所需乘法量为  3MN = 9216
    方法2:  P \ge M+N-1 = 1026 ,选择1026点 DFT 附近点数乘法量最少的点数, \to P = 1152, a = 7088
    所以,所需乘法量为  3(a+P) = 24342
    方法3:
    (1)由运算量对  L 的偏微分为0而求出  L = 5
    (2) P \ge L+M-1 = 7,因此选择7点 DFT 附近点数乘法量最少的点数  P = 8 或  P = 6 或  P = 4 。
    (3-1)当  P = 8 \to a = 4, L = P+1-M = 6 \to S = 171 ,总乘法量为  (2S+1)a+3SP = 5476 。
    (3-2)当  P = 6 \to a = 4, L = P+1-M = 4 \to S = 256 ,总乘法量为  (2S+1)a+3SP = 6660 。
    (3-3)当  P = 4 \to a = 0, L = P+1-M = 2 \to S = 512 ,总乘法量为  (2S+1)a+3SP = 6144 。
    由此可知,切成 171 块会有较好的效率,而所需总乘法量为 5476。
    • 所以,当N = 1024, M = 3,所需总乘法量: 分段卷积 < 直接计算 < 快速傅里叶转换。故,此时选择使用分段卷积来计算卷积最适合。
    • 虽然当 M 是个很小的正整数时,大体上适合使用直接计算。但实际上仍是将3个方法所需的乘法量都算出来,才能知道用哪一种方法能够达到最高的效率。

    Q3: 当 N = 1024, M = 600 ,适合用哪一种方法计算卷积?

    Ans:

    方法1: 所需乘法量为  3MN = 1843200
    方法2:  P \ge M+N-1 = 1623 ,选择1026点 DFT 附近点数乘法量最少的点数, \to P = 2016, a = 12728
    所以,所需乘法量为  3(a+P) = 44232
    方法3:
    (1)由运算量对  L 的偏微分为0而求出  L = 1024
    (2) P \ge L+M-1 = 1623,因此选择1623点 DFT 附近点数乘法量最少的点数  P = 2016 。
    (3)当  P = 2016 \to a = 12728, L = P+1-M = 1417 \to S = 1 ,总乘法量为  (2S+1)a+3SP = 44232 。
    由此可知,此时切成一段,就跟方法2同样,所需总乘法量为 44232。
    • 所以,当N = 1024, M = 600,所需总乘法量: 快速傅里叶转换 = 分段卷积 < 直接计算。故,此时选择使用分段卷积来计算卷积最适合。
    多元函数卷积

    按照翻转、平移、积分的定义,还能够相似的定义多元函数上的积分:

    (f * g )(t_1,t_2,\cdots,t_n) = \int\int\cdots\int f(\tau_1,\tau_2,\cdots,\tau_n) g(t_1 - \tau_1,t_2 - \tau_2,\cdots,t_n - \tau_n,)\, d\tau_1 d\tau_2 \cdots d\tau_n

    性质

    各类卷积算子都知足下列性质:

    交换律
    f * g = g * f \,
    结合律
    f * (g * h) = (f * g) * h \,
    分配律
    f * (g + h) = (f * g) + (f * h) \,
    数乘结合律
    a (f * g) = (a f) * g = f * (a g) \,

    其中a为任意实数(或复数)。

    微分定理
    \mathcal{D}(f * g) = \mathcal{D}f * g = f * \mathcal{D}g \,

    其中Df 表示f微分,若是在离散域中则是指差分算子,包括前向差分与后向差分两种:

    • 前向差分:\mathcal{D}^+f(n) = f(n+1) - f(n)
    • 后向差分:\mathcal{D}^-f(n) = f(n) - f(n-1)

    卷积定理

    卷积定理指出,函数卷积的傅里叶变换是函数傅里叶变换的乘积。即,一个域中的卷积至关于另外一个域中的乘积,例如时域中的卷积就对应于频域中的乘积。

    \mathcal{F}(f * g) = \mathcal{F} (f) \cdot \mathcal{F} (g)

    其中\mathcal{F}(f)表示f 的傅里叶变换

    这必定理对拉普拉斯变换双边拉普拉斯变换Z变换Mellin变换Hartley变换(参见Mellin inversion theorem)等各类傅里叶变换的变体一样成立。在调和分析中还能够推广到在局部紧致的阿贝尔群上定义的傅里叶变换。

    利用卷积定理能够简化卷积的运算量。对于长度为n的序列,按照卷积的定义进行计算,须要作2n-1组对位乘法,其计算复杂度\mathcal{O}(n^2);而利用傅里叶变换将序列变换到频域上后,只须要一组对位乘法,利用傅里叶变换的快速算法以后,总的计算复杂度为\mathcal{O}(n\log n)。这一结果能够在快速乘法计算中获得应用。

    在群上的卷积

    若 G 是有某 m 测度(例如豪斯多夫空间哈尔测度局部紧致拓扑群),对于G 上 m-勒贝格可积实数复数函数f 和g,可定义它们的卷积:

    (f * g)(x) = \int_G f(y)g(xy^{-1})\,dm(y) \,

    对于这些群上定义的卷积一样能够给出诸如卷积定理等性质,可是这须要对这些群的表示理论以及调和分析的彼得-外尔定理

    应用

    卷积在工程和数学上都有不少应用:

    • 统计学中,加权的滑动平均是一种卷积。
    • 几率论中,两个统计独立变量X与Y的和的几率密度函数是X与Y的几率密度函数的卷积。
    • 声学中,回声能够用源声与一个反映各类反射效应的函数的卷积表示。
    • 电子工程与信号处理中,任一个线性系统的输出均可以经过将输入信号与系统函数(系统的冲激响应)作卷积得到。
    • 物理学中,任何一个线性系统(符合叠加原理)都存在卷积。

    参见

    外部连接

相关文章
相关标签/搜索