卷积和内积

我是从支持向量机中领悟到內积运算与之前学过的卷积运算特别相似，搜索了一下，早有学者发现了这种相似。

参考：卷积和內积

信号处理中的一个重要运算是卷积.初学卷积的时候,往往是在连续的情形, 两个函数f(x),g(x)的卷积,是∫f(u)g(x-u)du 当然，证明卷积的一些性质并不困难，比如交换，结合等等，但是对于卷积运算的来处，初学者就不甚了了。

其实，从离散的情形看卷积，或许更加清楚， 对于两个序列f[n],g[n],一般可以将其卷积定义为s[x]= ∑f[k]g[x-k]

卷积的一个典型例子,其实就是初中就学过的多项式相乘的运算, 比如(x*x+3*x+2)(2*x+5) 一般计算顺序是这样, (x*x+3*x+2)(2*x+5) = (x*x+3*x+2)*2*x+(x*x+3*x+2)*5 = 2*x*x*x+3*2*x*x+2*2*x+ 5*x*x+3*5*x+10 然后合并同类项的系数, 2 x*x*x 3*2+1*5 x*x 2*2+3*5 x 2*5

2*x*x*x+11*x*x+19*x+10

实际上,从线性代数可以知道,多项式构成一个向量空间,其基底可选为 {1,x,x*x,x*x*x,…} 如此,则任何多项式均可与无穷维空间中的一个坐标向量相对应, 如,(x*x+3*x+2)对应于 (1 3 2), (2*x+5)对应于 (2,5).

线性空间中没有定义两个向量间的卷积运算,而只有加法,数乘两种运算,而实际上,多项式的乘法,就无法在线性空间中说明.可见线性空间的理论多么局限了. 但如果按照我们上面对向量卷积的定义来处理坐标向量, (1 3 2)*(2 5) 则有 2 3 1 _ _ 2 5 ———— 2

2 3 1 _ 2 5 ———— 6+5=11

2 3 1 2 5 ———— 4+15 =19

_ 2 3 1 2 5 ———— 10

或者说, (1 3 2)*(2 5)=(2 11 19 10)

回到多项式的表示上来, (x*x+3*x+2)(2*x+5)= 2*x*x*x+11*x*x+19*x+10

似乎很神奇,结果跟我们用传统办法得到的是完全一样的. 换句话,多项式相乘,相当于系数向量的卷积.

其实,琢磨一下,道理也很简单, 卷积运算实际上是分别求 x*x*x ,x*x,x,1的系数，也就是说，他把加法和求和杂合在一起做了。(传统的办法是先做乘法，然后在合并同类项的时候才作加法) 以x*x的系数为例，得到x*x，或者是用x*x乘5，或者是用3x乘2x,也就是 2 3 1 _ 2 5 ———— 6+5=11 其实,这正是向量的内积.如此则,卷积运算,可以看作是一串内积运算.既然是一串内积运算，则我们可以试图用矩阵表示上述过程。

[ 2 3 1 0 0 0] [ 0 2 3 1 0 0]==A [ 0 0 2 3 1 0] [ 0 0 0 2 3 1]

[0 0 2 5 0 0]’ == x

b= Ax=[ 2 11 19 10]’

采用行的观点看Ax,则b的每行都是一个内积。 A的每一行都是序列[2 3 1]的一个移动位置。

显然,在这个特定的背景下,我们知道,卷积满足交换,结合等定律,因为,众所周知的,多项式的乘法满足交换律,结合律.在一般情形下,其实也成立.

在这里,我们发现多项式,除了构成特定的线性空间外,基与基之间还存在某种特殊的联系,正是这种联系,给予多项式空间以特殊的性质.

在学向量的时候，一般都会举这个例子，甲有三个苹果，5个橘子，乙有5个苹果，三个橘子，则共有几个苹果，橘子。老师反复告诫，橘子就是橘子，苹 果就是苹果，可不能混在一起。所以有(3,5)+(5,3)=(8,8).是的，橘子和苹果无论怎么加，都不会出什么问题的，但是，如果考虑橘子乘橘子， 或者橘子乘苹果，这问题就不大容易说清了。

又如复数,如果仅仅定义复数为数对（a,b),仅仅在线性空间的层面看待C2,那就未免太简单了。实际上，只要加上一条(a,b)*(c,d)=(ac-bd,ad+bc) 则情况马上改观，复变函数的内容多么丰富多彩，是众所周知的。

另外，回想信号处理里面的一条基本定理,频率域的乘积,相当于时域或空域信号的卷积.恰好跟这里的情形完全对等.这后面存在什么样的隐态联系,需要继续参详.

从这里看,高等的卷积运算其实不过是一种初等的运算的抽象而已.中学学过的数学里面，其实还蕴涵着许多高深的内容（比如交换代数）。温故而知新,斯言不谬.

其实这道理一点也不复杂，人类繁衍了多少万年了，但过去n多年，人们只知道男女媾精，乃能繁衍后代。精子，卵子的发现，生殖机制的研究，也就是最近多少年的事情。

孔子说，道在人伦日用中，看来我们应该多用审视的眼光看待周围，乃至自身，才能知其然，而知其所以然。