奇异值分解（《矩阵分析》阅读笔记）

目录

1. 矩阵空间的分解

2. 奇异值定理

3.奇异值分解的一些性质

4.奇异值与矩阵的范数、行列式、条件数、特征值

5.秩亏缺最小二乘解

若A的秩等于r，

U的前r列组成        A的列空间        的标准正交基

U的后n-r列组成     A的左零空间    的标准正交基

V的前r列组成         A的行空间       的标准正交基

V的后m-r列组成    A的零空间        的标准正交基

若一矩阵有零奇异值，那么该矩阵一定是奇异的（秩亏缺的）

①A和具有完全相同的奇异值

②下式为特征值分解（σ表示A的奇异值，∑为A的奇异值对角矩阵）

③酉不变性

    若P、Q为酉矩阵，PAQ和A具有完全相同的奇异值

④

①A的谱范数等于A的最大奇异值；A的F范数等于所有奇异值平方和开根号

②A的行列式等于A的所有奇异值相乘（正交矩阵的行列式绝对值等于1）

 这也解释了为什么当有零奇异值时，矩阵是奇异的（秩亏缺的）

③条件数.

④对于方正矩阵A，它的奇异值的取值范围大于特征值绝对值的取值范围 

所以

即求超定方程Ax=b的近似解（秩亏缺最小二乘问题）的奇异值分解方法

解：

求解过程相当于对向量b做一系列旋转、拉伸变换. 该解使得取得最小值.

当矩阵A受到噪声扰动时，它的奇异值也会发生扰动，一些零奇异值会变得大于零.

因此需要计算原矩阵A秩r的估计值

方法① 归一化奇异值方法

选择满足准则 的最大整数i作为有效序的估计

方法②范数比法

 求得有效秩后，套用x的求解公式，即可得解