点击联系发帖人
时间：2016-08-28 03:24
基本概念：标量、向量范数、矩陣、张量、转置广播。
其中广播定义为：矩阵能和向量范数相加即C=A+b，其中Cij=Ai，j+bj
矩阵的乘积，记为C=AB
矩阵元素对应乘积即Hadamard乘积，记为C=A⊙B
两个维数相等的向量范数之间的点积得到一个数
矩阵乘积不一定满足交换律，但是向量范数点积满足交换律
注意点：解方程Ax=b逆矩阵主要作为理论工具使用，并不会在大多数软件应用程序中实际使用这是因为逆矩阵在数字计算机上只能表现出有限的精度，有效使用向量范数b的算法通常可以得到更精确的解
向量范数组的生成子空间、矩阵列向量范数的生成子空间（矩阵列空间、矩阵的值域）、解
线性无关：如果一组向量范数中的任意一个向量范数都不能表示成其他向量范数的线性组合那么这组向量范数称为线性无关
矩阵存在逆：矩阵必须是一个方阵，并且所有列向量范数都是线性无关的---->非奇异矩阵
范数是满足下列三个性质的任意函数：
2范数歐几里得范数，平方2范数1范数，最大范数Frobenius范数--->定义和适用情况
diag(v)表示对角元素由向量范数v中元素给定的一個对角方阵
对角矩阵的乘法计算非常高效
对角矩阵不一定是方阵，有瘦长型和胖宽型
对称是矩阵转置后和自己相等的矩阵
单位向量范数是2范数为1的向量范数
标准正交---->所有向量范数都相互正交且范数都为1
正交矩阵--->行向量范数和列向量范数是分别标准正交的矩阵
已知A是一个m*n的矩阵是一个常矩陣，x是一个n*1的向量范数是一个可变向量范数，求当向量范数x变化时||Ax||2/||x||2的最大值和最小值其中||Ax||2和||x||2表示求2范数。
可以等价变换一下求(||Ax||2/||x||2)^2的最夶值和最小值，进一步可以等价为求以下式子的最大值和最小值
即求x'A'Ax/(x'x)的最大值和最小值，A'和x'是求转置
要求上面式子的最大值和最小值，我的思路就是对求x求导但这涉及到了矩阵求导，就没有思路了……
||X||1为一范数||u?x||22为二范数的平方。洇为是二范数的平方所以每一维的x值互不相关，一次只要求一维下的最小值就可以了一维下的最小值，是一个二次函数和绝对值函数嘚关系问题如下图所示：
当x远大t时，在二次函数图像的中轴左侧因为线性函数为递减，二次函数为递增但是刚开始增的幅度很小，所以函数值下降但后来增的幅度很大，所以最小值一定出现在二次函数中轴和y轴之间且取得最小值的自变量u值为x-t。当x逐渐减小使得茬中轴和y轴之间，二次函数增加的幅度总小于线性函数减小的幅度当二次函数的导数的复数等于线性函数的导数时，是他们之间“幅度差”变化的转折点这点的u值为x-t，所以当x-t大于0时标题的式子等价于取消绝对值符号，且为正的式子用导数等于0，可以得出u=x-t时为最小徝。同理当x小于-t时u=x+t,为最小值；当x处于两者之间时，u必定等于0时取得最小值
