线性代数关于向量的范数范数根号下的是具体怎么得出的

矩阵的数值计算一般可以分为直接法和间接法

这类线性方程组求解的直接法数值求解该方程组的基础思想是Gauss消元法

实质是通过一组满秩的初等行变换,将A保秩变换成一個三角矩阵U此变换过程称为矩阵A的非奇异上三角化

我们的目的就是寻求一个矩阵P,使得PA=U其中U是一个三角矩阵,其中

),有效的生成一个P昰我们主要研究的问题

回顾一下线性代数中的三个初等线性变换

我们引入一个一般意义上的初等变换矩阵它把許多常用的线性变换统一在一个框架里面,在数值线性代数中起着重要的意义

可以得到许多常用的线性变换矩阵

下面引出初等变换矩阵嘚一些重要的数学性质 1.两相同向量的范数u,v组成的初等变换矩阵可交换其积仍然为一个初等矩阵

,则初等矩阵E(u,v;\sigma)可逆,其逆矩阵也是初等矩陣

正交的(n-1)维子空间 a.若

有n个线性无关的特征向量的范数该组特征向量的范数由u和

中任取一组基向量的范数组成 b.若

仅有n-1个线性无关的特征向量的范数,该组特征向量的范数由

由初等变换矩阵引出Guass变换矩阵我们选取

下面给出Guass变换矩阵的一些性质

2.Guass变换矩阵的逆只需要将

先介紹一下顺序Gauss消元法,大概分两步

在消元过程中我们不断去左乘Gauss变换矩阵,不断将原矩阵的下三角部分一列列变成0从而最终变换成一个仩三角矩阵

需要注意的是,在一列列的消元过程中我们需保证

,所以需要利用行互换来保证此条件

当然这一切消元过程的前提是,矩阵A应該是非奇异的

经过n-1次的Gauss消元我们可以得到一个上三角矩阵

在回代过程中,由于我们得到了一个上三角矩阵那么就可以从最底行开始逐步解出x

Gauss消元法的复杂度是

,高阶状态下比起克拉默法则运算量要小得多

Gauss消元法过程中在对各列进行消元的时候,如果主元比较小的话運算的结果会产生较大的误差,故引入Gauss列主元消元法即在每一次利用主元消元的步骤之前,把该列中绝对值最大的数所在的行与主元所茬的行进行交换

我们利用Gauss变换矩阵对Gauss消元法进行进一步的分析

由此引出矩阵的LU分解又称Doolittle分解

这里再介绍一下Crout分解,即A=LU中的L是一个下三角矩阵U是单位上三角矩阵

注意到某些特殊矩阵的三角分解也是比较特殊的,这里引入一类带状对角形矩阵

上半带宽为s下半带宽为r,存在LU汾解其中L是下半带宽为r的单位下三角矩阵,U是上半带宽为s的上三角矩阵

对于r=s=1的这一类更加特殊的矩阵称为三对角矩阵,对于此类矩阵嘚三角分解介绍一种“追赶法”

然后分两步解决此类问题 追:解

注意到正定对称矩阵的三角分解也是特殊的,这里引入Cholesky分解

,对U进一步提取对角矩阵

由于分解的唯一性可知

此种分解手段称为Cholesky分解,限定对角元素为正此类分解唯一

上述的Cholesky分解中涉及了开方的运算,下面介紹一种改进的平方根法

,其中D的逆只需要将对角元素取倒数即可

范数是比长度更为一般的概念有了范数就可以更好的去测度误差的大小

对於非负正定,当仅当x=0有N(x)=0,否则N(x)> 0;

这里介绍几种常见的向量的范数范数

向量的范数中的元素的绝对值之和

向量的范数中的元素的绝對值的平方加起来然后开方

向量的范数元素中的最大绝对值(使用Cauchy-Schwarz不等式证明三角不等式)

向量的范数中的元素的绝对值的p次方加起来然後开p次方根(利用赫尔德不等式即可证明三角不等式)

在最优化理论中可能会涉及加权范数A为对称正定矩阵,

在无限维线性空间中比洳在[a,b]区间中,对于所有的实连续函数集合C[a,b],对于其中的一个元素f(x)也是有类似定义的范数

下面介绍一下范数的等价性

对于任意两个定义好的范數存在两个与向量的范数x无关的非零正常数c1,c2有

不难验证,此处的等价性满足数学定义中的等价性的三个条件即自反,对称传递

矩阵范数不仅仅满足非负正定,齐次和三角不等式而且须满足矩阵相乘的相容性,即

这里给出一类特殊的范数 Frobenius范数

上面的任意一种向量的范数诱导范数,都有

这里给出一种范数的定义即诱导矩阵范数,诱导矩阵范数和向量的范数范数密切相关

定义:设在两个向量的范數空间

空间上的矩阵A的由向量的范数范数

诱导所给出的矩阵范数为(其中x不为零向量的范数)

我们为了解决这个最大值的问题继续等价萣义来优化这个问题

其中第一个max条件为x不为零向量的范数,第二个max条件为

我们利用诱导范数的定义可以从原来的向量的范数范数中诱导出彡种范数分别是

1范数:对矩阵的每一列中的元素取绝对值之后求和,然后选取其中的最大列作为1范数 2范数:矩阵的最大奇异值也就是矩阵与矩阵的转置的乘积的最大特征值 无穷范数:对于矩阵的每一行的元素取绝对值之后求和,然后选取其中的最大行作为无穷范数

关于矩阵的应用这里引入一个Banach引理

设矩阵A属于n*m的复矩阵空间,对于该空间上的某种矩阵范数

矩阵的谱半径为矩阵的最大特征值关于矩阵的譜半径,它不超过其任意一种矩阵范数(当矩阵是Hermite矩阵时矩阵的2范数恰好等于矩阵的谱半径)

继续给出线性方程组中条件数的定义

在某┅矩阵空间中,对于某一矩阵范数矩阵的条件数=矩阵的范数×矩阵的逆的范数,即

对于矩阵的条件数来说,它显然大于等于1当矩阵恰恏是正交矩阵的时候,矩阵的条件数恰好等于1 当矩阵为对称阵对应的矩阵范数为2范数的时候,此时的条件数称之为谱条件数其值等于朂大特征值除以最小特征值,然后取绝对值

}

本节介绍希尔伯特-施密特范数,它昰矩阵的范数的一个简单而有用的上界

1 希尔伯特-施密特范数

它是A的范数的一个上界.

下边以实矩阵为例证明它是上界:

则y的分量可用x的分量表示:

利用施瓦兹不等式估计上式右端的项,得:

令i=1,...,m将上述不等式相加,即得:

根据标准的欧几里得范数的定义上式可以写作:

上式两端开岼方根,再由y=Ax可得:

这就是A的范数的一个上界.

类比该证明,可以证明复欧几里得空间中成立不等式:

这就证明了希尔伯特-施密特范数是复欧几裏得空间中线性映射的一个上界.

}

这两种范数实际上是有非常紧密嘚联系的

一方面,矩阵的2范数是向量的范数二范数对应的诱导范数给定某一种向量的范数范数 ,它所对应的矩阵范数定义为

注意左边嘚范数是矩阵范数而右边分子分母都是向量的范数范数,因为也是一个向量的范数通过这种方式定义出来的矩阵范数称为矩阵的诱导范数。可以证明矩阵的2范数是由向量的范数2范数诱导定义的。更多的诱导范数的例子可以参照维基百科:

另一方面,向量的范数范数鈳以认为是矩阵的诱导范数的特例如果将长度为的向量的范数视为一个的矩阵,你会发现前者的向量的范数范数是等于后者的矩阵范数嘚!例如向量的范数的2范数是定义为 。

而如果你把当做一个矩阵那么根据定义,它的矩阵2范数等于注意到是一个数,你也可以认为咜是一个的矩阵因此根据特征值得定义,它唯一的特征值就是它本身因此对应的矩阵2范数也等于 !实际上,不仅对于2范数其他向量嘚范数范数也都可以认为是矩阵范数的一个特例,你可以自己做个练习一一证明

}

我要回帖

更多关于 向量的范数 的文章

更多推荐

版权声明:文章内容来源于网络,版权归原作者所有,如有侵权请点击这里与我们联系,我们将及时删除。

点击添加站长微信