线性代数 --- 投影Projection 四(投影有什么用?Why projection)
创始人
2024-01-29 04:59:23

    

        笔者在本系列的开篇就说过,我在学习投影的过程中,有很长的一段时间都是把重点放在了,如何计算投影本身,也就是背公式。

        现在我发现(尤其是明白了投影即分量之后),学习投影的主要目的,或者说是学习重点,并不如何计算一个任意向量b在空间中另外一个向量/不同方向上的投影p。而是要思考为什么我们要绞尽脑汁把一个向量b,投影到我们希望的目标向量a或目标空间上(例如,三维空间中的x-y平面)?

   

现在我们再回到这幅图(将就看):

         这是一个二维空间\large R^{2},x轴与y轴分别是这个空间的两个子空间,他们过0点,且线性无关。

对于子空间x轴而言:

我们定义列向量b1=[1 0]',为他的基底(Base)。注意,基底不唯一,可以是向量[n 0]'。

对于子空间y轴而言:

我们定义列向量b2=[0 1]',为他的基底(Base)。

        子空间中的任何一个向量都是由他的基底所张成(Span)的,例如,x轴上的向量[5 0]',可以由5xb1的线性组合得到。或者说,基底通过线性组合可以张满整个空间。现在我们从矩阵的视角来看看,如果我们把基底b1[1 0]'当作2x1矩阵A的列向量,即:

\large A=\begin{bmatrix} 1\\0 \end{bmatrix}

        这样一来,向量b在x轴上的投影p(也就是在子空间x轴上的投影),就变成了在A的列空间上的投影。它,可以通过A中各个列向量的线性组合得到。

对于子空间y轴而言,则:

\large A=\begin{bmatrix} 0\\1 \end{bmatrix}

在三维空间\large R^{3}中有:


从投影到最小二乘: 

继续前面的二维空间\large R^{2}的例子:

1,向量b=[x y] ——投影在x方向——》得到投影向量p1=[x 0]'

2,投影向量p1,在矩阵A的列空间中,且,A的列是由基底b1=[1 0]'组成的。

3,这样一来,向量b在x轴或y轴上的投影/分量p1,就可以通过矩阵A各列的线性组合表示了。

4,现在可以把前面反复提及的向量b和线性代数中最常见的方程组Ax=b放在一起考虑。把向量b放在方程组的右端,如果方程组有解,则说明,向量b在A的列空间中,也就是说b在A的列空间上的投影就是它自己。因为,有解就说明向量b可以通过A的列向量的线性组合表示。

现在令b=p1=[x 0],那么b就可以通过x轴的基底b1表示,b=x*b1[1 0]。

对于用基底作为A中各列的方程组Ax=b(p1)而言:

                                 \large A=\begin{bmatrix} 1\\0 \end{bmatrix} (A的第一列等于b1)\large b=p1=\begin{bmatrix} x\\ 0 \end{bmatrix},方程有解 \large x=x

5,可实际情况是方程组Ax=b的b并不等于p1[x 0],而是b=[x y]。很明显方程组无解,因为,仅仅只是用[1 0],是无论如何都得不到[x y]。这时,为了让方程有解,我们只能把b投影到A的列空间上,也就是x轴上,找到一个最接近原方程Ax=b的近似解x',把求解原方程组Ax=b变成了求解新的方程组Ax'=p1,最终得到x'=x。

小结:

        把任意向量b投影到某个子空间上,也就是投影到与之对应的mxn矩阵的列空间上,这样一来,原本无解的方程Ax=b,就变成了可求解的Ax'=p。(这是最小二乘的核心)

课外阅读(个人笔记补充):

 (全文完)

作者 --- 松下J27

鸣谢(参考文献):

1,《Introduction to Linear Algebra》,5th Edition - Gilbert Strang

 2,线性代数及其应用,侯自新,南开大学出版社,1990.

外国哲理小诗分享:

黄色的树林里分出两条路,

可惜我不能同时去涉足,

我在那路口久久伫立,

我向着一条路极目望去,

直到它消失在丛林深处。

但我却选了另外一条路,

它荒草萋萋,十分幽寂,

显得更诱人、更美丽,

虽然在这条小路上,

很少留下旅人的足迹,

那天清晨落叶满地,

两条路都未经脚印污染。

啊,留下一条路等改日再见!

但我知道路径延绵无尽头,

恐怕我难以再回返。

也许多少年后在某个地方,

我将轻声叹息把往事回顾,

一片树林里分出两条路,

而我选了人迹更少的一条,

从此决定了一生的道路。 

 (配图与本文无关)

版权声明:所有的笔记,可能来自很多不同的网站和说明,在此没法一一列出,如有侵权,请告知,立即删除。欢迎大家转载,但是,如果有人引用或者COPY我的文章,必须在你的文章中注明你所使用的图片或者文字来自于我的文章,否则,侵权必究。 ----松下J27 

相关内容

热门资讯

埃菲尔铁塔在哪 中国仿建埃菲尔... 2019年4月26日,广西南宁市,街头惊现一座巨型山寨版埃菲尔铁塔,高约20米,白色塔身,造型逼真,...
平遥古城在哪 平遥古城基本现状 城垣恢宏,雉堞连云市井街巷,店肆林立四合院落,青砖瓦屋这里是平遥古城历经千年沧桑而古朴宛然,风姿依旧...
苗族的传统节日 贵州苗族节日有... 【岜沙苗族芦笙节】岜沙,苗语叫“分送”,距从江县城7.5公里,是世界上最崇拜树木并以树为神的枪手部落...
北京的名胜古迹 北京最著名的景... 北京从元代开始,逐渐走上帝国首都的道路,先是成为大辽朝五大首都之一的南京城,随着金灭辽,金代从海陵王...
应用未安装解决办法 平板应用未... ---IT小技术,每天Get一个小技能!一、前言描述苹果IPad2居然不能安装怎么办?与此IPad不...
长白山自助游攻略 吉林长白山游... 昨天介绍了西坡的景点详细请看链接:一个人的旅行,据说能看到长白山天池全凭运气,您的运气如何?今日介绍...
脚上的穴位图 脚面经络图对应的... 人体穴位作用图解大全更清晰直观的标注了各个人体穴位的作用,包括头部穴位图、胸部穴位图、背部穴位图、胳...
世界上最漂亮的人 世界上最漂亮... 此前在某网上,选出了全球265万颜值姣好的女性。从这些数量庞大的女性群体中,人们投票选出了心目中最美...
埃菲尔铁塔在哪 中国仿建埃菲尔... 2019年4月26日,广西南宁市,街头惊现一座巨型山寨版埃菲尔铁塔,高约20米,白色塔身,造型逼真,...
平遥古城在哪 平遥古城基本现状 城垣恢宏,雉堞连云市井街巷,店肆林立四合院落,青砖瓦屋这里是平遥古城历经千年沧桑而古朴宛然,风姿依旧...
苗族的传统节日 贵州苗族节日有... 【岜沙苗族芦笙节】岜沙,苗语叫“分送”,距从江县城7.5公里,是世界上最崇拜树木并以树为神的枪手部落...
北京的名胜古迹 北京最著名的景... 北京从元代开始,逐渐走上帝国首都的道路,先是成为大辽朝五大首都之一的南京城,随着金灭辽,金代从海陵王...
应用未安装解决办法 平板应用未... ---IT小技术,每天Get一个小技能!一、前言描述苹果IPad2居然不能安装怎么办?与此IPad不...