不少同学在初学线性代数时感到迷茫、痛苦,体会不到课程的实际意义。这很大程度上是因为,教材为了由浅入深、循序渐进,须从基础的抽象概念讲起,而真正直观的部分,往往要等到后面的细分领域或具体应用。于是初学者往往知其然,不知其所以然;只见树木,不见森林。希望本文能让你换个视角,以轻松有趣的日常眼光,看到一个不一样的线性代数。
本文是系列文章《N文粗通线性代数》的最后一篇。在上篇文章中,我们基于线性方程组求解问题的需要,将通常的逆矩阵概念推广,引入广义逆矩阵。在广义逆研究中,一个重要里程碑是彭罗斯发表于1955年的著名论文。他用四个条件再次定义广义逆,引发了这一领域的研究热潮。那么,这四个条件分别代表什么意思呢?如果只选其中一个或者几个条件,我们又会看到哪些奇妙的现象呢?
往期文章:
撰文 | 吴进远
上回书说到,某近视宅男,某日下楼到早点铺买早餐。买了早餐,一边吃,一边思考。我们知道,只有正方形的矩阵,也就是说,行数与列数相同的矩阵,而且还必须是满秩的,才存在逆矩阵。可是在现实世界中,经常会遇到不方的矩阵,或者不(列)满秩的矩阵。对于这种情况,难道我们就只能干瞪眼,一筹莫展吗?
好在穆尔、彭罗斯以及后来很多人做了很多细致的工作。我们现在知道,一个任意矩阵A,都存在广义逆矩阵G,不管这个矩阵是不是方的,也不管它的秩满不满。广义逆矩阵通常可以有无数个,但如果我们通过彭罗斯给出的四个条件去筛选,就能筛选出一个唯一的逆。这四个条件是:
可是这四个条件分别代表什么意思呢?如果只选其中一个或者几个条件,我们又会看到哪些奇妙的现象呢?
(1)“勤奋大道”上的汽车挡风玻璃
宅男吃了早餐,收拾了餐盘,订了网约车,打算去问问他的导师。
很多大学或者研究机构的大院内都绿化得非常好,我第一次访问中科大的时候,接待我的同学告诉我,大家管某一条林荫大道叫“勤奋大道”。大道两旁树木参天,有许多鸟儿在树上栖息嬉戏,叽叽喳喳甚是热闹。鸟类在几千万年的演化过程中,逐渐进化出减轻体重、有利飞行的各种绝活。其中之一就是随时抛弃消化道残余物质。这条林荫道是学生们每天上课、下课、去食堂、回宿舍的必经之路,因而屡次发生有人被鸟类废弃物砸中的事件,由此得名“勤奋大道”,又名“天使大道”。
宅男坐的网约车刚停在他们学校的“勤奋大道”路边,就被鸟类废弃物砸中挡风玻璃。宅男见状,心中豁然开朗,暗喊“尤里卡”,激动地不停感谢司机师傅。
原来,鸟类废弃物落下可以看成是一个坐标变换,也就是说从初始状态:在高低不同的树枝上(坐标为x1, x2),变换成结束状态:在挡风玻璃上(坐标为y1, y2)。而坐标变换可以用矩阵的乘法Ax = y 来表述。不难验证,上面图中的坐标变换可以用下面的矩阵来描述:
对于任意初始状态(坐标为x1, x2),经过坐标变换之后,我们有y1 = x1。这就是说,鸟粪的横坐标没有变换,而是在重力作用下,垂直下落。而坐标变换后y2 = y1,这正是挡风玻璃表面的坐标。同时提醒读者注意,经过这个坐标变换,鸟粪的初始高度信息丢失了。因此可以想象,根据鸟粪在挡风玻璃上的位置,我们是铁定无法让鸟粪逆转飞回原位的。此外,不难看出这个矩阵不是满秩的,这表示这个矩阵的逆是不存在的。不过,我们可以寻找合适的广义逆矩阵。
(2)广义逆矩阵:{1}-逆
现在我们希望找到A的广义逆矩阵,我们把这个广义逆矩阵写做G:
这里,我们用四个任意数a, b, c, d来表示这个广义逆矩阵的元素。
既然是“逆”,我们希望这个广义逆矩阵能够在一定程度上“逆转”鸟类废弃物落下这个过程。可以想象挡风玻璃上涂了高技术纳米材料涂层,因此不和鸟粪粘连。我们让高速气流从前向上吹出,把鸟粪吹上天。也就是说,我们希望广义逆矩阵产生一个坐标转换:G y = u,其中y是挡风玻璃上的坐标点,而u是空中的坐标点。
如前所述,我们无法精确地逆转鸟类废弃物落下这个过程,因为初始状态的纵坐标这个信息已经丢失了。但能够把鸟粪吹上天,也算逆了一下吧。
不过如果我们任意选择a, b, c, d这几个数,上面的坐标变换就会乱飞,要想获得一个靠谱的变换,就需要对a, b, c, d这几个数加一些限制,这些限制可以由广义逆矩阵关系式 AGA = A 给出。符合这个条件的广义逆矩阵如下所示。
注意这里四个自由参量变成了三个。不难通过下式验算,确认关系式 AGA = A 成立。
这个广义逆矩阵带来的坐标转换是让挡风玻璃上的鸟粪竖直地飞到天上,如下图所示
很显然,鸟粪虽然没有飞到它们的初始位置,但飞到了一个“靠谱”的位置。这里说的靠谱,意思是如果这些鸟粪再次下落,它们仍然会落到刚才在挡风玻璃上的位置,如下图所示,这就是 AGA = A 这个条件在这个问题里的几何意义。
所以,鸟粪第一次落下,用矩阵语言表述,是一个坐标变换:Ax;从挡风玻璃上吹起:G(Ax);再次落下:A(G(Ax))。再次落下的位置与第一次砸中位置一样:AGAx = Ax。
由于 AGA=A 是彭罗斯逆四个条件中的第一个,所以这种逆被称为{1}-逆。后面我们还会讨论{1, 2}-逆,{1, 3}-逆,{1, 4}-逆等,最后我们还会讨论满足所有四个条件的{1, 2, 3, 4}-逆,也就是穆尔-彭罗斯逆。在四个条件中任选一个或者几个满足,共有15种组合,也就是说有15个不同的逆。不过对于广义逆矩阵,第一个条件总是要满足的。因此在这种情况下,还剩下8种组合,情形简单了很多。但无论哪种情况,我们都能看出彭罗斯逆的四个条件为我们了解广义逆矩阵的丰富形状,提供了系统的方法。
(3)自反广义逆矩阵:{1, 2}-逆
彭罗斯四个条件中的第二个,是我们前面讨论的自反广义逆矩阵条件 GAG = G。同时满足第一、第二两个条件的逆叫做{1, 2}-逆。
GAG = G 条件在我们这个问题中的几何意义是:(1)先把鸟粪吹上天,对应的坐标变换为:Gy',注意这里 y' 是空间中的任意位置,不仅仅局限于挡风玻璃上。这种情况下,鸟粪不一定是竖直吹上天的,完全可以横向漂移一点。不过这不要紧,后面还有两个坐标变换。(2)鸟粪落下,对应的坐标变换为:A(Gy'),于是鸟粪落在挡风玻璃上。(3)鸟粪再一次被吹起,坐标变换为:G(A(Gy')) 。这时,我们需要检查第二次吹起来的空间位置GAGy',与第一次吹起来的空间位置Gy'是不是一致。
这个过程如上图所示,由于G已经满足了彭罗斯第一个条件,所以落在挡风玻璃上的鸟粪一定是竖直向上飞的。因而对于上图最左边所示的特例,彭罗斯第二个条件 GAG = G 碰巧是满足的。但对于一般的情况,第二次吹上天的位置与第一次吹上天的位置处于相同的垂线上,高度却不一定一致。
这就要求我们对G当中的自由参量继续限制,使之满足彭罗斯第二个条件 GAG = G。经过限制之后,这个矩阵里变成了这个样子
注意这个矩阵里的自由参量减少到了两个,其中a,c,d 三个参量之间由一个方程把它们约束起来,一旦选定任意两个参量,第三个就确定了。彭罗斯第二个条件对应的坐标转换过程如下图所示。
这时我们看到,第一次和第二次吹上天的鸟粪位置完全相同。
(4)提供最小二乘解的广义逆矩阵:{1, 3}-逆
如果我们遇到一个自相矛盾的方程组,却不能甩手不管,而要设法去寻找方程组的解大概率会是什么,比如下图。
设想测量数据显示,鸟粪在P这个位置,我们有一堆逆矩阵G,可以去计算它是从哪里掉下来的。不过P这个位置显然是错的,鸟粪落下来一定是落在挡风玻璃上,而不会悬浮在半空中。它可能实际在A点,由于横坐标测量误差,使数据错误地显示它在P点。它也可能实际在B点,由于纵坐标误差使它漂浮空中。但更大的可能是实际在A到B之间某个点,横坐标、纵坐标都有误差。而可能性最大的位置是在A与B之间的平分点C。
因此,我们应该从一堆逆矩阵G中,挑出可以把鸟粪从P点吹到Q点的。这样的逆矩阵,可以为我们提供最小二乘解。
这样的广义逆矩阵,必须同时满足彭罗斯四个条件中的第一与第三条件,也就是{1, 3}-逆。
我们这里略过具体推导,直接观察下图显示的三个广义逆矩阵的坐标转换过程。
最左边这个的确把鸟粪朝正确的方向吹了,但吹的力度不够。中间这个力度太大了。最右边由紫色线段标示的这个广义逆矩阵力度正合适,鸟粪最终会落到前面图中的C点。它是一个{1, 3}-逆。
(5)提供最小范数解的广义逆矩阵:{1, 4}-逆
我们前面谈到,这个问题中的广义逆矩阵都会把挡风玻璃上的鸟粪向天上竖直地进行坐标转换,但另一方面,鸟粪的初始高度已经不知道了,所以不可能把鸟粪落下的真实过程完全逆转。
我们可以仔细看一下“鸟粪落下”这个矩阵
矩阵A的列数为2,就是说它有两个未知数。但它的列秩等于1,因此是一个约束不足的方程组,如果有解会有无穷多个解。遇到无穷多解的时候,在众多解决方案中有一个比较常用,就是从这些解中选取一个特殊的解,使这个解具有最小范数。
我们以前谈到,最小范数解对应早餐店价格问题,可以看成是“小本经营”解。现在对于鸟粪问题,我们可以把它看成是“树顶横枝”解。设想大学里种的行道树品种特殊,它的枝干长到树顶附近就开始横着长。鸟群从远处飞来,这种树顶的横枝是最容易降落歇息的地方。
能够提供最小范数解的逆矩阵,符合彭罗斯四个条件中的第一与第四两个条件,这个逆写为{1, 4}-逆。我们通过下图来做一个说明。
上图显示了三个广义逆矩阵,最右边用绿色线条标注的广义逆矩阵是{1, 4}-逆,它把挡风玻璃上的鸟粪吹到纵坐标为0的高度,也就是树顶横枝的高度。这个解的范数最小。前面说过,范数是把一个向量里所有坐标平方求和再把和值开方。对于我们这个问题,横坐标已经限制死了,因此必须把纵坐标推到0才能使范数最小。
(6)穆尔-彭罗斯广义逆矩阵:{1, 2, 3, 4}-逆
现在,我们把彭罗斯的四个条件都用上,就得到了穆尔-彭罗斯广义逆矩阵,对于任意一个矩阵A,它的穆尔-彭罗斯广义逆矩阵一定存在,而且只有一个。我们可以把这个矩阵叫做{1, 2, 3, 4}-逆,但通常还是直接叫穆尔-彭罗斯广义逆。
我们通常把任意矩阵A的穆尔-彭罗斯广义逆矩阵写作A+,这个写法有点像普通满秩方阵的逆矩阵A-1。如果矩阵A是满秩方阵,则它的逆矩阵A-1与穆尔-彭罗斯广义逆矩阵A+是完全相同的。不过任意矩阵A不仅可能不是满秩,甚至都可能不是方的,它的穆尔-彭罗斯广义逆矩阵A+也相应不是方的。比如A是m × n,则A+是n × m。如果A是“矮胖”,则A+以及所有其他广义逆矩阵都是“高瘦”,反之亦然。
由于同时满足了所有四个条件,用穆尔-彭罗斯广义逆矩阵算出的原线性方程组的解,同时具备最小范数和最小二乘性质。
最后回到勤奋大道鸟类废弃物问题。废弃物从天而降这个坐标转换矩阵
它的穆尔-彭罗斯广义逆矩阵为
注意由于要满足彭罗斯的四个条件,原来广义逆矩阵中的几个自由参量都一个一个地被约束了,最后所有矩阵元素都被确定下来,成为上面这个样子。
这个穆尔-彭罗斯广义逆矩阵所带来的坐标转换可以用下图来说明。
首先,落在挡风玻璃上任意位置的鸟粪,都会被竖直吹起。因此停止吹气后,它们还会落到相同位置。这满足了彭罗斯四个条件中的第一个:AA+A = A。在空间中任意位置的鸟粪,不论是玻璃上还是悬在空中的,都会被吹到树顶横枝,这满足了第四个条件,这个解因此是最小范数解。由于任意位置的鸟粪必然被吹到树顶横枝,再次落下后再被吹起的高度,与第一次吹起时的高度一致,由此可以推定彭罗斯的第二个条件 A+A A+ = A+也是满足的。最后,这个广义逆矩阵满足第三个条件。这使得悬空鸟粪横漂的距离恰好为悬空距离的一半,因而这个广义逆矩阵产生的解是最小二乘解。
所以,没有什么穆尔-彭罗斯广义逆的问题,不能通过在勤奋大道上被砸中一次来理解,如果有,就把鸟粪吹起来,然后再被砸中一次。
0
推荐