1、奇異矩陣的感性理解

來自專欄線代個人心得

說明：本文本系列是個人心得，學習MIT Gilbert Strang的線性代數之後心得，其目的並非傳播，而是本人記載體會。本系列同時旨在理解聯繫線性代數和實際空間的感性認知。 文筆之差，謝絕轉載。

三階矩陣乘於三維列向量，Ax=b， Strang 說的不夠立體，應該是 一個 原本基於老空間（x=1 y=1 z=1） 所表示的三維列向量，在 ——>三維空間線性變換後的新空間中，基於新基和新三維的空間，這個三維列向量在新坐標系下的新的表述。

而 Gilbert Strang 在class 1想費力說明的一個問題是，關於奇異矩陣和三維中平面的關係：

以（3*1列向量的型態） 分解三階矩陣分別為矩1，矩2，矩3，矩123分別 由 三維列向量拆分的 x , y , z 對矩1 2 3 分別進行線性組合成為線性相關，而結果就是矩4，我們先認為是b。簡言：Ax=b。（以下討論是奇異矩陣和非奇異矩陣都是根據「b」無解有解而去認為A是奇異矩陣還是非奇異矩陣）

現在出現一個問題是：前提：當矩1+矩2=矩3，（注意：不包含係數），不管xyz與矩怎麼線性組合，b一定存在在矩陣1和矩陣2構成的平面內，（注意：是在三維空間中平面。還有矩3的向量也在矩陣1和2向量構成的平面內）。我們進一步說，這個線性組合有解：結果b——>是矩陣4，因為有解，且只能在平面——>它是非奇異矩陣，可逆。（這個非奇異矩陣是A）

但是，無解呢，也就是b這個向量不在平面內，那就不能稱為b了呀。嚴謹說，矩1和2構成平面，而在三維空間中，有很多向量不在這個平面里，那麼即認為這個「小氣「又」沒有肚量」的平面是奇異矩陣，認為這些向量對於線性方程而言，是無解的，是存在在線性方程構成的面之外的。

下面用空間思維理解會進一步理解奇異矩陣是什麼：

那麼，我們用空間的思維理解就是，首先「面」是我們虛構的（不存在的），其次引入「原空間」，「變換後的空間」兩個「概念」：

在三維的原空間中，存在有一個向量，在原空間扭曲變換後，在新的空間里，這個向量存在在這個新的空間里，並且這個向量在新的空間里更新為「隨著變換、更新後的向量」（即是b，矩4），這個新向量有一個特徵就是：新向量有一個規律，這個規律就是我們在三維中想像的：冥冥中的那個面。我叫它「虛的面」，規律就是，這個新向量一定在虛的面中。

以下重點！

但是，倘若，經過扭曲變換後，向量不見了呢，（是不是你根本就沒想到向量在扭曲後消失了呢），好神奇啊，真它喵的神奇啊，竟然，轉換空間後，向 量 骨 頭 都 沒 剩 下 了 ，毛都沒有，找都找不到——嗯，我們就叫它，叫無解。（注意它的解也不是在平面之外，它，沒有解。而實際不是空間中毫無向量，而是向量不存在在平面上，平面外的都叫「無解」，這指對於這個矩陣的無解）這個「消失了，好神奇啊」的源頭罪魁禍首是一個「變換矩陣」影響的，即認為它是一個「奇異矩陣」。這個變換後的空間是「奇異矩陣」變換來的。

以下這一段話討論的x、y、z不同於三維列向量拆分的 x , y , z。以下的討論x、y、z，即是分別為矩1 2 3：（這樣思考的目的有二：目的一是告訴你真正的xyz就是基ijk就是分別是矩1 2 3；目的二：三維列向量拆分的 x , y , z不過是適逢其會取其名而已，三維列向量拆分的 x , y , z可以在空間中理解為一個向量，在計算公式中理解為線性變換的對基向量的「倍數關係」。）

這個空間中x,y,z三個基坐標（矩123）（或者說i,j,k也行），其中有一個坐標（假設是z），z在x和y構成的平面上，那麼xyz三人原本約定「一個人一個維度上的方向」：要悄悄構築一個立體空間的。而最後x,y構築了兩個維度上方向了，而z放水了，找不到它的維度，新方向是構築出來了，但維度上還是處在x和y兩人已有的維度上，而只有兩個維度，就是一個平面，那麼「三維的約定」最後z就是xy兩者構築的平面上，只有二維，x、y、z構築的只有二維，那麼即認為它構築的這個矩陣為「奇異矩陣」，假如，構建出來的是三維矩陣，即是我們的前提條件失效：x+y不等於z，那麼這個構築出來的三維矩陣就是非奇異矩陣。

注意一下：「有解」指的是虛的面中解（向量），「有解」的解就是b、矩4。那麼形成「有解」的結果的源頭就是A，就是「非奇異矩陣」。（中文理解：沒有奇怪的地方）

而—— 在一個立體空間里，這個面之外的那些遊離的向量，就是「無解」，那麼形成「無解」，沒有解的結果的罪魁禍源的源頭就是A，就是「奇異矩陣」。（中文理解：奇怪的地方。我個人想叫它「奇異基向量」，畸形後的畸形啊...）。

---------------------------------------------------------------------------------

無解和有解從計算上的理解：

奇異矩陣行列式|A|等於0。若行列式|A|不等於0，則矩陣A為非奇異矩陣。

|A| = 0 ： 奇異

|A| ≠ 0 ： 非奇異

所以奇異無解，也就理所當然了，因為Ax=b，det([A])是0嘛，結果也就無解嘛。

---------------------------------------------------------------------------------

可不可逆和奇異性質：

同時，由|A|≠0可知：矩陣A可逆，這樣可以得出另外一個重要結論：

可逆矩陣就是非奇異矩陣，非奇異矩陣也是可逆矩陣。

非奇異矩陣 —— 可逆

奇異矩陣 —— 不可逆

---------------------------------------------------------------------------------

現在我又多了一個問題：

轉換後的空間是什麼？轉後的空間是經過降維嗎？

那得看從什麼角度去觀察了，基於原空間的網格線是降維了。基於新空間，也就是x、y、z，z被x、y兩人吃了嘛，也就是從新維度新空間去看，只有x、y對新空間的維度有貢獻，那麼二維相對於三維而言是降維了。

對於這個問題應該從哪種角度取考慮，我沒有再深入思考下去，好像目的性不是特別明顯就不深究了。

關於 Gilbert Strang -- class 1 有三個部分組成：

1、方程組拆解成列向量的型式 分別 乘於 列向量的x、y、z

2、奇異和非奇異矩陣概念、奇異矩陣和三維中的平面關係

3、矩陣的乘法，二階矩陣乘於列向量的兩種技巧。

本文闡述主要是2部分，1部分過於簡單直接引用結論在2部分前面。

關於1部分可以見其它人的筆記：

憶臻：MIT線性代數課程精細筆記[第一課]

關於3部分可以繼續看上面的鏈接，該文第三部分節點是3.3.

個人簡言第3部分其實就是兩種技巧：

A方法：大學教的行乘於列

B方法：

要知道v=?i+??j，

那麼列向量上面的即是？,?去乘於矩陣i（本人命名畸i），

而列向量下面的即是？? , ?? 去乘於矩陣j（本人命名畸j），

注意畸i畸j不是乘後的結果，而是矩陣的左邊和右邊，

矩陣其實應該叫做「變換矩陣」，指扭曲變換後新的空間中的新的兩個基，我叫它畸i和畸j(矩陣左邊和右邊)。

B方法顯然更符合線性關係的思想。

《 1、奇異矩陣的感性理解》（完）