神奇的矩阵

题目：U《神奇的矩阵》(修改版1.3)学校：U哈尔滨工程大学姓名：U黎文科联系方式：U798744369@qq.com前言这里只是整理了孟岩老师的《理解矩阵》和任广千、胡翠芳老师的《线性代数的几何意义》，在改正一些错误的基础上，前一部分基本忠实原文。但是本文并不是一次简单的复制粘贴，我在最后一部分加入了自己的一些感悟和理解，分别对矩阵的乘法，等价，相似、对角化等做出了讨论。文中重要的内容处采用楷体加粗，以示区分。可以说，本文是对原来文章的一次整理和升华。这里只是出于一种对数学的爱好！有兴趣的读者建议阅读原文，希望不会引起读者朋友的拍板砖。本文的大部分内容取材于DavidC.Lay的《线性代数及其应用》、孟岩老师的《理解矩阵》、任广千、胡翠芳老师的《线性代数的几何意义》、范崇金、王锋老师的《线性代数》（也就是我们学校的，我感觉这是一本不错的教材，讲解很透彻）。由于线性代数大家都学过，没有秘密可言。数学的好经验应该大家共享，我们自己也是这么学来的。作者愿意公开本文的电子文档。版权声明如下：（1）读者可以任意拷贝、修改本的内容，但不可以篡改作者及所属单位。（2）未经作者许可，不得出版或大量印发本文。由于本人水平有限，错误在所难免，欢迎读者对本文提出批评建议。谨以此文献给我的母校哈尔滨工程大学，作为一份建校六十周年的纪念！——作者2013年5月于哈尔滨神奇的矩阵学过线性代数的人都感觉到，线性代数带来的困惑实在太多了：对于线性代数，无论你从行列式入手还是直接从矩阵入手，从一开始就充斥着莫名其妙。比如说，在全国一般工科院系教学中应用最广泛的同济线性代数教材（现在到了第四版），一上来就介绍逆序数这个“前无古人，后无来者”的古怪概念，然后用逆序数给出行列式的一个极不直观的定义，接着是一些简直犯傻的行列式性质和习题——把这行乘一个系数加到另一行上，再把那一列减过来，折腾得那叫一个热闹，可就是压根看不出这个东西有嘛用。大多数像我一样资质平庸的学生到这里就有点犯晕：连这是个什么东西都模模糊糊的，就开始钻火圈表演了，这未免太“无厘头”了吧！于是开始有人逃课，更多的人开始抄作业。这下就中招了，因为其后的发展可以用一句峰回路转来形容，紧跟着这个无厘头的行列式的，是一个同样无厘头但是伟大的无以复加的家伙的出场——矩阵来了！多年之后，我才明白，当老师犯傻似地用中括号把一堆傻了吧叽的数括起来，并且不紧不慢地说：“这个东西叫做矩阵”的时候，我的数学生涯掀开了何等悲壮辛酸、惨绝人寰的一幕！自那以后，在几乎所有跟“学问”二字稍微沾点边的东西里，矩阵这个家伙从不缺席。对于我这个没能一次搞定线性代数的笨蛋来说，矩阵老大的不请自来每每搞得我灰头土脸，头破血流。要想提高自己的专业水平，你肯定深感数学能力的重要。随便打开一篇专著或论文，满纸的微分方程、矩阵扑面而来。竭力迎头而上，每每被打得灰头土脸、晕头转向。我天生就不是搞数学的？我的智力有问题吗？太失望了，太伤自尊了。转头看看周围，莫不雷同。大多的工程师们靠经验来工作，经验靠时间或试验来积累。数学应用的层次最多就是高中水平。也有硕士博士级的牛人，但也少见把数学工具在工作中应用的得心应手、手到擒来的。数学工具在科技实践中缺失的严重，导致我们的科技创新能力的严重缺失。普遍现象，绝对的。返回来想一想，我的智力应该没问题，重点大学都毕业了，能有多严重的问题？所有的工程师们、大学毕业生们的智力也没问题。问题是大家没把数学学好，没有真正掌握它。为啥没有在四年的大学阶段学好《线代》呢？要知道，学生是通过高考百里挑一录取的，智力应是足够正常的。事实上，我并不是特例。一般工科学生初学线性代数，通常都会感到困难。这种情形在国内外皆然。我认为，这是我们的线性代数教学中直觉性丧失的后果。上述这些涉及到“如何能”、“怎么会”的问题，仅仅通过纯粹的数学证明来回答，是不能令提问者满意的。比如，如果你通过一般的证明方证了矩阵分块运算确实可行，那么这并不能够让提问者的疑惑得到解决。他们真正的困惑是：矩阵分块运算为什么竟然是可行的？究竟只是凑巧，还是说这是由矩阵这种对象的某种本质所必然决定的？如果是后者，那么矩阵的这些本质是什么？只要对上述那些问题稍加考虑，我们就会发现，所有这些问题都不是单纯依靠数学证明所能够解决的。像我们的教科书那样，凡事用数学证明，最后培养出来的学生，只能熟练地使用工具，却欠缺真正意义上的理解。自从1930年代法国布尔巴基学派兴起以来，数学的公理化、系统性描述已经获得巨大的成功，这使得我们接受的数学教育在严谨性上大大提高。然而数学公理化的一个备受争议的副作用，就是一般数学教育中直觉性的丧失。数学家们似乎认为直觉性与抽象性是矛盾的，因此毫不犹豫地牺牲掉前者。然而包括我本人在内的很多人都对此表示怀疑，我们不认为直觉性与抽象性一定相互矛盾，特别是在数学教育中和数学教材中，帮助学生建立直觉，有助于它们理解那些抽象的概念，进而理解数学的本质。反之，如果一味注重形式上的严格性，学生就好像被迫进行钻火圈表演的小白鼠一样，变成枯燥的规则的奴隶。”我们在小学和中学的学习阶段，老师常常也讲一些抽象概念所对应的几何意义，为何到了大学我们的大脑就一下子高度抽象起来了？把形象仍得远远的，象瘟疫一样躲着他？目的是训练抽象思维？最终实际结果呢？不可否认，大学毕业后大家确实是抽象了，抽象得只会夸夸其谈讲理论不会干具体活了。既然你具体的活计不会干那干脆就专搞抽象的理论去嘛，结果也搞不了，为啥？只会做做过的抽象的数学题不会发明创造，没学会真正的抽象，真是越抽象越糊涂。事实上，当我们开始学习线性代数的时候，不知不觉就进入了“第二代数学模型”的范畴当中，这意味着数学的表述方式和抽象性有了一次全面的进化，对于从小一直在“第一代数学模型”，即以实用为导向的、具体的数学模型中学习的我们来说，在没有并明确告知的情况下进行如此剧烈的paradigmshift，不感到困难才是奇怪的。我觉得，抽象和形象是相辅相成，缺一不可的。由形象而抽象，再由抽象到形象，人的知识结构螺旋架才能旋转而上，达到越来越高的知识峰巅。大部分工科学生，往往是在学习了一些后继课程，如数值分析、数学规划、矩阵论之后，才逐渐能够理解和熟练运用线性代数。即便如此，不少人即使能够很熟练地以线性代数为工具进行科研和应用工作，但对于很多这门课程的初学者提出的、看上去是很基础的问题却并不清楚。比如说：*矩阵究竟是什么东西？向量可以被认为是具有n个相互独立的性质（维度）的对象的表示，矩阵又是什么呢？我们如果认为矩阵是一组列（行）向量组成的新的复合向量的展开式，那么为什么这种展开式具有如此广泛的应用？特别是，为什么偏偏二维的展开式如此有用？如果矩阵中每一个元素又是一个向量，那么我们再展开一次，变成三维的立方阵，是不是更有用？*矩阵的乘法规则究竟为什么这样规定？为什么这样一种怪异的乘法规则却能够在实践中发挥如此巨大的功效？很多看上去似乎是完全不相关的问题，最后竟然都归结到矩阵的乘法，这难道不是很奇妙的事情？难道在矩阵乘法那看上去莫名其妙的规则下面，包含着世界的某些本质规律？如果是的话，这些本质规律是什么？*行列式究竟是一个什么东西？为什么会有如此怪异的计算规则？行列式与其对应方阵本质上是什么关系？为什么只有方阵才有对应的行列式，而一般矩阵就没有（不要觉得这个问题很蠢，如果必要，针对mn矩阵定义行列式不是做不到的，之所以不做，是因为没有这个必要，但是为什么没有这个必要）？而且，行列式的计算规则，看上去跟矩阵的任何计算规则都没有直观的联系，为什么又在很多方面决定了矩阵的性质？难道这一切仅是巧合？*为什么说P-1AP得到的矩阵与A矩阵“相似”？这里的“相似”是什么意思？*特征值和特征向量的本质是什么？它们定义就让人很惊讶，因为Ax=λx，一个诺大的矩阵的效应，竟然不过相当于一个小小的数λ，确实有点奇妙。但何至于用“特征”甚至“本征”来界定？它们刻划的究竟是什么？它又有什么神通广大的应用呢？这样的一类问题，经常让使用线性代数已经很多年的人都感到为难。就好像大人面对小孩子的刨根问底，最后总会迫不得已地说“就这样吧，到此为止”一样，面对这样的问题，很多老手们最后也只能用：“就是这么规定的，你接受并且记住就好”来搪塞。然而，这样的问题如果不能获得回答，线性代数对于我们来说就是一个粗暴的、不讲道理的、莫名其妙的规则集合，我们会感到，自己并不是在学习一门学问，而是被不由分说地“抛到”一个强制的世界中，只是在考试的皮鞭挥舞之下被迫赶路，全然无法领略其中的美妙、和谐与统一。直到多年以后，我们已经发觉这门学问如此的有用，却仍然会非常迷惑：怎么这么凑巧？线性代数有什么用？这是每一个圈养在象牙塔里，在灌输式教学模式下的“被学习”的学生刚刚开始思考时的第一个问题。我稍微仔细的整理了一下学习线代的理由，竟然也罗列了不少，不知道能不能说服你：1、如果你想顺利地拿到学位，线性代数的学分对你有帮助；2、如果你想继续深造，考研，必须学好线代。因为它是必考的数学科目，也是研究生科目《矩阵论》、《泛函分析》的基础。例如，泛函分析的起点就是无穷多个未知量的无穷多线性方程组理论。3、如果你想提高自己的科研能力，不被现代科技发展潮流所抛弃，也必须学好，因为瑞典的L.戈丁说过，没有掌握线代的人简直就是文盲。他在自己的数学名著《数学概观》中说：要是没有线性代数，任何数学和初等教程都讲不下去。按照现行的国际，线性代数是通过公理化来表述的。它是第二代数学模型，其根源来自于欧几里得几何、解析几何以及线性方程组理论。…，如果不熟悉线性代数的概念，像线性性质、向量、线性空间、矩阵等等，要去学习自然科学，现在看来就和文盲差不多，甚至可能学习社会科学也是如此。4、如果毕业后想找个好工作，也必须学好线代：�想搞数学，当个数学家（我去，这个还需要列出来，谁不知道线代是数学）。恭喜你，你的职业未来将是最光明的。如果到美国打工的话你可以找到最好的职业。�想搞电子工程，好，电路分析、线性信号系统分析、数字滤波器分析等需要线代，因为线代就是研究线性网络的主要工具；进行IC集成电路设计时，对付数百万个集体管的仿真软件就需要依赖线性方程组的；想搞光电及射频工程，好，电磁场、光波导分析都是向量场的分析，比如光调制器分析研制需要张量矩阵，手机信号处理等等也离不开矩阵运算。�想搞软件工程，好，3D游戏的数学基础就是以图形的矩阵运算为基础；当然，如果你只想玩3D游戏可以不必掌握线代；想搞图像处理，大量的图像数据处理更离不开矩阵这个强大的工具，《阿凡达》中大量的后期电脑制作没有线代的数学工具简直难以想象。�想搞经济研究。好，知道列昂惕夫（WassilyLeontief）吗？哈佛大学教授，1949年用计算机计算出了由美国统计局的25万条经济数据所组成的42个未知数的42个方程的方程组，他打开了研究经济数学模型的新时代的大门。这些模型通常都是线性的，也就是说，它们是用线性方程组来描述的，被称为列昂惕夫“投入-产出”模型。列昂惕夫因此获得了1973年的诺贝尔经济学奖。�相当领导，好，要会运筹学，运筹学的一个重要议题是线性规划。许多重要的管理决策是在线性规划模型的基础上做出的。线性规划的知识就是线代的知识啊。比如，航空运输业就使用线性规划来调度航班，监视飞行及机场的维护运作等；又如，你作为一个大商场的老板，线性规划可以帮助你合理的安排各种商品的进货，以达到最大利润。�对于其他工程领域，没有用不上线代的地方。如搞建筑工程，那么奥运场馆鸟巢的受力分析需要线代的工具；石油勘探，勘探设备获得的大量数据所满足的几千个方程组需要你的线代知识来解决；飞行器设计，就要研究飞机表面的气流的过程包含反复求解大型的线性方程组，在这个求解的过程中，有两个矩阵运算的技巧：对稀疏矩阵进行分块处理和进行LU分解；作餐饮业，对于构造一份有营养的减肥食谱也需要解线性方程组；知道有限元方法吗？这个工程分析中十分有效的有限元方法，其基础就是求解线性方程组。知道马尔科夫链吗？这个“链子”神通广大，在许多学科如生物学、商业、化学、工程学及物理学等领域中被用来做数学模型，实际上马尔科夫链是由一个随机变量矩阵所决定的一个概率向量序列，看看，矩阵、向量又出现了。�另外，矩阵的特征值和特征向量可以用在研究物理、化学领域的微分方程、连续的或离散的动力系统中，比如结构动力学、刚体动力学、振动力学等，而且不论是机械振动还是振荡电路，只要有振动的地方就有求矩阵的特征值和特征向量的问题。甚至数学生态学家用以在预测原始森林遭到何种程度的砍伐会造成猫头鹰的种群灭亡；大名鼎鼎的最小二乘算法广泛应用在各个工程领域里被用来把实验中得到的大量测量数据来拟合到一个理想的直线或曲线上，最小二乘拟合算法实质就是超定线性方程组的求解；计算机人脸识别中也应用到矩阵的特征值和特征向量。�二次型常常出现在线性代数在工程（标准设计及优化）和信号处理（输出的噪声功率）的应用中，他们也常常出现在物理学（例如势能和动能）、微分几何（例如曲面的法曲率）、经济学（例如效用函数）和统计学（例如置信椭圆体）中，某些这类应用实例的数学背景很容易转化为对对称矩阵的研究。嘿嘿（脸红），说实在的，我也没有足够经验讲清楚线代在各个工程领域中的应用，只能大概人云亦云地讲述以上线代的一些基本应用。因为你如果要真正的讲清楚线代的一个应用，就必须充分了解所要应用的领域内的知识，最好有实际的工程应用的经验在里面；况且线性代数在各个工程领域中的应用真是太多了，要知道当今成为一个工程通才只是一个传说。总结一下，线性代数的应用领域几乎可以涵盖所有的工程技术领域。如果想知道更详细的应用材料，建议看一下《线性代数及应用》，这是美国DavidC.Lay教授写的迄今最现代的流行教材。国内的教材可以看看《线性代数实践及MATLAB入门》，这是西电科大陈怀琛教授写的最实用的新教材。线性代数的内容及发展简史线性代数是高等代数的一大分支。通过前面的章节的介绍，我们知道，在研究关联着多个因素的量所引起的问题，则需要考察多元函数。如果所研究的关联性是线性的，那么称这个问题为线性问题。一次方程就是研究线性问题的方程，被称为线性方程，讨论线性方程及线性运算的代数就叫做线性代数。历史上线性代数的第一个问题是关于解线性方程组的问题，而线性方程组理论的发展又促成了作为工具的行列式理论和矩阵论的创立与发展，这些内容已成为我们线性代数教材的主要部分。作为代表“线性”的最基本的概念--向量的概念,从数学的观点来看不过是有序三元数组的一个集合,然而它以力或速度作为直接的物理意义,并且数学上用它能立刻写出物理上所说的事情。向量用于梯度,散度,旋度就更有说服力。同样,行列式和矩阵如导数一样（虽然dy/dx在数学上不过是一个符号,表示包括△y/△x的极限的式子,但导数本身是一个强有力的概念,能使我们直接而创造性地想象物理上发生的事情）。因此，虽然表面上看，行列式和矩阵不过是一种语言或速记，但它的大多数生动的概念能对新的思想领域提供钥匙。然而已经证明这两个概念是数学物理上高度有用的工具。用一个表格总结一下线性代数的发展历史上做出重要贡献的数学家，如下：好了，言归正传，下面让我们来理解一下矩阵的神奇！我们先谈谈对线形空间和矩阵的几个核心概念的理解。首先，线性代数里面的线性主要的意思就是线性空间里的线性变换。线性变换或线性映射是把中学的线性函数概念进行了重新定义，强调了函数的变量之间的变换的意义。线性函数的概念在初等数学和高等数学中含义不尽相同（高等数学常常把初等数学的关键概念进行推广或进一步抽象化，初等数学的概念就变成了高等数学概念的一个特例）。在中学的初等数学里，我们知道，函数f(x)=kx+b（k,b是不变量），称为一元线性函数，因为在平面直角坐标系中这个函数的图形就是一条直线，就是变量（包括自变量和因变量）之间的关系描述为一条直线，所以把这种函数形象地称为“线性”函数；如果b=0，这个函数的外观就变成f(x)=kx的形式了，这是一条过原点的直线。显然，过原点的直线是最简单的线性函数。在大学的代数里面，为了线性函数的进一步推广（如推广至双线性函数、多线性函数、线性空间、线性泛函…）的远大未来，我们忍痛割“尾”，把一元线性函数f(x)=kx+b的b割舍掉，成了f(x)=kx的形式。呵呵，简单点说，只有过原点的最简单的直线f(x)=kx才被称为一元线性函数。为什么？只因为不过原点的直线不满足我们对线性函数的比例性的要求。线性函数表现为直线，这只是几何意义。那么所谓“线性”的代数意义是什么呢？实际上，最基本的意义只有两条：可加性和比例性。用数学的表达来说就是：对加法和数乘封闭。然后说说空间(space)，这个概念是现代数学的命根子之一，从拓扑空间开始，一步步往上加定义，可以形成很多空间。线形空间其实还是比较初级的，如果在里面定义了范数，就成了赋范线性空间。赋范线性空间满足完备性，就成了巴那赫空间；赋范线性空间中定义角度，就有了内积空间，内积空间再满足完备性，就得到希尔伯特空间。总之，空间有很多种。你要是去看某种空间的数学定义，大致都是“存在一个集合，在这个集合上定义某某概念，然后满足某些性质”，就可以被称为空间。这未免有点奇怪，为什么要用“空间”来称呼一些这样的集合呢？大家将会看到，其实这是很有道理的。我们一般人最熟悉的空间，毫无疑问就是我们生活在其中的（按照牛顿的绝对时空观）的三维空间，从数学上说，这是一个三维的欧几里德空间，我们先不管那么多，先看看我们熟悉的这样一个空间有些什么最基本的特点。仔细想想我们就会知道，这个三维的空间：1.由很多（实际上是无穷多个）位置点组成2.这些点之间存在相对的关系3.可以在空间中定义长度、角度4.这个空间可以容纳运动这里我们所说的运动是从一个点到另一个点的移动（变换），而不是微积分意义上的“连续”性的运动，上面的这些性质中，最最关键的是第4条。第1、2条只能说是空间的基础，不算是空间特有的性质，凡是讨论数学问题，都得有一个集合，大多数还得在这个集合上定义一些结构或关系，并不是说有了这些就算是空间。而第3条太特殊，其他的空间不需要具备，更不是关键的性质。只有第4条是空间的本质，也就是说：容纳运动是空间的本质特征。认识到了这些，我们就可以把我们关于三维空间的认识扩展到其他的空间。事实上，不管是什么空间，都必须容纳和支持在其中发生的符合规则的运动（变换）。你会发现，在某种空间中往往会存在一种相对应的变换，比如拓扑空间中有拓扑变换，线性空间中有线性变换，仿射空间中有仿射变换，其实这些变换都只不过是对应空间中允许的运动形式而已。因此只要知道，“空间”是容纳运动的一个对象集合，而变换则规定了对应空间的运动。下面我们来看看线性空间。线性空间的定义任何一本书上都有，但是既然我们承认线性空间是个空间，那么有两个最基本的问题必须首先得到解决，那就是：1.空间是一个对象集合，线性空间也是空间，所以也是一个对象集合。那么线性空间是什么样的对象的集合？或者说，线性空间中的对象有什么共同点吗？2.线性空间中的运动如何表述的？也就是，线性变换是如何表示的？我们先来回答第一个问题，回答这个问题的时候其实是不用拐弯抹角的，可以直截了当的给出答案。线性空间中的任何一个对象，通过选取基和坐标的办法，都可以表达为向量的形式。通常的向量空间我就不说了，举两个不那么平凡的例子：L1.最高次项不大于n次的多项式的全体构成一个线性空间，也就是说，这个线性空间中的每一个对象是一个多项式。如果我们以x0,x1,...,xn为基，那么任何一个这样的多项式都可以表达为一组n+1维向量，其中的每一个分量ai其实就是多项式中x(i-1)项的系数。值得说明的是，基的选取有多种办法，只要所选取的那一组基线性无关就可以。这要用到后面提到的概念了，所以这里先不说，提一下而已。L2.闭区间[a,b]上的n阶连续可微函数的全体，构成一个线性空间。也就是说，这个线性空间的每一个对象是一个连续函数。对于其中任何一个连续函数，根据魏尔斯特拉斯定理，一定可以找到最高次项不大于n的多项式函数，使之与该连续函数的差为0，也就是说，完全相等。这样就把问题归结为L1了。后面就不用再重复了。所以说，向量是很厉害的，只要你找到合适的基，用向量可以表示线性空间里任何一个对象。这里头大有文章，因为向量表面上只是一列数，但是其实由于它的有序性，所以除了这些数本身携带的信息之外，还可以在每个数的对应位置上携带信息。为什么在程序设计中数组最简单，却又威力无穷呢？根本原因就在于此。下面来回答第二个问题，这个问题的回答会涉及到线性代数的一个最根本的问题。线性空间中的运动，被称为线性变换。也就是说，你从线性空间中的一个点运动到任意的另外一个点，都可以通过一个线性变化来完成。那么，线性变换如何表示呢？很有意思，在线性空间中，当你选定一组基之后，不仅可以用一个向量来描述空间中的任何一个对象，而且可以用矩阵来描述该空间中的任何一个运动（变换）。而使某个对象发生对应运动的方法，就是用代表那个运动的矩阵，乘以代表那个对象的向量。简而言之，在线性空间中选定基之后，向量刻画对象，矩阵刻画对象的运动，用矩阵与向量的乘法施加运动。矩阵的本质是运动的描述。如果以后有人问你矩阵是什么，那么你就可以响亮地告诉他，矩阵的本质是运动的描述。可是多么有意思啊，向量本身不是也可以看成是nx1矩阵吗？这实在是很奇妙，一个空间中的对象和运动竟然可以用相类同的方式表示。能说这是巧合吗？如果是巧合的话，那可真是幸运的巧合！可以说，线性代数中大多数奇妙的性质，均与这个巧合有直接的关系。到现在为止，好像大家都还没什么意见。但是我相信早晚会有数学系出身的网友来拍板转。因为运动这个概念，在数学和物理里是跟微积分联系在一起的。我们学习微积分的时候，总会有人照本宣科地告诉你，初等数学是研究常量的数学，是研究静态的数学，高等数学是变量的数学，是研究运动的数学。大家口口相传，差不多人人都知道这句话。但是真知道这句话说的是什么意思的人，好像也不多。简而言之，在我们人类的经验里，运动是一个连续过程，从A点到B点，就算走得最快的光，也是需要一个时间来逐点地经过AB之间的路径，这就带来了连续性的概念。而连续这个事情，如果不定义极限的概念，根本就解释不了。古希腊人的数学非常强，但就是缺乏极限观念，所以解释不了运动，被芝诺的那些著名悖论（飞箭不动、飞毛腿阿喀琉斯跑不过乌龟等四个悖论）搞得死去活来。因为这篇文章不是讲微积分的，所以我就不多说了。有兴趣的读者可以去看看齐民友教授写的《重温微积分》。我就是读了这本书开头的部分，才明白“高等数学是研究运动的数学”这句话的道理。不过在我这个文章里，“运动”的概念不是微积分中的连续性的运动，而是瞬间发生的变化。比如这个时刻在A点，经过一个“运动”，一下子就“跃迁”到了B点，其中不需要经过A点与B点之间的任何一个点。这样的“运动”，或者说“跃迁”，是违反我们日常的经验的。不过了解一点量子物理常识的人，就会立刻指出，量子（例如电子）在不同的能量级轨道上跳跃，就是瞬间发生的，具有这样一种跃迁行为。所以说，自然界中并不是没有这种运动现象，只不过宏观上我们观察不到。但是不管怎么说，“运动”这个词用在这里，还是容易产生歧义的，说得更确切些，应该是“跃迁”。因此这句话可以改成：“矩阵是线性空间里跃迁的描述”。可是这样说又太物理，也就是说太具体，而不够数学，也就是说不够抽象。因此我们最后换用一个正牌的数学术语——变换，来描述这个事情。这样一说，大家就应该明白了，所谓变换，其实就是空间里从一个点（元素/对象）到另一个点（元素/对象）的跃迁。比如说，拓扑变换，就是在拓扑空间里从一个点到另一个点的跃迁。再比如说，仿射变换，就是在仿射空间里从一个点到另一个点的跃迁。附带说一下，这个仿射空间跟向量空间是亲兄弟。做计算机图形学的朋友都知道，尽管描述一个三维对象只需要三维向量，但所有的计算机图形学变换矩阵都是4x4的。说其原因，很多书上都写着“为了使用中方便”，这在我看来简直就是企图蒙混过关。真正的原因，是因为在计算机图形学里应用的图形变换，实际上是在仿射空间而不是向量空间中进行的。想想看，在向量空间里相一个向量平行移动以后仍是相同的那个向量，而现实世界等长的两个平行线段当然不能被认为同一个东西，所以计算机图形学的生存空间实际上是仿射空间。而仿射变换的矩阵表示根本就是4x4的。又扯远了，有兴趣的读者可以去看《计算机图形学——几何工具算法详解》。一旦我们理解了“变换”这个概念，矩阵的定义就变成：“矩阵是线性空间里的变换的描述。”到这里为止，我们终于得到了一个看上去比较数学的定义。不过还要多说几句。教材上一般是这么说的，在一个线性空间V里的一个线性变换T，当选定一组基之后，就可以表示为矩阵。因此我们还要说清楚到底什么是线性变换，什么是基，什么叫选定一组基。线性变换的定义是很简单的，设有一种变换T，使得对于线性空间V中间任何两个不相同的对象x和y，以及任意实数a和b，有：T(ax+by)=aT(x)+bT(y)，那么就称T为线性变换。定义都是这么写的，但是光看定义还得不到直觉的理解。线性变换究竟是一种什么样的变换？我们刚才说了，变换是从空间的一个点跃迁到另一个点，而线性变换，就是从一个线性空间V的某一个点跃迁到另一个线性空间V的另一个点的运动。这句话里蕴含着一层意思，就是说一个点不仅可以变换到同一个线性空间中的另一个点，而且可以变换到另一个线性空间中的另一个点去。不管你怎么变，只要变换前后都是线性空间中的对象，这个变换就一定是线性变换，也就一定可以用一个非奇异矩阵来描述。而你用一个非奇异矩阵去描述的一个变换，一定是一个线性变换。有的人可能要问，这里为什么要强调非奇异矩阵？所谓非奇异，只对方阵有意义，那么非方阵的情况怎么样？这个说起来就会比较冗长了，最后要把线性变换作为一种映射，并且讨论其映射性质，以及线性变换的核与像等概念才能彻底讲清楚。我觉得这个不算是重点，如果确实有时间的话，以后写一点。（本人看后觉得有点问题.注：线性变换说的是从自己空间到自己空间的变换）以下我们只探讨最常用、最有用的一种变换，就是在同一个线性空间之内的线性变换。也就是说，下面所说的矩阵，不作说明的话，就是方阵，而且是非奇异方阵。学习一门学问，最重要的是把握主干内容，迅速建立对于这门学问的整体概念，不必一开始就考虑所有的细枝末节和特殊情况，自乱阵脚。接着往下说，什么是基呢？这个问题在后面还要大讲一番，这里只要把基看成是线性空间里的坐标系就可以了。注意是坐标系，不是坐标值，这两者可是一个“对立矛盾统一体”。这样一来，“选定一组基”就是说在线性空间里选定一个坐标系。就这意思。好，最后我们把矩阵的定义完善如下：“矩阵是线性空间中的线性变换的一个描述。在一个线性空间中，只要我们选定一组基，那么对于任何一个线性变换，都能够用一个确定的矩阵来加以描述。”理解这句话的关键，在于把“线性变换”与“线性变换的一个描述”区别开。一个是那个对象，一个是对那个对象的表述。用数学的表达式，我们写成：M的意思是说矩阵M描述了向量到的变换（运动）。而矩阵对一个向量的作用无非是把它伸缩或者旋转。BMA的意思是说矩阵M描述了一组向量{}到{}的变换（运动）。而矩阵对这一个组向量的作用无非是把它们伸缩或者旋转。让我们看几个图像：经过以上的讨论，我们基本对于矩阵是变换的描述有了清晰的认识。接下来，让我们从空间的角度更深入的理解一下矩阵。之前用变换的角度理解矩阵，我们的矩阵可以不是满秩（非奇异）的方阵。下面，我们用空间的角度理解矩阵，在后面的叙述中，我们讨论的矩阵都是非奇异的！下面让我们把视力集中到一点以改变我们以往看待矩阵的方式。我们知道，线性空间里的基本对象是向量，而向量是这么表示的：123,,,...,n矩阵呢？矩阵是这么表示的：11121312122232123,,,...,,,,...,...,,,...,nnnnnnnaaaaaaaaaaaa　不用太聪明，我们就能看出来，矩阵是一组向量组成的。特别的，n维线性空间里的方阵是由n个n维向量组成的。我们在这里只讨论这个n阶的、非奇异的方阵，因为理解它就是理解矩阵的关键，它才是一般情况，而其他矩阵都是意外，都是不得不对付的讨厌状况，大可以放在一边。这里多一句嘴，学习东西要抓住主流，不要纠缠于旁支末节。很可惜我们的教材课本大多数都是把主线埋没在细节中的，搞得大家还没明白怎么回事就先被灌晕了。比如数学分析，明明最要紧的观念是说，一个对象可以表达为无穷多个合理选择的对象的线性和，这个概念是贯穿始终的，也是数学分析的精华。但是课本里自始至终不讲这句话，反正就是让你做吉米多维奇，掌握一大堆解偏题的技巧，记住各种特殊情况，两类间断点，怪异的可微和可积条件（谁还记得柯西条件、迪里赫莱条件...），最后考试一过，一切忘光光。要我说，还不如反复强调这一个事情，把它深深刻在脑子里，别的东西忘了就忘了，真碰到问题了，再查数学手册嘛，何必因小失大呢？言归正传。如果一组向量是彼此线性无关的话，那么它们就可以成为度量这个线性空间的一组基，从而事实上成为一个坐标系体系，其中每一个向量都躺在一根坐标轴上，并且成为那根坐标轴上的基本度量单位（单位是1，但是长度不一定是1）。现在到了关键的一步。看上去矩阵就是由一组向量组成的，而且如果矩阵非奇异的话（我说了，只考虑这种情况），那么组成这个矩阵的那一组向量也就是线性无关的了，也就可以成为度量线性空间的一个坐标系。结论：矩阵描述了一个坐标系。“慢着！”，你嚷嚷起来了，“你这个骗子！你不是说过，矩阵就是运动吗？怎么这会矩阵又是坐标系了？”嗯，是运动的描述，但是这样理解还不全面，这里请注意：矩阵本身描述了一个坐标系，矩阵与矩阵的乘法描述了一个运动。换句话说：如果矩阵仅仅自己出现，那么他描述了一个坐标系，如果他和另一个矩阵或向量同时出现，而且做乘法运算，那么它表示运动！下面的讨论中，我们不会否定之前的结论，你会发现，在坐标系中矩阵依然可以最为一个运动的描述。请继续往下看。对于非奇异方阵，它也描述了一个n维空间。举个例子吧，比如在平面内的任意向量，我们可以用两个不共线（线性无关）的向量描述，这就是我们在高中熟知的平面向量基本定理，这两个不共线的向量就构成描述这个空间的2×2矩阵。对于空间的任意向量，我们可以用三个不共线（线性无关）的三维向量描述，这三个向量就构成描述这个空间的3×3矩阵。对于高维空间的任意向量，自然要n个线性无关的向量构成，于是就构成一个n×n的矩阵！这些线性无关的向量就叫做基！我们知道，一个高维度的空间可以表示低维度空间里面的量，那么一个n维空间可以容纳任意的n-1维的空间。但是反过来就不可以了，这是显然的。顺便说一句：线性无关和不共线说的是一回事，只不过前者是代数描述，后者是几何描述。而维度的理解就是：描述一个现象需要几个各自独立的变量，这个现象就是几维的！线性空间V的基不是唯一的，只要n个n维向量线性无关，就可以用来描述这个空间。那么线性空间中的两组基之间有什么联系呢？同一个向量在不同基下有不同的坐标，他们之间有什么联系呢？设123,,n和123,,n是线性空间V中的两组基，123,,n可以用123,,n线性表示出来11112121212122221122nnnnnnnnnnmmmmmmmmm写成矩阵的形式：111212122212312312(,,)(,,)nnnnnnnnmmmmmmmmm这样，我们就找到了旧的基{}到新的基{}的过度，[M]称为过度矩阵。这里M是可逆的。可逆的意思是可以变过来也可以变回去，不可逆就是只能朝着一个方向变换。从条件的角度来说：可逆是充要条件，不可逆是充分条件。我们可以看出来：右乘一个方阵就是将一组基换到另一组基！（请注意下标的变化）又一次矩阵乘法表示了运动，只不过这次不是左乘，不是变换对象，而是右乘，是变换坐标。理解方式不同，但是结果是一样的。于是我们得出这样的认识“对象的变换等价于坐标系的变换”。或者：“固定坐标系下一个对象的变换等价于固定对象所处的坐标系变换。”说白了就是：“运动是相对的。”而这个相对体现在左乘和右乘上。让我们想想，达成同一个变换的结果，比如把点(1,1)变到点(2,3)去，你可以有两种做法。第一，坐标系不动，点动，把(1,1)点挪到(2,3)去。第二，点不动，变坐标系，让x轴的度量（单位向量）变成原来的1/2，让y轴的度量（单位向量）变成原先的1/3，这样点还是那个点，可是点的坐标就变成(2,3)了。方式不同，结果一样。写成矩阵形式即1112211320112303可知，他们的作用效果是一样的。综合以上的讨论，我们得出一个重要的结论：“对坐标系施加变换的方法，就是让表示那个坐标系的矩阵与表示那个变化的矩阵相乘。”再一次的，矩阵的乘法变成了运动的施加。只不过，被施加运动的不再是向量，而是另一个坐标系！上面的讨论我们得到了线性空间两组基的联系，这是矩阵右乘，下面我们讨论两组基对应坐标的联系。接着上面的例子：若基{}对应的坐标是{}x，基{}对应的坐标是{}y则有1YMX其中M就是我们刚刚说的过度矩阵，我们可以看出左乘一个方阵就是将一组基下的坐标变换到另一组基下的坐标！同时结合刚才的讨论，我们注意到：对于X和Y中的单个向量，有By=Ax，而对于矩阵有BY=AX。我们很自然的对于这个等式的理解是这样的：“有一个向量，它在坐标系A的度量下得到的度量结果向量为x，那么它在坐标系B（单位阵）的度量下，这个向量的度量结果是y。”在A为坐标系的意义下，如果把A放在一个向量x的前面，形成Ax的样式，我们可以认为这是对向量x的一个环境声明。它相当于是说：“注意了！这里有一个向量，它在坐标系A中度量，得到的度量结果可以表达为x。可是它在别的坐标系里度量的话，就会得到不同的结果。为了明确，我把A放在前面，让你明白，这是该向量在坐标系A中度量的结果。”同样，我们可以理解理解B和y相乘的关系。而对于等式By=Ax的意思就是说：“在A坐标系里量出来的向量x，跟在B坐标系里量出来的向量y，其实根本就是一个向量啊！”同理对于BY=AX的理解就是向量组{x}和{y}。我们将得到惊人的结论：这哪里是什么左乘法计算，根本就是身份识别嘛！我希望你务必理解这一点，因为这是本篇的关键。从这个意义上我们重新理解一下向量。向量这个东西客观存在，但是要把它表示出来，就要把它放在一个坐标系中去度量它，然后把度量的结果（向量在各个坐标轴上的投影值）按一定顺序列在一起，就成了我们平时所见的向量表示形式。你选择的坐标系（基）不同，得出来的向量的表示就不同。向量还是那个向量，选择的坐标系不同，其表示方式就不同。因此，按道理来说，每写出一个向量的表示，都应该声明一下这个表示是在哪个坐标系中度量出来的。表示的方式，就是Ax，也就是说，有一个向量，在A矩阵表示的坐标系中度量出来的结果为x。我们平时说一个向量是[2357]T，隐含着是说，这个向量在E坐标系中的度量结果是[2357]T，因此，这个形式反而是一种简化了的特殊情况。注意到，A矩阵表示出来的那个坐标系，由一组基组成，而那组基也是由向量组成的，同样存在这组向量是在哪个坐标系下度量而成的问题。也就是说，表述一个矩阵的一般方法，也应该要指明其所处的基准坐标系。所谓A，其实是EA，也就是说，A中那组基的度量是在E坐标系中得出的。从这个视角来看，M×A也不是什么矩阵乘法了，而是声明了一个在M坐标系中量出的另一个坐标系A，其中M本身是在E坐标系中度量出来的。回过头来说变换的问题。我刚才说，“固定坐标系下一个对象的变换等价于固定对象所处的坐标系变换”，那个“固定对象”我们找到了，就是那个向量。但是坐标系的变换呢？我怎么没看见？请看：My=x我现在要变M为E，怎么变？对了，再前面乘以个M-1，也就是M的逆矩阵。换句话说，你不是有一个坐标系M吗，现在我让它乘以个M-1，变成E，这样一来的话，原来M坐标系中的y在E中一量，就得到x了。我建议你此时拿起纸笔，画画图，求得对这件事情的理解。比如，你画一个坐标系，x轴上的衡量单位是2，y轴上的衡量单位是3，在这样一个坐标系里，坐标为(1，1)的那一点，实际上就是笛卡尔坐标系里的点(2,3)。而让它原形毕露的办法，就是把原来那个坐标系:2003的x方向度量缩小为原来的1/2，而y方向度量缩小为原来的1/3，这样一来坐标系就变成单位坐标系E了。保持点不变，那个向量现在就变成了(2,3)了。怎么能够让“x方向度量缩小为原来的1/2，而y方向度量缩小为原来的1/3”呢？就是让原坐标系：2003被矩阵：121300左乘。而这个矩阵就是原矩阵的逆矩阵。到这里，可以说我们深刻的理解了矩阵左乘的意义！如果你觉得你还搞得清楚，请再想一下刚才已经提到的结论，矩阵MxA，一方面表明坐标系A在运动M下的变换结果，另一方面，把M当成A的前缀，当成A的环境描述，那么就是说，在M坐标系度量下，有另一个坐标系A。这个坐标系A如果放在E坐标系中度量，其结果为坐标系M×A。在这里，我实际上已经回答了一般人在学习线性代数是最困惑的一个问题，那就是为什么矩阵的乘法要规定成这样。简单地说，是因为：1.从变换的观点看，对坐标系A施加M变换，就是把组成坐标系A的每一个向量施加M变换。2.从坐标系的观点看，在M坐标系中表现为A的另一个坐标系，这也归结为，对A坐标系基的每一个向量，把它在E坐标系中的坐标找出来，然后汇成一个新的矩阵。3.至于矩阵乘以向量为什么要那样规定，那是因为一个在M中度量为a的向量，如果想要恢复在E中的真像，就必须分别与M中的每一个向量进行內积运算。我把这个结论的推导留给感兴趣的朋友吧。应该说，其实到了这一步，已经很容易了。综合以上1、2、3，矩阵的乘法就得那么规定，一切有根有据，绝不是哪个神经病胡思乱想出来的。矩阵乘法不满足交换律，从这里我们也可以做出一个解释，因为他们的的意义不同：一个是变换基，一个是变换坐标，当然不满足交换律，更不满足消去率！让我们回顾一下思路：我们首先讨论B=AM的意义，然后讨论Y=M-1X的意义，也就是方阵M左乘和右乘的区别，为什么我们换了字母呢？其实，我们重点理解矩阵M，这样做这只是为了不让其他矩阵的出现干扰我们的讨论。到目前为止，我们可以得出这样的结论：矩阵是变换，是坐标，也是一组基！！！到了这个时候，我们不得不承认，我们伟大的线性代数课本上说的矩阵定义，是无比正确的：“矩阵就是由m行n列数放在一起组成的数学对象。好了，到此，我们基本呢说清楚了矩阵最核心的概念，下面，我们针对一些比较特殊的现象，来更深入理解一下线性代数和矩阵！在接下来的讨论中，我们将从应用的角度理解矩阵乘法、矩阵等价、矩阵的秩、矩阵相似、特征值、行列式的几何意义等问题，如果你是一口气看到这里的，建议你休息一下，然后我们再进行进一步的讨论。矩阵连乘表示变换的叠加。为了说明问题，我们从两个特殊的矩阵入手，旋转矩阵和对角矩阵，然后我们讨论一般矩阵的连乘问题。旋转矩阵乘幂的几何及物理解释大家已经知道，一个矩阵乘以一个向量，一般将会对向量的几何图形进行旋转和伸缩变化。如果仅仅进行伸缩，就是特征值和特征向量的问题，我们在后面会深入讨论它的意义。如果仅仅是旋转，就是我们下面讨论的问题：在教科书中，我们常见的一个例子就是旋转矩阵，旋转矩阵只对向量进行旋转变化而没有伸缩变化。例如二阶旋转矩阵A：cossinsincosA显然，二阶的所有的某一特定角度的旋转矩阵都分布在单位圆上。对θ取几个不同的弧度，就会得到几个旋转矩阵：0/4/23/4cossinsincosA10012212220110221222比如单位矩阵11001A，实际上就是对一个向量x旋转的角度是0，也就是Ax=x；而矩阵2221222A就是对一个向量x旋转的角度是4是不是这样的呢？首先看一下旋转矩阵A对单位向量i和j的作用效果。对于任意向量x，我们知道，可以分解为单位向量的线性表示1121221001cxcccicjc由上表格和图形知道，当θ=0时，旋转矩阵的行向量就是x和y轴的单位向量和i、j，随着θ角度的增大，单位向量在单位圆上同时进行顺时针等角度旋转。如果我们从列向量的角度看旋转矩阵，又会得到什么图形呢？显然，从上图看出列向量在随着θ的角度的增加而逆时针旋转，刚好与行向量同时反向旋转！这正是正交矩阵的特征。也就是说，旋转矩阵就是正交矩阵。从而得出旋转矩阵的逆矩阵是它的转置矩阵:1TMMMME一个矩阵是旋转矩阵，当且仅当它是正交矩阵并且它的行列式是单位一。旋转矩阵是正交矩阵，如果它的列向量形成nR的一个正交基，就是说在任何两个列向量之间的标量积是零(正交性)而每个列向量的大小是单位一(单位向量)。正交矩阵的行列式是±1；如果行列式是−1，则它包含了一个反射而不是真旋转矩阵。对于旋转矩阵乘幂，我们可以知道，就是一直旋转，乘了几次就是旋转了几次。当好多个旋转矩阵（可以不同）连乘时，我们就能理解了，这是把一个向量沿着多个方向旋转的叠加啊！对于旋转矩阵我就说这么多，感兴趣的读者可以看一下网上的介绍。下面我们来对角矩阵乘幂的几何及物理解释，对于矩阵12000000000nA相信这个不用我解释大家都知道：这个矩阵的作用是对向量进行放大（缩小），即不断的放大（缩小）数值而不改变向量的方向，这里我就不给出例子而直接给出结论。对于对角矩阵乘幂，我们可以知道，就是一直放大（缩小），乘了几次就是放大（缩小）了几次。当好多个对角矩阵（可以不同）连乘时，我们就能理解了，这是把一个向量放大（缩小）叠加啊！对于一般矩阵乘幂的几何及物理解释，我们有了以上的基础，讨论起来就方便多了：如果把两个矩阵看作等同的，那么AB的结果是把两个线性变换进行了叠加或复合。对于矩阵乘法，主要是考察一个矩阵对另一个矩阵所起的变换作用。其作用的矩阵看作是动作矩阵，被作用的矩阵可以看作是由行或列向量构成的几何图形。这个理解我们最开始就讨论过，也就是矩阵描述一个变换的问题。同样，如果一连串的矩阵相乘，就是多次变换的叠加么。而矩阵左乘无非是把一个向量或一组向量（即另一个矩阵）进行伸缩或旋转。乘积的效果就是多个伸缩和旋转的叠加！如在S=ABCDEF中，会把所有的矩阵线性变化的作用力传递并积累下去，最终得到一个和作用力S。工业上的例子就是机器人的手臂，机械臂上的每个关节就是一个矩阵（比如可以是一个旋转矩阵），机械臂末端的位置或动作是所有关节运动的综合效果。这个综合效果可以用旋转矩阵的乘法得到。机械臂末端的位置或动作是所有关节运动的综合效果。这个综合效果可以用旋转矩阵的乘法得到。注意，我们讨论的都是左乘矩阵，这和我们在最开始讨论矩阵是描述运动（变换）的那部分分析是一致的，只不过这里我们主要说的是多次的变换，即好多个矩阵相乘而不仅仅限于两个矩阵的乘法。同时，我们这里从两个特殊的矩阵（旋转矩阵和对角矩阵）乘法入手，然后讨论一般现象。为什么把这两个矩阵单独拿出来讨论呢？是因为他们有着良好的性质：旋转矩阵把一个矩阵乘向量的作用变成对向量的旋转，对角矩阵乘向量的作用变成对向量的伸缩。后面我们讨论在讨论相似的时候会再次见到他们熟悉的身影，那时他们强大的作用就会凸现出来！至此，我相信你对矩阵乘法的理解已经相当充分了，在接下来的讨论中，我们就开始转向其他问题，你可以在此做一个短暂休息了，我们还有一段路要走，但是离终点已经不远了。什么是矩阵等价呢？从定义角度就是：存在可逆矩阵P和Q满足PAQB则我们说A和B是等价的。它建立了这样一种关系：只要A，B具有一些共同点（注意是一些，而且不是相同点）他们就等价，但其特征未必就一定要完全相同。我们这里可以描述多个人，我们用身高、张相、肺活量描述人，也可以用姓名、体重、年龄这三个量来描述。如果我们知道身高和年龄满足一一对应的关系，张相和姓名对应、体重和肺活量对应，那么描述人时身高和年龄就等价，姓名和张相就等价、体重和肺活量等价。而对应关系就是变换。换句话说：我们用的这两个描述是等价的描述。等价更倾向于说特定对象有共同之处。请注意，这里两个描述的变量顺序可以不对应。这时，我们需要右乘一个变换。那么矩阵等价说明什么呢？说明AB在同一个维度的空间里面。用我们的例子来说就是身高和体重在同一个空间里。用数学来描述就是他们的秩r（A）相同、或说空间的维度dim（A）相同。什么是矩阵相似呢？这就好像我们熟悉的面向对象编程中，一个对象可以有多个引用，每个引用可以叫不同的名字，但都是指的同一个对象。如果还不形象，那就干脆来个类比。比如你去参加一个画展，看到一幅非常喜欢的画，你打算给它拍照片，只要你给照相机选定了一个镜头位置，那么就可以给这幅画拍一张照片。这个照片可以看成是这幅画的一个描述，但只是一个片面的的描述，因为这你换一个角度，就能得到一张不同的照片，也是这幅画的另一个片面的描述。所有这样照出来的照片都是这同一幅画的描述，但是又都不是这幅画本身。同样的，对于一个线性变换，只要你选定一组基，那么就可以找到一个矩阵来描述这个线性变换。换一组基，就得到一个不同的矩阵。所有这些矩阵都是这同一个线性变换的描述，但又都不是线性变换本身。但是这样的话，问题就来了：如果你给我两张照片，我怎么知道这两张照片上的是同一幅画呢？同样的，你给我两个矩阵，我怎么知道这两个矩阵是描述的同一个线性变换呢？如果是同一个线性变换的不同的矩阵描述，那就是本家兄弟了，见面不认识，岂不成了笑话。好在，我们可以找到同一个线性变换的矩阵兄弟们的一个性质，那就是：若矩阵A与B是同一个线性变换的两个不