线性代数
2017-05-02 10:01:57 0 举报AI智能生成
线性代数
作者其他创作
大纲/内容
一个矩阵
三种解释
行
方程组系数
列
向量
矩阵
消元法
AX=B => X=A^(-1)B
两个矩阵
矩阵乘法的四种理解方式（C=A*B）
矩阵C的每一个列向量，是A的列向量的一个线性组合，该线性组合中的系数是的各个元素
矩阵C的每一个行向量，是B的行向量的一个线性组合，该线性组合中的系数是的各个元素
将A抽象为列向量，将B抽象为行向量，从而将矩阵乘法变为了一种外积的形式，而外积矩阵中的每一个元素是一个行向量和一个列向量的内积
将A抽象为行向量，将B抽象为列向量，从而将矩阵乘法变为了一种内积形式，内积的各个组成部分又是一个外积。这种方式每次不是得到C的一个元素，而是将C看作是多个矩阵相加组成的，每次计算得到一个加数矩阵
特殊矩阵
对称矩阵
特点
特征值都是实数
特征向量互相垂直
应用
对角化
A=QΛA^T
由多个投影矩阵组成
正定矩阵
特征值
主元
子矩阵行列式
二次型
相似矩阵
A=M`BM
简化行阶梯矩阵
定义
最简行阶梯矩阵，是一种特殊的行阶梯矩阵，其各行的第1个非零元素均为1，且所在列的其他元素都为0
推论
子主题
转置矩阵
性质
转置的行列式
det(A^T)=det(A)
矩阵乘积的转置
(AB)^T=B^T A^T
矩阵加法的转置
(A+B)^T=A^T+B^T
矩阵转置的逆
等于矩阵逆的转置
向量的转置
A.B=A^{T} B
(Ax).Y=x.(A^{T}Y)
SVD
含义
行、列空间正交基
计算
AV=UE
线性变换
(a、b均为向量) 成立条件
T(a+b)=T(a)+T(b)
T(ca)=cT(a)
本质
函数
与矩阵关系
所有的线性变换均可以表示为一个矩阵与被变换向量的积。其中变换矩阵由In各列向量en的线性变换T(en)组成，n与被变换向量x的元素个数相等
(S、T均是线性变换，x为向量，c为常数) 运算法则
加法运算
(S+T)(x)=S(x)+T(x)
数乘运算
S(cx)=cS(x)
复合运算
ToS(x)=T(S(x))
线性变换的复合任为线性变换
ToS(x+y)=ToS(x)+ToS(y)
ToS(cx)=cToS(x)
二维、三维的旋转、放缩、映射可以用一个线性变换矩阵乘以被变换向量表示
将任意向量投影到直线L上，本质也是一种线性变换
若矩阵T是一种线性变换，则其逆矩阵T^(-1)也是一种线性变换
基变换
左右逆和伪逆
投影
最小二乘法
线性代数
矩阵特性
行列式
余子式Mij，即矩阵A划去i行j列后剩下的余子式的行列式
一个区域在线性变换下映射到另一个域，这两个区域的面积比就是变换矩阵的行列式的绝对值
重要性质
沿着任一行或一列展开，行列式相等
交换矩阵A的任意两行得到B，则 det(A)=-det(B)
进行行初等变换不改变矩阵的行列式
有相同行或列的矩阵，其行列式为0
上三角矩阵和下三角矩阵的行列式
det(A)=a11*a22*a33...*ann
2个计算性质
det(AB)
数学归纳法证明
简化技巧
利用行初等变换不改变矩阵的行列式和上(下)三角矩阵行列式计算的简易性质，将矩阵化为上三角矩阵(注意换行要加负号-)
求逆
求Ax=b
克莱姆法则
等价于求解另一个矩阵的行列式
逆
定义：AB=In或BA=In 任满足一个
给定一个 n 阶方阵 A，则以下各条件等价(其中 f(x)=y的 f 对应矩阵A)
A 是可逆的
f 是可逆的
f 是满射的且是单射的
Ax=b有且只有唯一解
f(x)=y有且只有唯一解
N(A)={0向量}
A的列向量是线性无关的
A 的秩rank(A)=n (A 满秩)
rref(A)=In
| A |≠0，即矩阵A的行列式不等于0
A 的转置矩阵 A^T也是可逆的，且A的转置的逆等于A的逆的转置
AA^T 是可逆的
A^TA 是可逆的
存在一 n 阶方阵 B 使得 AB = In或存在一个n阶方阵 B 使得BA=In
逆矩阵求解方法
高斯消元法： A|I => A^{-1}A=I |
特征值和特征向量
Ax=λx
实质为向量线性变换后方向不变
用途
已知线性变换T对应变换矩阵A，则以A的线性无关的特征向量为基可以构建很好的坐标系，使新坐标下的变换矩阵D=BDB^-1变得很好求，原变换矩阵A=B^-1DB，也很好求得。其中B的列由这些线性无关的特征向量组成
矩阵幂
AS=SΛ
求解
1.通过det(A – λI)=0 求得\u00A0λ
2.N(λIn-N)=0 即为各个 λ 下的特征空间
线性子空间
定理: 设V是在域K上的向量空间，并设W是V的子集。则W是个子空间，当且仅当它满足下列三个条件
1.零向量 0 在W中
2.如果u和v是W的元素，则向量和u+v是W的元素
3.如果u是W的元素而c是来自K的标量，则标量积cu是W的元素
张成子空间
描述
线性无关
基：子空间的基底指的是能“张成(span)该子空间的+线性无关”的一组向量
维数：空间V的任何基底的数量相等，称为维数，记为dim(A)
秩：矩阵A的列空间C(A)的维数dim(C(A))，即C(A)基底的向量数，称为秩
四个基本子空间
零空间N(A)
A的零空间的维度为A的简化行阶梯矩阵rref(A)中自由变量的个数，即非主列的个数；
左零空间N(A^{T})
定义：{ X|A^{T} X=0 } 或者{ X|X^{T} A=0^{T} }
简便解法
已知在将A化为rref型时对应的初等变换矩阵E，即EA=rref。则求得的rref中的全零行对应的E中的行就是左零空间。也就是使得A的各行线性组合为零向量的向量
行空间R(A)
等于C(A^T)
列空间C(A)
维数或A的秩
等于rref(A)中主列的数量
C(A)的基底
rref(A)的主列所对应的A中的列
正交
空间与空间正交
正交补
定义：已知V空间的正交补空间为M，则V中和M中的任一向量点积为0
子空间的正交补关系（已知矩阵A）
零空间N(A)与行空间C(A^T)互为正交补
左零空间N(A^T)与列空间C(A)互为正交补
V是Rn中的子空间，则V正交补空间的一组基与V的一组基构成了Rn的基
推论基础
dim(V)+dim(V的正交补)=n ，V和V正交补均属于Rn
V 与 V的正交补 的交集为 {0}
具体化
V是Rn的子空间，则 Rn中的任一 向量x 可以表示为 V中 向量a 和 V的正交补空间中的 向量b 的和，即x=a+b; 且 a和b 是唯一的
Ax=b 的解集的任一向量可以表示为 x=r0+n0
其中r0为C(A^T)，即A的行空间中的向量，n0为N(A)中的向量； r0 和 n0是唯一的
其中 r0 可以视为Ax=b的解集中长度最小的向量，或为零向量到解集长度最短的向量
V 与 V的正交补的交集为 {0}
空间V的正交补的正交补等于V
空间与向量
一种线性变换，将变量投影到子空间
已知Rn中的向量可以分解为Rn的子空间V与V的正交补空间中的 向量和a+b，其中ProjV(x)=a，ProjV补(x)=b
线性变换矩阵
已知A的列向量由子空间V的基构成，则Rn中的任一向量投影到V中的表达式为：ProjV(x)=A(AA^T)^{-1} A^T x
思想
Ax=b无解，则说明b不在C(A)中，此时用b*=ProjC(A)代替b，则可以使得 ||b-b*||^2最小，即找到了使b误差最小的C(A)中的向量
推论基础：投影是子空间中距离原向量最近的向量
通过最小化误差的平方和寻找数据的最佳函数匹配
A^T Ax*= A^T b
向量与向量
标准正交基
Gram Schmidt正交化方法
不断地在前人已经构成标准正交关系的前提下添加一个新的向量Vi，将Vi分别投影到现有的已正交标准化的向量上，将这些向量相加得到Vi前面的向量的投影V'，然后(V-V')得到新的正交化向量，将其标准化后作为新的标准正交向量
正交矩阵
简化投影
坐标系问题
坐标
实质是基的权重
好的坐标系的特点
基底标准正交化
标准正交基下求解坐标方法具有特殊性和简洁性
基底特征向量化
特征向量坐基会是求线性变换的变换矩阵变得容易
相关性质
新坐标系与原坐标系之间坐标的变换
若B的逆存在，则【a】=B^-1a
变换基底，线性变换对应的变换矩阵D与原变换矩阵A的关系
矩阵微积分(Matrix Calculus)
一阶导
二阶导
类比
0 条评论
回复 删除
下一页
