线性方程组-点头深度学习网站

线性方程组与矩阵

先从线性方程组开始讲起，线性方程组的一般形式如下所示：

$$\left\{\begin{aligned}a_{11}x_1+a_{12}x_2+&\cdots +a_{1n}x_n=b_1\\a_{21}x_2+a_{22}x_2+&\cdots +a_{2n}x_n=b_2\\ &\vdots \\a_{m1}x_m+a_{m2}x_m+&\cdots +a_{mn}x_n=b_n\end{aligned}\right.$$

其中$a_{ij}$表示$i$行$j$列的系数，$x_n$表示变量或未知数，$b_m$表示常数

举个例子，现在有方程组如下：

$$\left\{\begin{aligned}x+2y=7\\x-y=1\end{aligned}\right.$$

每个方程都只有两个未知数，这样的方程就是二维空间中的一条直线。而求含有两个未知数的两个方程组成的方程组的解，等价于求两条直线的交点。很容易求出以上线性方程组的解为$x=3,y=2$，图形结果如下：

此时，方程组存在一个唯一解。当然，两条直线并不一定交于一点，它们可能平行，也可能重合，重合的两条直线上的每个点都是交点。考虑下面两个方程组：

$$\left\{\begin{aligned}x-2y=-1\\-x+2y=3\end{aligned}\right. \quad \left\{\begin{aligned}x-2y=-1\\-x+2y=1\end{aligned}\right.$$

其中第一个方程组中的两条直线平行，没有交点，即方程组无解；第二个方程组中的两条直线重合，有无数交点，即方程组有无穷多解。如图所示：

通过上面的例子，可以总结一个重要的结论：线性方程组的解只有三种情况：一个解、无穷解和无解。

现在把方程扩展到三个未知数的线性方程组，这样每个方程将确定三维空间中的一个平面：

现在想象一下三个这样的平面在三维空间中的分布会有几种情况？其实也是上述的三种情况：

（1）当三个平面相互平行时，无解。

（2）当三个平面相交于一条线时，无穷解。

（3）当三个平面相较于一点时，只有一个解。

为了更直观地理解三个平面交于一点的情境，可以将其比喻为桌子的一个角：桌面与两个侧面分别代表三个相交的平面，它们交于一点，即桌角。如果继续推广到高维空间其实也是这个结论，这里就不做演示了。

再来看线性方程组的一般公式：

$$\left\{\begin{aligned}a_{11}x_1+a_{12}x_2+&\cdots +a_{1n}x_n=b_1\\a_{21}x_2+a_{22}x_2+&\cdots +a_{2n}x_n=b_2\\ &\vdots \\a_{m1}x_m+a_{m2}x_m+&\cdots +a_{mn}x_n=b_n\end{aligned}\right.$$

可以通过矩阵系统进行简化，如图：

（1）把系数从线性方程组中提取出来，写成的矩阵称为系数矩阵。

（2）把常数项从线性方程组中提取出来，写成的矩阵称为常数项矩阵。

（3）把系数矩阵和常数项矩阵左右拼接在一起，写出的矩阵称为增广矩阵。

特别地，若$b_1=b_2=\cdots =b_n =0$，方程组变为：

$$\left\{\begin{aligned}a_{11}x_1+a_{12}x_2+&\cdots +a_{1n}x_n=0\\a_{21}x_2+a_{22}x_2+&\cdots +a_{2n}x_n=0\\ &\vdots \\a_{m1}x_m+a_{m2}x_m+&\cdots +a_{mn}x_n=0\end{aligned}\right.$$

称上面线性方程组为齐次线性方程组。齐次线性方程组与其系数矩阵一一对应。

线性方程组的矩阵求解法

线性方程组的矩阵求解法：

$$\left\{\begin{aligned}2x-y &=1\quad \quad \text{(a)}\\ x+2y &=0\quad \quad \text{(b)} \end{aligned} \right. \begin{aligned}\quad \to\\ \quad \to\end{aligned} \begin{bmatrix}2&-1&1\\ 1&2&0\end{bmatrix}$$

步骤一：$(a)=(a)*2$即：$4x-2y=2$

$$\left\{\begin{aligned}4x-2y &=2\quad \quad \text{(a)}\\ x+2y &=0\quad \quad \text{(b)} \end{aligned} \right. \begin{aligned}\quad \to\\ \quad \to\end{aligned} \begin{bmatrix}4&-2&2\\ 1&2&0\end{bmatrix}$$

步骤二：$(b)=(a)+(b)$即：$5x+0y=2$

$$\left\{\begin{aligned}4x-2y &=2\quad \quad \text{(a)}\\ 5x+0y &=2\quad \quad \text{(b)} \end{aligned} \right. \begin{aligned}\quad \to\\ \quad \to\end{aligned} \begin{bmatrix}4&-2&2\\ 5&0&2\end{bmatrix}$$

最后可以解得$x=2/5$，再将$x$代回$(a)$式，解得$y=-1/5$。

小结一下：在上面的例子中，用到了行列式基本的三个初等行变换操作：

（1）对某个行乘以一个不为0的常数k （第一步中用到的操作）。

（2）某个行可以被它自己或另一个的和所替换（第二步中用到的操作）。

（3）行与行之间可以交换顺序（例子中没用到，但是可以想象两个函数上下交换位置不影响）。

下面介绍一下阶梯形矩阵，一个矩阵成为阶梯型矩阵，需满足两个条件：

（1）如果它既有零行，又有非零行，则零行在下，非零行在上。

（2）对于所有的非零行，其第一个非零元素所在的列号必须从上到下递增。

换句话说，如果所给矩阵为阶梯型矩阵则矩阵中每一行的第一个不为零的元素的左边及其所在列以下全为零。如下所示：

$$\begin{equation}\begin{bmatrix}c_{11}&c_{12}&\cdots&c_{1r}&c_{1r+1}&\cdots&c_{1n}\\ 0&c_{22}&\cdots&c_{2r}&c_{2r+1}&\cdots&c_{2n}\\ \vdots&\vdots&&\vdots&\vdots&&\vdots\\ 0&0&\cdots&c_{\pi}&c_{\pi+1}&\cdots&c_{m}\\ 0&0&\cdots&0&0&\cdots&0\\ \vdots&\vdots&&\vdots&\vdots&&\vdots\\ 0&0&\cdots&0&0&\cdots&0\end{bmatrix}\end{equation}$$

行最简形矩阵是阶梯形矩阵的特殊例子，在阶梯形矩阵中，若非零行的第一个非零元素全是
1，且非零行的第一个元素
1
所在列的其余元素全为零，就称该矩阵为行最简形矩阵。

\begin{bmatrix}1&0&0&-1\\ 0&1&0&-2\\ 0&0&1&2\end{bmatrix}

如果在行最简形矩阵中，非零行有且只有一个非零元素且为1，则称该矩阵为标准形矩阵。

\begin{bmatrix}1&0&0&0\\ 0&1&0&0\\ 0&0&1&0\end{bmatrix}

本概念介绍完了，那么阶梯形矩阵有什么用呢？回过头看刚刚线性方程组的矩阵求解过程就会发现，这个求解过程实际上就是求线性方程组增广矩阵的阶梯形矩阵的过程，它有个高大上的名字，叫做 “高斯消元法“。

考虑方程组：

$$\left\{\begin{aligned}x+2y+z&=9 \quad \quad(1)\\2x+4y-3z&=1 \quad \quad(2)\\3x+6y+2z&=4 \quad \quad(3)\end{aligned}\right.$$

其对应的增广矩阵为：

$$\left[ \begin{array}{ccc|c}1&2&1&9\\ 2&4&-3&1\\ 3&6&2&4\\ \end{array}\right]$$

步骤一：处理第一列，使第一列只有顶部的元素为1，其余为0。

首先从第二行中减去第一行的2倍：

$$\left[ \begin{array}{ccc|c}1&2&1&9\\ 0&0&-5&-17\\ 3&6&2&4\\ \end{array}\right]$$