叉乘（普通乘法） 矩阵乘法（Matmul Product）是两个矩形相乘的操作，其结果是另一个矩阵。定义如下： 设有两个矩阵\(\boldsymbol{A}\)和\(\boldsymbol{b}\)，令\(\boldsymbol{A}\)是一个\(m\ti...

什么是向量 在上述讲解中，已经涉及了三个主要的数学系统：线性方程组、函数图形和矩阵。现在将介绍第四个系统：向量。线性代数的一个核心挑战是它涵盖了多个数学系统。要成功掌握线性代数，关...

向量空间指的是线性组合的集合，例如\(b\)的向量空间是整个二维空间： $$\boldsymbol{b}=x_{1}\begin{bmatrix}2\\1\\ \end{bmatrix}+x_{2}\begin{bmatrix}-1\\1\\ \end{bmatrix}$$ 即：在二维空...

向量的点积和内积 记录：没有对2、3、N维向量的各种乘法计算的情况进行更细致的划分和讲解，如叉积只展示了两个三维向量的叉积计算。 向量的点积和内积（Inner Product, dot product），用\(\cd...

向量的正交 两两正交的非零向量组成的向量组称为正交向量组，若\(a_{1},a_{2},\cdots,a_{r}\) 是两两正交的非零向量，则\(a_{1},a_{2},\cdots,a_{r}\) 线性无关。例如：己知三维空间\(R^{3}\) ...

函数单调性 函数单调性定义：若\(fx)\)在\((a,b)\)内可导，如果\(f'(x)>0\)，那么函数在\((a,b)\)内单调递增；如果\(f'(x)<0\)，那么函数在\((a.b)\)内单调递减。 用微分的定义（微分解释了...

概率论介绍 概率论主要研究随机事件。人们对某些事件发生的可能性高低一般都有直观的认识，所以未经特殊训练就会使用“可能”、“不可能”之类的词汇。概率论会介绍如何量化这种可能性。 为了更...

在机器学习中，许多函数都是多变量的。需要知道每个输入变量的变化如何影响输出。偏微分正是用于这个目的的。例如，在线性回归中可能要最小化多变量函数（即损失函数）。偏微分指明每个权重的变...

梯度是机器学习中的核心概念，尤其是在优化中，梯度提供了一个方向，指明如何调整参数以最小化损失函数。在梯度下降算法中，使用梯度的负方向来更新模型的权重，以逐步减少误差。 梯度是一个向...

泰勒公式\(P_n(x)\) 泰勒公式允许用多项式来近似复杂的函数，这在算法中有时用于简化计算。例如，在高斯过程回归和一些其他贝叶斯方法中，泰勒展开用于线性化关于后验的计算。 泰勒公式的本质是...