排序
向量空间与向量的线性相关和线性无关
向量空间指的是线性组合的集合,例如\(b\)的向量空间是整个二维空间: $$\boldsymbol{b}=x_{1}\begin{bmatrix}2\\1\\ \end{bmatrix}+x_{2}\begin{bmatrix}-1\\1\\ \end{bmatrix}$$ 即:在二维空...
向量乘法
向量的点积和内积 记录:没有对2、3、N维向量的各种乘法计算的情况进行更细致的划分和讲解,如叉积只展示了两个三维向量的叉积计算。 向量的点积和内积(Inner Product, dot product),用\(\cd...
向量与矩阵
向量的正交 两两正交的非零向量组成的向量组称为正交向量组,若\(a_{1},a_{2},\cdots,a_{r}\) 是两两正交的非零向量,则\(a_{1},a_{2},\cdots,a_{r}\) 线性无关。例如:己知三维空间\(R^{3}\) ...
微分与函数的单调性、极值和凹凸性
函数单调性 函数单调性定义:若\(fx)\)在\((a,b)\)内可导,如果\(f'(x)>0\),那么函数在\((a,b)\)内单调递增;如果\(f'(x)<0\),那么函数在\((a.b)\)内单调递减。 用微分的定义(微分解释了...
偏微分与全微分
在机器学习中,许多函数都是多变量的。需要知道每个输入变量的变化如何影响输出。偏微分正是用于这个目的的。例如,在线性回归中可能要最小化多变量函数(即损失函数)。偏微分指明每个权重的变...
梯度与方向导数
梯度是机器学习中的核心概念,尤其是在优化中,梯度提供了一个方向,指明如何调整参数以最小化损失函数。在梯度下降算法中,使用梯度的负方向来更新模型的权重,以逐步减少误差。 梯度是一个向...
泰勒公式与麦克劳林公式
泰勒公式\(P_n(x)\) 泰勒公式允许用多项式来近似复杂的函数,这在算法中有时用于简化计算。例如,在高斯过程回归和一些其他贝叶斯方法中,泰勒展开用于线性化关于后验的计算。 泰勒公式的本质是...
不定积分和反导数
不定积分在机器学习中主要用于计算函数的原函数,尤其是在概率密度函数和累积分布函数之间的转换中。例如,在概率论和统计中,累积分布函数 (CDF) 是概率密度函数 (PDF) 的不定积分。对于某些模...