在机器学习中，尤其是在深度学习和神经网络中，链式法则用于计算复合函数的导数，这在反向传播算法中尤为关键。具体来说，当训练一个深度神经网络时，需要计算损失函数相对于每个权重的梯度。由...

梯度是机器学习中的核心概念，尤其是在优化中，梯度提供了一个方向，指明如何调整参数以最小化损失函数。在梯度下降算法中，使用梯度的负方向来更新模型的权重，以逐步减少误差。 梯度是一个向...

泰勒公式\(P_n(x)\) 泰勒公式允许用多项式来近似复杂的函数，这在算法中有时用于简化计算。例如，在高斯过程回归和一些其他贝叶斯方法中，泰勒展开用于线性化关于后验的计算。 泰勒公式的本质是...

假设检验的目的与参数估计的目的相同，都是根据样本求总体的参数，但是思想正好相反。可以把参数估计看作正推，即根据样本推测总体：而假设检验是反证，即先在总体上作某项假设，用从总体中随机...

在机器学习中，许多函数都是多变量的。需要知道每个输入变量的变化如何影响输出。偏微分正是用于这个目的的。例如，在线性回归中可能要最小化多变量函数（即损失函数）。偏微分指明每个权重的变...

微积分不仅研究一个函数更深刻的性质（即更精细的乘除法），还研究不同函数之间的关系。举一个圆的例子，如果已知圆的周长，怎么求面积？ 积分近似求解圆面积 上图中，当知道周长求面积时就用到...

向量空间指的是线性组合的集合，例如\(b\)的向量空间是整个二维空间： $$\boldsymbol{b}=x_{1}\begin{bmatrix}2\\1\\ \end{bmatrix}+x_{2}\begin{bmatrix}-1\\1\\ \end{bmatrix}$$ 即：在二维空...

1.两点分布 如果随机变量(X) 的分布列如下： $$\begin{array}{l}P{X=1}=p\bigl(0<p<1\bigr)\\P{X=0}=q=1-p\end{array}$$ 则称(X) 服从两点分布。两点分布也叫伯努利分布（Bermoulli）或0-...

线性方程组与矩阵 先从线性方程组开始讲起，线性方程组的一般形式如下所示： $$\left\{\begin{aligned}a_{11}x_1+a_{12}x_2+&\cdots +a_{1n}x_n=b_1\\a_{21}x_2+a_{22}x_2+&\cdots +a_{...

大数定律与中心极限定理是统计学家总结出的自然现象，是概率统计的基石。很多定理和推论都是基于它们之上的研究。 大数法则 讲个故事，一位数学家调查发现，欧洲各地男婴与女婴的出生比例是22：...