向量的正交 两两正交的非零向量组成的向量组称为正交向量组，若\(a_{1},a_{2},\cdots,a_{r}\) 是两两正交的非零向量，则\(a_{1},a_{2},\cdots,a_{r}\) 线性无关。例如：己知三维空间\(R^{3}\) ...

泰勒公式\(P_n(x)\) 泰勒公式允许用多项式来近似复杂的函数，这在算法中有时用于简化计算。例如，在高斯过程回归和一些其他贝叶斯方法中，泰勒展开用于线性化关于后验的计算。 泰勒公式的本质是...

向量的点积和内积 记录：没有对2、3、N维向量的各种乘法计算的情况进行更细致的划分和讲解，如叉积只展示了两个三维向量的叉积计算。 向量的点积和内积（Inner Product, dot product），用\(\cd...

梯度是机器学习中的核心概念，尤其是在优化中，梯度提供了一个方向，指明如何调整参数以最小化损失函数。在梯度下降算法中，使用梯度的负方向来更新模型的权重，以逐步减少误差。 梯度是一个向...

向量空间指的是线性组合的集合，例如\(b\)的向量空间是整个二维空间： $$\boldsymbol{b}=x_{1}\begin{bmatrix}2\\1\\ \end{bmatrix}+x_{2}\begin{bmatrix}-1\\1\\ \end{bmatrix}$$ 即：在二维空...

在机器学习中，许多函数都是多变量的。需要知道每个输入变量的变化如何影响输出。偏微分正是用于这个目的的。例如，在线性回归中可能要最小化多变量函数（即损失函数）。偏微分指明每个权重的变...

线性方程组与矩阵 先从线性方程组开始讲起，线性方程组的一般形式如下所示： $$\left\{\begin{aligned}a_{11}x_1+a_{12}x_2+&\cdots +a_{1n}x_n=b_1\\a_{21}x_2+a_{22}x_2+&\cdots +a_{...

Python的上下文管理器是一种高级特性，允许程序员进行有效的资源管理和异常处理。这个概念在处理文件、网络连接和其他需要显式释放的资源时特别有用。 什么是上下文管理器？ 上下文管理器是实现...

在编程世界中，有一个词语听起来既甜蜜又神秘：语法糖（Syntactic Sugar）。这个术语并不是指真正的糖，而是指那些让程序员的生活变得更加甜美的编程语言特性。在Python中，语法糖无处不在，它...

想象一下，如果你有一支魔法笔，只要轻轻一挥，就能给画作增添新的色彩或改变其风格，而不需要重新画画。在Python世界里，这样的魔法笔就是装饰器（Decorators）。装饰器是Python中一种非常有趣...