排序
粒子群算法(Particle Swarm Optimization)
算法背景 粒子群优化算法(Particle Swarm Optimization,PSO)的灵感来源于鸟群或鱼群的觅食行为。想象一下,你在公园里看到一群鸟,它们在空中飞翔,寻找食物。每只鸟都不知道食物在哪里,但...
神经网络层结构的意义与维度诅咒
神经网络的层级结构 之前的博文中讲解了神经网络算法和深度学习模型,读者们是否有疑问:为什么神经网络模型要有层级结构?深度学习模型为什么需要这么多的隐藏层? 答案很简单,这是算法分析数...
k最邻近算法(K-Nearest Neighbors,KNN)
引言 基本概念: K-最近邻居(KNN)算法是一种基于实例的学习,它用于分类和回归。在分类中,一个对象的分类由其邻居的“多数投票”决定,即对象被分配到其k个最近邻居中最常见的类别中。 重要性...
岭回归与LASSO回归
引言 岭回归: 通过向线性回归中引入L2正则化项防止过拟合。 LASSO回归: 通过向线性回归中引入L1正则化项实现特征选择。 L1正则化与LASSO回归 L1正则化通过在损失函数中添加参数权重的绝对值和的...
降维算法之t-SNE (t-Distributed Stochastic Neighbor Embedding)
t-SNE是一种用于探索高维数据结构的非线性降维技术。它特别适用于高维数据的可视化,因为它能够在低维空间中保留原始高维数据的局部结构。由于这个特性,t-SNE在机器学习和数据分析领域越来越受...
支持向量机(SVM)
什么是SVM? SVM 是一类强大的用于分类和回归问题的监督学习算法。 在分类方面,SVM 可以被视为最大间隔线性分类器。 SVM 使用的目标明确鼓励低样本外误差(良好的泛化性能)。 通过最大化类的超...
聚类算法之高斯混合模型聚类 (Gaussian Mixture Model, GMM)
高斯混合模型(GMM)是统计模型中的一颗璀璨之星,它为数据提供了一种复杂而又强大的表示方法。在机器学习的许多领域,从模式识别到图像处理,GMM都被广泛地采用和研究。它背后的核心思想是使用...
决策树(Decision tree)
算法引言 决策树是一种非常直观的机器学习算法,它模仿了我们日常生活中的决策过程。想象一下,你要决定周末去哪里玩,这个决定可能会基于一系列问题:天气怎么样?交通方便吗?费用多少?根据...