排序
逻辑回归算法
逻辑回归算法解读 基本原理: 有了之前线性回归的学习,我们学习逻辑回归是非常简单的,核心就是通过sigmoid函数将线性回归的输出映射到(0,1)区间,表示为概率。简单来说,逻辑回归模型的输出是...
降维算法之t-SNE (t-Distributed Stochastic Neighbor Embedding)
t-SNE是一种用于探索高维数据结构的非线性降维技术。它特别适用于高维数据的可视化,因为它能够在低维空间中保留原始高维数据的局部结构。由于这个特性,t-SNE在机器学习和数据分析领域越来越受...
Improved GANs
“Improved Techniques for Training GANs”是一篇由Ian J. Goodfellow 和他的同事在 2016 年发表的论文,这篇论文对生成对抗网络(GANs)的训练过程做出了重要的改进和提议。这些改进主要集中...
神经网络层结构的意义与维度诅咒
神经网络的层级结构 之前的博文中讲解了神经网络算法和深度学习模型,读者们是否有疑问:为什么神经网络模型要有层级结构?深度学习模型为什么需要这么多的隐藏层? 答案很简单,这是算法分析数...
编码器-解码器模型(Encoder-Decoder)
编码器-解码器模型简介 Encoder-Decoder算法是一种深度学习模型结构,广泛应用于自然语言处理(NLP)、图像处理、语音识别等领域。它主要由两部分组成:编码器(Encoder)和解码器(Decoder)。...
Transformer算法详解
算法简介 Transformer架构于2017年6月推出。最初的研究重点是自然语言处理领域的翻译任务。随后,几个具有影响力的模型被引入,包括: (1)2018年6月:GPT,第一个预训练的Transformer模型,用...
岭回归与LASSO回归
引言 岭回归: 通过向线性回归中引入L2正则化项防止过拟合。 LASSO回归: 通过向线性回归中引入L1正则化项实现特征选择。 L1正则化与LASSO回归 L1正则化通过在损失函数中添加参数权重的绝对值和的...
RepVGG:新型卷积神经网络架构
1、设计动机 设计RepVGG的初衷是为了解决许多流行的深度学习模型在追求更高性能的过程中不断增加结构复杂性的问题。例如,为了提高性能,许多模型采用了如残差连接、瓶颈设计、组卷积等复杂设计...
深度学习模型九大经典初始化方案
1. 正态分布初始化 正态分布初始化将权重初始化为来自正态(或高斯)分布的随机数。该分布通常以0为均值,其标准差(或方差)可以根据网络的特定需求进行调整。这种方法在保证权重不会开始时过...
蝙蝠优化算法(bat optimization algorithm)
算法背景 蝙蝠优化算法(Bat Algorithm)是一种基于群体智能的优化算法,它的灵感来源于蝙蝠捕食时的回声定位行为。想象一下,夜幕降临,一群蝙蝠在黑暗中飞翔,它们发出超声波并依靠回声来定位...