深度学习 第6页
Graph Sample and Aggregate Network(GraphSAGE)-点头深度学习网站

Graph Sample and Aggregate Network(GraphSAGE)

不管是GraphSAGE,还是GCN,它们的核心思想其实与朴素的GNN思想一致,都是每个节点根据图的连接结构,通过聚合邻居信息来更新自身节点的信息,再把更新后的节点向量送入神经网络层做进一步的学...
点点的头像-点头深度学习网站点点9个月前
014511
深度学习模型九大经典初始化方案-点头深度学习网站

深度学习模型九大经典初始化方案

1. 正态分布初始化 正态分布初始化将权重初始化为来自正态(或高斯)分布的随机数。该分布通常以0为均值,其标准差(或方差)可以根据网络的特定需求进行调整。这种方法在保证权重不会开始时过...
点点的头像-点头深度学习网站点点11个月前
07814
Graph Attention Networks(GAT)-点头深度学习网站

Graph Attention Networks(GAT)

本章来学习一下图注意力网络GAT,首先对标GCN,来谈谈它们的优缺点。 GCN是处理transductive任务的一把利器,transductive任务是指:训练阶段与测试阶段都基于同样的图结构,如下图所示。 ...
点点的头像-点头深度学习网站点点9个月前
016110
ResNet:神来之“路”-点头深度学习网站

ResNet:神来之“路”

0.引言 深度残差网络(Deep Residual Network, ResNet)的提出是基于卷积算法处理图像问题领域的一件里程碑事件。ResNet在2015年发表当年取得了图像分类、检测等5项大赛第一,并再次刷新了CNN模...
点点的头像-点头深度学习网站点点11个月前
014111
Swin Transformer:窗口化的Transformer-点头深度学习网站

Swin Transformer:窗口化的Transformer

0.引言 Swin Transformer是2021年微软研究院发表在ICCV(International Conference on Computer Vision)上的一篇文章,并且已经获得ICCV 2021最佳论文(Best Paper)的荣誉称号。Swin Transfor...
点点的头像-点头深度学习网站点点11个月前
0987