Training Graph Neural Networks with 1000 Layers

ICML 2021

这篇文章通过在GNN中引入grouped reversible connections,实现了将GNN拓展到1000层,可能是当前最深的GNN之一。这篇文章的意义在于,实现了GNN的层数与模型所需的显存无关,使用较少的显存就可以在显存基本不增加的情况下,任意增加GNN深度。

下图是作者提出的Rev-GNN在ogbn-proteins数据集上的结果,很少的memory,达到了很好的效果。

image-20220323191910030

阅读全文 »

Prototypical Networks for Few-shot Learning

作者为少次学习和零次学习提出了一种新的网络Prototypical network。核心思想是为不同的class定义不同的prototype的表示。这个prototype是有相同class下的所有实例求平均得到的。

image-20220310164356012

阅读全文 »

数学问题

《算法笔记》第五章 数学问题

阅读全文 »

C语言基础要点

《算法笔记》第二章 C/C++快速入门。这里记录些要点。

C语言常包括头文件<stdio.h>stdio是标准输入输出的意思。实际上,在c++标准中,推荐使用<cstdio>cmathcstring等头文件,和.h结尾的头文件是等价的。

阅读全文 »

第10章 图算法专题

《算法笔记》第10章。

阅读全文 »

数据结构专题2

《算法笔记》第九章,数据结构专题2,主要涉及树、并查集、堆等。

阅读全文 »

搜索专题

《算法笔记》第8章搜索专题,包括BFS和DFS。

阅读全文 »