数据结构专题2

《算法笔记》第九章，数据结构专题2，主要涉及树、并查集、堆等。

搜索专题

《算法笔记》第8章搜索专题，包括BFS和DFS。

第七章 数据结构专题

《算法笔记》笔记。

C++标准模板库

本文来自于《算法笔记》第六章内容

STL：standard template library

Essence of linear algebra

这篇文章是3blue1brown的Essence of linear algebra系列视频的笔记

1. Vectors
2. Linear combinations, span and basis vectors
3. Linear transformations and matrices
4. Matrix multiplication
5. The Determinant
6. Inverse Matrices, column space and null space
7. Nonsquare matrices as transformation between dimensions
8. Dot products and Duality
9. Cross products
10. Change of basis
11. Eignvectors and eigenvalues
12. Abstract vector spaces

Collection of Hypernetworks Papers

调研hypernetwork相关文章

• Dynamic Convlutional Layer（CVPR 2015）
• SRCNN（ICCV 2015）
• DFN（NIPS 2016）
• HyperNetworks（ICLR 2017）
• Nachmani et al. （arxiv 2020）
• Hyper-CNN（arxiv 2021）
• HyperSeg（CVPR 2021）
• LGNN（IJCAI 2021）

Relation-Aware Entity Alignment for Heterogeneous Knowledge Graphs

IJCAI 2019

RDGCN (Relation-aware Dual-Graph Convolutional Network)，预测任务是KG的实体对齐，主要是为了捕获更多的在dual KG中的relation的信息。核心创新点是对于dual KG（即要对齐的两个KG），构造了Dual Relation Graph，捕获relation和relation之间的联系。之后在这个Dual Relation Graph上学习relation的表示，融入到original KG中进行entity的表示学习，最终用于entity之间的对齐。

Robust Embedding with Multi-Level Structures for Link Prediction

这篇文章提出了一种multi-level graph neural network，M-GNN。使用GIN中的MLP学习结构信息，然后提出了一种基于KG中图的不同粒度进行建模的方法。它会从原始的KG出发，不断合并邻居节点，合并边，构造出一系列不同粒度的graph，在这些graph上进行图卷积操作，得到最后的输出。除了一般的链路预测实验，作者还进行了在不同稀疏度以及加入noising edges的实验。

Relational Message Passing for Knowledge Graph Completion

在这篇论文中，作者只考虑了KG中的relation embedding，没有学习entity embedding。更具体的说，学习两个方面的结构信息，relational context和relation paths。前者是头/尾实体的邻居relation，后者是头尾实体在KG中相连的relational path。提出了PATHCON

作者预测的是relation prediction，\(<h,?,t>\)，区别于常见的head/tail prediction，这样情况下relation prediction的候选项是所有的relation，会少很多候选项。这篇文章，作者还提出了一个新的数据集，DDB14，基于医药和疾病的一个知识图谱。

An Attention-based Graph Neural Network for Heterogeneous Structural Learning

HetSANN，AAAI 2020

提出了Heterogeneous Graph Structural Attention Neural Network (HetSANN），主要创新点有三个：

• 对于预测标签任务，采用多任务学习，不同type的节点进行预测有不同的classifier（实际是全连接层+softmax）
• 针对edge和reversed edge，除了一般的基于拼接的方法计算attention外，提出了voice-sharing product的计算注意力方法。
• 在不同type的邻居信息转换中，提出了一个保持weight matrix的cycle consistent的方法。