文献阅读(25)AAAI2020

编程入门 行业动态 更新时间:2024-10-06 18:25:31

<a href=https://www.elefans.com/category/jswz/34/1763577.html style=文献阅读(25)AAAI2020"/>

文献阅读(25)AAAI2020

本文是对《EvolveGCN:Evolving Graph Convolutional Networks for Dynamic Graph》一文的浅显翻译与理解,如有侵权即刻删除。

朋友们,我们在github创建了一个图学习笔记库,总结了相关文章的论文、代码和我个人的中文笔记,能够帮助大家更加便捷地找到对应论文,欢迎star~

Chinese-Reading-Notes-of-Graph-Learning

更多相关文章,请移步:文献阅读总结:网络表示学习/图学习

文章目录

  • Title
  • 总结
    • 1 GCN
    • 2 权重矩阵演化

Title

《EvolveGCN:Evolving Graph Convolutional Networks for Dynamic Graph》

——AAAI2020

Author: Aldo Pareja

总结

1 GCN

文章利用GCN学习节点表征,并用GRU或LSTM学习GCN中的参数,即权重矩阵。这样其权重矩阵就能够随着时间不断演化,而最终需要学习的参数,只是GRU或LSTM中用来演化权重矩阵的参数。提出的EvolveGCN模型示意图如下:


即在每个时刻,都用RNN模型演化GCN中的参数,而GCN最终的计算公式如下:


其中A_t即为网络在t时刻的加权邻接矩阵,在这里要先进行规范化才能代入GCN计算。该模型的输入为加权邻接矩阵A_t和节点特征矩阵X_t,其中X_t用于生成节点在t时刻的初始嵌入,而A经过一系列变化后用于在每个时刻输入GCN生成节点嵌入。值得注意的是,GCN在每个时间点都设置了两层用于学习嵌入,因此节点的初始嵌入是针对不同时间点的,即H_t^(0),0表示GCN层数,这一嵌入在该时间段还需要输入GCN学习更高层次的嵌入。

那么在GCN中,规范化的加权邻接矩阵和节点在该时刻的嵌入都已经得到了,就只需要对参数,即权重矩阵W进行相关处理。

2 权重矩阵演化

文章提出了两种选择,一种是基于GRU,将上一时刻的权重矩阵和节点嵌入放入GRU进行计算得到该时刻权重矩阵,有:


一种是基于LSTM,直接对上一时刻的权重矩阵进行保留和遗忘,得到该时刻权重矩阵,有:


其示意图如下:

对于GRU和LSTM,都需要解决一个问题,即输入要从向量变成矩阵,文章给出的解决办法是将节点向量按行排列,就得到了输入矩阵。此外,GRU输入的是节点向量和权重两个矩阵,还需要解决矩阵维度匹配的问题,文章采用的办法是整合出节点的k个最有意义向量,从而匹配权重矩阵的维度。伪代码如下,其中g即为GRU的函数:


关于GRU和LSTM的基本框架构造,在此不再赘述。文章认为,当数据集中包含节点特征信息时,使用GRU效果会更好。而数据集中如果没有节点特征信息,同时网络结构有更为重要时,LSTM效果会更好。

更多推荐

文献阅读(25)AAAI2020

本文发布于:2024-02-07 04:38:33,感谢您对本站的认可!
本文链接:https://www.elefans.com/category/jswz/34/1753316.html
版权声明:本站内容均来自互联网,仅供演示用,请勿用于商业和其他非法用途。如果侵犯了您的权益请与我们联系,我们将在24小时内删除。
本文标签:文献

发布评论

评论列表 (有 0 条评论)
草根站长

>www.elefans.com

编程频道|电子爱好者 - 技术资讯及电子产品介绍!