百科问答小站 logo
百科问答小站 font logo



如何看待KDD'21的文章,异质图神经网络的效果不如简单的GCN、GAT? 第1页

  

user avatar   ding-ming-55-55 网友的相关建议: 
      

被邀请了一看居然是自己的文章!那还不得上来说两句……

文章的内容其实还是非常充实的,分为了三部分:

  1. 分析了之前的各种异构网络实验中的问题,包括没有对GCN、GAT正确使用和调参以及一些信息泄露等问题。
  2. 提出了一套新的异构网络测评的pipeline,和一整套数据集Heterogeneous Graph Bank;同时为了防止测试集被overfit,我们学习了如squad或者glue那样的在线测评方式,大家私下可以用验证集,测试集的数据需要提交网站。HGB
  3. 我们也简单地调参得到一种GAT的变式,发现在各种数据集上普遍有效,这也表明了并非是这个任务真的到了瓶颈,而是之前的测评和对比的方式及数据集阻碍了领域的正确发展。

另外值得一提的是,这篇文章浓缩了各个合作者大量的工作,但是审稿的时候却有人故意刁难,说什么“作者虽然保证了中稿之后公布代码,但是我不相信,所以clear reject……”

我觉得他可能误解我们是出于什么目的在针对他们的文章甚至这个领域,其实我们很早就搞异构数据,合作者yuxiao dong也是异构网络的重要学者,只是想让这个领域更健康的发展而已。不过幸好其他审稿人力挺,ac捞了一手。

最近我事情比较多,确实没有顾得上这个工作,如果大家有什么问题,欢迎在github issue。




  

相关话题

  迁移学习与fine-tuning有什么区别? 
  CNN(卷积神经网络)、RNN(循环神经网络)、DNN(深度神经网络)的内部网络结构有什么区别? 
  如何理解 natural gradient descent? 
  知识图谱+nlp,有什么适合硕士独自研究的方向? 
  学习机器学习有哪些好工具推荐? 
  在哪里能找到各行业的分析研究报告? 
  如何评价谷歌提出的 Pix2Seq:将目标检测看成语言建模,效果超过 DETR? 
  如何评价清华大学发布的自研深度学习框架-计图(Jittor)? 
  2021 年了,机器/深度学习还有哪些坑比较好挖? 
  为什么 larger batch size 对对比学习的影响比对监督学习的影响要大? 

前一个讨论
如何看待 2021 年清华特奖候选人名单?
下一个讨论
为什么网飞在国内得不到好的推行?





© 2024-11-21 - tinynew.org. All Rights Reserved.
© 2024-11-21 - tinynew.org. 保留所有权利