百科问答小站 logo
百科问答小站 font logo



如何看待KDD'21的文章,异质图神经网络的效果不如简单的GCN、GAT? 第1页

  

user avatar   ding-ming-55-55 网友的相关建议: 
      

被邀请了一看居然是自己的文章!那还不得上来说两句……

文章的内容其实还是非常充实的,分为了三部分:

  1. 分析了之前的各种异构网络实验中的问题,包括没有对GCN、GAT正确使用和调参以及一些信息泄露等问题。
  2. 提出了一套新的异构网络测评的pipeline,和一整套数据集Heterogeneous Graph Bank;同时为了防止测试集被overfit,我们学习了如squad或者glue那样的在线测评方式,大家私下可以用验证集,测试集的数据需要提交网站。HGB
  3. 我们也简单地调参得到一种GAT的变式,发现在各种数据集上普遍有效,这也表明了并非是这个任务真的到了瓶颈,而是之前的测评和对比的方式及数据集阻碍了领域的正确发展。

另外值得一提的是,这篇文章浓缩了各个合作者大量的工作,但是审稿的时候却有人故意刁难,说什么“作者虽然保证了中稿之后公布代码,但是我不相信,所以clear reject……”

我觉得他可能误解我们是出于什么目的在针对他们的文章甚至这个领域,其实我们很早就搞异构数据,合作者yuxiao dong也是异构网络的重要学者,只是想让这个领域更健康的发展而已。不过幸好其他审稿人力挺,ac捞了一手。

最近我事情比较多,确实没有顾得上这个工作,如果大家有什么问题,欢迎在github issue。




  

相关话题

  普通FPGA工程师怎样向人工智能靠拢? 
  如何看待Hinton的论文《Dynamic Routing Between Capsules》? 
  什么是蒙特卡罗 Dropout(Monte-Carlo Dropout)? 
  深度学习attention机制中的Q,K,V分别是从哪来的? 
  如何理解空洞卷积(dilated convolution)? 
  如果有第谷的数据,现在的机器学习,深度学习有办法学出开普勒三定律吗? 
  国内目前的量化交易是否很少涉及到机器学习? 
  对神经网络某一层做了小改进,效果却提升显著,可以发论文吗? 
  NLP领域,你推荐哪些综述性的文章? 
  对自己深度学习方向的论文有idea,可是工程实践能力跟不上,实验搞不定怎么办? 

前一个讨论
如何看待 2021 年清华特奖候选人名单?
下一个讨论
为什么网飞在国内得不到好的推行?





© 2025-04-15 - tinynew.org. All Rights Reserved.
© 2025-04-15 - tinynew.org. 保留所有权利