百科问答小站 logo
百科问答小站 font logo



如何看待KDD'21的文章,异质图神经网络的效果不如简单的GCN、GAT? 第1页

  

user avatar   ding-ming-55-55 网友的相关建议: 
      

被邀请了一看居然是自己的文章!那还不得上来说两句……

文章的内容其实还是非常充实的,分为了三部分:

  1. 分析了之前的各种异构网络实验中的问题,包括没有对GCN、GAT正确使用和调参以及一些信息泄露等问题。
  2. 提出了一套新的异构网络测评的pipeline,和一整套数据集Heterogeneous Graph Bank;同时为了防止测试集被overfit,我们学习了如squad或者glue那样的在线测评方式,大家私下可以用验证集,测试集的数据需要提交网站。HGB
  3. 我们也简单地调参得到一种GAT的变式,发现在各种数据集上普遍有效,这也表明了并非是这个任务真的到了瓶颈,而是之前的测评和对比的方式及数据集阻碍了领域的正确发展。

另外值得一提的是,这篇文章浓缩了各个合作者大量的工作,但是审稿的时候却有人故意刁难,说什么“作者虽然保证了中稿之后公布代码,但是我不相信,所以clear reject……”

我觉得他可能误解我们是出于什么目的在针对他们的文章甚至这个领域,其实我们很早就搞异构数据,合作者yuxiao dong也是异构网络的重要学者,只是想让这个领域更健康的发展而已。不过幸好其他审稿人力挺,ac捞了一手。

最近我事情比较多,确实没有顾得上这个工作,如果大家有什么问题,欢迎在github issue。




  

相关话题

  如何看待字节跳动 AI 实验室总监李磊入职 UCSB? 
  如何评价MSRA视觉组最新对spatial attention mechanism分析论文? 
  为什么Transformer适合做多模态任务? 
  KL散度衡量的是两个概率分布的距离吗? 
  在Lasso中,oracle property指的是什么性质? 
  如何看待 Google 围棋 AI AlphaGo 击败欧洲围棋冠军? 
  为什么计算机科学专业背景的人喜欢黑机器学习? 
  如何看待 Richard Sutton 说的「人工智能中利用算力才是王道」? 
  怎样衡量一个机器学习工程师对算法的掌握程度? 
  深度学习底层开发对数学有哪些要求? 

前一个讨论
如何看待 2021 年清华特奖候选人名单?
下一个讨论
为什么网飞在国内得不到好的推行?





© 2025-01-18 - tinynew.org. All Rights Reserved.
© 2025-01-18 - tinynew.org. 保留所有权利