百科问答小站 logo
百科问答小站 font logo



如何看待Capsule Network在NLP领域的潜力? 第1页

  

user avatar   su-jian-lin-22 网友的相关建议: 
      

个人认为,Capsule在NLP中的应用事实上比CV更自然。

Capsule用向量来表示一个特征,使得特征表达更丰富,这其实对应了NLP中用词向量来代替one hot来表示一个词的方案。

事实上,在Word Embedding之后,接一个参数共享版的Capsule Layer用来做文本分类,效果往往还能比肩LSTM/CNN的分类模型。

Capsule退热的原因,不是Capsule真的要衰落了,而是:1、理解Capsule本身就有难度,这个门槛已经筛掉一大批所谓的做深度学习的人了;2、Capsule本身有很多细节没想清楚,比如目前是引入了聚类思路来对特征进行抽象,那如何引入自适应的聚类方法呢?做Capsule的人可能都去想这些问题了。也许解决了这些问题,就是Capsule遍地开花的时候了。


硬广告:

揭开迷雾,来一顿美味的Capsule盛宴 - 科学空间|Scientific Spaces

再来一顿贺岁宴:从K-Means到Capsule - 科学空间|Scientific Spaces

三味Capsule:矩阵Capsule与EM路由 - 科学空间|Scientific Spaces




  

相关话题

  未来三十年内,哪些行业的工作人员可能会被人工智能取代? 
  请问下大家训练 SimCSE 时, loss 有没有这样的情况? 
  深度学习领域,你心目中 idea 最惊艳的论文是哪篇? 
  如何评价 DeepMind 在星际中的失利,以及 OpenAI 在 Dota 上的成功? 
  如何看待知乎的AI答主「四十二」?人工智能有可能理解生命的意义是什么吗? 
  反馈控制理论在优化、机器学习等领域有哪些应用? 
  AlphaGo 与李世石的第三局比赛中有哪些值得关注之处? 
  机器学习能否用于综合评价?具体怎么操作? 
  TensorFlow 中 padding 的 SAME 和 VALID 两种方式有何异同? 
  图灵法则适用于未来人工智能吗? 

前一个讨论
有哪些「人不可貌相」的事情?
下一个讨论
为什么现在的人很轻松就能掌握几百几千年前顶尖数学家才能掌握的知识?





© 2024-11-21 - tinynew.org. All Rights Reserved.
© 2024-11-21 - tinynew.org. 保留所有权利