百科问答小站 logo
百科问答小站 font logo



如何看待Capsule Network在NLP领域的潜力? 第1页

  

user avatar   su-jian-lin-22 网友的相关建议: 
      

个人认为,Capsule在NLP中的应用事实上比CV更自然。

Capsule用向量来表示一个特征,使得特征表达更丰富,这其实对应了NLP中用词向量来代替one hot来表示一个词的方案。

事实上,在Word Embedding之后,接一个参数共享版的Capsule Layer用来做文本分类,效果往往还能比肩LSTM/CNN的分类模型。

Capsule退热的原因,不是Capsule真的要衰落了,而是:1、理解Capsule本身就有难度,这个门槛已经筛掉一大批所谓的做深度学习的人了;2、Capsule本身有很多细节没想清楚,比如目前是引入了聚类思路来对特征进行抽象,那如何引入自适应的聚类方法呢?做Capsule的人可能都去想这些问题了。也许解决了这些问题,就是Capsule遍地开花的时候了。


硬广告:

揭开迷雾,来一顿美味的Capsule盛宴 - 科学空间|Scientific Spaces

再来一顿贺岁宴:从K-Means到Capsule - 科学空间|Scientific Spaces

三味Capsule:矩阵Capsule与EM路由 - 科学空间|Scientific Spaces




  

相关话题

  拥有创造力的人类,某种观念下上是否已经可以称为“神族”? 
  神经网络,人工智能这块怎么入门? 
  Resnet到底在解决一个什么问题呢? 
  为什么交叉熵(cross-entropy)可以用于计算代价? 
  未来 3~5 年内,哪个方向的机器学习人才最紧缺? 
  2021年了,机器学习有什么高质量的专著? 
  同样是做强化学习和AI,为什么华为诺亚方舟实验室做出的成果远不及DeepMind和OpenAI? 
  CTC和Encoder-Decoder有什么关系? 
  图灵法则适用于未来人工智能吗? 
  deepmind发表的neural processes(神经过程),这个是怎么实现的呢? 

前一个讨论
有哪些「人不可貌相」的事情?
下一个讨论
为什么现在的人很轻松就能掌握几百几千年前顶尖数学家才能掌握的知识?





© 2025-02-21 - tinynew.org. All Rights Reserved.
© 2025-02-21 - tinynew.org. 保留所有权利