CTC和Encoder-Decoder有什么关系? 第1页
1
maigo 网友的相关建议:
- 是否把 LSTM + CTC 看成编码器 + 解码器的结构，我觉得是一个无所谓的问题。
其实任何一种网络结构，都可以看成编码器 + 解码器，只要把网络的低几层看成编码器，高几层看成解码器就行了。但对于 LSTM + CTC 来说，到底把哪几层看成编码器，哪几层看成解码器，并没有一个明确的界限，不像注意力网络中，编码器与解码器中间有一个注意力层的结构是跟其它层不同的。所以说 LSTM + CTC 是编码器 + 解码器，不能算错，但没什么意思。
2. 变长序列的端到端学习方法，我觉得有三种主流思路，除了 CTC 和注意力以外，还有 transducer。下面这篇文章就比较了三种方法用于语音识别的效果：
我对它们的总结是这样的：
1
相关话题
如何看待NIPS2017图灵奖得主贝叶斯网络之父Judea Pearl讲座无人问津？如何看待MXNet在CVPR2017上公布的gluon接口？
深度学习中，模型大了好还是小了好呢？
深度学习方面的科研工作中的实验代码有什么规范和写作技巧？如何妥善管理实验数据？
如何理解 inductive learning 与 transductive learning?
贝叶斯深度学习是什么，和传统神经网络有何不同？
基于深度卷积神经网络进行人脸识别的原理是什么？
基于深度卷积神经网络进行人脸识别的原理是什么？
应届硕士毕业生如何拿到知名互联网公司算法岗（机器学习、数据挖掘、深度学习） offer？
如何看待知乎的AI答主「四十二」？人工智能有可能理解生命的意义是什么吗？
相关的话题
为什么交叉熵（cross-entropy）可以用于计算代价？如何评价 BERT 模型？
ICLR 2021 有什么值得关注的投稿？
2021 年了，TensorFlow 和 PyTorch 两个深度学习框架地位又有什么变化吗？
如何看待swin transformer成为ICCV2021的 best paper？
DeepMind 研发的围棋 AI AlphaGo 是如何下棋的？
什么是蒙特卡罗 Dropout(Monte-Carlo Dropout)？
计算机视觉中，目前有哪些经典的目标跟踪算法？
请问应该怎样去学习图像识别和深度学习？
能否使用区块链的算力来解决深度学习训练？
有没有必要把机器学习算法自己实现一遍？
计算机视觉中video understanding领域有什么研究方向和比较重要的成果？
AMD 开源高性能机器智能库MIopen是否可以和cuDNN抗衡？
如何理解深度学习中的deconvolution networks？
语音识别的技术原理是什么？
2019年，计算机视觉领域，你推荐哪些综述性的文章？
深度学习火热兴起后，隐马尔可夫模型（HMM）还有何独到之处，是不是几乎可被深度学习模型给替代了？
围棋AI为什么没有下出同局？
为什么ViT里的image patch要设计成不重叠？
如何比较Keras, TensorLayer, TFLearn ？
卷积神经网络如果将池化层去除，与神经网络的区别还大么？
CTC和Encoder-Decoder有什么关系?
能否使用区块链的算力来解决深度学习训练？
如何评价旷视开源的YOLOX，效果超过YOLOv5?
如何评价余凯创立的horizon robotics？
如何看待 Daniel Povey 离开 JHU 后加入小米？
如何理解空洞卷积（dilated convolution）？
为什么机器学习解决网络安全问题总是失败?
基于对比学习(Contrastive Learning)的文本表示模型【为什么】能学到语义【相似】度？
2019年NeurIPS有哪些糟糕的论文？