CTC和Encoder-Decoder有什么关系? 第1页
1
maigo 网友的相关建议:
- 是否把 LSTM + CTC 看成编码器 + 解码器的结构，我觉得是一个无所谓的问题。
其实任何一种网络结构，都可以看成编码器 + 解码器，只要把网络的低几层看成编码器，高几层看成解码器就行了。但对于 LSTM + CTC 来说，到底把哪几层看成编码器，哪几层看成解码器，并没有一个明确的界限，不像注意力网络中，编码器与解码器中间有一个注意力层的结构是跟其它层不同的。所以说 LSTM + CTC 是编码器 + 解码器，不能算错，但没什么意思。
2. 变长序列的端到端学习方法，我觉得有三种主流思路，除了 CTC 和注意力以外，还有 transducer。下面这篇文章就比较了三种方法用于语音识别的效果：
我对它们的总结是这样的：
1
相关话题
当前人工智能特别是深度学习最前沿的研究方向是什么？为什么百度、搜狗、讯飞的语音识别宣称的准确率都是 97%？
如何评价哈工大的左旺孟老师？
2019年NeurIPS有哪些糟糕的论文？
深度学习两张3080ti和一张3090ti哪个好?
mxnet的并行计算为什么这么牛，是什么原理？
《人工智能训练师国家职业技能标准》发布，有哪些值得关注的信息？
2019年NeurIPS有哪些糟糕的论文？
对神经网络某一层做了小改进，效果却提升显著，可以发论文吗？
Word2vec 翻译到另一种语言，其向量空间之间的映射会不会是线性的？
相关的话题
batchsize=1时可以用BN吗?现代人工神经网络是不是一个死胡同？这个技术是不是骗人的？
当前深度学习理论基础薄弱是否意味着我们应该放弃深度学习应用(计算机视觉、自然语言处理)？
2021年深度学习哪些方向比较新颖，处于上升期或者朝阳阶段，没那么饱和，比较有研究潜力？
AlphaGo「理解」围棋吗？
强化学习和自适应控制的关系是什么？
Batch normalization和Instance normalization的对比？
迁移学习与fine-tuning有什么区别？
2020年，多标签学习（multi-label）有了哪些新的进展？
你实践中学到的最重要的机器学习经验是什么？
如何看待百度无人车， 三千多个场景，一万多个if？
有哪些关于机器学习的真相还鲜为人知？
如何理解深度学习中的deconvolution networks？
ICML2020有哪些值得关注的工作?
如何理解 natural gradient descent?
现在的人工智能是否走上了数学的极端？
三维重建怎么入门？
人是如何做黑盒优化的？
人工智能的意义和价值是什么？
人工智能在生活中的应用都有哪些？
2021年，ncnn发展的如何了？
为什么相比于计算机视觉(cv)，自然语言处理(nlp)领域的发展要缓慢？
迁移学习入门，新手该如何下手？
如何评价deepmind最新在nature上发表的论文《在人工网络中用网格样表征进行基于向量的导航》？
自学深度学习是怎样一种体验？
如何看待周志华等人的新书《机器学习理论导引》？
如何比较Keras, TensorLayer, TFLearn ？
如何看待Jeff Dean&Hinton投到ICLR17的MoE的工作？
训练过程中loss震荡特别严重，可能是什么问题？
adversarial training为什么会起作用？