CTC和Encoder-Decoder有什么关系? 第1页
1
maigo 网友的相关建议:
- 是否把 LSTM + CTC 看成编码器 + 解码器的结构，我觉得是一个无所谓的问题。
其实任何一种网络结构，都可以看成编码器 + 解码器，只要把网络的低几层看成编码器，高几层看成解码器就行了。但对于 LSTM + CTC 来说，到底把哪几层看成编码器，哪几层看成解码器，并没有一个明确的界限，不像注意力网络中，编码器与解码器中间有一个注意力层的结构是跟其它层不同的。所以说 LSTM + CTC 是编码器 + 解码器，不能算错，但没什么意思。
2. 变长序列的端到端学习方法，我觉得有三种主流思路，除了 CTC 和注意力以外，还有 transducer。下面这篇文章就比较了三种方法用于语音识别的效果：
我对它们的总结是这样的：
1
相关话题
想问下专业人士 OpenCv会被深度学习进一步取代吗进一步取代吗？你有哪些deep learning（rnn、cnn）调参的经验？
如何评价微软正在开发的人工智能编程软件 DeepCoder？
transformer中的Q,K,V到底是什么？
如何评价ST-GCN动作识别算法？
如何看待Tensor Comprehensions？与TVM有何异同？
新手如何入门pytorch？
有哪些深度学习效果不如传统方法的经典案例？
能分享你收藏的国外AI talk, seminar平台或网站吗？
pytorch 的高层库ignite怎么样？
相关的话题
现在的BERT等语言模型，最快训练要多久？DeepMind 研发的围棋 AI AlphaGo 是如何下棋的？
word2vec有什么应用？
生成式对抗网络GAN有哪些最新的发展，可以实际应用到哪些场景中？
下一代 AI 框架长什么样？
2019年，计算机视觉领域，你推荐哪些综述性的文章？
如何看待NLP领域最近比较火的prompt，能否借鉴到CV领域？
国内哪些公司在用caffe、torch、TensorFlow、paddle等框架，哪些在用自研框架？
深度学习如何入门？
基于对比学习(Contrastive Learning)的文本表示模型【为什么】能学到语义【相似】度？
对于神经网络，硕士博士不需要弄明白原理，只需要应用，是这样吗？
如何证明数据增强（Data Augmentation）有效性？
如何用一句话证明自然语言处理很难？
2019年NeurIPS有哪些糟糕的论文？
为什么现在有这么多人工智能无用论？
如何评价移动端吊打一切万众期待的商汤深度学习推理框架PPL开源了却没有支持移动端？
如何评价2020年计算机视觉顶会CVPR投稿量破万的现象？
2018年了，MXNet 发展的如何了？
基于深度卷积神经网络进行人脸识别的原理是什么？
二分类问题，应该选择sigmoid还是softmax？
有没有必要把机器学习算法自己实现一遍？
深度学习领域有哪些瓶颈？
在算力充沛，深度学习模型大行其道的今天，传统机器学习的未来在哪里？
在集成电路设计领域（数字，模拟），人工智能有无可能取代人类？
如何评价何恺明等 arxiv 新作 Rethinking ImageNet Pre-training？
编程达到什么水平才能编写出像caffe这样的深度学习框架？
图片上训的模型，怎么迁移视频上呢？
如何看待 Google 既可以作 Inference，又可以作 Training 的新一代 TPU？
假如我穿越到2017年第一个提出了Transformer、BERT等模型，我可以保送到清华北大吗？
CVPR 2019 有哪些值得关注的亮点？