放开让我来!
首先题主要的是网络资源,也就是要求在互联网上公开且免费的资料。然后题主明确点出不要列出来上百个刷单论文什么的,说明题主希望系统而专注的入门或提升深度学习能力。
我觉得吧,资料太多真的就一个都看不下去了。Less is more.其实只需要有那么一两本书去帮你同时完成理论和工程的入门和提升就够了,哪里需要那么麻烦的弄出来这么多资料呢。
我也不知道题主是更喜欢视频资料还是书籍资料。下面我就都推一下,总之下面的资料都是在互联网上免费且公开的。当然想买纸质书籍的话也都能买到。
(已经看过我订阅号里那篇文章的话就不用看啦,此处纯搬运)
小夕就不多推荐啦,因为看视频真的是很磨时间的学习方式。就提一下四门课及哪些人适合去听听:
1、coursera上Ng开设的机器学习。
https://www. coursera.org/learn/mach ine-learning/
如果在入门深度学习之前都没有接触过机器学习的话,那么这门课是小夕建议十分有必要听的~尤其是课程的好几个大作业,Ng已经给你写好的框架也要好好看,这对于摸清行业基本工程框架是十分有帮助的~可以说是理论与工程双收的入门教程。当然,已经入门的就忽略吧。
2、斯坦福大学的公开课CS231n(深度学习与计算机视觉)。
小夕是做自然语言处理(NLP)的,所以早就听说了这门课但是一直也没有去看。最近也是刷了几节,感觉非视觉方向的小伙伴听一听也是有帮助的~不过个人觉得非视觉方向的,又不是有大把时间的,就不用太心心念这门课啦,这门课的更高效的替代品还是蛮多的。视觉方向的刚要入门的去刷就非常合适了。
3、斯坦福大学的公开课CS224d和CS224n(深度学习与自然语言处理)。
http://cs224d.stanford.edu/syllabus.html
CS224n: Natural Language Processing with Deep Learning
这两门课都是斯坦福的深度学习与自然语言处理的结合的课程,开课老师是NLP领域的大牛Manning和Richard Socher。(感谢评论区纠正!)NLP方向的小伙伴要入门深度学习的话,看这门课是很合适的。CS224d比CS224n的内容要少的多(好像224d是夏季课程),所以时间有限的话可以听224d,想系统学习深度学习在NLP领域的应用的话就CS224n。小夕刷完了完整的224d还有224n的一部分。毕竟词向量这些概念的特性理解不透的话,CNN、RNN理解的再好也很容易瓶颈了。不过224d对CNN在NLP领域的应用讲的不多,还是建议刚入门的初学者刷一刷,已经入门的就不用啦,太浪费时间。
4、coursera上Ng开设的Neural networks and deep learning。
https://www. coursera.org/specializa tions/deep-learning
这门课实在太太太火,小夕也是前几天抽出时间来挑着看了些,主要集中在第二、三章节上。发现这门课第二章节的内容跟Ng的《machine learning yearning》好好好像啊,甚至插图都没有变太多 =.= 对于初学者来说,这门课的内容是以后进行工程所不可或缺的,十分建议这门课和《machine learning yearning》最少要挑一个看!尤其是bias-variant trade-off理论,没有人比Ng讲的更清楚了。
对视频资料总结一下,如果是一个完全态的新手,那么Ng的机器学习是十分有必要认真看的(是说认真看大作业的代码!不仅仅是视频!)。如果有机器学习基础了,但是深度学习是个小白,神经网络也理解很少,数学也不怎么样,那么Ng的Neural networks and deep learning刷了绝对大有收获的~如果机器学习和深度学习的基础都有了,但是缺乏某一应用领域的应用套路,那么有时间可以刷CS231n或者cs224d,没时间也无所谓的,继续往下看啦~
由于我们目标是深度学习的应用!而且精力有限!所以在书籍上的功夫一定要少而精。小夕力推两本,这两本也是小夕除了论文外,80%的知识来源~(算上论文也能占40%啦)
1、《Deep learning》,中文叫《深度学习》,已经开售了(应该没有人不知道吧)。
这本书的价值和权威性不用我啰嗦。但是!我要吐槽一下,我觉得这本书除了主流的深度学习模型讲的很一般以外,其它大部分章节还是挺好的!如果你看这本书的第9、10章学习CNN、RNN的时候感觉乱糟糟的,要么感觉太过啰嗦缺乏核心,要么感觉“天呐怎么一带而过了”,那么不要怀疑自己的智商,因为小夕也怀疑过自己的智商了 =.= 。这些章节主要就用来索引论文吧。(当然如果你觉得讲的棒呆了,恭喜你跟作者心有灵犀)
但是,这本书的6、7、8章还是很棒的!第一部分写数学基础的那几章也是言简意赅,恰到好处。总之“深度前馈网络”、“正则化”、“优化”这几章值得细细读的~但是后面的章节,咳咳不要抱太大期望。
另外,不要以为看完这本书你就对深度学习无所不能了,实际上还差很远呐。这本书的价值在于让你低成本(高效率)的补上最近几年的主要理论成果,免得自己面对数百篇重要论文无从下手。顺便提供了一个论文索引。工程能力的get要看下面这本神书!
2、《Hands On MachineLearning with Scikit Learn and TensorFlow》。
这本书是小夕秘藏好久的书籍!遇到它时也是缘分啦,有一次在Google瞎搜,结果出来一个“safari books online”的神奇网站,宝宝用了多年Safari,都没有发现它还有这种地方!于是点进去,
噫?果然是个神奇的地方!然后就习惯性的去找人工智能、机器学习、深度学习等分类的书了。然后当时看到了相关主题的热搜,当时的top1就是这本书!好奇之下点进去试读,然后就中毒了。。。
不过不用担心价格问题,这本书的电子版也是在互联网上都能完整下载。
这本书真的是深度学习在工程应用上的神器!有很多工程tricks,比如工程上怎么初始化啦、怎么选择激活函数啦、批量归一化什么时候用之类的很现实的问题基本都能在这里找到答案!它又不同于《机器学习实战》这种堆砌代码的书籍,它的理论讲解也很棒!整本书的组织也是循循善诱,代码什么的与理论和实验融为一体,而且最重要的是它也会给出大量的参考论文!论文都会在当页的下方给出,简直发现新大陆不能更方便了!
哦对了,这本书的前半部分是统计机器学习,后半部分是深度学习。小夕只看了深度学习部分。对于还没有用过统计机器学习模型如SVM解决过工程问题的同学来说,前半部分也是神器了!所以超级初学者上完Ng的机器学习后,来这本书的前半部分深入学习简直不能更高效了。
对书籍资料总结一下,只要你要做深度学习了,理论书方面目前最佳还是《deep learning》。但是不要迷信部分章节的讲解力,该啃参考论文就啃论文!大部分论文会比书上讲的清晰很多(除了某些思维实在难以让人理解的大牛的论文)。工程上的主力书,小夕只推《Hands On Machine Learning with Scikit Learn and TensorFlow》。超级新手顺便把前半部分也挑着看一下,一般性初学者和工程经验不太丰富的小伙伴好好看后半部分吧(尤其"training deep neural nets"那一章)。
微信订阅号“夕小瑶的卖萌屋”里的机器学习和深度学习知识是前面这些资料里都没有的哦。