是不是并不是所有问题都适合用神经网络预测？ 第1页
1
yukio-2 网友的相关建议:
- 小样本情况，无论是低维还是高维，不如SVM和贝叶斯模型
- 低维数据，大样本量，不如各种ensemble类算法
- 以上主要问题在于过拟合，传统机器学习算法大部分对过拟合都有比较合理的解决方案，而神经网络基本只靠heuristic。dropout虽然在Bayesian deep learning里面有不错的意义，但只依靠dropout来做inference实践上未免有点单薄
- 低维时序数据，小样本量，大部分情况下比不过HMM，ARIMA一类的，比如语音识别里至今CNN没有比HMM效果好多少
- 三维的图像数据，神经网络参数量太大，虽然有不少文章voxel based cnn，我目前还没有复现过效果比较好的模型
- 上面的三维数据，有一种做法是多视角赤极投影，然后用LSTM去学，然而实数空间不存在一个SO(3)群到S2群的连续映射，因为二者不同构，所以即使你做出实验效果，也有可能是某种过拟合的结果
- 神经网络容易受到对抗样本的攻击，攻击很容易，防御十分困难，目前为止的大部分防御措施都被指出存在漏洞
- 不规则数据，比如说graph signal或者point cloud，虽然有不少文章都尝试graph signal上做卷积，但是目前为止，应用在复杂数据集上效果欠佳，而且数学研究者的工作与CS研究者的工作还有着巨大的隔阂
- 有一些文章用神经网络做图像去噪，这类的文章，凡声称自己是“盲”去噪，不加任何正则项先验项的，有一大部分连自己到底想做到什么样的目标都说不清
1
相关话题
现在的人工智能是否走上了数学的极端？能分享你收藏的国外AI talk, seminar平台或网站吗？
机器学习系统MLSys中有哪些比较有前途的研究方向？
如何看待李沐老师提出的「用随机梯度下降来优化人生」？
如何评价PyTorch 0.4.0？
除了深度神经网络已经实现的特性以外，大脑还有哪些特性是值得机器学习领域借鉴的？
基于深度卷积神经网络进行人脸识别的原理是什么？
深度学习中Attention与全连接层的区别何在？
如何用简单易懂的例子解释隐马尔可夫模型？
在CV/NLP/DL领域中，有哪些修改一行代码或者几行代码提升性能的算法？
前一个讨论
正负样本极不平衡的问题？
下一个讨论
怎样才能写出 Pythonic 的代码？
相关的话题
机器学习中如何识别图片中的手是手背还是手心？加州大学伯克利分校为何能连续孵化出 Mesos,Spark,Alluxio,Ray 等重量级开源项目?
如何评价陈天奇团队新开源的TVM？
pytorch 的高层库ignite怎么样？
在中文 NLP 等论文中，应该如何翻译 token 这个词？
mxnet的并行计算为什么这么牛，是什么原理？
反馈控制理论在通信、信号处理等领域有哪些应用？
机器学习，深度神经网络等方法是否是正确的方向？
深度学习方面还有什么Open Problem?
如何理解矩阵对矩阵求导？
是不是并不是所有问题都适合用神经网络预测？
用 Python 进行数据分析，不懂 Python，求合适的 Python 书籍或资料推荐？
现在tensorflow和mxnet很火，是否还有必要学习scikit-learn等框架？
如何才能看得懂变分贝叶斯方法（Variational Bayesian）？
深度学习有哪些好玩的案例？
计算机视觉研一，只学过Python基础，目前代码能力很差，要不要换导师，不换的话如何毕业？
三维重建怎么入门？
基于深度学习的自然语言处理在 2016 年有哪些值得期待的发展？
人们是如何想到奇异值分解的？
如何看待 Richard Sutton 说的「人工智能中利用算力才是王道」？
有人说「真正的人工智能至少还要几百年才能实现」，真的是这样吗？
你见过哪些“人工智障”?
可以对只有一个像素的图片拥有版权或著作权吗？为什么？
有没有可能运用人工神经网络将一种编程语言的代码翻译成任意的另一种编程语言，而不经过人工设计的编译过程？
god bless us 为什么百度翻译是辛巴？
TensorFlow的自动求导具体是在哪部分代码里实现的？
如何评价MSRA视觉组最新对spatial attention mechanism分析论文？
简单解释一下sparse autoencoder, sparse coding和restricted boltzmann machine的关系？
如何看待华为 4 月 25 日发布的盘古智能大模型？在这个行业处于什么水平？
如何看待Yoav Goldberg 怒怼来自MILA的GAN for NLG的paper?