是不是并不是所有问题都适合用神经网络预测？ 第1页
1
yukio-2 网友的相关建议:
- 小样本情况，无论是低维还是高维，不如SVM和贝叶斯模型
- 低维数据，大样本量，不如各种ensemble类算法
- 以上主要问题在于过拟合，传统机器学习算法大部分对过拟合都有比较合理的解决方案，而神经网络基本只靠heuristic。dropout虽然在Bayesian deep learning里面有不错的意义，但只依靠dropout来做inference实践上未免有点单薄
- 低维时序数据，小样本量，大部分情况下比不过HMM，ARIMA一类的，比如语音识别里至今CNN没有比HMM效果好多少
- 三维的图像数据，神经网络参数量太大，虽然有不少文章voxel based cnn，我目前还没有复现过效果比较好的模型
- 上面的三维数据，有一种做法是多视角赤极投影，然后用LSTM去学，然而实数空间不存在一个SO(3)群到S2群的连续映射，因为二者不同构，所以即使你做出实验效果，也有可能是某种过拟合的结果
- 神经网络容易受到对抗样本的攻击，攻击很容易，防御十分困难，目前为止的大部分防御措施都被指出存在漏洞
- 不规则数据，比如说graph signal或者point cloud，虽然有不少文章都尝试graph signal上做卷积，但是目前为止，应用在复杂数据集上效果欠佳，而且数学研究者的工作与CS研究者的工作还有着巨大的隔阂
- 有一些文章用神经网络做图像去噪，这类的文章，凡声称自己是“盲”去噪，不加任何正则项先验项的，有一大部分连自己到底想做到什么样的目标都说不清
1
相关话题
能否训练一个AI模型来预测房价，寻找投资机会挖掘价值洼地？如何评价 NVIDIA 发布的 DGX-1？
神经网络中 warmup 策略为什么有效；有什么理论解释么？
有没有哪些人工的工作是无法被机器替代的？
神经网络训练多个epoch，写论文的时候可以取最好的效果那一个epoch作为结果吗？
对于神经网络，硕士博士不需要弄明白原理，只需要应用，是这样吗？
自学深度学习是怎样一种体验？
自动化的控制与检测领域中，有没有像机器学习、图像处理领域一样经典巧妙的算法？
如何看待KDD'21的文章，异质图神经网络的效果不如简单的GCN、GAT？
人工智能技术会不会最终赶上微积分的历史地位？
前一个讨论
正负样本极不平衡的问题？
下一个讨论
怎样才能写出 Pythonic 的代码？
相关的话题
在统计学领域有哪些经典奠基性的论文？机器学习中有哪些形式简单却很巧妙的idea？
有哪些比较好的元学习（meta learning）领域的学习资源？
在集成电路设计领域（数字，模拟），人工智能有无可能取代人类？
如何理解Inductive bias？
机器学习，深度神经网络等方法是否是正确的方向？
如何评价「神经网络本质不过是初中生都会的复合函数」？
当初的生物热，和如今的全民CS全民AI，让你想到了什么？
一般来说，三层神经网络可以逼近任何一个非线性函数，为什么还需要深度神经网络?
为何以范剑青老师的 Sure Independence Screening 为代表的筛选法没有流行呢？
如何看待End-to-End Object Detection with Transformers？
为什么最近几年 FPGA 变得越发受大家重视了？
什么是迁移学习 (Transfer Learning)？这个领域历史发展前景如何？
如何评价贾扬清离职 Facebook？
如何评价 2018 年度图灵奖颁发给三位深度学习之父？
xgboost原理？
默写很花时间怎么办？
为什么小模型已经可以很好地拟合数据集了，换大模型效果却要比小模型好？
深度学习方面还有什么Open Problem?
如何评价 DeepMind 发表在 Nature 的论文公开无需人类棋谱的 AlphaGo Zero？
如何评价微软提出的无监督视觉模型BEiT：ImageNet达到88.6，ADE20K达到57.0？
TensorFlow 有哪些令人难以接受的地方？
为什么做机器学习的很少使用假设检验？
对自己深度学习方向的论文有idea，可是工程实践能力跟不上，实验搞不定怎么办？
深度学习在生物信息领域有什么应用？
隐马尔可夫模型在金融领域应用前景如何？
算法工程师的落地能力具体指的是什么？
有没有值得推荐的随机森林 Random Forest教材？
硕士方向，选择迁移学习还是自然语言处理？
神经网络为什么可以（理论上）拟合任何函数？