是不是并不是所有问题都适合用神经网络预测？ 第1页
1
yukio-2 网友的相关建议:
- 小样本情况，无论是低维还是高维，不如SVM和贝叶斯模型
- 低维数据，大样本量，不如各种ensemble类算法
- 以上主要问题在于过拟合，传统机器学习算法大部分对过拟合都有比较合理的解决方案，而神经网络基本只靠heuristic。dropout虽然在Bayesian deep learning里面有不错的意义，但只依靠dropout来做inference实践上未免有点单薄
- 低维时序数据，小样本量，大部分情况下比不过HMM，ARIMA一类的，比如语音识别里至今CNN没有比HMM效果好多少
- 三维的图像数据，神经网络参数量太大，虽然有不少文章voxel based cnn，我目前还没有复现过效果比较好的模型
- 上面的三维数据，有一种做法是多视角赤极投影，然后用LSTM去学，然而实数空间不存在一个SO(3)群到S2群的连续映射，因为二者不同构，所以即使你做出实验效果，也有可能是某种过拟合的结果
- 神经网络容易受到对抗样本的攻击，攻击很容易，防御十分困难，目前为止的大部分防御措施都被指出存在漏洞
- 不规则数据，比如说graph signal或者point cloud，虽然有不少文章都尝试graph signal上做卷积，但是目前为止，应用在复杂数据集上效果欠佳，而且数学研究者的工作与CS研究者的工作还有着巨大的隔阂
- 有一些文章用神经网络做图像去噪，这类的文章，凡声称自己是“盲”去噪，不加任何正则项先验项的，有一大部分连自己到底想做到什么样的目标都说不清
1
相关话题
李航的统计学习方法，吴恩达的视频，关于机器学习的东西都看不懂是怎么回事？如何看待timm作者发布ResNet新基准：ResNet50提至80.4，这对后续研究会带来哪些影响？
为什么现在的CNN模型都是在GoogleNet、VGGNet或者AlexNet上调整的？
2021年人工智能领域有哪些关键性进展和突破？
神经网络训练多个epoch，写论文的时候可以取最好的效果那一个epoch作为结果吗？
请问在金融风控方向，如何运用用户行为序列进行特征设计和挖掘？
对于技术岗位而言，开发岗累还是算法岗累呢？
如何看待 Google 围棋 AI AlphaGo 击败欧洲围棋冠军？
强化学习和自适应控制的关系是什么？
Word2vec 翻译到另一种语言，其向量空间之间的映射会不会是线性的？
前一个讨论
正负样本极不平衡的问题？
下一个讨论
怎样才能写出 Pythonic 的代码？
相关的话题
CNN网络的pooling层有什么用？OpenAI 发布文字生成图像工具 DALL·E 2，它的画作水平如何？从技术角度如何评价它的能力？
DeepMind 研发的围棋 AI AlphaGo 是如何下棋的？
NIPS 2018 有什么值得关注的亮点？
新手如何入门pytorch？
Yann LeCun、Geoffrey Hinton或Yoshua Bengio能得图灵奖吗？
2021 年，深度学习方面取得了哪些关键性进展？
普通FPGA工程师怎样向人工智能靠拢？
学习机器学习应该看哪些书籍？
如何评价生成模型框架 ZhuSuan?
pytorch dataloader数据加载占用了大部分时间，各位大佬都是怎么解决的？
如何看待Jeff Dean&Hinton投到ICLR17的MoE的工作？
如何看待西安电子科技大学偷偷给贫困生打钱，大数据精准帮助贫困生是否值得推广？
如果不按套路下棋是不是就能赢 Alpha Go 了？
知识图谱+nlp，有什么适合硕士独自研究的方向？
为什么nn的较大问题是会陷入局部最优时，不选用凸函数作为激活函数？
有监督和无监督学习都各有哪些有名的算法和深度学习？
从应用的角度来看，深度学习怎样快速入门？
如何评价旷视开源的YOLOX，效果超过YOLOv5?
如何评价AWS的图神经网络框架DGL？
迁移学习入门，新手该如何下手？
为什么做机器学习的很少使用假设检验？
时间序列和回归分析有什么本质区别？
深度学习领域，你心目中 idea 最惊艳的论文是哪篇？
除了深度学习，机器学习领域近年来还有什么热点吗？
GAN:固定训练好的判别器网络，去指导训练生成器为什么不可以？
机器学习在理论经济学研究中有哪些可能的应用前景？
如何评价Yann LeCun宣称『他已经做好放弃概率论的准备』？
CVPR 2019 有哪些值得关注的亮点？
时间序列数据上可以抽取哪些频域特征？