是不是并不是所有问题都适合用神经网络预测？ 第1页
1
yukio-2 网友的相关建议:
- 小样本情况，无论是低维还是高维，不如SVM和贝叶斯模型
- 低维数据，大样本量，不如各种ensemble类算法
- 以上主要问题在于过拟合，传统机器学习算法大部分对过拟合都有比较合理的解决方案，而神经网络基本只靠heuristic。dropout虽然在Bayesian deep learning里面有不错的意义，但只依靠dropout来做inference实践上未免有点单薄
- 低维时序数据，小样本量，大部分情况下比不过HMM，ARIMA一类的，比如语音识别里至今CNN没有比HMM效果好多少
- 三维的图像数据，神经网络参数量太大，虽然有不少文章voxel based cnn，我目前还没有复现过效果比较好的模型
- 上面的三维数据，有一种做法是多视角赤极投影，然后用LSTM去学，然而实数空间不存在一个SO(3)群到S2群的连续映射，因为二者不同构，所以即使你做出实验效果，也有可能是某种过拟合的结果
- 神经网络容易受到对抗样本的攻击，攻击很容易，防御十分困难，目前为止的大部分防御措施都被指出存在漏洞
- 不规则数据，比如说graph signal或者point cloud，虽然有不少文章都尝试graph signal上做卷积，但是目前为止，应用在复杂数据集上效果欠佳，而且数学研究者的工作与CS研究者的工作还有着巨大的隔阂
- 有一些文章用神经网络做图像去噪，这类的文章，凡声称自己是“盲”去噪，不加任何正则项先验项的，有一大部分连自己到底想做到什么样的目标都说不清
1
相关话题
基于深度学习的人工智能程序和传统程序的差别在哪里？ICLR 2021 有什么值得关注的投稿？
在迁移学习中，只有fine-tune和基于实例的迁移可用在小样本上吗，还有其他的小样本迁移方法吗？
什么是机器学习？
2020年，多标签学习（multi-label）有了哪些新的进展？
为什么softmax很少会出现[0.5，0.5]？
用生成模型做数据增强data augmentation时，如何从合成数据中筛选出质量较好的样本？
机器学习门下，有哪些在工业界应用较多，前景较好的小方向？
在实际工程系统中，MPC太复杂，难以做到realtime。因此都利用数据，MPC对比RL还有优势么?
c4.5为什么使用信息增益比来选择特征？
前一个讨论
正负样本极不平衡的问题？
下一个讨论
怎样才能写出 Pythonic 的代码？
相关的话题
如何评价AlphaGo Zero？如何理解MCMC中的细致平稳条件？
为什么在SGD中使用L1正则化很难获得稀疏性？
人工「神经网络」技术在信息处理上有何特点，工作原理是什么？
有没有必要把机器学习算法自己实现一遍？
人工智能和自动控制能在一起擦出什么样的火花？
我们目前的时代距离人工智能具有自我意识还有多远？
K-means聚类算法中的K如何确定？
BERT模型可以使用无监督的方法做文本相似度任务吗？
人工智能可以解决人类难题吗？
阿里的TDM树深度模型为什么很少有人用，是有哪些问题吗？
是不是并不是所有问题都适合用神经网络预测？
如何评价FAIR提出的ConvNeXt：CNN匹敌Swin Transformer?
如何看待Geoffrey Hinton的言论，深度学习要另起炉灶，彻底抛弃反向传播？
在推荐系统中，如何较好的采用深度学习方法获取用户长短期兴趣？
评价指标的样本中0值过多怎么办？
Yoshua Bengio为什么能跟Hinton、LeCun相提并论？？
生成对抗网络的毕设怎么上手？
Yoshua Bengio为什么能跟Hinton、LeCun相提并论？？
5-10年后，你觉得哪些科技会让我们“遗忘”现在的生活？
你见过最差的算法工程师能差到什么程度？
科研时，想到一个idea，其实现的结果一定要比前人的评估指标高才能发表吗？
把某人的 DNA 序列作为输入，正面照片作为输出，丢到深度神经网络里面学习，可行吗？
为什么现在有这么多人工智能无用论？
写深度学习代码是先写model还是dataset还是train呢，有个一般化的顺序吗？
机器全面代替人工劳动力的那一天，你能如何生存下去？
如何看待与评价 AAAI 2022 的录用结果？
实验室一块GPU都没有怎么做深度学习？
视觉算法的工业部署及落地方面的技术知识，怎么学？
为什么中文 NLP 数据集这么少？