是不是并不是所有问题都适合用神经网络预测？ 第1页
1
yukio-2 网友的相关建议:
- 小样本情况，无论是低维还是高维，不如SVM和贝叶斯模型
- 低维数据，大样本量，不如各种ensemble类算法
- 以上主要问题在于过拟合，传统机器学习算法大部分对过拟合都有比较合理的解决方案，而神经网络基本只靠heuristic。dropout虽然在Bayesian deep learning里面有不错的意义，但只依靠dropout来做inference实践上未免有点单薄
- 低维时序数据，小样本量，大部分情况下比不过HMM，ARIMA一类的，比如语音识别里至今CNN没有比HMM效果好多少
- 三维的图像数据，神经网络参数量太大，虽然有不少文章voxel based cnn，我目前还没有复现过效果比较好的模型
- 上面的三维数据，有一种做法是多视角赤极投影，然后用LSTM去学，然而实数空间不存在一个SO(3)群到S2群的连续映射，因为二者不同构，所以即使你做出实验效果，也有可能是某种过拟合的结果
- 神经网络容易受到对抗样本的攻击，攻击很容易，防御十分困难，目前为止的大部分防御措施都被指出存在漏洞
- 不规则数据，比如说graph signal或者point cloud，虽然有不少文章都尝试graph signal上做卷积，但是目前为止，应用在复杂数据集上效果欠佳，而且数学研究者的工作与CS研究者的工作还有着巨大的隔阂
- 有一些文章用神经网络做图像去噪，这类的文章，凡声称自己是“盲”去噪，不加任何正则项先验项的，有一大部分连自己到底想做到什么样的目标都说不清
1
相关话题
如何评价Hinton在加拿大多伦多大学关于用“capsule”作为下一代CNN的演讲？GAN 真的创造了新的信息吗？
Resnet到底在解决一个什么问题呢？
GAN（对抗生成网络）可以被用于哪些（商业或潜在商业）实际问题？
如何看待人工智能领域的很多专家认为「人工智能将对人类存亡造成威胁」的观点？
LSTM如何来避免梯度弥散和梯度爆炸？
如何将某个分布作为机器学习的特征？
cygwin和mingw选哪个？
李航的统计学习方法，吴恩达的视频，关于机器学习的东西都看不懂是怎么回事？
从应用的角度来看，深度学习怎样快速入门？
前一个讨论
正负样本极不平衡的问题？
下一个讨论
怎样才能写出 Pythonic 的代码？
相关的话题
如何评价AWS的图神经网络框架DGL？如何看待斯坦福博士生2prime陆一平关于新冠起源的一系列言论？
怎么在家学习一些关于机器学习的知识?
NLP文本匹配问题的本质是不是 对于要预测的句子，遍历候选句子 从训练数据集里寻找最相似的pair？
为什么都说神经网络是个黑箱？
有哪些定理在高维情况下与三维情况下培养出来的直觉不符？
2021年了，如何评价微软亚研提出的对偶学习（Dual Learning）？
为什么说深度学习没有理论基础?
人工智能 CV 岗位是不是现在供严重大于需？
除了深度学习，机器学习领域近年来还有什么热点吗？
视觉算法的工业部署及落地方面的技术知识，怎么学？
如何通俗的解释交叉熵与相对熵？
为何总感觉人工智能和神经科学（神经网络）被绑在一起？
如何评价 On Unifying Deep Generative Models 这篇 paper?
如何直观地解释 backpropagation 算法？
在机器学习中，L2正则化为什么能够缓过拟合？
如何评价1700亿参数的GPT-3？
百度学术能否替代 Google 学术网站？有没有其他选择？
什么是大模型？超大模型？Foundation Model？
如何评价Yann LeCun宣称『他已经做好放弃概率论的准备』？
加州大学伯克利分校为何能连续孵化出 Mesos,Spark,Alluxio,Ray 等重量级开源项目?
GAN（对抗生成网络）可以被用于哪些（商业或潜在商业）实际问题？
深度学习领域有哪些瓶颈？
为什么强大的 MXNet 一直火不起来？
如何看待知乎的AI答主「四十二」？人工智能有可能理解生命的意义是什么吗？
人工智能已在哪些领域超越了人类的表现？
为什么现在有这么多人工智能无用论？
如何评价亚马逊AI新开源自动机器学习项目AutoGluon?
wav2vec中的30ms是怎么得来的?
2021年人工智能领域有哪些关键性进展和突破？