是不是并不是所有问题都适合用神经网络预测？ 第1页
1
yukio-2 网友的相关建议:
- 小样本情况，无论是低维还是高维，不如SVM和贝叶斯模型
- 低维数据，大样本量，不如各种ensemble类算法
- 以上主要问题在于过拟合，传统机器学习算法大部分对过拟合都有比较合理的解决方案，而神经网络基本只靠heuristic。dropout虽然在Bayesian deep learning里面有不错的意义，但只依靠dropout来做inference实践上未免有点单薄
- 低维时序数据，小样本量，大部分情况下比不过HMM，ARIMA一类的，比如语音识别里至今CNN没有比HMM效果好多少
- 三维的图像数据，神经网络参数量太大，虽然有不少文章voxel based cnn，我目前还没有复现过效果比较好的模型
- 上面的三维数据，有一种做法是多视角赤极投影，然后用LSTM去学，然而实数空间不存在一个SO(3)群到S2群的连续映射，因为二者不同构，所以即使你做出实验效果，也有可能是某种过拟合的结果
- 神经网络容易受到对抗样本的攻击，攻击很容易，防御十分困难，目前为止的大部分防御措施都被指出存在漏洞
- 不规则数据，比如说graph signal或者point cloud，虽然有不少文章都尝试graph signal上做卷积，但是目前为止，应用在复杂数据集上效果欠佳，而且数学研究者的工作与CS研究者的工作还有着巨大的隔阂
- 有一些文章用神经网络做图像去噪，这类的文章，凡声称自己是“盲”去噪，不加任何正则项先验项的，有一大部分连自己到底想做到什么样的目标都说不清
1
相关话题
类似AlphaGo一样的人工智能什么时候才可以击败RTS（如星际）顶级选手？R 中的哪些命令或者包让你相见恨晚？
深度学习在生物信息领域有什么应用？
如何评价AWS的图神经网络框架DGL？
如何评价AWS的图神经网络框架DGL？
如何评价周志华在微博对 AlphaGo 和机器学习技术的评论？
CPU和GPU跑深度学习差别有多大？
Google 的神经网络生成图像 (Inceptionism) 是怎么做到的？
计算机视觉有多少分支？
为什么Bert中的CLS在未fine tune时作为sentence embedding性能非常糟糕？
前一个讨论
正负样本极不平衡的问题？
下一个讨论
怎样才能写出 Pythonic 的代码？
相关的话题
为啥gan里面几乎不用pooling？为什么小模型已经可以很好地拟合数据集了，换大模型效果却要比小模型好？
有尝试用多层自组织特征神经网络（MLSOM）来代替层次分析法（AHP）的吗？会有哪些问题需要注意？
在NLP上，CNN、RNN（认为LSTM等变体也是RNN）、最简单全连结MLP，三者相比，各有何优劣?
如何评价Google发布的第二代深度学习系统TensorFlow?
如何简单形象又有趣地讲解神经网络是什么？
双非小硕一枚 能否从事机器学习?
领域自适应需要用到测试集数据，这样的方法有啥意义呢？
据说机器学习长于预测，计量经济学长于解释。有什么具体例子是机器学习完成了很好的预测却在解释上表现不好？
为什么CV能做到让一幅人脸图动了笑了，而NLP的text-style-transfer进展貌似一般？
机器学习能否用于综合评价？具体怎么操作？
wasserstein 距离的问题?
如何直观地解释 backpropagation 算法？
GAN的生成器是怎么产生图片的？
2021年深度学习哪些方向比较新颖，处于上升期或者朝阳阶段，没那么饱和，比较有研究潜力？
如何评价周志华教授新提出的 Deep Forest 模型，它会取代当前火热的深度学习 DNN 吗？
如何评价 On Unifying Deep Generative Models 这篇 paper?
在集成电路设计领域（数字，模拟），人工智能有无可能取代人类？
如何看待 AI 方向 PhD 申请竞争过于激烈的现象？
做底层 AI 框架和做上层 AI 应用，哪个对自己的学术水平（或综合能力）促进更大？
2019 秋招的 AI 岗位竞争激烈吗？
强化学习和自适应控制的关系是什么？
2020到2021年小样本学习取得重大进展了吗？
如何评价Momenta ImageNet 2017夺冠架构SENet?
在NLP上，CNN、RNN（认为LSTM等变体也是RNN）、最简单全连结MLP，三者相比，各有何优劣?
计算机视觉和自然语言处理，哪个更具有发展前景呢，还是各有千秋呢？
请问一下，机器学习领域的联邦学习技术，目前看到最多的是微众银行，国内还有哪些顶级专家及机构和大学？
有没有什么可以节省大量时间的 Deep Learning 效率神器？
在文本分类任务中，有哪些论文中很少提及却对性能有重要影响的tricks？
Resnet是否只是一个深度学习的trick？