是不是并不是所有问题都适合用神经网络预测？ 第1页
1
yukio-2 网友的相关建议:
- 小样本情况，无论是低维还是高维，不如SVM和贝叶斯模型
- 低维数据，大样本量，不如各种ensemble类算法
- 以上主要问题在于过拟合，传统机器学习算法大部分对过拟合都有比较合理的解决方案，而神经网络基本只靠heuristic。dropout虽然在Bayesian deep learning里面有不错的意义，但只依靠dropout来做inference实践上未免有点单薄
- 低维时序数据，小样本量，大部分情况下比不过HMM，ARIMA一类的，比如语音识别里至今CNN没有比HMM效果好多少
- 三维的图像数据，神经网络参数量太大，虽然有不少文章voxel based cnn，我目前还没有复现过效果比较好的模型
- 上面的三维数据，有一种做法是多视角赤极投影，然后用LSTM去学，然而实数空间不存在一个SO(3)群到S2群的连续映射，因为二者不同构，所以即使你做出实验效果，也有可能是某种过拟合的结果
- 神经网络容易受到对抗样本的攻击，攻击很容易，防御十分困难，目前为止的大部分防御措施都被指出存在漏洞
- 不规则数据，比如说graph signal或者point cloud，虽然有不少文章都尝试graph signal上做卷积，但是目前为止，应用在复杂数据集上效果欠佳，而且数学研究者的工作与CS研究者的工作还有着巨大的隔阂
- 有一些文章用神经网络做图像去噪，这类的文章，凡声称自己是“盲”去噪，不加任何正则项先验项的，有一大部分连自己到底想做到什么样的目标都说不清
1
相关话题
如何理解attention中的Q,K,V？除了深度学习，机器学习领域近年来还有什么热点吗？
自然语言处理怎么最快入门？
如何用简单易懂的例子解释隐马尔可夫模型？
在中文 NLP 等论文中，应该如何翻译 token 这个词？
神经网络为什么可以（理论上）拟合任何函数？
nlp有哪些值得完整实现一遍的算法?
研究推荐系统要对NLP很了解吗？
NLP文本分类的本质是不是其实是找相似，对于要分类的句子，在训练集里找最相似的句子？
如何用一句话证明自然语言处理很难？
前一个讨论
正负样本极不平衡的问题？
下一个讨论
怎样才能写出 Pythonic 的代码？
相关的话题
主题模型(topic model)到底还有没有用，该怎么用？如何看待 Alex Smola 加入 Amazon？
超越人类的人工智能 (AI) 是否能够实现？
有哪些深度学习效果不如传统方法的经典案例？
这一波人工智能泡沫将会怎么破灭？
如何评价AlphaGo Zero？
如何看待人工智能领域的很多专家认为「人工智能将对人类存亡造成威胁」的观点？
Apple 在设备端对儿童色情图片检测，你怎么看这项功能？
为什么计算机科学中的神经网络模型得出来的结果被认为是科学的，而中医诊断却不被认为是科学的？
有哪些相见恨晚的 TensorFlow 小技巧？
为什么最近几年 FPGA 变得越发受大家重视了？
什么是机器学习？
从算法的角度来看，Elsagate 事件暴露出了「自动推荐」的哪些问题，该如何规避？
为什么C4.5决策树能处理连续特征，ID3树不能处理连续特征？
人工智能退潮期来了吗？
人工智能的意义和价值是什么？
机器学习算法进行分类时，样本极度不平衡，评估模型要看哪些指标？
如何把梯度传递过Argmax?
深度学习（机器学习）的下一步如何发展？
GAN的生成器是怎么产生图片的？
word2vec有什么应用？
为什么deep lab v3起，输出不再接 DenseCRF了？
2021 年各家大厂的 AI Lab 现状如何？
在迁移学习中，只有fine-tune和基于实例的迁移可用在小样本上吗，还有其他的小样本迁移方法吗？
ICLR 2018 有什么值得关注的亮点？
如何评价 MSRA 最新的 Deformable Convolutional Networks？
OpenAI 发布文字生成图像工具 DALL·E 2，它的画作水平如何？从技术角度如何评价它的能力？
NIPS 2018 有什么值得关注的亮点？
pytorch 分布式计算 你们都遇到过哪些 坑/bug？
TensorFlow 中 padding 的 SAME 和 VALID 两种方式有何异同？