训练过程中loss震荡特别严重，可能是什么问题？ 第1页
1
electricromeo 网友的相关建议:
降一下学习率试试
1
相关话题
如果不按套路下棋是不是就能赢 Alpha Go 了？2020年，多标签学习（multi-label）有了哪些新的进展？
pytorch dataloader数据加载占用了大部分时间，各位大佬都是怎么解决的？
如何评价余凯创立的horizon robotics？
深度学习图像处理什么时候用到GPU？
当前人工智能特别是深度学习最前沿的研究方向是什么？
目前 AI 在疾病的诊断和治疗上，有哪些成功的应用？
如何评价mixup: BEYOND EMPIRICAL RISK MINIMIZATION？
石头和塑料袋对于计算机传感器的差别在于什么？为什么无人驾驶系统会依然存在对周围环境的误判？
深度学习图像处理什么时候用到GPU？
相关的话题
中科院某所研一新生，小样本学习、数据融合、强化学习、图神经网络、资源受限的计算这几个方向选哪个更好？如何评价Yann LeCun 说的「要研究机器学习，本科应尽量多学物理和数学课」？
为什么有些学数学的看不惯甚至鄙视 Deep Learning？
计算商品embedding然后平均得到用户embedding，会不会存在这种问题？
计算商品embedding然后平均得到用户embedding，会不会存在这种问题？
为什么 MobileNet、ShuffleNet 在理论上速度很快，工程上并没有特别大的提升？
为什么 BERT 的 intermediate_size 这么大？
如何看待NIPS2017图灵奖得主贝叶斯网络之父Judea Pearl讲座无人问津？
北京深鉴科技基于FPGA平台的DPU架构如何？
机器学习能否用于综合评价？具体怎么操作？
如何看待李沐老师提出的「用随机梯度下降来优化人生」？
请问下大家训练 SimCSE 时, loss 有没有这样的情况?
BERT中，multi-head 768*64*12与直接使用768*768矩阵统一计算，有什么区别？
算法工程师是否应该持续读论文？
如何评价陈天奇团队新开源的TVM？
如何理解链接预测（link prediction）？
如何看待李沐老师提出的「用随机梯度下降来优化人生」？
2018年了，MXNet 发展的如何了？
计算机视觉中，目前有哪些经典的目标跟踪算法？
为什么CV能做到让一幅人脸图动了笑了，而NLP的text-style-transfer进展貌似一般？
如何看待 2014 年以来计算机视觉（Computer Vision）界创业潮？
有哪些可以自学机器学习、深度学习、人工智能的网站？
二分类问题，应该选择sigmoid还是softmax？
为什么Transformer要用LayerNorm？
怎么选取训练神经网络时的Batch size?
NLP 中 prompt learning 有哪些可能的天生缺陷？目前有什么样的方法来解决这样的缺陷？
基于深度学习的人工智能程序和传统程序的差别在哪里？
自然语言处理怎么最快入门？
深度学习做股票预测靠谱吗？
现在tensorflow和mxnet很火，是否还有必要学习scikit-learn等框架？