反馈控制理论在优化、机器学习等领域有哪些应用？ 第1页
1
shuang-wu-8 网友的相关建议:
算法收敛性的证明。
很多优化算法，以及机器学习算法都可以抽象成
或者如果数据带有噪音，再加入一个Martingale过程的扰动
前者是确定性动态系统，而后者是随机动态系统。算法的收敛就取决于寻找对应的李雅普诺夫函数了。
具体例子，比如TCP协议重的congestion control（堵塞控制）。congestion control的目标可以看作是受约束的用户utility maximization（效用最大化）。而congestion control的过程就可以看作是用算法寻找utility maximization的问题的最优点。
一篇比较新的paper：
A second order primal-dual method for nonsmooth convex composite optimization
以及比较早的
The O.D.E. Method for Convergence of Stochastic Approximation and Reinforcement Learning
Stability of primal–dual gradient dynamics and applications to network optimization
1
相关话题
CVPR2022 有什么值得关注的论文 ?GPU 与 CPU 比较，为什么说 GPU 更适合深度学习？
数据挖掘与数据分析的主要区别是什么？
请解释下variational inference？
如何评价清华大学发布的自研深度学习框架-计图(Jittor)？
深度学习火热兴起后，隐马尔可夫模型（HMM）还有何独到之处，是不是几乎可被深度学习模型给替代了？
神经网络训练多个epoch，写论文的时候可以取最好的效果那一个epoch作为结果吗？
多模态方面，有哪些牛组值得我们follow他们的工作？
如何评价陈天奇的模块化深度学习系统NNVM？
什么是大模型？超大模型？Foundation Model？
前一个讨论
波士顿和纽约的生活方式有什么不同？
相关的话题
GBDT算法的细节问题？K-means聚类算法中的K如何确定？
如何评价AWS的图神经网络框架DGL？
为什么C4.5决策树能处理连续特征，ID3树不能处理连续特征？
如何开发一个自己的 TensorFlow？
此函数式如何求最小值？
如何评价最新的Octave Convolution？
主题模型(topic model)到底还有没有用，该怎么用？
神经网络中的能量函数是如何定义的？
反馈控制理论在优化、机器学习等领域有哪些应用？
共轭是指 ‘先验分布与后验分布共轭“ ，还是指 "先验分布与似然函数共轭“？
当系统有扰动输入时，闭环传递函数如何求解?
如何评价 NVIDIA 最新技术 5 秒训练 NERF？
做底层 AI 框架和做上层 AI 应用，哪个对自己的学术水平（或综合能力）促进更大？
测试集在构造的时候需要人为控制其中应该正确的和应该错误的数据比例吗？
在Lasso中，oracle property指的是什么性质？
如何评价Yann LeCun宣称『他已经做好放弃概率论的准备』？
nlp有哪些值得完整实现一遍的算法?
NLP 中 prompt learning 有哪些可能的天生缺陷？目前有什么样的方法来解决这样的缺陷？
为什么说大模型训练很难？
基于深度学习的自然语言处理在 2016 年有哪些值得期待的发展？
自然语言处理怎么最快入门？
计算机技术的进步与模拟运算，在未来真的可以解决磁约束核聚变技术中所有关键问题吗？
是不是并不是所有问题都适合用神经网络预测？
为什么有些学数学的看不惯甚至鄙视 Deep Learning？
ICML 2018 有哪些值得关注的亮点?
CNN（卷积神经网络）、RNN（循环神经网络）、DNN（深度神经网络）的内部网络结构有什么区别？
有什么算法能对一个长短不一的时间序列进行分类预测?
AI 有可能代替人类从事数学研究吗？
如何看待谷歌研究人员提出的卷积正则化方法「DropBlock」？