反馈控制理论在优化、机器学习等领域有哪些应用？ 第1页
1
shuang-wu-8 网友的相关建议:
算法收敛性的证明。
很多优化算法，以及机器学习算法都可以抽象成
或者如果数据带有噪音，再加入一个Martingale过程的扰动
前者是确定性动态系统，而后者是随机动态系统。算法的收敛就取决于寻找对应的李雅普诺夫函数了。
具体例子，比如TCP协议重的congestion control（堵塞控制）。congestion control的目标可以看作是受约束的用户utility maximization（效用最大化）。而congestion control的过程就可以看作是用算法寻找utility maximization的问题的最优点。
一篇比较新的paper：
A second order primal-dual method for nonsmooth convex composite optimization
以及比较早的
The O.D.E. Method for Convergence of Stochastic Approximation and Reinforcement Learning
Stability of primal–dual gradient dynamics and applications to network optimization
1
相关话题
神经网络中 warmup 策略为什么有效；有什么理论解释么？非线性优化中的 KKT 条件该如何理解？
为什么读论文最好打印出来读？
研一，在学机器学习和深度学习，为什么感觉越学越不会，怎么解决这个问题？
人脸识别哪家强？
wasserstein 距离的问题?
机器学习小白来提问：关于联邦学习FedAVG和FedSGD的问题？
深度学习（机器学习）的下一步如何发展？
如何评价剑桥，腾讯， DeepMind以及港大团队新作 SimCTG ?
为什么机器学习解决网络安全问题总是失败?
前一个讨论
波士顿和纽约的生活方式有什么不同？
相关的话题
人脸识别哪家强？Transformer在工业界的应用瓶颈如何突破？
为啥gan里面几乎不用pooling？
精确率、召回率、F1 值、ROC、AUC 各自的优缺点是什么？
如何评价生成模型框架 ZhuSuan?
为什么dropout正则化经常在视觉方面使用而不是其他？
机器学习中的优化理论，需要学习哪些资料才能看懂？
常用的机器学习算法比较？
2021 年了，机器/深度学习还有哪些坑比较好挖？
控制科学与工程专业博士期间可以做些什么准备有利于毕业找工作？
NIPS 2018 有什么值得关注的亮点？
在机器学习模型的训练期间，大概几十分钟到几小时不等，大家都会在等实验的时候做什么？
FPGA做深度学习能走多远？
god bless us 为什么百度翻译是辛巴？
如何理解 natural gradient descent?
最优控制(optimal control)与最优化(optimization)有什么区别？
如何评价小米开源的移动端深度学习框架MACE？
在NLP上，CNN、RNN（认为LSTM等变体也是RNN）、最简单全连结MLP，三者相比，各有何优劣?
如何解读「量子计算应对大数据挑战：中国科大首次实现量子机器学习算法」？
《人工智能训练师国家职业技能标准》发布，有哪些值得关注的信息？
生成式对抗网络GAN有哪些最新的发展，可以实际应用到哪些场景中？
什么是迁移学习 (Transfer Learning)？这个领域历史发展前景如何？
深度学习有哪些好玩的案例？
机器学习的理论方向 PhD 是否真的会接触那么多现代数学（黎曼几何、代数拓扑之类）？
如何评价陈天奇团队新开源的TVM？
为什么小模型已经可以很好地拟合数据集了，换大模型效果却要比小模型好？
医学生学习机器学习该如何入门？
为什么softmax很少会出现[0.5，0.5]？
神经网络中的能量函数是如何定义的？
去美国读CS博士，方向是机器人导航，视觉方面，推荐一下相关编程方面准备？还有相关算法需要学习哪些？