反馈控制理论在优化、机器学习等领域有哪些应用？ 第1页
1
shuang-wu-8 网友的相关建议:
算法收敛性的证明。
很多优化算法，以及机器学习算法都可以抽象成
或者如果数据带有噪音，再加入一个Martingale过程的扰动
前者是确定性动态系统，而后者是随机动态系统。算法的收敛就取决于寻找对应的李雅普诺夫函数了。
具体例子，比如TCP协议重的congestion control（堵塞控制）。congestion control的目标可以看作是受约束的用户utility maximization（效用最大化）。而congestion control的过程就可以看作是用算法寻找utility maximization的问题的最优点。
一篇比较新的paper：
A second order primal-dual method for nonsmooth convex composite optimization
以及比较早的
The O.D.E. Method for Convergence of Stochastic Approximation and Reinforcement Learning
Stability of primal–dual gradient dynamics and applications to network optimization
1
相关话题
如何看待Hinton的论文《Dynamic Routing Between Capsules》？是不是并不是所有问题都适合用神经网络预测？
如何评价微软亚研院提出的把 Transformer 提升到了 1000 层的 DeepNet？
什么是蒙特卡罗 Dropout(Monte-Carlo Dropout)？
机器学习包含哪些学习思想？
如何看待人工智能领域的很多专家认为「人工智能将对人类存亡造成威胁」的观点？
普通FPGA工程师怎样向人工智能靠拢？
为什么自动控制理论这么玄学？
人工智能技术会不会最终赶上微积分的历史地位？
生成式对抗网络GAN有哪些最新的发展，可以实际应用到哪些场景中？
前一个讨论
波士顿和纽约的生活方式有什么不同？
相关的话题
人工智能的意义和价值是什么？如何看待知乎的AI答主「四十二」？人工智能有可能理解生命的意义是什么吗？
为什么现在不看好 CV 方向了呢?
看完麻省理工博士胡渊鸣用代码实现「冰雪奇缘」后，自己陷入了深深的自卑，如何排解这种情绪？
Google 的神经网络生成图像 (Inceptionism) 是怎么做到的？
如何看待多所 985 大学开设人工智能专业？
人工智能和自动控制能在一起擦出什么样的火花？
机器学习（machine learning）在经济学领域是否有应用前景？
如何评价新Nature子刊Nature Machine Intelligence的出现？
做底层 AI 框架和做上层 AI 应用，哪个对自己的学术水平（或综合能力）促进更大？
人工智能在生活中的应用都有哪些？
如何评价何恺明、Ross Girshick组的自监督时空表征学习新作？
如何评价 On Unifying Deep Generative Models 这篇 paper?
为什么在SGD中使用L1正则化很难获得稀疏性？
如何看待swin transformer成为ICCV2021的 best paper？
如何评价深度学习相关顶级期刊论文难复现的问题？
如何看待亚马逊的无人超市产品 Amazon Go?
Jacobian矩阵和Hessian矩阵的作用是什么？
在统计学领域有哪些经典奠基性的论文？
PRML为何是机器学习的经典书籍中的经典？
什么是主动学习（Active Learning, AL）？
transformer中的Q,K,V到底是什么？
如何解决测试中充斥着大量训练集中没见过的样本类型模型将其识别成非我族类仍然保持测试集的高精度？
你见过哪些奇葩的控制算法？
图像处理和机器学习有什么关系？
Dirichlet Processes 是一个什么样的随机过程？
科研没有思路，我该怎么办？
关于tensorflow中的滑动平均？
把某人的 DNA 序列作为输入，正面照片作为输出，丢到深度神经网络里面学习，可行吗？
时间序列数据上可以抽取哪些频域特征？