人是如何做黑盒优化的？ 第1页
1
lokinko 网友的相关建议:
简单介绍一篇最近看过的通过梯度盗取用户训练数据的文章吧
《Deep Leakage from Gradient》
在联邦学习中，每个用户在本地上传梯度或者模型参数，通过一个 Server 端对模型进行更新，那么就有人研究能不能通过人工智能模型这个黑盒以及梯度信息，从中盗用可用的用户数据呢？
通过本地不断生成样本，比较本地梯度和他人梯度的差距作为loss，将loss最小化使得生成的数据越来越靠近他人用户的数据，最终实现数据的窃取。
神奇的事情发生了，即使大家无法理解这个黑盒里是在做什么，只要能控制输入和输出，就能透过黑盒消除其他影响，论文结果如下
论文高保真的从梯度中还原了原始数据。
无论是图像数据还是文本数据，都被轻易地识破并还原。
这种基于神经网络黑盒来进行攻击的方式应该也属于黑盒优化的一种思路吧~仅供参考。
论文链接：https://papers.nips.cc/paper/2019/file/60a6c4002cc7b29142def8871531281a-Paper.pdf
1
相关话题
为什么硅谷的人在造火箭，搞人工智能，虚拟现实生物工程，而我们却在玩互联网？如何看待亚马逊智能音箱劝主人自杀的新闻？
卵生胎生哪个更优？
随机取牌算不出 24 点的概率是多少？
目前土木工程和人工智能结合的课题有哪些？
哪位大神可以告诉我第一题怎么写吗？在线等?
关于中国古代罕见乱伦现象的原因？
为什么吃没熟的猕猴桃嘴巴会出血？
蜜獾的生存能力真有那么强吗？为什么？
炼钢厂常年5000多度的钢水里面会不会滋生耐5000多度的细菌？
前一个讨论
消融实验是什么？
相关的话题
114514 阶的群有哪几类？人类有哪些能力，是 AI 无法拥有的？
「星舰地球」仅有几千人，是否会造成近亲繁殖问题？
如何直观地解释 backpropagation 算法？
当孩子问「世界上最古老的化石」该如何回答?
如何评价何恺明、Ross Girshick组的自监督时空表征学习新作？
如果把蟑螂扔进马桶里冲走， 它会有什么样的遭遇?
如何评价百度收购渡鸦科技？
自然语言处理怎么最快入门？
7 x 8 + 14 x 18 + 42 × 13 的简便运算方法？
幼儿被狼养大后很难再适应人类社会，为什么小狼被人类养大后却能很快回归狼群？
为什么人体的肝在右侧，胃在左侧，脾在更左？
数学中的充分条件、必要条件如何理解？
高中生大学想学量子物理，也想学基础数学，大学专业应该怎么报呢？
现代数学和理论物理已经发展到怎样一个令人震惊的水平了？
为什么说深度学习没有理论基础?
人是如何做黑盒优化的？
2021年，AI将何去何从？哪些技术与应用是下一个风口？能否推荐相关图书？
职业养蜂人现在的生活状态如何？他们的收入靠什么来？
在数据分析、挖掘方面，有哪些好书值得推荐？
联邦学习在机器学习领域有什么独立存在的价值?
在计算资源有限的情况下，有什么深度学习的选题可以推荐/避免？
如何看待张益唐聘任山东大学威海校区数学与统计学院院长？
高斯-博内定理和幅角原理的关系是什么？
如果人类的意识被科学家证明只是一种物质或者一种活动，那时候我们该怎么安置我们存在的意义？
老师说链式法则里某个 dy/dx 不能理解为 dy 除以 dx，为什么？
人工智能最终会代替数学家或理论物理学家吗？
数学家在知道哥德尔不完备定理后为何还继续研究数学？
圆锥曲线中过任一顶点作相垂直的直线，过直线与曲线交点的直线过定点，这有什么射影几何的背景吗？
大家口算 7+6+8＝？的时候，心里是一瞬间出结果，还是有一个过程，如凑十进一？