人是如何做黑盒优化的？ 第1页
1
lokinko 网友的相关建议:
简单介绍一篇最近看过的通过梯度盗取用户训练数据的文章吧
《Deep Leakage from Gradient》
在联邦学习中，每个用户在本地上传梯度或者模型参数，通过一个 Server 端对模型进行更新，那么就有人研究能不能通过人工智能模型这个黑盒以及梯度信息，从中盗用可用的用户数据呢？
通过本地不断生成样本，比较本地梯度和他人梯度的差距作为loss，将loss最小化使得生成的数据越来越靠近他人用户的数据，最终实现数据的窃取。
神奇的事情发生了，即使大家无法理解这个黑盒里是在做什么，只要能控制输入和输出，就能透过黑盒消除其他影响，论文结果如下
论文高保真的从梯度中还原了原始数据。
无论是图像数据还是文本数据，都被轻易地识破并还原。
这种基于神经网络黑盒来进行攻击的方式应该也属于黑盒优化的一种思路吧~仅供参考。
论文链接：https://papers.nips.cc/paper/2019/file/60a6c4002cc7b29142def8871531281a-Paper.pdf
1
相关话题
这张珍贵的照片是什么时候照的？分别都有谁？日本东京大学用 AI 开发电极材料，实验次数降至千分之一，对此还有哪些值得关注？
人类对于外貌的审美是如何形成的？
进化论是循环论证（同义重复）么？
传统行业人士如何了解人工智能？
如何正确理解群论中的同态基本定理？
如何评价生物黑客 Zayner 改造自身 DNA ，并希望通过基因工程创造一种能力更强的超人类的行为？
如何通俗地理解 2018 年诺贝尔生理学或医学奖「癌症免疫疗法」？它对癌症治疗的意义有多大？
实系数多项式之所有根为实数，如何证明其相应 n 阶导数之所有根为实数？
最先会被机器人代替的几个职业将会是什么？
前一个讨论
消融实验是什么？
相关的话题
基于人工智能参与者的《我的世界》游戏框架的演化与突破？当今世界数学已经发展到本科生难以理解的地步了吗？
有哪些数学上的定理让你感觉「这不显然吗，这还用证明」？
有哪些值得推荐的人工智能领域的优质科普平台或渠道？
狗和狼可以交配生育吗？
比较高深的数学在经济学有哪些运用相当漂亮？
一个人天天买彩票①一天内只要买到中奖就不买了，不中奖就继续买 ②只要不中奖就不买了，哪个策略更好？
退休后的数学家或物理学家通常怎么打发生活？
为什么蛇类会进化出毒蛇和无毒蛇？是什么原因促使这种区别的生成？
深度学习（机器学习）的下一步如何发展？
请问这道数学分析题目应该怎么做呢？
如何证明集合[0, 1] × [0, 1]与集合[0, 1]等势(即存在双射）？
阴茎为什么进化成这个样子？
为什么仍有人质疑转基因大豆油有问题呢？
可以不可以利用细胞的过多失水或者吸水膨胀死亡来杀死癌细胞？
作为高中生是否应该学习一些超纲的知识（相对论，大学的微积分，量子力学......）这些对高考成绩有影响吗？
为什么数学 PhD 们喜欢围棋？
“核冬天”的理论有几成科学性？如果它真到来了，人类可能存活下去么？
如何评价B站UP主“凯喜博士”的在小白鼠实验中发现非布司他存在肾脏毒性的视频？
为什么现在有这么多人工智能无用论？
如果全世界只剩下草本植物，会发生什么？
下一次数学突破会在哪里？
2025 年机器将替代 8000 多万工作岗位，哪些岗位可能会被替代？又可能创造什么新的机会？
如何理解50个人中至少两个人生日相同的概率高达97%？
如何简单清晰地解释哥德尔不完备定理？
数学和编程中，「函数」的概念相同在哪里，不同在哪里？
已知 a、b、c 为实数，且三个数的和为 1，平方和也为 1，如何求三个数的立方和的最小值？
地球上是否存在没有天敌的动物（不包括人类）？
(xⁿ - 1)/(x - 1) = y² 这个不定方程蕴含了哪些知识？
格林公式的几何意义是什么？