人是如何做黑盒优化的？ 第1页
1
lokinko 网友的相关建议:
简单介绍一篇最近看过的通过梯度盗取用户训练数据的文章吧
《Deep Leakage from Gradient》
在联邦学习中，每个用户在本地上传梯度或者模型参数，通过一个 Server 端对模型进行更新，那么就有人研究能不能通过人工智能模型这个黑盒以及梯度信息，从中盗用可用的用户数据呢？
通过本地不断生成样本，比较本地梯度和他人梯度的差距作为loss，将loss最小化使得生成的数据越来越靠近他人用户的数据，最终实现数据的窃取。
神奇的事情发生了，即使大家无法理解这个黑盒里是在做什么，只要能控制输入和输出，就能透过黑盒消除其他影响，论文结果如下
论文高保真的从梯度中还原了原始数据。
无论是图像数据还是文本数据，都被轻易地识破并还原。
这种基于神经网络黑盒来进行攻击的方式应该也属于黑盒优化的一种思路吧~仅供参考。
论文链接：https://papers.nips.cc/paper/2019/file/60a6c4002cc7b29142def8871531281a-Paper.pdf
1
相关话题
能进行有性生殖的分类学上距离最远的生物是什么？基础科学应该缩小招生规模吗？
如何考虑这个2022贺年题？
有哪些气质猥琐的动物？
有没有人恶搞过基因宝，譬如邮寄去狗的唾液，结果如何呢？
人工智能真的不能达到人类的程度甚至超越人类？
为什么“2015年人类可能迁到月球居住”是一个不可能事件？
为什么 sin(x²)+sin(y²)=1 的图像这么复杂？
这道排列组合该如何思考？
为什么Python效率比node低，Python却被广泛运用在大数据人工智能？node为什么没有发展？
前一个讨论
消融实验是什么？
相关的话题
如何简明地解释曲率（curvature）？什么是埃尔德什差异问题?
如果一个人经过了镜面对称，会发生什么？
数学好的人是如何找解题思路的？
证明n维线性空间中任何n+1个向量都线性相关。?
为什么微软要删除世界上最大的公开人脸识别数据库？
《从一到正无穷》第三章的空间想象是什么意思？
请问这道不定积分的题目怎么做？
上世纪越南僧人释广德自焚时为何能一动不动？
人类能脱离肉体而存在吗？
为何以范剑青老师的 Sure Independence Screening 为代表的筛选法没有流行呢？
商汤科技声明对美国将公司加入所谓「中国军工复合体企业」清单表示强烈反对，还有哪些信息值得关注？
数学家 John Horton Conway 或因感染新型冠状病毒逝世，如何评价他一生的经历与贡献?
施一公提出「学不致用」，大学尤其本科学生不应为了用而学习，你认同吗？
咬手指甲到底是心理问题还是生理问题？
如果新冠病毒持续好几千年，人类会不会进化出自带过滤空气的隔膜，也就不用戴口罩了？（纯天马行空）？
人工智能技术如何应用到相亲？
如何看待Yoav Goldberg 怒怼来自MILA的GAN for NLG的paper?
如何手写数学书籍里面的花体字母？
为什么跳楼后没有血？
不查表，如何求 sin36 度？
丧尸的运动符不符合能量守恒定律？
如果真的研究出了人工智能，第一批会投放到哪里？
世界上所有生物的原始冲动是什么？
怎么用尺规作图法将一条线段分为两部分，且比例为 1:2？
如何看待「生物博导改行出租车司机」一文？反映了哪些问题？
有哪些很有趣的仿生学研究成果？
关于「吃鱼可以变聪明」有科学依据吗？
能否使用区块链的算力来解决深度学习训练？
国际部高中生，纠结是否在生物方向发展，请问有何建议？