如何判断两个Deep Learning 数据集的数据分布是否一致？ 第1页
1
jindongwang 网友的相关建议:
很遗憾，分布距离如你的身高般永远无法精确度量。现有的方法也均是采用特定假设下能给出的解决方案，并不存在一种统一的、精确的分布度量方式。
常用的可以尝试的方法：
- MMD是一种常用的数据分布距离度量方式。你完全可以用MMD得到数据集A和B的MMD距离，以此作为二者的数据分布距离D1。
- KL divergence也是很常用的计算方式。利用KL divergence，得到分布距离D2。
- 基于domain adaptation理论构建一个线性分类器去分两个数据集，也就是A-distance，得到距离D3。
- 其他任何已有的pair-wise距离计算，如欧氏距离、余弦相似度等，都能得到其他的距离，我们用D4表示。
首先，D1~D4这些数值肯定是不相等的；其次，它们没有可比性；再次，并没有一个距离和传说中的“groundtruth”接近。。。
在实际使用时，根据自己的问题选择适当的分布度量差异、言之成理即可。当然，你也可以自己开发新的分布差异度量方法。
1
相关话题
如何评价各种关联因素分析算法,尤其是在算法效果对比方面?2021 年，深度学习方面取得了哪些关键性进展？
无人车为什么一定要用激光雷达做，双目视觉难道不行吗？
CV方向多模态融合有哪些好的paper？
计算机视觉研一，只学过Python基础，目前代码能力很差，要不要换导师，不换的话如何毕业？
如何看待谷歌公开 tensorflow 专用处理器 TPU?
国内目前的量化交易是否很少涉及到机器学习？
计算机视觉中，目前有哪些经典的目标跟踪算法？
为何感觉“知识蒸馏”这几年没有什么成果？
Python中 __init__的通俗解释是什么？
前一个讨论
人是如何做黑盒优化的？
相关的话题
三维重建怎么入门？基于深度学习的自然语言处理在 2016 年有哪些值得期待的发展？
新手如何实现个简单AutoML框架。有参考的github开源项目介绍吗？
如何看UCBerkeley RISELab即将问世的Ray，replacement of Spark？
领域自适应需要用到测试集数据，这样的方法有啥意义呢？
NTIRE2017夺冠的EDSR去掉了Batch Normalization层就获得了提高为什么？
实验室一块GPU都没有怎么做深度学习？
机器学习在理论经济学研究中有哪些可能的应用前景？
如何看待人工智能领域的很多专家认为「人工智能将对人类存亡造成威胁」的观点？
行人轨迹预测有哪些有效的方法和普遍的base方法？或者public dataset?
为何以范剑青老师的 Sure Independence Screening 为代表的筛选法没有流行呢？
为什么nn的较大问题是会陷入局部最优时，不选用凸函数作为激活函数？
为什么说股票不能通过机器学习来预测？
如何看待 Nervana 被 Intel 收购？
2019年，计算机视觉领域，你推荐哪些综述性的文章？
如何评价B站UP主未明子宣称“知乎搞机器学习模拟拉康的程序员”具备“头脑上的悲剧”？
现在的人工智能是否走上了数学的极端？
有哪些比较好的机器学习，深度学习的网络资源可利用？
如何看待 NIPS 2018 submission达到近 5000 篇？
这一波人工智能泡沫将会怎么破灭？
当前深度学习理论基础薄弱是否意味着我们应该放弃深度学习应用(计算机视觉、自然语言处理)？
GAN（对抗生成网络）可以被用于哪些（商业或潜在商业）实际问题？
2020到2021年小样本学习取得重大进展了吗？
深度学习中，模型大了好还是小了好呢？
如何理解Inductive bias？
行人轨迹预测有哪些有效的方法和普遍的base方法？或者public dataset?
在统计学领域有哪些经典奠基性的论文？
如何评价 MSRA 视觉组最新提出的 Deformable ConvNets V2？
微软小冰测颜值是否比较准？为什么？
TensorFlow 中 padding 的 SAME 和 VALID 两种方式有何异同？