如何判断两个Deep Learning 数据集的数据分布是否一致？ 第1页
1
jindongwang 网友的相关建议:
很遗憾，分布距离如你的身高般永远无法精确度量。现有的方法也均是采用特定假设下能给出的解决方案，并不存在一种统一的、精确的分布度量方式。
常用的可以尝试的方法：
- MMD是一种常用的数据分布距离度量方式。你完全可以用MMD得到数据集A和B的MMD距离，以此作为二者的数据分布距离D1。
- KL divergence也是很常用的计算方式。利用KL divergence，得到分布距离D2。
- 基于domain adaptation理论构建一个线性分类器去分两个数据集，也就是A-distance，得到距离D3。
- 其他任何已有的pair-wise距离计算，如欧氏距离、余弦相似度等，都能得到其他的距离，我们用D4表示。
首先，D1~D4这些数值肯定是不相等的；其次，它们没有可比性；再次，并没有一个距离和传说中的“groundtruth”接近。。。
在实际使用时，根据自己的问题选择适当的分布度量差异、言之成理即可。当然，你也可以自己开发新的分布差异度量方法。
1
相关话题
经过足够长的时间， AlphaGo 的棋谱能收敛到一张上吗？迁移学习入门，新手该如何下手？
如何看待swin transformer成为ICCV2021的 best paper？
机器学习为生物学和医学研究带来了哪些改变？能解决哪些医学难题？
如何证明对任意给定的正数e，存在M上的矩阵范数||A||，满足不等式||A||<=谱半径+e?
为什么梯度下降能找到最小值？
如何评价周志华在微博对 AlphaGo 和机器学习技术的评论？
有哪些优秀的深度学习入门书籍？需要先学习机器学习吗？
图片上训的模型，怎么迁移视频上呢？
魔鬼如何在最短时间内抓住天使？
前一个讨论
人是如何做黑盒优化的？
相关的话题
当前深度学习理论基础薄弱是否意味着我们应该放弃深度学习应用(计算机视觉、自然语言处理)？人工智能相关的岗位薪酬状况如何？
为什么有的论文放出训练好的模型和测试脚本，但不开源训练代码？
为什么现在很多人不看好商汤科技？
插值和拟合最根本的区别是什么？机器学习为啥用拟合？？
神经网络的损失函数为什么是非凸的?
李航的统计学习方法，吴恩达的视频，关于机器学习的东西都看不懂是怎么回事？
为什么相比于计算机视觉(cv)，自然语言处理(nlp)领域的发展要缓慢？
生成对抗网络的毕设怎么上手？
在NLP当中，不同的评价指标，BLEU, METEOR, ROUGE和CIDEr的逻辑意义？
Batch normalization和Instance normalization的对比？
如何评价周志华教授新提出的 Deep Forest 模型，它会取代当前火热的深度学习 DNN 吗？
为什么做stacking之后，准确率反而降低了？
算法岗位真的需要顶会才能入场吗？
为什么要压缩模型，而不是直接训练一个小的CNN？
如何评价mixup: BEYOND EMPIRICAL RISK MINIMIZATION？
什么叫做泛函空间的大数定律？
xgboost原理？
现在的人工智能是否走上了数学的极端？
数据挖掘、机器学习、自然语言处理这三者是什么关系？这几个怎么入门啊？
TensorFlow 中 padding 的 SAME 和 VALID 两种方式有何异同？
人工智能就业前景越来越严峻了，你还在坚持吗？
在Auto ML的冲击下，ML算法人员是否会在前者成熟后失业的情况？
scikit-learn, tensorflow, pytorch真的只需要查下API，不需要学吗?
能否对卷积神经网络工作原理做一个直观的解释？
什么叫做泛函空间的大数定律？
新手如何入门pytorch？
什么是无监督学习？
pytorch 分布式计算 你们都遇到过哪些 坑/bug？
为什么现在不看好 CV 方向了呢?