如何判断两个Deep Learning 数据集的数据分布是否一致？ 第1页
1
jindongwang 网友的相关建议:
很遗憾，分布距离如你的身高般永远无法精确度量。现有的方法也均是采用特定假设下能给出的解决方案，并不存在一种统一的、精确的分布度量方式。
常用的可以尝试的方法：
- MMD是一种常用的数据分布距离度量方式。你完全可以用MMD得到数据集A和B的MMD距离，以此作为二者的数据分布距离D1。
- KL divergence也是很常用的计算方式。利用KL divergence，得到分布距离D2。
- 基于domain adaptation理论构建一个线性分类器去分两个数据集，也就是A-distance，得到距离D3。
- 其他任何已有的pair-wise距离计算，如欧氏距离、余弦相似度等，都能得到其他的距离，我们用D4表示。
首先，D1~D4这些数值肯定是不相等的；其次，它们没有可比性；再次，并没有一个距离和传说中的“groundtruth”接近。。。
在实际使用时，根据自己的问题选择适当的分布度量差异、言之成理即可。当然，你也可以自己开发新的分布差异度量方法。
1
相关话题
自然语言处理怎么最快入门？深度学习在无人驾驶汽车上面的运用有哪些？
对于技术岗位而言，开发岗累还是算法岗累呢？
2021 年，深度学习方面取得了哪些关键性进展？
迁移学习与fine-tuning有什么区别？
2021年人工智能领域有哪些关键性进展和突破？
请问在金融风控方向，如何运用用户行为序列进行特征设计和挖掘？
2021年了，如何评价微软亚研提出的对偶学习（Dual Learning）？
自动化的控制与检测领域中，有没有像机器学习、图像处理领域一样经典巧妙的算法？
当前人工智能特别是深度学习最前沿的研究方向是什么？
前一个讨论
人是如何做黑盒优化的？
相关的话题
AlphaGo「理解」围棋吗？如果不按套路下棋是不是就能赢 Alpha Go 了？
深度学习对图像的处理，为什么大多基于RGB，而没有其他色彩空间，比如HSV？
PyTorch中在反向传播前为什么要手动将梯度清零？
如何评价Sony新出的深度学习库NNabla？
为什么谈论深度学习工具时，很少有人讨论matlab的神经网络工具包？
CVPR 2019 有哪些值得关注的亮点？
请问一下，机器学习领域的联邦学习技术，目前看到最多的是微众银行，国内还有哪些顶级专家及机构和大学？
何恺明目前的学术成果是否够得上计算机视觉领域历史第一人？
为什么nlp没有像cv四小龙一样的创业公司？
什么是迁移学习 (Transfer Learning)？这个领域历史发展前景如何？
算法岗位真的需要顶会才能入场吗？
CPU和GPU跑深度学习差别有多大？
可以对只有一个像素的图片拥有版权或著作权吗？为什么？
为什么国家将加快人工智能研究生培养？又为什么很多研究生评论人工智能是个大坑呢？
如何看待 Nervana 被 Intel 收购？
如何看待Yoav Goldberg 怒怼来自MILA的GAN for NLG的paper?
深度学习两张3080ti和一张3090ti哪个好?
机器学习如何才能避免「只是调参数」？
OpenCV已经将图像处理(识别)的算法写成函数了,那我们还有必要去学习这些算法不?
精确率、召回率、F1 值、ROC、AUC 各自的优缺点是什么？
深度学习领域，你心目中 idea 最惊艳的论文是哪篇？
现在的BERT等语言模型，最快训练要多久？
除了深度学习，机器学习领域近年来还有什么热点吗？
新手如何入门pytorch？
当前深度学习理论基础薄弱是否意味着我们应该放弃深度学习应用(计算机视觉、自然语言处理)？
如何评价基于游戏毁灭战士（Doom）的AI死亡竞赛大赛结果？
人工智能相关的岗位薪酬状况如何？
北京深鉴科技基于FPGA平台的DPU架构如何？
wav2vec中的30ms是怎么得来的?