如何判断两个Deep Learning 数据集的数据分布是否一致？ 第1页
1
jindongwang 网友的相关建议:
很遗憾，分布距离如你的身高般永远无法精确度量。现有的方法也均是采用特定假设下能给出的解决方案，并不存在一种统一的、精确的分布度量方式。
常用的可以尝试的方法：
- MMD是一种常用的数据分布距离度量方式。你完全可以用MMD得到数据集A和B的MMD距离，以此作为二者的数据分布距离D1。
- KL divergence也是很常用的计算方式。利用KL divergence，得到分布距离D2。
- 基于domain adaptation理论构建一个线性分类器去分两个数据集，也就是A-distance，得到距离D3。
- 其他任何已有的pair-wise距离计算，如欧氏距离、余弦相似度等，都能得到其他的距离，我们用D4表示。
首先，D1~D4这些数值肯定是不相等的；其次，它们没有可比性；再次，并没有一个距离和传说中的“groundtruth”接近。。。
在实际使用时，根据自己的问题选择适当的分布度量差异、言之成理即可。当然，你也可以自己开发新的分布差异度量方法。
1
相关话题
在集成电路设计领域（数字，模拟），人工智能有无可能取代人类？除了深度学习，机器学习领域近年来还有什么热点吗？
如何看待最近一段时间旷视科技Face++、阿里、小米、京东、科大讯飞和地平线等相继在南京建立研发中心？
如何看待NLP领域最近比较火的prompt，能否借鉴到CV领域？
nlp有哪些值得完整实现一遍的算法?
学生网络用知识蒸馏损失去逼近教师网络，如何提高学生网络的准确率？
实验室一块GPU都没有怎么做深度学习？
2021年，作为算法工程师的你们会在CV业务落地上用Transformer吗？
如何看待Yoav Goldberg 怒怼来自MILA的GAN for NLG的paper?
在做算法工程师的道路上，你掌握了什么概念或技术使你感觉自我提升突飞猛进？
前一个讨论
人是如何做黑盒优化的？
相关的话题
深度学习图像处理什么时候用到GPU？目前，人工智能语音在说中文时的语气感觉上还比较机械，怎样使人工智能语音的语气更自然一些？
神经网络能否代替决策树算法？
如何理解压缩感知(compressive sensing)？
机器学习该怎么入门？
如何看待何恺明最新一作论文Masked Autoencoders？
人工智能已在哪些领域超越了人类的表现？
wav2vec中的30ms是怎么得来的?
deepmind发表的neural processes(神经过程)，这个是怎么实现的呢？
有哪些看了让你醍醐灌顶的书籍、论文、期刊，使你对如何做数据挖掘、特征工程、统计挖掘有了眉目？
有哪些你看了以后大呼过瘾的数据分析书？
深度学习调参有哪些技巧？
为什么相比于计算机视觉(cv)，自然语言处理(nlp)领域的发展要缓慢？
如何评价 Face++ 旷视科技最新出品的检测专用 backbone 网络 DetNet ？
人工智能 CV 岗位是不是现在供严重大于需？
如何看待阿里巴巴提出的 FashionAI 比赛？
强化学习和自适应控制的关系是什么？
如何评价余凯在朋友圈发表呼吁大家用 caffe、mxnet 等框架，避免使用 TensorFlow？
如何进行图像模糊与清晰的分类？
深度学习在信息安全的应用有哪些可以关注的人或论文？
如何理解 Swin Transformer 和 Vision Transformer不同任务上的差异？
视觉算法的工业部署及落地方面的技术知识，怎么学？
普通FPGA工程师怎样向人工智能靠拢？
为什么相比于计算机视觉(cv)，自然语言处理(nlp)领域的发展要缓慢？
是不是对于任意 n×n 大小的围棋棋盘，人类都赢不了 AlphaGo Zero 了？
为什么梯度下降能找到最小值？
有哪些你看了以后大呼过瘾的数据分析书？
为什么多标签分类（不是多类分类）损失函数可以使用Binary Cross Entropy？
机器学习中的机器是如何分辨哪些是有用的知识，哪些是没用的信息呢？
为什么说股票不能通过机器学习来预测？