如何理解马氏距离，多维Mahalanobis距离是否要用到“互相关张量”来进行描述？ 第1页
1
frombeijingwithlove 网友的相关建议:
一般谈到马氏距离是不能脱离开样本分布的，题主说的“互相关张量”应该指的是样本的协方差矩阵，这个也是和样本分布密切相关的，来看个例子：
左下角在二维空间中由一个分布产生的方块样本，这个分布的一条等高线如虚线的椭圆框所示，图中还有一个不属于该分布的圆圈样本。这是是一个典型的欧式距离会把分布外样本算的更近的例子，比如把绿色和蓝色样本单拎出来，就是左上角的图，蓝色小圆圈和中心的绿色方块更近了，这是因为单纯的欧式距离无法反应方块的分布。这种情况下，考虑用马氏距离。这里默认方块的分布可以由协方差矩阵很好描述（比如是个多维高斯分布），那对于任意两点x和y马氏距离的计算就是下面：
就是协方差矩阵，这样计算出的距离就像
@王赟 Maigo说的一样不再是各向同性，对于方块的分布而言有个良好性质是分布的等高线上到中心的马氏距离相等了，因为马氏距离包含了方块本身分布的信息。进一步来理解，马氏距离可以表示为下面这样：
其实等效于做了个线性变换，然后在变换后的空间中求了下欧式距离，其中可以表示为，其中是个对角矩阵，对角线元素分别为协方差矩阵本征值的倒数开方，的行向量就是协方差矩阵的本征值。无论多少维，协方差矩阵的计算都是一样的，可以参考wiki上协方差矩阵的定义：
Covariance matrix。关于为什么，为什么协方差矩阵就是这个椭圆的理解可以参考另一个答案
主成分分析PCA算法：为什么去均值以后的高维矩阵乘以其协方差矩阵的特征向量矩阵就是“投影”？ - 達聞西的回答 - 知乎1
相关话题
什么是张量 (tensor)？数理统计中未知参数的置信区间估计方法中，存在最佳的枢轴量吗？
如何证明数据增强（Data Augmentation）有效性？
推荐算法岗是否存在严重人才过剩?
最小二乘法只有在因变量服从正态分布时才能用吗？
怎样算原神up池到第x抽才出up角色的概率（1≤x≤180）？
如何获取历史降雨数据？
怎么通俗地理解张量？
方差可不可以替代熵权法?
如何成为数据科学家？
相关的话题
负数有没有阶乘，0 的阶乘为什么是 1？如何评价KDD 2021的审稿结果？有哪些亮眼的成果？
机器学习（machine learning）在经济学领域是否有应用前景？
怎么培养数据分析的能力？
最小二乘法只有在因变量服从正态分布时才能用吗？
怎么通过一维分布的随机样本推测原分布？
数据分析和挖掘有哪些公开的数据来源？
机器学习以及贝叶斯统计里，关于近似intractable integral，大家都偏爱什么算法？
只需4组数据，还原你的购物模式，具体算法是怎么实现的？
有一个盒子，把钱放进去有一半的概率变成双倍，也有一半的概率钱会消失，你会放钱进去吗？
有哪些很好玩而且很有用的 R 包？
算术平均和几何平均之间还存在别的东西吗？
算术平均和几何平均之间还存在别的东西吗？
为什么样本方差（sample variance）的分母是 n-1？
你所读的统计学方向，有哪些不错的讲义（Notes）？
机器学习到底是什么，如何使用这项技术？
如何看待Kaggle最新比赛Zillow禁止中国居民参加第二轮？
如何证明数据增强（Data Augmentation）有效性？
有哪些多因素影响分析方法，类似灰色关联分析方法的？
请问为什么多元估计中系数的方差比单变量估计的方差大，但是我们还是偏爱多元估计的系数呢？
为什么在实际的kaggle比赛中，GBDT和Random Forest效果非常好？
如何看待王思聪抽奖 113 万，112 位中奖者资料均为女性仅 1 人为男性？抽奖系统可能有哪些规则？
如何通俗地理解概率论中的「极大似然估计法」?
医疗大数据的分析和挖掘发展现状如何？未来会有什么样的应用前景？
机器学习专家与统计学家观点上有哪些不同？
机器学习里的 kernel 是指什么？
最大似然估计法是如何实现的？
你所读的统计学方向，有哪些不错的讲义（Notes）？
怎么通俗地理解张量？
主动学习(Active learning)算法的原理是什么，有哪些比较具体的应用？