如何理解马氏距离，多维Mahalanobis距离是否要用到“互相关张量”来进行描述？ 第1页
1
frombeijingwithlove 网友的相关建议:
一般谈到马氏距离是不能脱离开样本分布的，题主说的“互相关张量”应该指的是样本的协方差矩阵，这个也是和样本分布密切相关的，来看个例子：
左下角在二维空间中由一个分布产生的方块样本，这个分布的一条等高线如虚线的椭圆框所示，图中还有一个不属于该分布的圆圈样本。这是是一个典型的欧式距离会把分布外样本算的更近的例子，比如把绿色和蓝色样本单拎出来，就是左上角的图，蓝色小圆圈和中心的绿色方块更近了，这是因为单纯的欧式距离无法反应方块的分布。这种情况下，考虑用马氏距离。这里默认方块的分布可以由协方差矩阵很好描述（比如是个多维高斯分布），那对于任意两点x和y马氏距离的计算就是下面：
就是协方差矩阵，这样计算出的距离就像
@王赟 Maigo说的一样不再是各向同性，对于方块的分布而言有个良好性质是分布的等高线上到中心的马氏距离相等了，因为马氏距离包含了方块本身分布的信息。进一步来理解，马氏距离可以表示为下面这样：
其实等效于做了个线性变换，然后在变换后的空间中求了下欧式距离，其中可以表示为，其中是个对角矩阵，对角线元素分别为协方差矩阵本征值的倒数开方，的行向量就是协方差矩阵的本征值。无论多少维，协方差矩阵的计算都是一样的，可以参考wiki上协方差矩阵的定义：
Covariance matrix。关于为什么，为什么协方差矩阵就是这个椭圆的理解可以参考另一个答案
主成分分析PCA算法：为什么去均值以后的高维矩阵乘以其协方差矩阵的特征向量矩阵就是“投影”？ - 達聞西的回答 - 知乎1
相关话题
因子分析法求权重，两个指标可以用这个方法吗？这个方法的优势是什么？经常出现在数学证明中的「不妨设」根据是什么？如何培养这种「不妨设」、「假设」的能力？
一个数从1开始，每次各有50%的概率乘0.9或者乘1.1，重复足够多的次数以后，情况会如何？
常用的机器学习算法比较？
用 Python 进行数据分析，不懂 Python，求合适的 Python 书籍或资料推荐？
贝叶斯定理厉害在哪里？
如何证明数据增强（Data Augmentation）有效性？
有哪些相关性不等于因果性的例子?
神经网络能否代替决策树算法？
机器学习专家与统计学家观点上有哪些不同？
相关的话题
有哪些算法惊艳到了你？你所读的统计学方向，有哪些不错的讲义（Notes）？
如何看待Kaggle最新比赛Zillow禁止中国居民参加第二轮？
常用的机器学习算法比较？
如何零基础自学SAS?
高级计量问题，主要跟线代概率论有关，求大佬解答?
Linear least squares, Lasso,ridge regression有何本质区别？
NLP 中 prompt learning 有哪些可能的天生缺陷？目前有什么样的方法来解决这样的缺陷？
如何证明数据增强（Data Augmentation）有效性？
大家推荐一下，哪些学校的导师有在做量化交易、股票预测的？
如何快速成为数据分析师？
如何评价知乎数据帝@chenqin和NGA用户@verycd00的统计学隔空论战？
什么是无偏估计？
能否训练一个AI模型来预测房价，寻找投资机会挖掘价值洼地？
如何利用 Twitter 开放者平台爬取 Twitter 数据？
用坐标变换定义的张量和微分几何中的张量或张量场是什么关系？
最小二乘法只有在因变量服从正态分布时才能用吗？
最小二乘法只有在因变量服从正态分布时才能用吗？
机器学习，数据挖掘在研究生阶段大概要学些什么？
国外的程序员是如何保养「革命的本钱」？
分类机器学习中，某一标签占比太大（标签稀疏），如何学习？
特征工程到底是什么？
从事经济、金融工作的人都是通过什么渠道获得数据资源，运用什么软件来分析行业状态和经济走势的？
请问为什么多元估计中系数的方差比单变量估计的方差大，但是我们还是偏爱多元估计的系数呢？
方差可不可以替代熵权法?
怎样理解广义相对论中的张量有关的这套符号体系？
有哪些比较好的机器学习、数据挖掘、计算机视觉的订阅号、微博或者是论坛？
神经网络能否代替决策树算法？
机器学习包含哪些学习思想？
机器学习专家与统计学家观点上有哪些不同？