马哈拉诺比斯距离

马哈拉诺比斯距离（Mahalanobis distance）是由印度统计学家普拉桑塔·钱德拉·马哈拉诺比斯提出的，表示数据的协方差距离。它是一种有效的计算两个未知样本集的相似度的方法。与欧氏距离不同的是它考虑到各种特性之间的联系（例如：一条关于身高的信息会带来一条关于体重的信息，因为两者是有关联的）并且是尺度无关的（scale-invariant），即独立于测量尺度。 对于一个均值为${\displaystyle \mu =(\mu _{1},\mu _{2},\mu _{3},\dots ,\mu _{p})^{T}}$，协方差矩阵为${\displaystyle \Sigma }$的多变量向量${\displaystyle x=(x_{1},x_{2},x_{3},\dots ,x_{p})^{T}}$，其马氏距离为

${\displaystyle D_{M}({\vec {x}})={\sqrt {({\vec {x}}-{\vec {\mu }})^{T}\Sigma ^{-1}({\vec {x}}-{\vec {\mu }})}}}$

马哈拉诺比斯距离也可以定义为两个服从同一分布并且其协方差矩阵为${\displaystyle \Sigma }$的随机变量${\displaystyle {\vec {x}}}$与${\displaystyle {\vec {y}}}$的差异程度：

${\displaystyle d({\vec {x}},{\vec {y}})={\sqrt {({\vec {x}}-{\vec {y}})^{T}\Sigma ^{-1}({\vec {x}}-{\vec {y}})}}}$

如果协方差矩阵为单位矩阵，马哈拉诺比斯距离就简化为欧氏距离；如果协方差矩阵为对角阵，其也可称为正规化的欧氏距离。

${\displaystyle d({\vec {x}},{\vec {y}})={\sqrt {\sum _{i=1}^{p}{(x_{i}-y_{i})^{2} \over \sigma _{i}^{2}}}}}$

其中${\displaystyle \sigma _{i}}$是${\displaystyle x_{i}}$的标准差。