Mahalanobis distanță

În statistici , distanța Mahalanobis este o măsură a distanței introdusă de PC Mahalanobis în 1936. ^[1] Se bazează pe corelații între variabile prin care pot fi identificate și analizate diferite tipare. Acesta este un mod util de a determina similaritatea unui spațiu eșantion necunoscut în comparație cu unul cunoscut. Acesta diferă de distanța euclidiană prin faptul că ia în considerare corelațiile din setul de date.

Definiție

Formal distanța Mahalanobis a unui vector multivariat $x=(x_{1},x_{2},x_{3},\dots ,x_{N})^{T}$ ${\ displaystyle x = (x_ {1}, x_ {2}, x_ {3}, \ dots, x_ {N}) ^ {T}}$ ${\ displaystyle x = (x_ {1}, x_ {2}, x_ {3}, \ dots, x_ {N}) ^ {T}}$ comparativ cu un grup de valori de valoare medie $\mu =(\mu _{1},\mu _{2},\mu _{3},\dots ,\mu _{N})^{T}$ ${\ displaystyle \ mu = (\ mu _ {1}, \ mu _ {2}, \ mu _ {3}, \ dots, \ mu _ {N}) ^ {T}}$ ${\ displaystyle \ mu = (\ mu _ {1}, \ mu _ {2}, \ mu _ {3}, \ dots, \ mu _ {N}) ^ {T}}$ și matricea de covarianță $S.$ ${\ displaystyle S}$ $S.$ este definit ca:

D_{M}(x)={\sqrt {(x-\mu )^{T}S^{-1}(x-\mu )}}.\,

{\ displaystyle D_ {M} (x) = {\ sqrt {(x- \ mu) ^ {T} S ^ {- 1} (x- \ mu)}}. \,}

{\ displaystyle D_ {M} (x) = {\ sqrt {(x- \ mu) ^ {T} S ^ {- 1} (x- \ mu)}}. \,}

^[2]

Distanța Mahalanobis (sau distanța interpunctului pătrat generalizat ^[3] ) poate fi, de asemenea, definită ca o măsură a diferenței dintre doi vectori aleatori ${\vec {x}}$ ${\ displaystyle {\ vec {x}}}$ ${\ displaystyle {\ vec {x}}}$ Și ${\vec {y}}$ ${\ displaystyle {\ vec {y}}}$ ${\ displaystyle {\ vec {y}}}$ cu aceeași funcție de densitate de probabilitate și cu o matrice de covarianță $S.$ ${\ displaystyle S}$ $S.$ :

d({\vec {x}},{\vec {y}})={\sqrt {({\vec {x}}-{\vec {y}})^{T}S^{-1}({\vec {x}}-{\vec {y}})}}.

{\ displaystyle d ({\ vec {x}}, {\ vec {y}}) = {\ sqrt {({\ vec {x}} - {\ vec {y}}) ^ {T} S ^ { -1} ({\ vec {x}} - {\ vec {y}})}}.}

{\ displaystyle d ({\ vec {x}}, {\ vec {y}}) = {\ sqrt {({\ vec {x}} - {\ vec {y}}) ^ {T} S ^ { -1} ({\ vec {x}} - {\ vec {y}})}}.}

Cazuri speciale

Dacă matricea de covarianță este matricea identitară, distanța Mahalanobis este redusă la distanța euclidiană .
Dacă matricea de covarianță este diagonală, măsurarea distanței rezultată se numește distanța euclidiană normalizată

d({\vec {x}},{\vec {y}})={\sqrt {\sum _{i=1}^{N}{(x_{i}-y_{i})^{2} \over \sigma _{i}^{2}}}},

{\ displaystyle d ({\ vec {x}}, {\ vec {y}}) = {\ sqrt {\ sum _ {i = 1} ^ {N} {(x_ {i} -y_ {i}) ^ {2} \ over \ sigma _ {i} ^ {2}}}},}

{\ displaystyle d ({\ vec {x}}, {\ vec {y}}) = {\ sqrt {\ sum _ {i = 1} ^ {N} {(x_ {i} -y_ {i}) ^ {2} \ over \ sigma _ {i} ^ {2}}}},}

in care $\sigma _{i}$ ${\ displaystyle \ sigma _ {i}}$ $\ sigma _ {i}$ este abaterea standard a $x_{i}$ ${\ displaystyle x_ {i}}$ $x_ {i}$ în cadrul setului de date.

Explicație intuitivă

Luați în considerare problema estimării probabilității ca un punct examinat în spațiul euclidian N- dimensional să aparțină unui set, din care sunt date câteva eșantioane care cu siguranță aparțin acelui set. Intuitiv, cu cât acest punct este mai aproape de centrul maselor, cu atât este mai probabil să aparțină acelui set.

Mai mult, este de asemenea necesar să știm dacă întregul este distribuit pe o distanță mică sau mare, pentru a decide dacă o anumită distanță de centru este mai mult sau mai puțin consistentă. Cea mai simplă abordare este de a estima abaterea standard a probelor de la centrul de masă. Dacă distanța dintre punctul în cauză și centrul de masă este mai mică de o abatere standard, se poate concluziona că este foarte probabil ca punctul în cauză să aparțină întregului. Cu cât această distanță este mai mare, cu atât este mai mică probabilitatea ca acest punct să fie clasificat ca aparținând întregului.

Această abordare intuitivă poate fi făcută cantitativ prin definirea distanței normalizate între punctul luat în considerare și întregul ca:

{x-\mu } \over \sigma

{\ displaystyle {x- \ mu} \ over \ sigma}

{\ displaystyle {x- \ mu} \ over \ sigma}

.

Presupunerea acestei abordări este că punctele de eșantionare sunt distribuite într-o hipersferă în jurul centrului de masă. Dacă distribuția nu este sferică (de exemplu hiperelipsoidală ), ar fi firesc să ne așteptăm ca probabilitatea ca punctul în cauză să aparțină setului depinde nu numai de distanța de la centrul de masă, ci și de direcție. Pe direcțiile în care hiperelipsoidul are o axă mai scurtă, punctul în curs de examinare trebuie să fie mai aproape pentru a fi considerat ca aparținând mulțimii, în timp ce pe direcțiile în care axa este mai lungă, punctul în examinare se poate afla și la distanțe majore. Dezvoltând toate acestea în termeni matematici, hiperelipsoidul care reprezintă cel mai bine setul de probabilități poate fi estimat prin matricea de covarianță a probelor. Prin urmare, distanța Mahalanobis este pur și simplu distanța punctului examinat de la centrul maselor normalizată în raport cu amplitudinea elipsoidului în direcția punctului examinat.

Aplicații

Distanța Mahalanobis a fost determinată de problema de identificare a craniului bazată pe măsurare în 1927. ^[4]

Distanța Mahalanobis este utilizată pe scară largă în problemele de grupare și alte tehnici de clasificare statistică . Este strâns legată de variabila aleatoare T-square a lui Hotelling , utilizată pentru teste statistice multivariate și analiza discriminantă a lui Fisher, care sunt utilizate în problemele de învățare supravegheate . ^[5]

Mai mult, distanța Mahalanobis este utilizată pentru a detecta valori aberante , în special în dezvoltarea modelelor de regresie liniară . Un punct care are o distanță mare de Mahalanobis de restul probelor are o influență mare asupra pantei sau coeficienților ecuației de regresie.

Notă

^ PC Mahalanobis, Despre distanța generalizată în statistici , în Proceedings of the National Institute of Sciences of India , vol. 2, nr. 1, 1936, pp. 49–55. Adus pe 5 noiembrie 2008 .
^ De Maesschalck, R.; D. Jouan-Rimbaud, DL Massart (2000) Distanța Mahalanobis. Chimiometrie și sisteme inteligente de laborator 50: 1–18
^ Gnanadesikan, R. și JR Kettenring (1972). Estimări robuste, reziduuri și detectare anterioară cu date de răspuns multiplu. Biometrie 28: 81-124.
^ Mahalanobis, PC (1927). Analiza amestecului rasial în Bengal. J. Proc. Asiatic Soc. Of Bengal. 23: 301-333.
^ McLachlan, Geoffry J (1992) Analiză discriminantă și recunoaștere a modelelor statistice. Wiley Interscience. ISBN 0-471-69115-1 p. 12

Elemente conexe

Divergența Bregman : distanța Mahalanobis este un exemplu de divergență Bregman

linkuri externe

( EN ) Distanța Mahalanobis , în Encyclopedia Britannica , Encyclopædia Britannica, Inc.

Portal de inginerie

Portalul de matematică

[1] PC Mahalanobis, Despre distanța generalizată în statistici , în Proceedings of the National Institute of Sciences of India , vol. 2, nr. 1, 1936, pp. 49–55. Adus pe 5 noiembrie 2008 .

[2] De Maesschalck, R.; D. Jouan-Rimbaud, DL Massart (2000) Distanța Mahalanobis. Chimiometrie și sisteme inteligente de laborator 50: 1–18

[3] Gnanadesikan, R. și JR Kettenring (1972). Estimări robuste, reziduuri și detectare anterioară cu date de răspuns multiplu. Biometrie 28: 81-124.

[4] Mahalanobis, PC (1927). Analiza amestecului rasial în Bengal. J. Proc. Asiatic Soc. Of Bengal. 23: 301-333.

[5] McLachlan, Geoffry J (1992) Analiză discriminantă și recunoaștere a modelelor statistice. Wiley Interscience. ISBN 0-471-69115-1 p. 12

[1]

[2]

[3]

[4]

[5]