Descompunerea devianței

Descompunerea devianței este o operație utilizată în statistici pentru a calcula, printre altele, coeficientul de determinare și statistica testului ANOVA . Având în vedere o variabilă numerică $y$ ${\ displaystyle y}$ $y$ suma deviațiilor pătrate de la media eșantionului se numește devianță ${\textstyle \sum _{i}(y_{i}-{\bar {y}})^{2}}$ ${\ textstyle \ sum _ {i} (y_ {i} - {\ bar {y}}) ^ {2}}$ ${\ textstyle \ sum _ {i} (y_ {i} - {\ bar {y}}) ^ {2}}$ ; această cantitate poate fi împărțită într-o parte „explicată” de una sau mai multe variabile $X$ ${\ displaystyle x}$ $X$ și o parte „reziduală”; suma acestor două părți este constantă și corespunde devianței totale.

Devianță între și în cadrul grupurilor

Patru grafice ale unei variabile numerice y distincte între două grupuri. În exemplele din stânga, deviația dintre grupuri este în mod clar mai mare decât cea din cadrul grupurilor, deoarece valorile lui y sunt bine distinse între diferite grupuri. În exemplele din dreapta, se întâmplă opusul.

Cand ai $k$ ${\ displaystyle k}$ $k$ grupuri distincte de $n_{j}$ ${\ displaystyle n_ {j}}$ $n_ {j}$ observații fiecare ale unei variabile numerice $y$ ${\ displaystyle y}$ $y$ , devianța generală a $y$ ${\ displaystyle y}$ $y$ ignorând distincția dintre grupuri și poate fi împărțit în două cantități SSW (devianță în cadrul grupurilor, în engleză Sum of Squares Within ) și SSB (devianță între grupuri, în engleză Sum of Squares Between ):

media eșantionului de $y$ ${\ displaystyle y}$ $y$ în grupa a j-a este indicat ca ${\bar {y}}_{j}$ ${\ displaystyle {\ bar {y}} _ {j}}$ ${\ displaystyle {\ bar {y}} _ {j}}$ ;
devianța de $y$ ${\ displaystyle y}$ $y$ în cadrul grupului j-th este indicat ca $SS_{j}$ ${\ displaystyle SS_ {j}}$ ${\ displaystyle SS_ {j}}$ ;
media eșantionului general al $y$ ${\ displaystyle y}$ $y$ indicăm cum ${\bar {y}}$ ${\ displaystyle {\ bar {y}}}$ ${\ displaystyle {\ bar {y}}}$ , și devianța totală a $y$ ${\ displaystyle y}$ $y$ indicăm cum $S. S. T.$ ${\ displaystyle SST}$ ${\ displaystyle SST}$ ;
$SSW=\sum _{j=1}^{k}SS_{j}$ ${\ displaystyle SSW = \ sum _ {j = 1} ^ {k} SS_ {j}}$ ${\ displaystyle SSW = \ sum _ {j = 1} ^ {k} SS_ {j}}$ ;
$SSB=\sum _{j=1}^{k}n_{j}({\bar {y}}_{j}-{\bar {y}})^{2}$ ${\ displaystyle SSB = \ sum _ {j = 1} ^ {k} n_ {j} ({\ bar {y}} _ {j} - {\ bar {y}}) ^ {2}}$ ${\ displaystyle SSB = \ sum _ {j = 1} ^ {k} n_ {j} ({\ bar {y}} _ {j} - {\ bar {y}}) ^ {2}}$ ;
$SST=SSW+SSB$ ${\ displaystyle SST = SSW + SSB}$ ${\ displaystyle SST = SSW + SSB}$ .

Abaterea dintre grupuri va fi mai mare decât cea din cadrul grupurilor atunci când valorile de $y$ ${\ displaystyle y}$ $y$ sunt bine distinse între diferite grupuri și vor fi în schimb scăzute atunci când mediile locale ${\bar {y}}_{j}$ ${\ displaystyle {\ bar {y}} _ {j}}$ ${\ displaystyle {\ bar {y}} _ {j}}$ seamănă. În cazul extrem în care sunt la fel, $SSB=0$ ${\ displaystyle SSB = 0}$ ${\ displaystyle SSB = 0}$ . Această descompunere poate fi utilizată pentru a crea coeficientul $\eta ^{2}=SSB/SST$ ${\ displaystyle \ eta ^ {2} = SSB / SST}$ ${\ displaystyle \ eta ^ {2} = SSB / SST}$ , care indică proporția devianței totale a $y$ ${\ displaystyle y}$ $y$ care apare din eterogenitatea grupurilor pe care se observă variabila ^[1] . În virtutea relației dintre devianță și varianță , prin introducerea numitorilor acestora în ecuațiile de mai sus, obținem descompunerea varianței , care are avantajul de a urmări cantitățile empirice de mai sus la proprietățile variabilei aleatorii $y$ ${\ displaystyle y}$ $y$ și permite efectuarea testelor ipotezelor care merg sub numele de ANOVA ( ANalisys Of VAriance ).

Devianță explicată și reziduală

În aceste două exemple de regresie liniară simplă, deviația explicată este aceeași, în timp ce devianța reziduală este diferită, deci și valoarea pătrată R variază

Când aveți două variabile numerice $y$ ${\ displaystyle y}$ $y$ Și $X$ ${\ displaystyle x}$ $X$ , relația dintre cele două variabile poate fi analizată cu un model liniar simplu , în acest fel, pentru a măsura asocierea dintre cele două variabile, devianța totală a $y$ ${\ displaystyle y}$ $y$ (variabila utilizată ca rezultat în modelul liniar) în devianța reziduală SSR și explicată SSM ( Suma pătratelor modelului ):

este indicat cu ${\hat {y}}_{i}$ ${\ displaystyle {\ hat {y}} _ {i}}$ ${\ displaystyle {\ hat {y}} _ {i}}$ valoarea a $y_{i}$ ${\ displaystyle y_ {i}}$ $y_ {i}$ furnizat de model;
$SSR=\sum _{i=1}^{n}(y_{i}-{\hat {y}}_{i})^{2}$ ${\ displaystyle SSR = \ sum _ {i = 1} ^ {n} (y_ {i} - {\ hat {y}} _ {i}) ^ {2}}$ ${\ displaystyle SSR = \ sum _ {i = 1} ^ {n} (y_ {i} - {\ hat {y}} _ {i}) ^ {2}}$ ;
$SSM=\sum _{i=1}^{n}({\hat {y}}_{i}-{\bar {y}})^{2}$ ${\ displaystyle SSM = \ sum _ {i = 1} ^ {n} ({\ hat {y}} _ {i} - {\ bar {y}}) ^ {2}}$ ${\ displaystyle SSM = \ sum _ {i = 1} ^ {n} ({\ hat {y}} _ {i} - {\ bar {y}}) ^ {2}}$ .

Relația dintre SSM și devianța totală a $y$ ${\ displaystyle y}$ $y$ SST dă naștere coeficientului de determinare $R^{2}$ ${\ displaystyle R ^ {2}}$ $R ^ {2}$ , care este și pătratul coeficientului de corelație Pearson $R.$ ${\ displaystyle R}$ $R.$ . După cum se poate vedea din ecuații, $R^{2}$ ${\ displaystyle R ^ {2}}$ $R ^ {2}$ este cu atât mai mare cu cât valorile $y$ ${\ displaystyle y}$ $y$ sunt apropiate de cele prezise de model, în timp ce acesta scade atunci când modelul prezice valori care sunt foarte apropiate unele de altele în scara $y$ ${\ displaystyle y}$ $y$ .

În mod clar, această metodă este ușor extinsă la un număr mai mare de variabile $X$ ${\ displaystyle x}$ $X$ folosind o regresie multivariată, în acest caz coeficientul $R^{2}$ ${\ displaystyle R ^ {2}}$ $R ^ {2}$ își pierde valoarea indexului de asociere între variabile și se transformă pentru a indica capacitatea modelului liniar de a determina cu precizie valoarea fiecăruia $y$ ${\ displaystyle y}$ $y$ observată sau, cu alte cuvinte, capacitatea modelului de a „explica” cu precizie variabilitatea $y$ ${\ displaystyle y}$ $y$ ; pe de altă parte, deviația (și varianța respectivă) a este definită ca "reziduală" $y$ ${\ displaystyle y}$ $y$ că modelul nu reușește să explice prin intermediul predictorilor $X$ ${\ displaystyle x}$ $X$ .

Putem verifica cu ușurință că, în cazul unei singure variabile explicative $X$ ${\ displaystyle x}$ $X$ categoric, grupurile definite de categoriile acelei variabile dau naștere ecuațiilor $SSR=SSW$ ${\ displaystyle SSR = SSW}$ ${\ displaystyle SSR = SSW}$ Și $SSM=SSB$ ${\ displaystyle SSM = SSB}$ ${\ displaystyle SSM = SSB}$ , prin urmare $\eta ^{2}=R^{2}$ ${\ displaystyle \ eta ^ {2} = R ^ {2}}$ ${\ displaystyle \ eta ^ {2} = R ^ {2}}$ .

Notă

^ Amalia Caputo, Relația dintre o variabilă categorică și un cardinal , pe www.federica.unina.it . Adus pe 9 decembrie 2019 .

Portalul de matematică

Portalul de statistici

[1] Amalia Caputo, Relația dintre o variabilă categorică și un cardinal , pe www.federica.unina.it . Adus pe 9 decembrie 2019 .

[1]