Corecția Bessel

În statistici , corecția Bessel este utilizarea lui n - 1 în loc de n în formula pentru varianța eșantionului și abaterea standard a eșantionului , ^[1] unde n este numărul de observații dintr-un eșantion . Această metodă corectează tendința în estimarea varianței populației. De asemenea, corectează parțial tendința în estimarea deviației standard a populației. Cu toate acestea, corecția crește adesea eroarea pătrată medie a rădăcinii în aceste estimări. Această tehnică poartă numele lui Friedrich Bessel .

În estimarea varianței populației dintr-un eșantion, atunci când media populației este necunoscută, varianța eșantionului necorectat este media pătrată a abaterilor valorilor eșantionului față de media eșantionului (adică folosind un factor de multiplicare 1 / n ). În acest caz, varianța eșantionului este un estimator părtinitor al varianței populației.

Înmulțind varianța eșantionului necorectat cu factorul

{\frac {n}{n-1}}

{\ displaystyle {\ frac {n} {n-1}}}

{\ displaystyle {\ frac {n} {n-1}}}

se obține un estimator imparțial al varianței populației. Unele surse ^[2] ^[3] numesc acest factor de corecție Bessel .

Ne putem gândi la corecția Bessel ca la gradele de libertate ale vectorului rezidual (al reziduurilor, nu al erorilor, deoarece media populației este necunoscută):

(x_{1}-{\overline {x}},\,\dots ,\,x_{n}-{\overline {x}}),

{\ displaystyle (x_ {1} - {\ overline {x}}, \, \ dots, \, x_ {n} - {\ overline {x}}),}

{\ displaystyle (x_ {1} - {\ overline {x}}, \, \ dots, \, x_ {n} - {\ overline {x}}),}

cand ${\overline {x}}$ ${\ displaystyle {\ overline {x}}}$ $\ overline {x}$ este media eșantionului. Deși există n observații independente în eșantion, există doar n - 1 reziduuri independente, întrucât suma lor este 0. Pentru o explicație mai intuitivă a necesității corecției Bessel, vezi părtinire în statistici .

În general, corecția Bessel este o abordare pentru reducerea prejudecății datorită dimensiunii probei finite. O astfel de corecție a distorsiunii unui eșantion finit este necesară și pentru alte estimări, cum ar fi simetria și kurtosis , dar în aceste inexactități sunt adesea semnificativ mai mari. Pentru a elimina complet această prejudecată, ar fi necesar să se efectueze o estimare multiparametrică mai complexă. De exemplu, o corecție corectă pentru deviația standard depinde de kurtoză (al patrulea moment central normalizat), dar și aceasta are o tendință de eșantionare finită și depinde de deviația standard, adică ambele estimări trebuie combinate.

Avertizări

Există trei avertismente de luat în considerare atunci când utilizați corecția Bessel:

Nu oferă un estimator imparțial al deviației standard.
Estimatorul corectat are adesea o eroare pătrată medie (MSE) mai mare decât estimatorul incorect. ^[4] În plus, nu există o distribuție a populației pentru care se găsește MSE minim, deoarece este întotdeauna posibil să se aleagă un factor de scară diferit pentru a minimiza MSE.
Este necesar numai atunci când media populației este necunoscută (și estimată ca medie eșantion). În practică, asta se întâmplă în general.

În primul rând, în timp ce varianța eșantionului (folosind corecția lui Bessel) este un estimator imparțial al varianței populației, rădăcina pătrată a acesteia, abaterea standard a eșantionului, este o estimare părtinitoare a abaterii standard a populației; deoarece rădăcina pătrată este o funcție concavă , tendința este descendentă, din cauza inegalității Jensen . Nu există o formulă generală pentru un estimator imparțial al deviației standard a populației, deși există factori de corecție pentru anumite distribuții, cum ar fi normalul. O aproximare a factorului exact de corecție pentru distribuția normală este dată folosind n - 1.5 în formulă: polarizarea se descompune cvadrat (mai degrabă decât liniar, ca în forma incorectă și în forma corectă Bessel).

În al doilea rând, estimatorul imparțial nu minimizează eroarea pătrată medie (MSE) și are, în general, un MSE mai rău decât estimatorul necorectat (aceasta variază în funcție de excesul de kurtoză ). MSE poate fi minimizat utilizând un factor diferit. Valoarea optimă depinde de excesul de kurtoză, așa cum sa discutat în eroarea pătrată medie pentru varianță ; pentru distribuția normală este optimizat prin împărțirea la n + 1 (în loc de n - 1 sau n ).

În al treilea rând, corecția Bessel este necesară numai atunci când media populației este cunoscută și se evaluează atât media populației, cât și varianța populației dintr-un eșantion dat, folosind media eșantionului pentru a estima media populației. În acest caz, există n grade de libertate într-un eșantion de n puncte, iar estimarea simultană a mediei și a varianței înseamnă că un grad de libertate merge la media eșantionului și restul de n - 1 grade de libertate ( resturile ) merg la varianța eșantionului. Cu toate acestea, dacă media populației este cunoscută, abaterile observațiilor de la media populației au n grade de libertate (deoarece media nu este estimată, abaterile nu sunt reziduale, ci erori ), iar corecția Bessel nu este aplicabilă.

Surse de părtinire

Mai simplu, pentru a înțelege părtinirea care trebuie corectată, luați în considerare un caz extrem. Să presupunem că populația este (0,0,0,1,2,9) și că are o populație medie de 2 și o varianță a populației de 10 1/3. Se extrage un eșantion de n = 1 și se dovedește a fi $x_{1}=0.$ ${\ displaystyle x_ {1} = 0.}$ ${\ displaystyle x_ {1} = 0.}$ Cea mai bună estimare a mediei populației este ${\bar {x}}=x_{1}/n=0/1=0.$ ${\ displaystyle {\ bar {x}} = x_ {1} / n = 0/1 = 0.}$ ${\ displaystyle {\ bar {x}} = x_ {1} / n = 0/1 = 0.}$ Dar dacă folosim formula $(x_{1}-{\bar {x}})^{2}/n=(0-0)/1=0$ ${\ displaystyle (x_ {1} - {\ bar {x}}) ^ {2} / n = (0-0) / 1 = 0}$ ${\ displaystyle (x_ {1} - {\ bar {x}}) ^ {2} / n = (0-0) / 1 = 0}$ pentru a estima varianța? Estimarea varianței ar fi zero --- și estimarea ar fi zero pentru fiecare populație și fiecare eșantion cu n = 1. Problema este că, în estimarea mediei eșantionului, procesul ne-a făcut deja estimarea mediei aproape de eșantion valoare - identică, pentru n = 1. În cazul lui n = 1, varianța nu poate fi estimată, deoarece nu există variabilitate în eșantion.

În schimb, ia în considerare n = 2. Să presupunem că eșantionul este (0, 2). Atunci ${\bar {x}}=1$ ${\ displaystyle {\ bar {x}} = 1}$ ${\ displaystyle {\ bar {x}} = 1}$ Și $[(x_{1}-{\bar {x}})^{2}+(x_{2}-{\bar {x}})^{2}]/n=(1+1)/2=1$ ${\ displaystyle [(x_ {1} - {\ bar {x}}) ^ {2} + (x_ {2} - {\ bar {x}}) ^ {2}] / n = (1 + 1) / 2 = 1}$ ${\ displaystyle [(x_ {1} - {\ bar {x}}) ^ {2} + (x_ {2} - {\ bar {x}}) ^ {2}] / n = (1 + 1) / 2 = 1}$ , dar cu corectarea lui Bessel, $[(x_{1}-{\bar {x}})^{2}+(x_{2}-{\bar {x}})^{2}]/(n-1)=(1+1)/1=2$ ${\ displaystyle [(x_ {1} - {\ bar {x}}) ^ {2} + (x_ {2} - {\ bar {x}}) ^ {2}] / (n-1) = ( 1 + 1) / 1 = 2}$ ${\ displaystyle [(x_ {1} - {\ bar {x}}) ^ {2} + (x_ {2} - {\ bar {x}}) ^ {2}] / (n-1) = ( 1 + 1) / 1 = 2}$ , care este o estimare imparțială (dacă se iau toate eșantioanele posibile de n = 2 și se folosește această metodă, estimarea medie va fi de 10 1/3.)

Pentru a înțelege mai detaliat, luați în considerare următorul exemplu. Să presupunem că media întregii populații este 2050, dar statisticianul nu o știe și, prin urmare, trebuie să o estimeze pe baza acestui mic eșantion ales la întâmplare din populație:

2051,\quad 2053,\quad 2055,\quad 2050,\quad 2051

{\ displaystyle 2051, \ quad 2053, \ quad 2055, \ quad 2050, \ quad 2051}

{\ displaystyle 2051, \ quad 2053, \ quad 2055, \ quad 2050, \ quad 2051}

Media eșantionului poate fi calculată:

{\frac {1}{5}}\left(2051+2053+2055+2050+2051\right)=2052

{\ displaystyle {\ frac {1} {5}} \ left (2051 + 2053 + 2055 + 2050 + 2051 \ right) = 2052}

{\ displaystyle {\ frac {1} {5}} \ left (2051 + 2053 + 2055 + 2050 + 2051 \ right) = 2052}

Aceasta poate servi ca o estimare observabilă a mediei populației neobservabile, care este 2050. Acum abordăm problema estimării varianței populației. Aceasta este media pătratelor abaterilor de la 2050. Dacă am ști că media populației este 2050, am putea face următoarele:

{\begin{aligned}{}&{\frac {1}{5}}\left[(2051-2050)^{2}+(2053-2050)^{2}+(2055-2050)^{2}+(2050-2050)^{2}+(2051-2050)^{2}\right]\\[6pt]={}&{\frac {36}{5}}=7.2\end{aligned}}

{\ displaystyle {\ begin {align} {} & {\ frac {1} {5}} \ left [(2051-2050) ^ {2} + (2053-2050) ^ {2} + (2055-2050) ^ {2} + (2050-2050) ^ {2} + (2051-2050) ^ {2} \ right] \\ [6pt] = {} & {\ frac {36} {5}} = 7.2 \ end {aliniat}}}

{\ displaystyle {\ begin {align} {} & {\ frac {1} {5}} \ left [(2051-2050) ^ {2} + (2053-2050) ^ {2} + (2055-2050) ^ {2} + (2050-2050) ^ {2} + (2051-2050) ^ {2} \ right] \\ [6pt] = {} & {\ frac {36} {5}} = 7.2 \ end {aliniat}}}

Dar estimarea noastră a mediei populației este media eșantionului, 2052. Media reală, 2050, este necunoscută. Deci, trebuie să utilizați media eșantionului, 2052:

{\begin{aligned}{}&{\frac {1}{5}}\left[(2051-2052)^{2}+(2053-2052)^{2}+(2055-2052)^{2}+(2050-2052)^{2}+(2051-2052)^{2}\right]\\[6pt]={}&{\frac {16}{5}}=3.2\end{aligned}}

{\ displaystyle {\ begin {align} {} & {\ frac {1} {5}} \ left [(2051-2052) ^ {2} + (2053-2052) ^ {2} + (2055-2052) ^ {2} + (2050-2052) ^ {2} + (2051-2052) ^ {2} \ right] \\ [6pt] = {} & {\ frac {16} {5}} = 3.2 \ end {aliniat}}}

{\ displaystyle {\ begin {align} {} & {\ frac {1} {5}} \ left [(2051-2052) ^ {2} + (2053-2052) ^ {2} + (2055-2052) ^ {2} + (2050-2052) ^ {2} + (2051-2052) ^ {2} \ right] \\ [6pt] = {} & {\ frac {16} {5}} = 3.2 \ end {aliniat}}}

Varianța este acum mult mai mică. După cum se arată mai jos, varianța va fi aproape întotdeauna mai mică atunci când se calculează folosind suma distanțelor pătrate până la media eșantionului, comparativ cu suma distanțelor pătrate față de media populației. Singura excepție este atunci când media eșantionului este egală cu media populației, caz în care și varianța este egală.

Pentru a înțelege de ce se întâmplă acest lucru, să folosim o identitate algebrică simplă :

(a-b)^{2}=a^{2}-2ab+b^{2}

{\ displaystyle (ab) ^ {2} = a ^ {2} -2ab + b ^ {2}}

{\ displaystyle (a-b) ^ {2} = a ^ {2} -2ab + b ^ {2}}

Cu $la$ ${\ displaystyle a}$ $la$ reprezentând abaterea unui singur eșantion de la media eșantionului e $b$ ${\ displaystyle b}$ $b$ care reprezintă abaterea eșantionului mediu de la media populației. Rețineți că am descompus pur și simplu abaterea efectivă a unei singure probe din media populației (necunoscută) în două componente: abaterea eșantionului unic de media probei, pe care o putem calcula și abaterea suplimentară a probei medii de la populația înseamnă ce nu putem. Acum, să aplicăm această identitate în pătratele abaterilor de la populație înseamnă:

{\begin{aligned}{[}\,\underbrace {2053-2050} _{\begin{smallmatrix}{\text{Deviation from}}\\{\text{the population}}\\{\text{mean}}\end{smallmatrix}}\,]^{2}&=[\,\overbrace {(\,\underbrace {2053-2052} _{\begin{smallmatrix}{\text{Deviation from}}\\{\text{the sample mean}}\end{smallmatrix}}\,)} ^{{\text{This is }}a.}+\overbrace {(2052-2050)} ^{{\text{This is }}b.}\,]^{2}\\&=\overbrace {(2053-2052)^{2}} ^{{\text{This is }}a^{2}.}+\overbrace {2(2053-2052)(2052-2050)} ^{{\text{This is }}2ab.}+\overbrace {(2052-2050)^{2}} ^{{\text{This is }}b^{2}.}\end{aligned}}

{\ displaystyle {\ begin {align} {[} \, \ underbrace {2053-2050} _ {\ begin {smallmatrix} {\ text {Deviere de la}} ​​\\ {\ text {populația}} \\ {\ text {mean}} \ end {smallmatrix}} \,] ^ {2} & = [\, \ overbrace {(\, \ underbrace {2053-2052} _ {\ begin {smallmatrix} {\ text {Deviere de la} } \\ {\ text {the sample mean}} \ end {smallmatrix}} \,)} ^ {{\ text {This is}} a.} + \ overbrace {(2052-2050)} ^ {{\ text {Aceasta este}} b.} \,] ^ {2} \\ & = \ overbrace {(2053-2052) ^ {2}} ^ {{\ text {Aceasta este}} a ^ {2}.} + \ overbrace {2 (2053-2052) (2052-2050)} ^ {{\ text {Aceasta este}} 2ab.} + \ overbrace {(2052-2050) ^ {2}} ^ {{\ text {Aceasta este }} b ^ {2}.} \ end {align}}}

{\ displaystyle {\ begin {align} {[} \, \ underbrace {2053-2050} _ {\ begin {smallmatrix} {\ text {Deviere de la}} ​​\\ {\ text {populația}} \\ {\ text {mean}} \ end {smallmatrix}} \,] ^ {2} & = [\, \ overbrace {(\, \ underbrace {2053-2052} _ {\ begin {smallmatrix} {\ text {Deviere de la} } \\ {\ text {the sample mean}} \ end {smallmatrix}} \,)} ^ {{\ text {This is}} a.} + \ overbrace {(2052-2050)} ^ {{\ text {Aceasta este}} b.} \,] ^ {2} \\ & = \ overbrace {(2053-2052) ^ {2}} ^ {{\ text {Aceasta este}} a ^ {2}.} + \ overbrace {2 (2053-2052) (2052-2050)} ^ {{\ text {Aceasta este}} 2ab.} + \ overbrace {(2052-2050) ^ {2}} ^ {{\ text {Aceasta este }} b ^ {2}.} \ end {align}}}

Acum să aplicăm acest lucru la toate cele cinci observații și să privim câteva patterni:

{\begin{alignedat}{2}\overbrace {(2051-2052)^{2}} ^{{\text{This is }}a^{2}.}\ &+\ \overbrace {2(2051-2052)(2052-2050)} ^{{\text{This is }}2ab.}\ &&+\ \overbrace {(2052-2050)^{2}} ^{{\text{This is }}b^{2}.}\\(2053-2052)^{2}\ &+\ 2(2053-2052)(2052-2050)\ &&+\ (2052-2050)^{2}\\(2055-2052)^{2}\ &+\ 2(2055-2052)(2052-2050)\ &&+\ (2052-2050)^{2}\\(2050-2052)^{2}\ &+\ 2(2050-2052)(2052-2050)\ &&+\ (2052-2050)^{2}\\(2051-2052)^{2}\ &+\ \underbrace {2(2051-2052)(2052-2050)} _{\begin{smallmatrix}{\text{The sum of the entries in this}}\\{\text{middle column must be 0.}}\end{smallmatrix}}\ &&+\ (2052-2050)^{2}\end{alignedat}}

{\ displaystyle {\ begin {alignat} {2} \ overbrace {(2051-2052) ^ {2}} ^ {{\ text {This is}} a ^ {2}.} \ & + \ \ overbrace {2 (2051-2052) (2052-2050)} ^ {{\ text {This is}} 2ab.} \ && + \ \ overbrace {(2052-2050) ^ {2}} ^ {{\ text {This is} } b ^ {2}.} \\ (2053-2052) ^ {2} \ & + \ 2 (2053-2052) (2052-2050) \ && + \ (2052-2050) ^ {2} \\ ( 2055-2052) ^ {2} \ & + \ 2 (2055-2052) (2052-2050) \ && + \ (2052-2050) ^ {2} \\ (2050-2052) ^ {2} \ & + \ 2 (2050-2052) (2052-2050) \ && + \ (2052-2050) ^ {2} \\ (2051-2052) ^ {2} \ & + \ \ underbrace {2 (2051-2052) ( 2052-2050)} _ {\ begin {smallmatrix} {\ text {Suma intrărilor din această coloană centrală}} \\ {\ text {trebuie să fie 0.}} \ End {smallmatrix}} \ && + \ ( 2052-2050) ^ {2} \ end {alignat}}}

{\ displaystyle {\ begin {alignat} {2} \ overbrace {(2051-2052) ^ {2}} ^ {{\ text {This is}} a ^ {2}.} \ & + \ \ overbrace {2 (2051-2052) (2052-2050)} ^ {{\ text {This is}} 2ab.} \ && + \ \ overbrace {(2052-2050) ^ {2}} ^ {{\ text {This is} } b ^ {2}.} \\ (2053-2052) ^ {2} \ & + \ 2 (2053-2052) (2052-2050) \ && + \ (2052-2050) ^ {2} \\ ( 2055-2052) ^ {2} \ & + \ 2 (2055-2052) (2052-2050) \ && + \ (2052-2050) ^ {2} \\ (2050-2052) ^ {2} \ & + \ 2 (2050-2052) (2052-2050) \ && + \ (2052-2050) ^ {2} \\ (2051-2052) ^ {2} \ & + \ \ underbrace {2 (2051-2052) ( 2052-2050)} _ {\ begin {smallmatrix} {\ text {Suma intrărilor din această coloană centrală}} \\ {\ text {trebuie să fie 0.}} \ End {smallmatrix}} \ && + \ ( 2052-2050) ^ {2} \ end {alignat}}}

Suma intrărilor din coloana din mijloc trebuie să fie zero, deoarece termenul a va fi adăugat pe toate cele 5 rânduri, care la rândul lor trebuie să fie egal cu zero. Acest lucru se datorează faptului că a conține cele 5 eșantioane individuale (partea stângă între paranteze) care, adăugate, au în mod natural aceeași sumă de 5 ori media eșantionului celor 5 numere (2052). Aceasta înseamnă că o scădere a acestor două sume trebuie să fie egală cu zero. Factorul 2 și termenul b din coloana din mijloc sunt aceleași pentru toate rândurile, ceea ce înseamnă că diferența relativă dintre toate rândurile din coloana din mijloc rămâne aceeași și, prin urmare, poate fi ignorată. Următoarele afirmații explică semnificația coloanelor rămase:

Suma articolelor din prima coloană ( a ² ) este suma pătratelor distanței de la eșantion la media eșantionului;
Suma articolelor din ultima coloană ( b ² ) este suma distanțelor pătrate dintre media eșantionului măsurat și media populației ajustată
Fiecare singur rând este acum format din perechi de un ² (oblică, deoarece se folosește media eșantionului) și b ² (corecție prejudecată, deoarece ia în considerare diferența dintre media „reală“ a populației și media probei inexacte). Prin urmare, suma tuturor intrărilor din prima și ultima coloană reprezintă acum varianța corectată, ceea ce înseamnă că acum este utilizată suma distanței pătrate între eșantioane și media populației
Suma coloanelor a ² și b ² trebuie să fie mai mare decât suma elementelor coloanei a ² , deoarece toate elementele din b ² sunt pozitive (cu excepția cazului în care media populației este egală cu media eșantionului, caz în care vor fi toate numerele din ultima coloană va fi 0).

Prin urmare:

Suma pătratelor distanței de la eșantioane la media populației va fi întotdeauna mai mare decât suma pătratelor distanței de la media eșantionului , cu excepția cazului în care media eșantionului coincide cu media populației, caz în care cele două sunt egale.

Acesta este motivul pentru care suma pătratelor abaterilor de la media eșantionului este prea mică pentru a oferi o estimare imparțială a varianței populației atunci când se găsește media acelor pătrate. Cu cât dimensiunea eșantionului este mai mică, cu atât este mai mare diferența dintre varianța eșantionului și varianța populației.

Terminologie

Această corecție este atât de comună încât termenii „varianță eșantion” și „deviație standard eșantion” sunt adesea folosiți pentru a desemna estimatorii corecți (variația eșantionului nepărtinitor, abaterea standard eșantion minim), folosind n - 1. Cu toate acestea, este necesară prudență: unele calculatoarele și pachetele software pot avea ambele sau doar cele mai neobișnuite formulări. Acest articol folosește următoarele simboluri și definiții:

μ este media populației

{\overline {x}}

{\ displaystyle {\ overline {x}}}

\ overline {x}

este media eșantionului

σ ² este varianța populației

s _n ² este varianța eșantionului părtinitor (adică fără corecția lui Bessel)

s ² este varianța eșantionului nedistorsionat (adică cu corecția lui Bessel)

Abaterile standard vor fi apoi rădăcinile pătrate ale varianțelor respective. Deoarece rădăcina pătrată introduce o părtinire, terminologia „incorectă” și „corectă” sunt preferate pentru estimatorii abaterii standard:

s _n este abaterea standard a eșantionului incorect (adică fără corecția lui Bessel)

s este deviația standard a eșantionului corectată (adică cu corecția lui Bessel), care este mai puțin părtinitoare, dar totuși părtinitoare

Formulă

Media eșantionului este dată de

{\overline {x}}={\frac {1}{n}}\sum _{i=1}^{n}x_{i}.

{\ displaystyle {\ overline {x}} = {\ frac {1} {n}} \ sum _ {i = 1} ^ {n} x_ {i}.}

{\ displaystyle {\ overline {x}} = {\ frac {1} {n}} \ sum _ {i = 1} ^ {n} x_ {i}.}

Varianța eșantionului distorsionat este apoi scrisă:

s_{n}^{2}={\frac {1}{n}}\sum _{i=1}^{n}\left(x_{i}-{\overline {x}}\right)^{2}={\frac {\sum _{i=1}^{n}\left(x_{i}^{2}\right)}{n}}-{\frac {\left(\sum _{i=1}^{n}x_{i}\right)^{2}}{n^{2}}}

{\ displaystyle s_ {n} ^ {2} = {\ frac {1} {n}} \ sum _ {i = 1} ^ {n} \ left (x_ {i} - {\ overline {x}} \ dreapta) ^ {2} = {\ frac {\ sum _ {i = 1} ^ {n} \ left (x_ {i} ^ {2} \ right)} {n}} - {\ frac {\ left ( \ sum _ {i = 1} ^ {n} x_ {i} \ right) ^ {2}} {n ^ {2}}}}

{\ displaystyle s_ {n} ^ {2} = {\ frac {1} {n}} \ sum _ {i = 1} ^ {n} \ left (x_ {i} - {\ overline {x}} \ dreapta) ^ {2} = {\ frac {\ sum _ {i = 1} ^ {n} \ left (x_ {i} ^ {2} \ right)} {n}} - {\ frac {\ left ( \ sum _ {i = 1} ^ {n} x_ {i} \ right) ^ {2}} {n ^ {2}}}}

iar varianța eșantionului imparțial este:

s^{2}={\frac {1}{n-1}}\sum _{i=1}^{n}\left(x_{i}-{\overline {x}}\right)^{2}={\frac {\sum _{i=1}^{n}\left(x_{i}^{2}\right)}{n-1}}-{\frac {\left(\sum _{i=1}^{n}x_{i}\right)^{2}}{(n-1)n}}=\left({\frac {n}{n-1}}\right)\,s_{n}^{2}.

{\ displaystyle s ^ {2} = {\ frac {1} {n-1}} \ sum _ {i = 1} ^ {n} \ left (x_ {i} - {\ overline {x}} \ right ) ^ {2} = {\ frac {\ sum _ {i = 1} ^ {n} \ left (x_ {i} ^ {2} \ right)} {n-1}} - {\ frac {\ left (\ sum _ {i = 1} ^ {n} x_ {i} \ right) ^ {2}} {(n-1) n}} = \ left ({\ frac {n} {n-1}} \ dreapta) \, s_ {n} ^ {2}.}

{\ displaystyle s ^ {2} = {\ frac {1} {n-1}} \ sum _ {i = 1} ^ {n} \ left (x_ {i} - {\ overline {x}} \ right ) ^ {2} = {\ frac {\ sum _ {i = 1} ^ {n} \ left (x_ {i} ^ {2} \ right)} {n-1}} - {\ frac {\ left (\ sum _ {i = 1} ^ {n} x_ {i} \ right) ^ {2}} {(n-1) n}} = \ left ({\ frac {n} {n-1}} \ dreapta) \, s_ {n} ^ {2}.}

Dovada corectitudinii - alternativa 1

Ca fapt de bază, folosim identitatea $E[x^{2}]=\mu ^{2}+\sigma ^{2}$ ${\ displaystyle E [x ^ {2}] = \ mu ^ {2} + \ sigma ^ {2}}$ ${\ displaystyle E [x ^ {2}] = \ mu ^ {2} + \ sigma ^ {2}}$ care derivă din definiția deviației standard și a liniarității așteptării .

O observație foarte utilă este că, pentru orice distribuție, varianța este egală cu jumătate din valoarea așteptată a $(x_{1}-x_{2})^{2}$ ${\ displaystyle (x_ {1} -x_ {2}) ^ {2}}$ ${\ displaystyle (x_ {1} -x_ {2}) ^ {2}}$ cand $x_{1},x_{2}$ ${\ displaystyle x_ {1}, x_ {2}}$ $x_1, x_2$ Sunt un campion independent de această distribuție. Pentru a demonstra această observație o vom folosi $E[x_{1}x_{2}]=E[x_{1}]E[x_{2}]$ ${\ displaystyle E [x_ {1} x_ {2}] = E [x_ {1}] E [x_ {2}]}$ ${\ displaystyle E [x_ {1} x_ {2}] = E [x_ {1}] E [x_ {2}]}$ (care derivă din faptul că sunt independenți) și liniaritatea așteptării:

E[(x_{1}-x_{2})^{2}]=E[x_{1}^{2}]-E[2x_{1}x_{2}]+E[x_{2}^{2}]=(\sigma ^{2}+\mu ^{2})-2\mu ^{2}+(\sigma ^{2}+\mu ^{2})=2\sigma ^{2}

{\ displaystyle E [(x_ {1} -x_ {2}) ^ {2}] = E [x_ {1} ^ {2}] - E [2x_ {1} x_ {2}] + E [x_ { 2} ^ {2}] = (\ sigma ^ {2} + \ mu ^ {2}) - 2 \ mu ^ {2} + (\ sigma ^ {2} + \ mu ^ {2}) = 2 \ sigma ^ {2}}

{\ displaystyle E [(x_ {1} -x_ {2}) ^ {2}] = E [x_ {1} ^ {2}] - E [2x_ {1} x_ {2}] + E [x_ { 2} ^ {2}] = (\ sigma ^ {2} + \ mu ^ {2}) - 2 \ mu ^ {2} + (\ sigma ^ {2} + \ mu ^ {2}) = 2 \ sigma ^ {2}}

Acum că observația este dovedită, este suficient să arătăm că diferența pătratică așteptată a două observații din populația eșantionului $x_{1},\ldots ,x_{n}$ ${\ displaystyle x_ {1}, \ ldots, x_ {n}}$ ${\ displaystyle x_ {1}, \ ldots, x_ {n}}$ Este egal cu $(n-1)/n$ ${\ displaystyle (n-1) / n}$ $(n-1) / n$ de două ori diferența pătratică așteptată a două observații față de distribuția inițială. Pentru a vedea acest lucru, rețineți că atunci când alegem $x_{u}$ ${\ displaystyle x_ {u}}$ ${\ displaystyle x_ {u}}$ Și $x_{v}$ ${\ displaystyle x_ {v}}$ ${\ displaystyle x_ {v}}$ prin u , v fiind numere întregi selectate independent și uniform de la 1 la n , o fracție $n/n^{2}=1/n$ ${\ displaystyle n / n ^ {2} = 1 / n}$ ${\ displaystyle n / n ^ {2} = 1 / n}$ de timp vom avea u = v și, prin urmare, diferența pătratică eșantionată este zero, indiferent de distribuția inițială. Restul $1-1/n$ ${\ displaystyle 1-1 / n}$ ${\ displaystyle 1-1 / n}$ de timp, valoarea $E[(x_{u}-x_{v})^{2}]$ ${\ displaystyle E [(x_ {u} -x_ {v}) ^ {2}]}$ ${\ displaystyle E [(x_ {u} -x_ {v}) ^ {2}]}$ este diferența pătratică așteptată între două observații independente de distribuția inițială. Prin urmare, împărțind diferența pătratică așteptată a eșantionului la $(1-1/n)$ ${\ displaystyle (1-1 / n)}$ ${\ displaystyle (1-1 / n)}$ sau înmulțind echivalent cu $1/(1-1/n)=n/(n-1),$ ${\ displaystyle 1 / (1-1 / n) = n / (n-1),}$ ${\ displaystyle 1 / (1-1 / n) = n / (n-1),}$ oferă o estimare imparțială a diferenței pătratice inițiale așteptate.

Dovada corectitudinii - alternativa 2

Reciclând o identitate pentru varianță ,

{\begin{aligned}\sum _{i=1}^{n}\left(x_{i}-{\overline {x}}\right)^{2}&=\sum _{i=1}^{n}\left(x_{i}^{2}-2x_{i}{\overline {x}}+{\overline {x}}^{2}\right)\\&=\sum _{i=1}^{n}x_{i}^{2}-2{\overline {x}}\sum _{i=1}^{n}x_{i}+\sum _{i=1}^{n}{\overline {x}}^{2}\\&=\sum _{i=1}^{n}x_{i}^{2}-2n{\overline {x}}^{2}+n{\overline {x}}^{2}\\&=\sum _{i=1}^{n}x_{i}^{2}-n{\overline {x}}^{2}\end{aligned}}

{\ displaystyle {\ begin {align} \ sum _ {i = 1} ^ {n} \ left (x_ {i} - {\ overline {x}} \ right) ^ {2} & = \ sum _ {i = 1} ^ {n} \ left (x_ {i} ^ {2} -2x_ {i} {\ overline {x}} + {\ overline {x}} ^ {2} \ right) \\ & = \ sum _ {i = 1} ^ {n} x_ {i} ^ {2} -2 {\ overline {x}} \ sum _ {i = 1} ^ {n} x_ {i} + \ sum _ {i = 1} ^ {n} {\ overline {x}} ^ {2} \\ & = \ sum _ {i = 1} ^ {n} x_ {i} ^ {2} -2n {\ overline {x} } ^ {2} + n {\ overline {x}} ^ {2} \\ & = \ sum _ {i = 1} ^ {n} x_ {i} ^ {2} -n {\ overline {x} } ^ {2} \ end {align}}}

{\ displaystyle {\ begin {align} \ sum _ {i = 1} ^ {n} \ left (x_ {i} - {\ overline {x}} \ right) ^ {2} & = \ sum _ {i = 1} ^ {n} \ left (x_ {i} ^ {2} -2x_ {i} {\ overline {x}} + {\ overline {x}} ^ {2} \ right) \\ & = \ sum _ {i = 1} ^ {n} x_ {i} ^ {2} -2 {\ overline {x}} \ sum _ {i = 1} ^ {n} x_ {i} + \ sum _ {i = 1} ^ {n} {\ overline {x}} ^ {2} \\ & = \ sum _ {i = 1} ^ {n} x_ {i} ^ {2} -2n {\ overline {x} } ^ {2} + n {\ overline {x}} ^ {2} \\ & = \ sum _ {i = 1} ^ {n} x_ {i} ^ {2} -n {\ overline {x} } ^ {2} \ end {align}}}

asa

{\begin{aligned}\operatorname {E} \left(\sum _{i=1}^{n}\left[(x_{i}-\mu )-\left({\overline {x}}-\mu \right)\right]^{2}\right)&=\operatorname {E} \left(\left(\sum _{i=1}^{n}(x_{i}-\mu )^{2}\right)-n({\overline {x}}-\mu )^{2}\right)\\&=\left(\sum _{i=1}^{n}\operatorname {E} \left((x_{i}-\mu )^{2}\right)\right)-n\operatorname {E} \left(({\overline {x}}-\mu )^{2}\right)\\&=\left(\sum _{i=1}^{n}\operatorname {Var} (x_{i})\right)-n\operatorname {Var} \left({\overline {x}}\right)\end{aligned}}

{\ displaystyle {\ begin {align} \ operatorname {E} \ left (\ sum _ {i = 1} ^ {n} \ left [(x_ {i} - \ mu) - \ left ({\ overline {x }} - \ mu \ right) \ right] ^ {2} \ right) & = \ operatorname {E} \ left (\ left (\ sum _ {i = 1} ^ {n} (x_ {i} - \ mu) ^ {2} \ right) -n ({\ overline {x}} - \ mu) ^ {2} \ right) \\ & = \ left (\ sum _ {i = 1} ^ {n} \ operatorname {E} \ left ((x_ {i} - \ mu) ^ {2} \ right) \ right) -n \ operatorname {E} \ left (({\ overline {x}} - \ mu) ^ { 2} \ right) \\ & = \ left (\ sum _ {i = 1} ^ {n} \ operatorname {Var} (x_ {i}) \ right) -n \ operatorname {Var} \ left ({\ overline {x}} \ right) \ end {align}}}

{\ displaystyle {\ begin {align} \ operatorname {E} \ left (\ sum _ {i = 1} ^ {n} \ left [(x_ {i} - \ mu) - \ left ({\ overline {x }} - \ mu \ right) \ right] ^ {2} \ right) & = \ operatorname {E} \ left (\ left (\ sum _ {i = 1} ^ {n} (x_ {i} - \ mu) ^ {2} \ right) -n ({\ overline {x}} - \ mu) ^ {2} \ right) \\ & = \ left (\ sum _ {i = 1} ^ {n} \ operatorname {E} \ left ((x_ {i} - \ mu) ^ {2} \ right) \ right) -n \ operatorname {E} \ left (({\ overline {x}} - \ mu) ^ { 2} \ right) \\ & = \ left (\ sum _ {i = 1} ^ {n} \ operatorname {Var} (x_ {i}) \ right) -n \ operatorname {Var} \ left ({\ overline {x}} \ right) \ end {align}}}

și prin definiție,

{\begin{aligned}\operatorname {E} (s^{2})&=\operatorname {E} \left(\sum _{i=1}^{n}{\frac {(x_{i}-{\overline {x}})^{2}}{n-1}}\right)\\&={\frac {1}{n-1}}\operatorname {E} \left(\sum _{i=1}^{n}\left[(x_{i}-\mu )-\left({\overline {x}}-\mu \right)\right]^{2}\right)\\&={\frac {1}{n-1}}\left[\left(\sum _{i=1}^{n}\operatorname {Var} (x_{i})\right)-n\operatorname {Var} ({\overline {x}})\right]\end{aligned}}

{\ displaystyle {\ begin {align} \ operatorname {E} (s ^ {2}) & = \ operatorname {E} \ left (\ sum _ {i = 1} ^ {n} {\ frac {(x_ { i} - {\ overline {x}}) ^ {2}} {n-1}} \ right) \\ & = {\ frac {1} {n-1}} \ operatorname {E} \ left (\ sum _ {i = 1} ^ {n} \ left [(x_ {i} - \ mu) - \ left ({\ overline {x}} - \ mu \ right) \ right] ^ {2} \ right) \\ & = {\ frac {1} {n-1}} \ left [\ left (\ sum _ {i = 1} ^ {n} \ operatorname {Var} (x_ {i}) \ right) -n \ operatorname {Var} ({\ overline {x}}) \ right] \ end {align}}}

{\ displaystyle {\ begin {align} \ operatorname {E} (s ^ {2}) & = \ operatorname {E} \ left (\ sum _ {i = 1} ^ {n} {\ frac {(x_ { i} - {\ overline {x}}) ^ {2}} {n-1}} \ right) \\ & = {\ frac {1} {n-1}} \ operatorname {E} \ left (\ sum _ {i = 1} ^ {n} \ left [(x_ {i} - \ mu) - \ left ({\ overline {x}} - \ mu \ right) \ right] ^ {2} \ right) \\ & = {\ frac {1} {n-1}} \ left [\ left (\ sum _ {i = 1} ^ {n} \ operatorname {Var} (x_ {i}) \ right) -n \ operatorname {Var} ({\ overline {x}}) \ right] \ end {align}}}

Rețineți că din moment ce x ₁ , x ₂ ,. . . , x _n sunt un eșantion aleatoriu al unei distribuții cu varianța σ ² , rezultă că pentru toate i = 1, 2 ,. . . , n :

\operatorname {Var} (x_{i})=\sigma ^{2}

{\ displaystyle \ operatorname {Var} (x_ {i}) = \ sigma ^ {2}}

{\ displaystyle \ operatorname {Var} (x_ {i}) = \ sigma ^ {2}}

Si deasemenea

\operatorname {Var} ({\overline {x}})={\frac {\sigma ^{2}}{n}}

{\ displaystyle \ operatorname {Var} ({\ overline {x}}) = {\ frac {\ sigma ^ {2}} {n}}}

{\ displaystyle \ operatorname {Var} ({\ overline {x}}) = {\ frac {\ sigma ^ {2}} {n}}}

Aceasta este o proprietate a varianței variabilelor fără legătură, derivată din formula Bienaymé . Rezultatul necesar se obține apoi prin înlocuirea acestor două formule:

\operatorname {E} (s^{2})={\frac {1}{n-1}}\left[\sum _{i=1}^{n}\sigma ^{2}-n\sigma ^{2}/n\right]={\frac {1}{n-1}}(n\sigma ^{2}-\sigma ^{2})=\sigma ^{2}.

{\ displaystyle \ operatorname {E} (s ^ {2}) = {\ frac {1} {n-1}} \ left [\ sum _ {i = 1} ^ {n} \ sigma ^ {2} - n \ sigma ^ {2} / n \ right] = {\ frac {1} {n-1}} (n \ sigma ^ {2} - \ sigma ^ {2}) = \ sigma ^ {2}.}

{\ displaystyle \ operatorname {E} (s ^ {2}) = {\ frac {1} {n-1}} \ left [\ sum _ {i = 1} ^ {n} \ sigma ^ {2} - n \ sigma ^ {2} / n \ right] = {\ frac {1} {n-1}} (n \ sigma ^ {2} - \ sigma ^ {2}) = \ sigma ^ {2}.}

Dovada corectitudinii - alternativa 3

Discrepanța așteptată între estimatorul părtinitor și varianța reală este

{\begin{aligned}\operatorname {E} \left[\sigma ^{2}-s_{n}^{2}\right]&=\operatorname {E} \left[{\frac {1}{n}}\sum _{i=1}^{n}(x_{i}-\mu )^{2}-{\frac {1}{n}}\sum _{i=1}^{n}(x_{i}-{\overline {x}})^{2}\right]\\&=\operatorname {E} \left[{\frac {1}{n}}\sum _{i=1}^{n}\left((x_{i}^{2}-2x_{i}\mu +\mu ^{2})-(x_{i}^{2}-2x_{i}{\overline {x}}+{\overline {x}}^{2})\right)\right]\\&=\operatorname {E} \left[{\frac {1}{n}}\sum _{i=1}^{n}\left(\mu ^{2}-{\overline {x}}^{2}+2x_{i}({\overline {x}}-\mu )\right)\right]\\&=\operatorname {E} \left[\mu ^{2}-{\overline {x}}^{2}+{\frac {1}{n}}\sum _{i=1}^{n}2x_{i}({\overline {x}}-\mu )\right]\\&=\operatorname {E} \left[\mu ^{2}-{\overline {x}}^{2}+2({\overline {x}}-\mu ){\overline {x}}\right]\\&=\operatorname {E} \left[\mu ^{2}-2{\overline {x}}\mu +{\overline {x}}^{2}\right]\\&=\operatorname {E} \left[({\overline {x}}-\mu )^{2}\right]\\&=\operatorname {Var} ({\overline {x}})\\&={\frac {\sigma ^{2}}{n}}\end{aligned}}

{\ displaystyle {\ begin {align} \ operatorname {E} \ left [\ sigma ^ {2} -s_ {n} ^ {2} \ right] & = \ operatorname {E} \ left [{\ frac {1 } {n}} \ sum _ {i = 1} ^ {n} (x_ {i} - \ mu) ^ {2} - {\ frac {1} {n}} \ sum _ {i = 1} ^ {n} (x_ {i} - {\ overline {x}}) ^ {2} \ right] \\ & = \ operatorname {E} \ left [{\ frac {1} {n}} \ sum _ { i = 1} ^ {n} \ left ((x_ {i} ^ {2} -2x_ {i} \ mu + \ mu ^ {2}) - (x_ {i} ^ {2} -2x_ {i} {\ overline {x}} + {\ overline {x}} ^ {2}) \ right) \ right] \\ & = \ operatorname {E} \ left [{\ frac {1} {n}} \ sum _ {i = 1} ^ {n} \ left (\ mu ^ {2} - {\ overline {x}} ^ {2} + 2x_ {i} ({\ overline {x}} - \ mu) \ right ) \ right] \\ & = \ operatorname {E} \ left [\ mu ^ {2} - {\ overline {x}} ^ {2} + {\ frac {1} {n}} \ sum _ {i = 1} ^ {n} 2x_ {i} ({\ overline {x}} - \ mu) \ right] \\ & = \ operatorname {E} \ left [\ mu ^ {2} - {\ overline {x }} ^ {2} +2 ({\ overline {x}} - \ mu) {\ overline {x}} \ right] \\ & = \ operatorname {E} \ left [\ mu ^ {2} -2 {\ overline {x}} \ mu + {\ overline {x}} ^ {2} \ right] \\ & = \ operatorname {E} \ left [({\ overline {x}} - \ mu) ^ { 2} \ right] \\ & = \ operatorname {Var} ({\ overline {x}}) \\ & = {\ frac {\ sigma ^ {2}} {n}} \ end {align}}}

{\ displaystyle {\ begin {align} \ operatorname {E} \ left [\ sigma ^ {2} -s_ {n} ^ {2} \ right] & = \ operatorname {E} \ left [{\ frac {1 } {n}} \ sum _ {i = 1} ^ {n} (x_ {i} - \ mu) ^ {2} - {\ frac {1} {n}} \ sum _ {i = 1} ^ {n} (x_ {i} - {\ overline {x}}) ^ {2} \ right] \\ & = \ operatorname {E} \ left [{\ frac {1} {n}} \ sum _ { i = 1} ^ {n} \ left ((x_ {i} ^ {2} -2x_ {i} \ mu + \ mu ^ {2}) - (x_ {i} ^ {2} -2x_ {i} {\ overline {x}} + {\ overline {x}} ^ {2}) \ right) \ right] \\ & = \ operatorname {E} \ left [{\ frac {1} {n}} \ sum _ {i = 1} ^ {n} \ left (\ mu ^ {2} - {\ overline {x}} ^ {2} + 2x_ {i} ({\ overline {x}} - \ mu) \ right ) \ right] \\ & = \ operatorname {E} \ left [\ mu ^ {2} - {\ overline {x}} ^ {2} + {\ frac {1} {n}} \ sum _ {i = 1} ^ {n} 2x_ {i} ({\ overline {x}} - \ mu) \ right] \\ & = \ operatorname {E} \ left [\ mu ^ {2} - {\ overline {x }} ^ {2} +2 ({\ overline {x}} - \ mu) {\ overline {x}} \ right] \\ & = \ operatorname {E} \ left [\ mu ^ {2} -2 {\ overline {x}} \ mu + {\ overline {x}} ^ {2} \ right] \\ & = \ operatorname {E} \ left [({\ overline {x}} - \ mu) ^ { 2} \ right] \\ & = \ operatorname {Var} ({\ overline {x}}) \\ & = {\ frac {\ sigma ^ {2}} {n}} \ end {align}}}

Prin urmare, valoarea așteptată a estimatorului părtinitor va fi

\operatorname {E} \left[s_{n}^{2}\right]=\sigma ^{2}-{\frac {\sigma ^{2}}{n}}={\frac {n-1}{n}}\sigma ^{2}

{\ displaystyle \ operatorname {E} \ left [s_ {n} ^ {2} \ right] = \ sigma ^ {2} - {\ frac {\ sigma ^ {2}} {n}} = {\ frac { n-1} {n}} \ sigma ^ {2}}

{\ displaystyle \ operatorname {E} \ left [s_ {n} ^ {2} \ right] = \ sigma ^ {2} - {\ frac {\ sigma ^ {2}} {n}} = {\ frac { n-1} {n}} \ sigma ^ {2}}

Prin urmare, un estimator imparțial ar trebui să fie furnizat de

s^{2}={\frac {n}{n-1}}s_{n}^{2}

{\ displaystyle s ^ {2} = {\ frac {n} {n-1}} s_ {n} ^ {2}}

{\ displaystyle s ^ {2} = {\ frac {n} {n-1}} s_ {n} ^ {2}}

Intuiţie

În estimatorul părtinitor, folosind media eșantionului în loc de media adevărată, subestimăm fiecare x _i - µ cu x - µ . Știm că varianța unei sume este suma varianțelor (pentru variabilele fără legătură). Astfel, pentru a găsi discrepanța dintre estimatorul părții și varianța reală, trebuie doar să găsim valoarea așteptată de ( x - µ ) ² .

Aceasta este doar varianța mediei eșantionului , care este σ ² / n . Astfel, ne așteptăm ca estimatorul părtinitor să subestimeze σ ² din σ ² / n și, prin urmare, estimatorul părtinitor = (1 - 1 / n ) × estimatorul imparțial = ( n - 1) / n × estimatorul imparțial.

Notă

^ (EN) Nicole M Radziwill, Statistics (the easy way) with R, 2017, ISBN 978-0-9969160-5-9 ,OCLC 1030532622 .
^ WJ Reichmann, WJ (1961) Utilizarea și abuzul statisticilor , Methuen. Reeditat 1964–1970 de Pelican. Anexa 8.
^ Upton, G.; Cook, I. (2008) Oxford Dictionary of Statistics , OUP. ISBN 978-0-19-954145-4 (intrare pentru „Varianță (date)”)
^ Jeffrey S. Rosenthal, The Kids are Alright: Divide by n when estimating variance , în Buletinul Institutului de Statistică Matematică , decembrie 2015, 2015, p. 9.

Elemente conexe

linkuri externe

Portal de statistici : accesați intrările Wikipedia care se ocupă de statistici

[1] (EN) Nicole M Radziwill, Statistics (the easy way) with R, 2017, ISBN 978-0-9969160-5-9 ,OCLC 1030532622 .

[2] WJ Reichmann, WJ (1961) Utilizarea și abuzul statisticilor , Methuen. Reeditat 1964–1970 de Pelican. Anexa 8.

[3] Upton, G.; Cook, I. (2008) Oxford Dictionary of Statistics , OUP. ISBN 978-0-19-954145-4 (intrare pentru „Varianță (date)”)

[4] Jeffrey S. Rosenthal, The Kids are Alright: Divide by n when estimating variance , în Buletinul Institutului de Statistică Matematică , decembrie 2015, 2015, p. 9.

[1]

[2]

[3]

[4]