Metoda de maximă probabilitate

Metoda de maximă probabilitate , în statistici , este o procedură matematică pentru determinarea unui estimator . Caz particular al celei mai largi clase de metode de estimare bazate pe estimatori extremi , metoda constă în maximizarea funcției de probabilitate , definită pe baza probabilității de a observa o realizare eșantion dată, condiționată de valorile asumate de parametrii statistici care sunt evaluați . Metoda a fost dezvoltată inițial de către geneticianul și statisticistul Sir Ronald Fisher , între 1912 și 1922 .

Descriere

Filozofia metodei

Având în vedere o distribuție de probabilitate $\ D$ ${\ displaystyle \ D}$ $\ D$ , cu funcție de masă de probabilitate (sau densitate , dacă este continuă ) $\ {\mathcal {L}}_{D}$ ${\ displaystyle \ {\ mathcal {L}} _ {D}}$ $\ \ mathcal {L} _D$ , caracterizat printr-un singur parametru $\ \vartheta$ ${\ displaystyle \ \ vartheta}$ $\ \ vartheta$ , dat un eșantion de date observate $\ \left\{x_{i}\right\}_{i=1}^{n}$ ${\ displaystyle \ \ left \ {x_ {i} \ right \} _ {i = 1} ^ {n}}$ $\ \ left \ {x_ {i} \ right \} _ {i = 1} ^ {n}$ in marime $\ n$ ${\ displaystyle \ n}$ $\ n$ probabilitatea asociată cu datele observate poate fi calculată:

\ P(\left\{x_{i}\right\}_{i=1}^{n}\ |\vartheta )={\mathcal {L}}_{D}(\vartheta |\left\{x_{i}\right\}_{i=1}^{n})

{\ displaystyle \ P (\ left \ {x_ {i} \ right \} _ {i = 1} ^ {n} \ | \ vartheta) = {\ mathcal {L}} _ {D} (\ vartheta | \ stânga \ {x_ {i} \ dreapta \} _ {i = 1} ^ {n})}

\ P (\ left \ {x_ {i} \ right \} _ {i = 1} ^ {n} \ | \ vartheta) = \ mathcal {L} _ {D} (\ vartheta | \ left \ {x_ { i} \ right \} _ {i = 1} ^ {n})

Pe de altă parte, este posibil ca $\ \vartheta$ ${\ displaystyle \ \ vartheta}$ $\ \ vartheta$ este necunoscut, deși eșantionul este cunoscut a fi extras din distribuție $\ D$ ${\ displaystyle \ D}$ $\ D$ . O idee de estimat $\ \vartheta$ ${\ displaystyle \ \ vartheta}$ $\ \ vartheta$ atunci este să folosim datele disponibile pentru noi: $\ \left\{x_{i}\right\}_{i=1}^{n}$ ${\ displaystyle \ \ left \ {x_ {i} \ right \} _ {i = 1} ^ {n}}$ $\ \ left \ {x_ {i} \ right \} _ {i = 1} ^ {n}$ pentru a obține informații despre $\ \vartheta$ ${\ displaystyle \ \ vartheta}$ $\ \ vartheta$ .

Metoda de maximă probabilitate caută cea mai probabilă valoare a $\ \vartheta$ ${\ displaystyle \ \ vartheta}$ $\ \ vartheta$ , adică cercetare, în spațiu $\ \Theta$ ${\ displaystyle \ \ Theta}$ $\ \ Theta$ a tuturor valorilor posibile ale $\ \vartheta$ ${\ displaystyle \ \ vartheta}$ $\ \ vartheta$ , valoarea parametrului care maximizează probabilitatea de a fi obținut eșantionul dat. Din punct de vedere matematic, ${\mathcal {L}}_{D}(\vartheta |\left\{x_{i}\right\}_{i=1}^{n})$ ${\ displaystyle {\ mathcal {L}} _ {D} (\ vartheta | \ left \ {x_ {i} \ right \} _ {i = 1} ^ {n})}$ $\ mathcal {L} _ {D} (\ vartheta | \ left \ {x_ {i} \ right \} _ {i = 1} ^ {n})$ sau echivalent $\ {\mathcal {L}}_{D}(\vartheta |x_{1},\ldots ,x_{n})$ ${\ displaystyle \ {\ mathcal {L}} _ {D} (\ vartheta | x_ {1}, \ ldots, x_ {n})}$ $\ \ mathcal {L} _ {D} (\ vartheta | x_ {1}, \ ldots, x_ {n})$ se numește funcția de probabilitate , iar estimatorul de probabilitate maximă se obține astfel:

\ {\hat {\vartheta }}=\arg \max _{\vartheta \in \Theta }{\mathcal {L}}_{D}\left(\vartheta |x_{1},\ldots ,x_{n}\right)

{\ displaystyle \ {\ hat {\ vartheta}} = \ arg \ max _ {\ vartheta \ in \ Theta} {\ mathcal {L}} _ {D} \ left (\ vartheta | x_ {1}, \ ldots , x_ {n} \ dreapta)}

\ \ hat {\ vartheta} = \ arg \ max _ {\ vartheta \ in \ Theta} \ mathcal {L} _ {D} \ left (\ vartheta | x_ {1}, \ ldots, x_ {n} \ right )

Exemple

Pentru a ilustra metoda de maximă probabilitate, luați în considerare un eșantion $\ \{x_{i}\}_{i=1}^{n}$ ${\ displaystyle \ \ {x_ {i} \} _ {i = 1} ^ {n}}$ $\ \ {x_ {i} \} _ {i = 1} ^ {n}$ a variabilelor aleatorii distribuite identic și independent, cudistribuție normală : $\ x_{i}\sim N(\mu ,\sigma ^{2})\ \forall i$ ${\ displaystyle \ x_ {i} \ sim N (\ mu, \ sigma ^ {2}) \ \ forall i}$ $\ x_ {i} \ sim N (\ mu, \ sigma ^ {2}) \ \ forall i$ . Funcția de probabilitate asociată este:

\ {\mathcal {L}}\left(\mu ,\sigma ^{2}|\{x_{i}\}_{i}\right)=\prod _{i=1}^{n}{\frac {1}{\sqrt {2\pi \sigma ^{2}}}}\exp \left\{-{\frac {1}{2}}\left({\frac {x_{i}-\mu }{\sigma }}\right)^{2}\right\}

{\ displaystyle \ {\ mathcal {L}} \ left (\ mu, \ sigma ^ {2} | \ {x_ {i} \} _ {i} \ right) = \ prod _ {i = 1} ^ { n} {\ frac {1} {\ sqrt {2 \ pi \ sigma ^ {2}}}} \ exp \ left \ {- {\ frac {1} {2}} \ left ({\ frac {x_ { i} - \ mu} {\ sigma}} \ right) ^ {2} \ right \}}

\ \ mathcal {L} \ left (\ mu, \ sigma ^ {2} | \ {x_ {i} \} _ {i} \ right) = \ prod_ {i = 1} ^ {n} \ frac {1 } {\ sqrt {2 \ pi \ sigma ^ {2}}} \ exp \ left \ {- \ frac {1} {2} \ left (\ frac {x_ {i} - \ mu} {\ sigma} \ dreapta) ^ {2} \ right \}

Maximizarea funcției de probabilitate este echivalentă cu maximizarea logaritmului său:

\ L\left(\mu ,\sigma ^{2}|\{x_{i}\}_{i}\right)=\ln {\mathcal {L}}\left(\mu ,\sigma ^{2}|\{x_{i}\}_{i}\right)=-{\frac {n}{2}}\ln(2\pi \sigma ^{2})-{\frac {1}{2}}\sum _{i=1}^{n}\left({\frac {x_{i}-\mu }{\sigma }}\right)^{2}

{\ displaystyle \ L \ left (\ mu, \ sigma ^ {2} | \ {x_ {i} \} _ {i} \ right) = \ ln {\ mathcal {L}} \ left (\ mu, \ sigma ^ {2} | \ {x_ {i} \} _ {i} \ right) = - {\ frac {n} {2}} \ ln (2 \ pi \ sigma ^ {2}) - {\ frac {1} {2}} \ sum _ {i = 1} ^ {n} \ left ({\ frac {x_ {i} - \ mu} {\ sigma}} \ right) ^ {2}}

\ L \ left (\ mu, \ sigma ^ {2} | \ {x_ {i} \} _ {i} \ right) = \ ln \ mathcal {L} \ left (\ mu, \ sigma ^ {2} | \ {x_ {i} \} _ {i} \ right) = - \ frac {n} {2} \ ln (2 \ pi \ sigma ^ {2}) - \ frac {1} {2} \ sum_ {i = 1} ^ {n} \ left (\ frac {x_ {i} - \ mu} {\ sigma} \ right) ^ {2}

Parametrii $\ \mu$ ${\ displaystyle \ \ mu}$ $\ \ mu$ Și $\ \sigma ^{2}$ ${\ displaystyle \ \ sigma ^ {2}}$ $\ \ sigma ^ {{2}}$ sunt determinate prin rezolvarea problemei maxime:

\ \{\mu ,\sigma ^{2}\}=\arg \max _{\mu ,\sigma ^{2}}L\left(\mu ,\sigma ^{2}|\{x_{i}\}_{i}\right)

{\ displaystyle \ \ {\ mu, \ sigma ^ {2} \} = \ arg \ max _ {\ mu, \ sigma ^ {2}} L \ left (\ mu, \ sigma ^ {2} | \ { x_ {i} \} _ {i} \ right)}

\ \ {\ mu, \ sigma ^ {2} \} = \ arg \ max _ {\ mu, \ sigma ^ {2}} L \ left (\ mu, \ sigma ^ {2} | \ {x_ {i } \} _ {i} \ dreapta)

Condițiile de primă ordine pentru un maxim definesc următorul sistem de ecuații în $\ \mu$ ${\ displaystyle \ \ mu}$ $\ \ mu$ Și $\ \sigma ^{2}$ ${\ displaystyle \ \ sigma ^ {2}}$ $\ \ sigma ^ {{2}}$ :

\ {\frac {\partial L}{\partial \mu }}={\frac {1}{{\hat {\sigma }}^{2}}}\sum _{i}(x_{i}-{\hat {\mu }})=0

{\ displaystyle \ {\ frac {\ partial L} {\ partial \ mu}} = {\ frac {1} {{\ hat {\ sigma}} ^ {2}}} \ sum _ {i} (x_ { i} - {\ hat {\ mu}}) = 0}

\ \ frac {\ partial L} {\ partial \ mu} = \ frac {1} {\ hat {\ sigma} ^ {2}} \ sum_ {i} (x_ {i} - \ hat {\ mu}) = 0

\ {\frac {\partial L}{\partial \sigma ^{2}}}=-{\frac {n}{2}}{\frac {1}{{\hat {\sigma }}^{2}}}+{\frac {1}{2{\hat {\sigma }}^{4}}}\sum _{i}(x_{i}-{\hat {\mu }})^{2}=0

{\ displaystyle \ {\ frac {\ partial L} {\ partial \ sigma ^ {2}}} = - {\ frac {n} {2}} {\ frac {1} {{\ hat {\ sigma}} ^ {2}}} + {\ frac {1} {2 {\ hat {\ sigma}} ^ {4}}} \ sum _ {i} (x_ {i} - {\ hat {\ mu}}) ^ {2} = 0}

\ \ frac {\ partial L} {\ partial \ sigma ^ {2}} = - \ frac {n} {2} \ frac {1} {\ hat {\ sigma} ^ {2}} + \ frac {1 } {2 \ hat {\ sigma} ^ {4}} \ sum_ {i} (x_ {i} - \ hat {\ mu}) ^ {2} = 0

unde semnele superindice de deasupra parametrilor denotă estimatorii lor. Estimatorul de maximă probabilitate pentru medie urmează imediat din prima ecuație :

\ {\hat {\mu }}={\frac {1}{n}}\sum _{i=1}^{n}x_{i}

{\ displaystyle \ {\ hat {\ mu}} = {\ frac {1} {n}} \ sum _ {i = 1} ^ {n} x_ {i}}

\ \ hat {\ mu} = \ frac {1} {n} \ sum_ {i = 1} ^ {n} x_ {i}

aceasta este media eșantionului . Varianța estimatorului $\ {\hat {\mu }}$ ${\ displaystyle \ {\ hat {\ mu}}}$ $\ \ hat {\ mu}$ este dat de următoarea expresie ^[1] :

\ {\textrm {var}}({\hat {\mu }})={\textrm {var}}\left({\frac {1}{n}}\sum _{i=1}^{n}x_{i}\right)={\frac {1}{n^{2}}}\sum _{i=1}^{n}{\textrm {var}}(x_{i})={\frac {\sigma ^{2}}{n}}

{\ displaystyle \ {\ textrm {var}} ({\ hat {\ mu}}) = {\ textrm {var}} \ left ({\ frac {1} {n}} \ sum _ {i = 1} ^ {n} x_ {i} \ right) = {\ frac {1} {n ^ {2}}} \ sum _ {i = 1} ^ {n} {\ textrm {var}} (x_ {i} ) = {\ frac {\ sigma ^ {2}} {n}}}

\ \ textrm {var} (\ hat {\ mu}) = \ textrm {var} \ left (\ frac {1} {n} \ sum_ {i = 1} ^ {n} x_ {i} \ right) = \ frac {1} {n ^ {2}} \ sum_ {i = 1} ^ {n} \ textrm {var} (x_ {i}) = \ frac {\ sigma ^ {2}} {n}

Prin înlocuire $\ {\hat {\mu }}$ ${\ displaystyle \ {\ hat {\ mu}}}$ $\ \ hat {\ mu}$ în a doua ecuație , avem estimatorul de probabilitate maximă pentru varianță :

\ {\hat {\sigma }}^{2}={\frac {1}{n}}\sum _{i=1}^{n}(x_{i}-{\hat {\mu }})^{2}

{\ displaystyle \ {\ hat {\ sigma}} ^ {2} = {\ frac {1} {n}} \ sum _ {i = 1} ^ {n} (x_ {i} - {\ hat {\ mu}}) ^ {2}}

\ \ hat {\ sigma} ^ {2} = \ frac {1} {n} \ sum_ {i = 1} ^ {n} (x_ {i} - \ hat {\ mu}) ^ {2}

adică varianța eșantionului .

Exemplul este deosebit de potrivit, deoarece permite ilustrarea unor proprietăți ale estimatorilor de maximă probabilitate. Este imediat să se verifice corectitudinea (sau imparțialitatea ) $\ {\hat {\mu }}$ ${\ displaystyle \ {\ hat {\ mu}}}$ $\ \ hat {\ mu}$ :

\ {\textrm {E}}[{\hat {\mu }}]={\textrm {E}}\left[{\frac {1}{n}}\sum _{i=1}^{n}x_{i}\right]={\frac {1}{n}}\sum _{i=1}^{n}{\textrm {E}}[x_{i}]=\mu

{\ displaystyle \ {\ textrm {E}} [{\ hat {\ mu}}] = {\ textrm {E}} \ left [{\ frac {1} {n}} \ sum _ {i = 1} ^ {n} x_ {i} \ right] = {\ frac {1} {n}} \ sum _ {i = 1} ^ {n} {\ textrm {E}} [x_ {i}] = \ mu }

\ \ textrm {E} [\ hat {\ mu}] = \ textrm {E} \ left [\ frac {1} {n} \ sum_ {i = 1} ^ {n} x_ {i} \ right] = \ frac {1} {n} \ sum_ {i = 1} ^ {n} \ textrm {E} [x_ {i}] = \ mu

Pe de altă parte, $\ {\hat {\sigma }}^{2}$ ${\ displaystyle \ {\ hat {\ sigma}} ^ {2}}$ $\ \ hat {\ sigma} ^ {2}$ nu se bucură de această proprietate. Amintindu-mi că:

\ \sum _{i}(x_{i}-\mu )^{2}=\sum _{i}(x_{i}-{\hat {\mu }})^{2}+n({\hat {\mu }}-\mu )^{2}

{\ displaystyle \ \ sum _ {i} (x_ {i} - \ mu) ^ {2} = \ sum _ {i} (x_ {i} - {\ hat {\ mu}}) ^ {2} + n ({\ hat {\ mu}} - \ mu) ^ {2}}

\ \ sum_ {i} (x_ {i} - \ mu) ^ {2} = \ sum_ {i} (x_ {i} - \ hat {\ mu}) ^ {2} + n (\ hat {\ mu } - \ mu) ^ {2}

rezultă că:

\ {\textrm {E}}[{\hat {\sigma }}^{2}]={\frac {1}{n}}{\textrm {E}}\left(\sum _{i=1}^{n}(x_{i}-{\hat {\mu }})^{2}\right)={\frac {1}{n}}{\textrm {E}}\left[\sum _{i}(x_{i}-\mu )^{2}-n({\hat {\mu }}-\mu )^{2}\right]={\frac {n-1}{n}}\sigma ^{2}

{\ displaystyle \ {\ textrm {E}} [{\ hat {\ sigma}} ^ {2}] = {\ frac {1} {n}} {\ textrm {E}} \ left (\ sum _ { i = 1} ^ {n} (x_ {i} - {\ hat {\ mu}}) ^ {2} \ right) = {\ frac {1} {n}} {\ textrm {E}} \ left [\ sum _ {i} (x_ {i} - \ mu) ^ {2} -n ({\ hat {\ mu}} - \ mu) ^ {2} \ right] = {\ frac {n-1 } {n}} \ sigma ^ {2}}

\ \ textrm {E} [\ hat {\ sigma} ^ {2}] = \ frac {1} {n} \ textrm {E} \ left (\ sum_ {i = 1} ^ {n} (x_ {i } - \ hat {\ mu}) ^ {2} \ right) = \ frac {1} {n} \ textrm {E} \ left [\ sum_ {i} (x_ {i} - \ mu) ^ {2 } -n (\ hat {\ mu} - \ mu) ^ {2} \ right] = \ frac {n-1} {n} \ sigma ^ {2}

Asa de $\ {\hat {\sigma }}^{2}$ ${\ displaystyle \ {\ hat {\ sigma}} ^ {2}}$ $\ \ hat {\ sigma} ^ {2}$ nu este un estimator corect ; un astfel de estimator ar fi dat de statistici:

\ {\hat {s}}^{2}={\frac {1}{n-1}}\sum _{i=1}^{n}(x_{i}-{\hat {\mu }})^{2}

{\ displaystyle \ {\ hat {s}} ^ {2} = {\ frac {1} {n-1}} \ sum _ {i = 1} ^ {n} (x_ {i} - {\ hat { \ mu}}) ^ {2}}

\ \ hat {s} ^ {2} = \ frac {1} {n-1} \ sum_ {i = 1} ^ {n} (x_ {i} - \ hat {\ mu}) ^ {2}

Pe de altă parte, este demn de remarcat faptul că estimatorul de maximă probabilitate este în orice caz un estimator corect asimptotic ; intr-adevar:

\ \lim _{n\rightarrow \infty }{\textrm {E}}[{\hat {\sigma }}^{2}]=\lim _{n\rightarrow \infty }{\frac {n-1}{n}}\sigma ^{2}=\sigma ^{2}

{\ displaystyle \ \ lim _ {n \ rightarrow \ infty} {\ textrm {E}} [{\ hat {\ sigma}} ^ {2}] = \ lim _ {n \ rightarrow \ infty} {\ frac { n-1} {n}} \ sigma ^ {2} = \ sigma ^ {2}}

\ \ lim_ {n \ rightarrow \ infty} \ textrm {E} [\ hat {\ sigma} ^ {2}] = \ lim_ {n \ rightarrow \ infty} \ frac {n-1} {n} \ sigma ^ {2} = \ sigma ^ {2}

În special, orice estimator de maximă probabilitate este asimptotic corect și asimptoticdistribuit în mod normal .

Expresia pentru varianța estimatorului $\ {\hat {\sigma }}^{2}$ ${\ displaystyle \ {\ hat {\ sigma}} ^ {2}}$ $\ \ hat {\ sigma} ^ {2}$ este dincolo de scopul acestui exemplu.

Este interesant de observat că estimatorii derivați în această secțiune sunt identici cu cei care pot fi obținuți, în aceleași condiții, folosind metoda momentului ; pentru evitarea îndoielii, trebuie remarcat faptul că cele două metode de cercetare a estimatorilor nu conduc neapărat la identificarea aceluiași estimatori în condiții mai generale.

Cazuri patologice

Dincolo de problemele evidențiate în exemplele de mai sus, alte dificultăți mai generale pot fi asociate cu estimatorii de maximă probabilitate.

Este posibil ca valoarea estimatorului de maximă probabilitate să nu aparțină spațiului parametrilor $\ \Theta$ ${\ displaystyle \ \ Theta}$ $\ \ Theta$ . Luați în considerare cazul unui eșantion $\ \left\{X_{i}\right\}_{i=1}^{n}$ ${\ displaystyle \ \ left \ {X_ {i} \ right \} _ {i = 1} ^ {n}}$ $\ \ left \ {X_i \ right \} _ {i = 1} ^ n$ de vc distribuite identic și independent, cu parametrul distribuție Poisson $\lambda >0$ ${\ displaystyle \ lambda> 0}$ $\ lambda> 0$ . Funcția de probabilitate asociată este:

\ {\mathcal {L}}\left(\lambda |\left\{X_{i}\right\}_{i=1}^{n}\right)={\frac {e^{-n\lambda }\lambda ^{\sum _{i}X_{i}}}{\prod _{i=1}^{n}X_{i}!}}

{\ displaystyle \ {\ mathcal {L}} \ left (\ lambda | \ left \ {X_ {i} \ right \} _ {i = 1} ^ {n} \ right) = {\ frac {e ^ { -n \ lambda} \ lambda ^ {\ sum _ {i} X_ {i}}} {\ prod _ {i = 1} ^ {n} X_ {i}!}}}

\ \ mathcal {L} \ left (\ lambda | \ left \ {X_i \ right \} _ {i = 1} ^ n \ right) = \ frac {e ^ {- n \ lambda} \ lambda ^ {\ sum_i X_i}} {\ prod_ {i = 1} ^ n X_i!}

Astfel, rezultă funcția log-probabilitate:

\ L\left(\lambda |\left\{X_{i}\right\}_{i=1}^{n}\right)=-n\lambda +\ln \lambda \sum _{i}X_{i}-\ln \left(\prod _{i=1}^{n}X_{i}!\right)

{\ displaystyle \ L \ left (\ lambda | \ left \ {X_ {i} \ right \} _ {i = 1} ^ {n} \ right) = - n \ lambda + \ ln \ lambda \ sum _ { i} X_ {i} - \ ln \ left (\ prod _ {i = 1} ^ {n} X_ {i}! \ right)}

\ L \ left (\ lambda | \ left \ {X_i \ right \} _ {i = 1} ^ n \ right) = - n \ lambda + \ ln \ lambda \ sum_iX_i- \ ln \ left (\ prod_ {i = 1} ^ n X_i! \ Dreapta)

Prin urmare, estimatorul maxim al probabilității ar fi $\ {\hat {\lambda }}={\frac {1}{n}}\sum _{i}X_{i}$ ${\ displaystyle \ {\ hat {\ lambda}} = {\ frac {1} {n}} \ sum _ {i} X_ {i}}$ $\ \ hat {\ lambda} = \ frac {1} {n} \ sum_iX_i$ . Cu toate acestea, presupuneți că $\ {\bar {X}}={\frac {1}{n}}\sum _{i}X_{i}=0$ ${\ displaystyle \ {\ bar {X}} = {\ frac {1} {n}} \ sum _ {i} X_ {i} = 0}$ $\ \ bar {X} = \ frac {1} {n} \ sum_iX_i = 0$ ; atâta timp cât $\ 0\notin \Theta =\mathbb {R} _{+}$ ${\ displaystyle \ 0 \ notin \ Theta = \ mathbb {R} _ {+}}$ $\ 0 \ notin \ Theta = \ mathbb {R} _ {+}$ , estimarea obținută cu metoda probabilității maxime nu este admisibilă.

La prima vedere, problema poate părea a fi un detaliu matematic de mică relevanță în practică; cu toate acestea, domeniul său de aplicare în aplicații este mai relevant decât pare. Rămânând în contextul exemplului prezentat mai sus, rețineți că variabila aleatorie Poissoniană este adesea utilizată ca model pentru numărul de sosiri la ghișeu, birou, stație de autobuz etc. (aceasta este o aplicație a teoriei de așteptare , care se referă la procesul Poisson mai precis); în acest context, $\lambda$ ${\ displaystyle \ lambda}$ $\ lambda$ reprezintă rata așteptată a sosirilor pe unitate de timp. Este clar că să speculezi $\lambda =0$ ${\ displaystyle \ lambda = 0}$ $\ lambda = 0$ într-o oarecare măsură distorsionează procesul examinat: se poate întâmpla că, în intervalul de timp corespunzător eșantionului utilizat pentru estimare, niciun client să nu fi ajuns la ghișeu (niciun pasager la stația de autobuz etc.); acest lucru nu înseamnă că niciun client (sau pasager etc.) nu ar trebui să sosească vreodată!

În plus, estimatorul de maximă probabilitate nu este neapărat unic . Luați în considerare, de exemplu, cazul unui eșantion $\ \left\{X_{i}\right\}_{i=1}^{n}$ ${\ displaystyle \ \ left \ {X_ {i} \ right \} _ {i = 1} ^ {n}}$ $\ \ left \ {X_i \ right \} _ {i = 1} ^ {n}$ a variabilelor aleatorii distribuite identic și independent, având distribuție uniformă pe interval $\ [\vartheta -1/2,\vartheta +1/2]$ ${\ displaystyle \ [\ vartheta -1/2, \ vartheta +1/2]}$ $\ [\ vartheta-1/2, \ vartheta + 1/2]$ , cu $\ \vartheta \in \mathbb {R}$ ${\ displaystyle \ \ vartheta \ in \ mathbb {R}}$ $\ \ vartheta \ in \ mathbb {R}$ . Funcția de probabilitate asociată este:

\ {\mathcal {L}}(\vartheta |\left\{X_{i}\right\}_{i=1}^{n})=\mathbf {1} _{\left\{X_{i}\in [\vartheta -{\frac {1}{2}},\vartheta +{\frac {1}{2}}],\ i=1,\ldots ,n\right\}}

{\ displaystyle \ {\ mathcal {L}} (\ vartheta | \ left \ {X_ {i} \ right \} _ {i = 1} ^ {n}) = \ mathbf {1} _ {\ left \ { X_ {i} \ in [\ vartheta - {\ frac {1} {2}}, \ vartheta + {\ frac {1} {2}}], \ i = 1, \ ldots, n \ right \}} }

\ \ mathcal {L} (\ vartheta | \ left \ {X_i \ right \} _ {i = 1} ^ n) = \ mathbf {1} _ {\ left \ {X_i \ in [\ vartheta- \ frac { 1} {2}, \ vartheta + \ frac {1} {2}], \ i = 1, \ ldots, n \ right \}}

unde este $\ \mathbf {1}$ ${\ displaystyle \ \ mathbf {1}}$ $\ {\ mathbf {1}}$ denotă funcția indicator . Să presupunem că eșantionul este sortat în așa fel încât:

\ X_{1}\leq X_{2}\leq \cdots \leq X_{n}

{\ displaystyle \ X_ {1} \ leq X_ {2} \ leq \ cdots \ leq X_ {n}}

\ X_1 \ leq X_2 \ leq \ cdots \ leq X_n

(această ipoteză este legitimă ca $\ X_{i}$ ${\ displaystyle \ X_ {i}}$ $\ X_i$ sunt distribuite independent). Este ușor să arăți că:

\ {\mathcal {L}}(\vartheta |\left\{X_{i}\right\}_{i=1}^{n})=\left\{{\begin{matrix}1&\iff &X_{n}-{\frac {1}{2}}\leq \vartheta \leq X_{1}+{\frac {1}{2}}\\0&&{\textrm {altrimenti}}\end{matrix}}\right.

{\ displaystyle \ {\ mathcal {L}} (\ vartheta | \ left \ {X_ {i} \ right \} _ {i = 1} ^ {n}) = \ left \ {{\ begin {matrix} 1 & \ iff & X_ {n} - {\ frac {1} {2}} \ leq \ vartheta \ leq X_ {1} + {\ frac {1} {2}} \\ 0 && {\ textrm {altfel} } \ end {matrix}} \ right.}

\ \ mathcal {L} (\ vartheta | \ left \ {X_i \ right \} _ {i = 1} ^ n) = \ left \ {\ begin {matrix} 1 & \ iff & X_n- \ frac {1} {2} \ leq \ vartheta \ leq X_1 + \ frac {1} {2} \\ 0 & & \ textrm {altfel} \ end {matrix} \ right.

Rezultă că estimatorul de maximă probabilitate pentru $\ \vartheta$ ${\ displaystyle \ \ vartheta}$ $\ \ vartheta$ este unic dacă și numai dacă $\ X_{n}-X_{1}=1$ ${\ displaystyle \ X_ {n} -X_ {1} = 1}$ $\ X_n-X_1 = 1$ ; în caz contrar, un număr infinit de valori ale estimatorului $\ {\hat {\vartheta }}$ ${\ displaystyle \ {\ hat {\ vartheta}}}$ $\ {\ hat {\ vartheta}}$ maximizează funcția de probabilitate.

Proprietățile estimatorilor de maximă probabilitate

Invarianța funcțională

De sine $\ {\hat {\vartheta }}$ ${\ displaystyle \ {\ hat {\ vartheta}}}$ $\ {\ hat {\ vartheta}}$ este estimatorul de maximă probabilitate pentru parametru $\ \vartheta$ ${\ displaystyle \ \ vartheta}$ $\ \ vartheta$ , apoi estimatorul de maximă probabilitate pentru $\ \alpha =g\left(\vartheta \right)$ ${\ displaystyle \ \ alpha = g \ left (\ vartheta \ right)}$ $\ \ alpha = g \ left (\ vartheta \ right)$ Și $\ {\hat {\alpha }}=g\left({\hat {\vartheta }}\right)$ ${\ displaystyle \ {\ hat {\ alpha}} = g \ left ({\ hat {\ vartheta}} \ right)}$ $\ \ hat {\ alpha} = g \ left (\ hat {\ vartheta} \ right)$ , acest lucru se aplică tuturor $\ g$ ${\ displaystyle \ g}$ $\ g$ , indiferent dacă este o funcție bijectivă .

Deformare

Estimatorii probabilității maxime, așa cum se ilustrează în exemple, pot fi distorsionați (adică incorecți sau părtinitori față de limba engleză), de asemenea într-un mod consecvent. Pe de altă parte, acestea sunt corecte asimptotic .

Eficiență și comportament asimptotic

Estimatorii de maximă probabilitate nu ating, în general, limita inferioară pentru varianța stabilită de rezultatul Cramér-Rao , dar o realizează asimptotic, adică varianța se abate de la limita inferioară Cramér-Rao cu o cantitate infinitesimală pe măsură ce n crește. Mai mult, estimatorii de probabilitate maximă suntdistribuiți în mod normal asimptotic.

Notă

^ Rețineți proprietățile de linearitate ale varianței .

Bibliografie

DC Boes, FA Graybill, AM Mood (1988), Introducere în statistici , McGraw-Hill Libri Italia, ISBN 88-386-0661-7 (text despre fundamentele statisticii matematice, cu mai multe capitole despre metodele de cercetare a estimatorilor )

Elemente conexe

Alte proiecte

Wikimedia Commons conține imagini sau alte fișiere cu metoda de maximă probabilitate

linkuri externe

Metoda de maximă probabilitate , pe Treccani.it - Enciclopedii online , Institutul Enciclopediei Italiene .
Metoda de maximă probabilitate , în Dicționar de economie și finanțe , Institutul Enciclopediei Italiene, 2012.

Controlul autorității	Tezaur BNCF 57804

Portalul Economiei

Portalul de statistici

[1] Rețineți proprietățile de linearitate ale varianței .

[1]

V · D · M Statistici
Statisticile descriptive	Medii ( aritmetice · geometrice · armonioase · Putere · aritmetice și geometrice · Integrale ) · Mediană · Modă · interval de variație · varianță · Deviație standard · deviație absolută medie · Simetrie · Diferență medie ( absolută · logaritmică ) · Curtosi
Inferință statistică	Test de testare a ipotezei · Semnificație · Ipoteză nulă / alternativă · Eroare I și tip II · Test Q · U test · Test t · Z Test · Probabilitate maximă · Standardizare · valoare p · Analiza variației
Analiza supraviețuirii	Rată de eșec · Estimator Kaplan-Meier · test log-rank
Analiza regresiei	Regresie liniară · Regresie neliniară · variabile instrumentale · metodă generalizată a momentelor · Regresie logistică · Model probit · Model logit