Funcția de probabilitate

În statistici , funcția de probabilitate (sau funcția de probabilitate ) este o funcție de probabilitate condiționată , considerată ca o funcție a celui de - al doilea argument al acestuia, menținând primul argument fixat.

Introducere

În jargonul colocvial, „probabilitatea” este adesea utilizată ca sinonim pentru „probabilitate”, dar în domeniul statistic există o distincție tehnică precisă. Acest exemplu clarifică diferența dintre cele două concepte: o persoană ar putea întreba: „Dacă întoarceți o monedă nefixată de 100 de ori, care este probabilitatea ca aceasta să apară tot timpul?” sau „Întrucât am răsucit o monedă de 100 de ori și a apărut de 100 de ori, care este probabilitatea ca moneda să fie falsificată?”. Schimbarea termenilor probabilitate și probabilitate în cele două propoziții ar fi greșită.

O distribuție de probabilitate care depinde de un parametru poate fi luată în considerare în două moduri diferite:

în funcție de rezultat, dată o valoare fixă a parametrului;
în funcție de parametru, dat un rezultat fix. În acest caz, funcția este numită „funcția de probabilitate” a parametrului și indică cât de probabilă este valoarea parametrului corectă în raport cu rezultatul observat.

Definiție

În mod formal, funcția de probabilitate este o funcție :

{\mathcal {L}}\colon b\mapsto P(A|B=b)

{\ displaystyle {\ mathcal {L}} \ colon b \ mapsto P (A | B = b)}

{\ displaystyle {\ mathcal {L}} \ colon b \ mapsto P (A | B = b)}

.

Din nou, o funcție de probabilitate este definită ca orice funcție proporțională cu această probabilitate . Prin urmare, funcția de probabilitate pentru $B.$ ${\ displaystyle B}$ $B.$ este clasa de funcții:

{\mathcal {L}}(b|A)=\alpha P(A|B=b)

{\ displaystyle {\ mathcal {L}} (b | A) = \ alpha P (A | B = b)}

{\ displaystyle {\ mathcal {L}} (b | A) = \ alpha P (A | B = b)}

,

pentru fiecare constantă $\alpha >0$ ${\ displaystyle \ alpha> 0}$ $\ alpha> 0$ . Datorită acestui fapt, valoarea exactă a ${\mathcal {L}}(b|A)$ ${\ displaystyle {\ mathcal {L}} (b | A)}$ ${\ displaystyle {\ mathcal {L}} (b | A)}$ în general nu este relevant; ceea ce este important sunt relațiile în formă: ${\mathcal {L}}(b_{2}|A)/{\mathcal {L}}(b_{1}|A)$ ${\ displaystyle {\ mathcal {L}} (b_ {2} | A) / {\ mathcal {L}} (b_ {1} | A)}$ ${\ displaystyle {\ mathcal {L}} (b_ {2} | A) / {\ mathcal {L}} (b_ {1} | A)}$ , invariant în raport cu constanta proporționalității.

La nivel interpretativ, utilizarea unei funcții de probabilitate este justificată de teorema lui Bayes , conform căreia, pentru oricare două evenimente $LA$ ${\ displaystyle A}$ $LA$ Și $B.$ ${\ displaystyle B}$ $B.$ :

P(B|A)={\frac {P(A|B)P(B)}{P(A)}}

{\ displaystyle P (B | A) = {\ frac {P (A | B) P (B)} {P (A)}}}

{\ displaystyle P (B | A) = {\ frac {P (A | B) P (B)} {P (A)}}}

unde este $P(A|B)$ ${\ displaystyle P (A | B)}$ $P (A | B)$ acea ${\frac {P(A|B)}{P(A)}}$ ${\ displaystyle {\ frac {P (A | B)} {P (A)}}}$ ${\ displaystyle {\ frac {P (A | B)} {P (A)}}}$ sunt funcții de probabilitate. Utilizarea funcțiilor de probabilitate în scopul inferenței statistice constituie o trăsătură distinctivă a inferenței clasice sau frecventiste ; reprezintă, de asemenea, o diferență fundamentală față de școala de inferență bayesiană, deoarece statisticianul bayesian efectuează inferența prin probabilitate $P(B|A)$ ${\ displaystyle P (B | A)}$ ${\ displaystyle P (B | A)}$ în expresia de mai sus.

fundal

Unele idei legate de funcția de probabilitate par să fi fost introduse de TN Thiele într-o lucrare din 1889 . Prima contribuție în care conceptul funcției de probabilitate este formulat în mod explicit se datorează totuși lui Ronald Fisher într-o lucrare a sa din 1922. ^[1] În această lucrare, Fisher folosește și metoda de exprimare a probabilității maxime ; argumentează și împotriva utilizării condiționării în formă $\ P(B|A)$ ${\ displaystyle \ P (B | A)}$ ${\ displaystyle \ P (B | A)}$ în expresia de mai sus, pe care a considerat-o nejustificabilă datorită elementului de subiectivitate introdus prin probabilitatea a priori (în limba care este acum tipică statisticii bayesiene ) $P(B)$ ${\ displaystyle P (B)}$ ${\ displaystyle P (B)}$ .

Funcția de probabilitate pentru un model parametric

Metoda de maximă probabilitate are cele mai relevante aplicații în practică ca metodă de estimare a modelelor parametrice. Luând în considerare un set de observații $\left\{x_{i}\right\}_{i=1}^{n}$ ${\ displaystyle \ left \ {x_ {i} \ right \} _ {i = 1} ^ {n}}$ ${\ displaystyle \ left \ {x_ {i} \ right \} _ {i = 1} ^ {n}}$ , și o familie de funcții de densitate (sau masă, în cazul distribuțiilor discrete), parametrizate de vector $\vartheta$ ${\ displaystyle \ vartheta}$ $\ vartheta$ :

\ x\mapsto f(x|\vartheta )

{\ displaystyle \ x \ mapsto f (x | \ vartheta)}

{\ displaystyle \ x \ mapsto f (x | \ vartheta)}

funcția de probabilitate asociată este:

\ {\mathcal {L}}\left(\vartheta |\left\{x_{i}\right\}_{i=1}^{n}\right)=f\left(\left\{x_{i}\right\}_{i=1}^{n}|\vartheta \right)

{\ displaystyle \ {\ mathcal {L}} \ left (\ vartheta | \ left \ {x_ {i} \ right \} _ {i = 1} ^ {n} \ right) = f \ left (\ left \ {x_ {i} \ right \} _ {i = 1} ^ {n} | \ vartheta \ right)}

{\ displaystyle \ {\ mathcal {L}} \ left (\ vartheta | \ left \ {x_ {i} \ right \} _ {i = 1} ^ {n} \ right) = f \ left (\ left \ {x_ {i} \ right \} _ {i = 1} ^ {n} | \ vartheta \ right)}

În cazul în care, după cum se presupune în mod normal, $\ x_{i}$ ${\ displaystyle \ x_ {i}}$ $\ x_ {i}$ sunt independente și distribuite identic, în plus:

\ {\mathcal {L}}\left(\vartheta |\left\{x_{i}\right\}_{i=1}^{n}\right)=\prod _{i=1}^{n}f(x_{i}|\vartheta )

{\ displaystyle \ {\ mathcal {L}} \ left (\ vartheta | \ left \ {x_ {i} \ right \} _ {i = 1} ^ {n} \ right) = \ prod _ {i = 1 } ^ {n} f (x_ {i} | \ vartheta)}

{\ displaystyle \ {\ mathcal {L}} \ left (\ vartheta | \ left \ {x_ {i} \ right \} _ {i = 1} ^ {n} \ right) = \ prod _ {i = 1 } ^ {n} f (x_ {i} | \ vartheta)}

Deoarece expresia de mai sus poate fi greu de tratat, în special în problemele de maximizare legate de metoda maximă probabilitate , este de preferat să lucram la logaritmul funcției de probabilitate, în jargonul numit log-probabilitate :

\ L\left(\vartheta |\left\{x_{i}\right\}_{i=1}^{n}\right)=\ln {\mathcal {L}}\left(\vartheta |\left\{x_{i}\right\}_{i=1}^{n}\right)=\sum _{i=1}^{n}\ln f\left(x_{i}|\vartheta \right)

{\ displaystyle \ L \ left (\ vartheta | \ left \ {x_ {i} \ right \} _ {i = 1} ^ {n} \ right) = \ ln {\ mathcal {L}} \ left (\ vartheta | \ left \ {x_ {i} \ right \} _ {i = 1} ^ {n} \ right) = \ sum _ {i = 1} ^ {n} \ ln f \ left (x_ {i} | \ vartheta \ right)}

{\ displaystyle \ L \ left (\ vartheta | \ left \ {x_ {i} \ right \} _ {i = 1} ^ {n} \ right) = \ ln {\ mathcal {L}} \ left (\ vartheta | \ left \ {x_ {i} \ right \} _ {i = 1} ^ {n} \ right) = \ sum _ {i = 1} ^ {n} \ ln f \ left (x_ {i} | \ vartheta \ right)}

Notă

^ Fisher, Despre fundamentele matematice ale statisticii teoretice .

Bibliografie

Ronald Fisher , Despre fundamentele matematice ale statisticii teoretice , în Philosophical Transactions of the Royal Society , A (222), n. 309-368, 1922.
Lauritzen, SL (1999), Aspecte ale contribuțiilor TN Thiele la statistici
DC Boes, FA Graybill, AM Mood (1988), Introducere în statistici , McGraw-Hill Libri Italia, ISBN 88-386-0661-7 , textul de referință pentru fundamentele statisticii matematice; conține mai multe capitole despre metodele de căutare a estimatorilor

Elemente conexe

Portalul de matematică : accesați intrările Wikipedia care se ocupă de matematică

[1] Fisher, Despre fundamentele matematice ale statisticii teoretice .

[1]