Distribuția beta-binomială

În teoria probabilității, distribuția aleatorie beta-binomială este o familie de distribuții de probabilitate discrete care pot fi văzute ca o generalizare a distribuției binomiale . Descrie distribuția numărului de succese pe n experimente independente da / nu, dar, spre deosebire de distribuția binomială, probabilitatea de succes nu este un parametru fix π, ci este o valoare distribuită ca variabilă aleatorie Beta B (a, b). Este de fapt un amestec de binomii în care parametrul π are o distribuție beta.

Distribuția beta-binomială depinde de trei parametri: n , a , b .

Definiție

Dacă X ~ BeB (n, a, b) este o variabilă aleatorie distribuită ca o variabilă aleatoare beta-binomială cu parametrii n , a , b atunci pentru $x\geq 0$ ${\ displaystyle x \ geq 0}$ $x \ geq 0$

P(X=x)=C{n \choose x}\Gamma (a+x)\Gamma (b+n-x)

{\ displaystyle P (X = x) = C {n \ alege x} \ Gamma (a + x) \ Gamma (b + nx)}

{\ displaystyle P (X = x) = C {n \ alege x} \ Gamma (a + x) \ Gamma (b + n-x)}

unde constanta C este dată de

C={\frac {\Gamma (a+b)}{\Gamma (a)\Gamma (b)\Gamma (a+b+n)}}

{\ displaystyle C = {\ frac {\ Gamma (a + b)} {\ Gamma (a) \ Gamma (b) \ Gamma (a + b + n)}}}

{\ displaystyle C = {\ frac {\ Gamma (a + b)} {\ Gamma (a) \ Gamma (b) \ Gamma (a + b + n)}}}

Și $\Gamma ()$ ${\ displaystyle \ Gamma ()}$ ${\ displaystyle \ Gamma ()}$ este funcția gamma .

O modalitate alternativă de a descrie BeB (n, a, b) este dată de

P(X=x)={n \choose x}{\frac {\mathrm {B} (a+x,b+n-x)}{\mathrm {B} (a,b)}}

{\ displaystyle P (X = x) = {n \ alege x} {\ frac {\ mathrm {B} (a + x, b + nx)} {\ mathrm {B} (a, b)}}}

{\ displaystyle P (X = x) = {n \ alege x} {\ frac {\ mathrm {B} (a + x, b + n-x)} {\ mathrm {B} (a, b)}}}

unde este $\mathrm {B} ()$ ${\ displaystyle \ mathrm {B} ()}$ ${\ displaystyle \ mathrm {B} ()}$ este funcția beta a lui Euler .

Caracteristici

Valoarea așteptată depinde de toți cei trei parametri

E(X)=n{\frac {a}{a+b}}

{\ displaystyle E (X) = n {\ frac {a} {a + b}}}

{\ displaystyle E (X) = n {\ frac {a} {a + b}}}

precum și varianța

Var(X)=n{\frac {ab}{(a+b)^{2}}}{\frac {a+b+n}{a+b+1}}

{\ displaystyle Var (X) = n {\ frac {ab} {(a + b) ^ {2}}} {\ frac {a + b + n} {a + b + 1}}}

{\ displaystyle Var (X) = n {\ frac {ab} {(a + b) ^ {2}}} {\ frac {a + b + n} {a + b + 1}}}

asimetria este indicată cu

(a+b+2n){\frac {b-a}{a+b+2}}{\sqrt {\frac {1+a+b}{nab(n+a+b)}}}

{\ displaystyle (a + b + 2n) {\ frac {ba} {a + b + 2}} {\ sqrt {\ frac {1 + a + b} {nab (n + a + b)}}}

{\ displaystyle (a + b + 2n) {\ frac {b-a} {a + b + 2}} {\ sqrt {\ frac {1 + a + b} {nab (n + a + b)}}}}

=

(a+b+2n){\frac {b-a}{a+b+2}}\ {\frac {1}{a+b}}{\sqrt {\frac {1}{Var(X)}}}

{\ displaystyle (a + b + 2n) {\ frac {ba} {a + b + 2}} \ {\ frac {1} {a + b}} {\ sqrt {\ frac {1} {Var (X )}}}}

{\ displaystyle (a + b + 2n) {\ frac {ba} {a + b + 2}} \ {\ frac {1} {a + b}} {\ sqrt {\ frac {1} {Var (X )}}}}

Folosind notația $p={\frac {a}{a+b}}$ ${\ displaystyle p = {\ frac {a} {a + b}}}$ ${\ displaystyle p = {\ frac {a} {a + b}}}$ valoarea și varianța așteptate pot fi descrise într-o formă care seamănă cu cea a variabilei aleatoare binomiale.

E(X)=n{\frac {a}{a+b}}=np

{\ displaystyle E (X) = n {\ frac {a} {a + b}} = np}

{\ displaystyle E (X) = n {\ frac {a} {a + b}} = np}

Var(X)=n{\frac {ab}{(a+b)^{2}}}{\frac {a+b+n}{a+b+1}}=np(1-p){\frac {a+b+n}{a+b+1}}

{\ displaystyle Var (X) = n {\ frac {ab} {(a + b) ^ {2}}} {\ frac {a + b + n} {a + b + 1}} = np (1- p) {\ frac {a + b + n} {a + b + 1}}}

{\ displaystyle Var (X) = n {\ frac {ab} {(a + b) ^ {2}}} {\ frac {a + b + n} {a + b + 1}} = np (1- p) {\ frac {a + b + n} {a + b + 1}}}

din care se observă că cu aceeași valoare așteptată (și n ) variabila aleatoare beta-binomială are întotdeauna o varianță mai mare decât variabila aleatoare binomială.

iar asimitria este indicată cu

{\frac {1-2p}{\sqrt {Var(X)}}}{\frac {a+b+2n}{a+b+2}}

{\ displaystyle {\ frac {1-2p} {\ sqrt {Var (X)}}} {\ frac {a + b + 2n} {a + b + 2}}}

{\ displaystyle {\ frac {1-2p} {\ sqrt {Var (X)}}} {\ frac {a + b + 2n} {a + b + 2}}}

={\frac {1-2p}{\sqrt {np(1-p)}}}{\frac {a+b+2n}{a+b+2}}{\sqrt {\frac {a+b+1}{a+b+n}}}

{\ displaystyle = {\ frac {1-2p} {\ sqrt {np (1-p)}}} {\ frac {a + b + 2n} {a + b + 2}} {\ sqrt {\ frac { a + b + 1} {a + b + n}}}}

{\ displaystyle = {\ frac {1-2p} {\ sqrt {np (1-p)}}} {\ frac {a + b + 2n} {a + b + 2}} {\ sqrt {\ frac { a + b + 1} {a + b + n}}}}

și astfel, de asemenea, în acest caz devine evident modul în care asimetria beta-binomului este întotdeauna mai mare decât asimetria binomului, cu aceeași valoare așteptată (și n ).

Cazuri speciale

În cazul în care a = 1 și b = 1, atunci este o variabilă aleatorie uniformă discretă cu P (X = x) = 1 / (n + 1) deoarece există n + 1 valori posibile.

Domenii de aplicare

Variabila aleatoare beta-binomială este potrivită pentru descrierea fenomenelor descrise de obicei de variabila aleatoare binomială, cu toate acestea, dacă probabilitatea variază.

Un posibil caz este de a prezice câte becuri se vor arde în decurs de 1 an de la instalare știind că probabilitatea ca acestea să se ardă nu este aceeași pentru toți, dar poate fi descrisă de o variabilă aleatorie Beta.

În mod similar, dacă ne confruntăm cu un model care ar trebui descris de o variabilă aleatoare binomială, dar unde datele arată o distribuție foarte „mare”, atunci se poate suspecta că probabilitatea evenimentelor nu este constantă, dar variază în jurul valorii ca în modelul beta-binomial.

Exemple

Probabilitatea de a extrage X bile roșii dintr-o urnă a cărei compoziție este cunoscută doar aproximativ

Un model

În contextul inferenței bayesiene , dintr-o urnă din care numărul de bile prezente este ignorat, dar care din extracțiile anterioare pare că există un procent de bile roșii care variază ca o variabilă aleatorie Beta (a, b), trebuie extrasă (și reintrodus de fiecare dată) n bile. Întrebarea este care este probabilitatea ca x dintre acestea să fie roșii. Răspunsul se află în variabila aleatorie BetaB (n, a, b)

Exemplu numeric

Plecând de la un concept de ignoranță completă care ne conduce să descriem distribuția a priori ca o variabilă aleatorie uniformă continuă și, prin urmare, ca o Beta (1,1), se extrag 15 bile, dintre care doar una este roșie. În acest fel, probabilitatea posterioară devine o variabilă aleatorie Beta (1 + 1,1 + 14) = Beta (2,15).

În acest moment, se decide efectuarea unei extracții suplimentare de 40 de bile și întrebarea este care este probabilitatea ca exact două dintre acestea să fie roșii.

Deoarece în această a doua extracție probabilitatea P (X = x) este cea a unei variabile aleatorii BetaB (40,2,15) obținem că

P(X=2|n=40,a=2,b=15)=C{40 \choose 2}\Gamma (2+2)\Gamma (15+40-2)

{\ displaystyle P (X = 2 | n = 40, a = 2, b = 15) = C {40 \ alege 2} \ Gamma (2 + 2) \ Gamma (15 + 40-2)}

{\ displaystyle P (X = 2 | n = 40, a = 2, b = 15) = C {40 \ alege 2} \ Gamma (2 + 2) \ Gamma (15 + 40-2)}

unde este

C={\frac {\Gamma (2+15)}{\Gamma (2)\Gamma (15)\Gamma (2+15+40)}}

{\ displaystyle C = {\ frac {\ Gamma (2 + 15)} {\ Gamma (2) \ Gamma (15) \ Gamma (2 + 15 + 40)}}}

{\ displaystyle C = {\ frac {\ Gamma (2 + 15)} {\ Gamma (2) \ Gamma (15) \ Gamma (2 + 15 + 40)}}}

și a fi ${40 \choose 2}=780$ ${\ displaystyle {40 \ choose 2} = 780}$ ${\ displaystyle {40 \ choose 2} = 780}$ și în plus fiind în general $\Gamma (k)=(k-1)!$ ${\ displaystyle \ Gamma (k) = (k-1)!}$ ${\ displaystyle \ Gamma (k) = (k-1)!}$ prin urmare

\Gamma (2)=1

{\ displaystyle \ Gamma (2) = 1}

{\ displaystyle \ Gamma (2) = 1}

\Gamma (4)=6

{\ displaystyle \ Gamma (4) = 6}

{\ displaystyle \ Gamma (4) = 6}

\Gamma (15)=14!

{\ displaystyle \ Gamma (15) = 14!}

{\ displaystyle \ Gamma (15) = 14!}

\Gamma (17)=16!

{\ displaystyle \ Gamma (17) = 16!}

{\ displaystyle \ Gamma (17) = 16!}

\Gamma (53)=52!

{\ displaystyle \ Gamma (53) = 52!}

{\ displaystyle \ Gamma (53) = 52!}

\Gamma (57)=56!

{\ displaystyle \ Gamma (57) = 56!}

{\ displaystyle \ Gamma (57) = 56!}

primesti

P(X=2|n=40,a=2,b=15)={\frac {16!}{1\ 14!\ 56!}}(780\ 6\ 52!)=

{\ displaystyle P (X = 2 | n = 40, a = 2, b = 15) = {\ frac {16!} {1 \ 14! \ 56!}} (780 \ 6 \ 52!) =}

{\ displaystyle P (X = 2 | n = 40, a = 2, b = 15) = {\ frac {16!} {1 \ 14! \ 56!}} (780 \ 6 \ 52!) =}

=780\ 6\ {\frac {16!}{14!}}\ {\frac {54!}{56!}}={\frac {780}{53}}\ {\frac {6}{54}}\ {\frac {15}{55}}\ {\frac {16}{56}}=

{\ displaystyle = 780 \ 6 \ {\ frac {16!} {14!}} \ {\ frac {54!} {56!}} = {\ frac {780} {53}} \ {\ frac {6 } {54}} \ {\ frac {15} {55}} \ {\ frac {16} {56}} =}

{\ displaystyle = 780 \ 6 \ {\ frac {16!} {14!}} \ {\ frac {54!} {56!}} = {\ frac {780} {53}} \ {\ frac {6 } {54}} \ {\ frac {15} {55}} \ {\ frac {16} {56}} =}

={\frac {260}{53}}\ {\frac {2}{77}}=0,12741975=12,74\%

{\ displaystyle = {\ frac {260} {53}} \ {\ frac {2} {77}} = 0.12741975 = 12.74 \%}

{\ displaystyle = {\ frac {260} {53}} \ {\ frac {2} {77}} = 0.12741975 = 12.74 \%}

Cele două variabile aleatorii utilizate în exemplu

Acest rezultat este diferit de ceea ce s-ar fi obținut folosind estimarea punctuală ca probabilitate de succes, adică proporția simplă obținută în prima serie de extracții (1/15 = 6,67%) și aplicând variabila aleatoare binomială pentru a doua. B (n = 40, p = 1/15). În acest caz, s-ar fi obținut P (X = 2 | n = 40, p = 1/15) = 25,19%.

Graficul evidențiază faptul că variabila aleatorie B (n = 40, p = 1/15) este mult mai „îngustă” decât BetaB (40,2,15), acest lucru se datorează faptului că în abordarea bayesiană nu „uităm” că există o incertitudine cu privire la proporția reală a bilelor roșii și această incertitudine face probabil valori și mai „îndepărtate”.

Alegerea bayesiană între două modele: Extragerea dintr-o urnă: determinați cu care urnă cunoscută corespunde o urnă

Se știe că o urnă are un procent necunoscut de bile roșii.
Se știe că urna este fie urna A, fie urna B.
În ultimele 10 bile au fost extrase din urna A, dintre care 2 sunt roșii (deci 20%),
în timp ce din urna B din trecut din 15 bile extrase, 10 erau roșii (egal cu 67%).
Nu există nimic care să sugereze că urna în cauză este mai degrabă urna A decât urna B.
Nici din urna A, nici din urna B nu se cunoaște numărul total de bile.
Din urna în cauză se extrag 50 de bile, dintre care 12 sunt roșii (24%).

Cereri

care este probabilitatea ca urna în cauză să fie urna A?
care este distribuția posterioară a procentului de bile roșii?
care este probabilitatea ca de la urna în cauză la următoarea extragere de 10 bile, nici măcar o dată să nu iasă una roșie?

Prin urmare, în contextul inferenței bayesiene se poate spune că

probabilitatea a priori ca urna în cauză să fie urna A este egală cu P (U = A) = 1/2 și în consecință P (U = B) = 1-P (U = A) = 1/2
pentru urna A, datorită extragerii a 10 bile, dintre care 2 sunt roșii, distribuția posterioară a procentului de bile roșii este o variabilă aleatorie Beta $Beta(a_{A}=1+2,b_{A}=1+10-2)$ ${\ displaystyle Beta (a_ {A} = 1 + 2, b_ {A} = 1 + 10-2)}$ ${\ displaystyle Beta (a_ {A} = 1 + 2, b_ {A} = 1 + 10-2)}$ , în cazul în care distribuția a priori este dreptunghiulară, echivalentă cu o beta (1,1)
în mod similar pentru urna B, distribuția a posteriori este una $Beta(a_{B}=1+10,b_{B}=1+15-10)$ ${\ displaystyle Beta (a_ {B} = 1 + 10, b_ {B} = 1 + 15-10)}$ ${\ displaystyle Beta (a_ {B} = 1 + 10, b_ {B} = 1 + 15-10)}$

Pentru a continua este necesar să recurgeți la variabila aleatoare beta-binomială, de fapt știind că din cele 50 de bile trase 12 sunt roșii, probabilitatea poate fi calculată $P(U=A|X=12,n=50)$ ${\ displaystyle P (U = A | X = 12, n = 50)}$ ${\ displaystyle P (U = A | X = 12, n = 50)}$ fie că este urna A, după cum urmează

P(U=A|X=x,n)={\frac {P(U=A)BetaB(X=x,n,a_{A},b_{A})}{P(U=A)BetaB(X=x,n,a_{A},b_{A})+P(U=B)BetaB(X=x,n,a_{B},b_{B})}}

{\ displaystyle P (U = A | X = x, n) = {\ frac {P (U = A) BetaB (X = x, n, a_ {A}, b_ {A})} {P (U = A) BetaB (X = x, n, a_ {A}, b_ {A}) + P (U = B) BetaB (X = x, n, a_ {B}, b_ {B})}}}

{\ displaystyle P (U = A | X = x, n) = {\ frac {P (U = A) BetaB (X = x, n, a_ {A}, b_ {A})} {P (U = A) BetaB (X = x, n, a_ {A}, b_ {A}) + P (U = B) BetaB (X = x, n, a_ {B}, b_ {B})}}}

că datorită faptului că P (U = B) = 1-P (U = A) = 1/2 = P (U = A) este simplificat prin obținerea

P(U=A|X=x,n)={\frac {BetaB(X=x,n,a_{A},b_{A})}{BetaB(X=x,n,a_{A},b_{A})+BetaB(X=x,n,a_{B},b_{B})}}

{\ displaystyle P (U = A | X = x, n) = {\ frac {BetaB (X = x, n, a_ {A}, b_ {A})} {BetaB (X = x, n, a_ { A}, b_ {A}) + BetaB (X = x, n, a_ {B}, b_ {B})}}}

{\ displaystyle P (U = A | X = x, n) = {\ frac {BetaB (X = x, n, a_ {A}, b_ {A})} {BetaB (X = x, n, a_ { A}, b_ {A}) + BetaB (X = x, n, a_ {B}, b_ {B})}}}

ținând cont de valorile exemplului, se calculează

BetaB(X=12,n=50,a_{A}=2,b_{A}=9)=0,04499198

{\ displaystyle BetaB (X = 12, n = 50, a_ {A} = 2, b_ {A} = 9) = 0,04499198}

{\ displaystyle BetaB (X = 12, n = 50, a_ {A} = 2, b_ {A} = 9) = 0,04499198}

BetaB(X=12,n=50,a_{B}=11,b_{B}=6)=0,0007276656

{\ displaystyle BetaB (X = 12, n = 50, a_ {B} = 11, b_ {B} = 6) = 0,0007276656}

{\ displaystyle BetaB (X = 12, n = 50, a_ {B} = 11, b_ {B} = 6) = 0,0007276656}

P(U=A|X=12,n=50)={\frac {0,04499198}{0,04499198+0,0007276656}}={\frac {0,04499198}{0.04571965}}=0,984084=98,4\%

{\ displaystyle P (U = A | X = 12, n = 50) = {\ frac {0.04499198} {0.04499198 + 0.0007276656}} = {\ frac {0.04499198} {0.04571965}} = 0.984084 = 98.4 \%}

{\ displaystyle P (U = A | X = 12, n = 50) = {\ frac {0.04499198} {0.04499198 + 0.0007276656}} = {\ frac {0.04499198} {0.04571965}} = 0.984084 = 98.4 \%}

aceasta înseamnă că probabilitatea ca urna în cauză să fie urna A este de 98,4%. Acest rezultat este de înțeles, având în vedere că 24% din urna necunoscută este mult mai aproape de 20% din urna A decât 67% din urna B.

Luând în considerare primele două extrageri (când erau cunoscute urnele) și extragerea din urna al cărei nume a fost pierdut, și faptul că 98,4% din urna în cauză este urna A, dar că există încă o probabilitate de 1,6% ca este urna B, procentul de bile roșii din această urnă din care nu se știe care dintre cele două este descris prin amestecul celor două variabile aleatorii $Beta(n,a=a_{i},b=b_{i})$ ${\ displaystyle Beta (n, a = a_ {i}, b = b_ {i})}$ ${\ displaystyle Beta (n, a = a_ {i}, b = b_ {i})}$ (cu i = A, B) ponderat cu probabilitățile P (U = i | X = x, n).

Odată cunoscut acest amestec de variabile aleatorii, este posibil să se calculeze probabilitatea ca la următoarea extracție a 10 bile să nu fie una roșie. Pentru a face acest lucru este necesar să recurgeți la tehnici de calcul numeric .

Bibliografie

( DE ) Leonhard Held, Methoden der statistischen Inferenz. Likelihood und Bayes , cu colaborarea lui Daniel Sabanés Bové, Spektrum Akademischer Verlag Heidelberg 2008, ISBN 978-3-8274-1939-2
(EN) Jim Albert, Computarea Bayesiană cu R, Springer New York, 2009, ISBN 978-0-387-92297-3 [1] ^{[ conexiune întreruptă ]}

linkuri externe