Distribuția gamma

Distribuția gamma
Funcția densității probabilității
Funcția de distribuție
Parametrii	$k>0\$ ${\ displaystyle k> 0 \}$ $k> 0 \$ Și $\theta >0\$ ${\ displaystyle \ theta> 0 \}$ $\ theta> 0 \$ sau $\alpha >0\$ ${\ displaystyle \ alpha> 0 \}$ $\ alpha> 0 \$ Și $\beta >0\$ ${\ displaystyle \ beta> 0 \}$ $\ beta> 0 \$ ( $k=\alpha$ ${\ displaystyle k = \ alpha}$ $k = \ alfa$ , $\theta \beta =1$ ${\ displaystyle \ theta \ beta = 1}$ $\ theta \ beta = 1$ )
A sustine	$\mathbb {R} ^{+}$ ${\ displaystyle \ mathbb {R} ^ {+}}$ $\ mathbb {R} ^ {+}$
Funcția de densitate	${\frac {x^{k-1}e^{-{\frac {x}{\theta }}}}{\theta ^{k}\Gamma (k)}}$ ${\ displaystyle {\ frac {x ^ {k-1} e ^ {- {\ frac {x} {\ theta}}}} {\ theta ^ {k} \ Gamma (k)}}}$ ${\ frac {x ^ {{k-1}} e ^ {{- {\ frac {x} {\ theta}}}}} {\ theta ^ {k} \ Gamma (k)}}$ (cu $\Gamma$ ${\ displaystyle \ Gamma}$ $\Gamă$ funcția Gamma )
Funcția de distribuție	$P(k,x)={\frac {\gamma (k,x/\theta )}{\Gamma (k)}}$ ${\ displaystyle P (k, x) = {\ frac {\ gamma (k, x / \ theta)} {\ Gamma (k)}}}$ $P (k, x) = {\ frac {\ gamma (k, x / \ theta)} {\ Gamma (k)}}$ ( $\gamma$ ${\ displaystyle \ gamma}$ $\gamă$ este funcția Gamma incompletă incompletă regularizată)
Valorea estimata	$k\theta \$ ${\ displaystyle k \ theta \}$ $k \ theta \$
Modă	$(k-1)\theta \$ ${\ displaystyle (k-1) \ theta \}$ $(k-1) \ theta \$ de sine $k\geq 1$ ${\ displaystyle k \ geq 1}$ $k \ geq 1$
Varianța	$k\theta ^{2}\$ ${\ displaystyle k \ theta ^ {2} \}$ $k \ theta ^ {2} \$
Indicele de asimetrie	${\frac {2}{\sqrt {k}}}$ ${\ displaystyle {\ frac {2} {\ sqrt {k}}}}$ ${\ frac {2} {{\ sqrt {k}}}}$
Curios	${\frac {6}{k}}$ ${\ displaystyle {\ frac {6} {k}}}$ ${\ frac {6} {k}}$
Entropie	$k+\ln \theta +\ln \Gamma (k)+(1-k)\psi _{0}(k)$ ${\ displaystyle k + \ ln \ theta + \ ln \ Gamma (k) + (1-k) \ psi _ {0} (k)}$ ${\ displaystyle k + \ ln \ theta + \ ln \ Gamma (k) + (1-k) \ psi _ {0} (k)}$ (cu $\psi _{0}$ ${\ displaystyle \ psi _ {0}}$ $\ psi_0$ funcția digamă )
Funcție generatoare de momente	$(1-\theta t)^{-k}\$ ${\ displaystyle (1- \ theta t) ^ {- k} \}$ $(1- \ theta t) ^ {{- k}} \$ pentru $t<\theta ^{-1}$ ${\ displaystyle t <\ theta ^ {- 1}}$ $t <\ theta ^ {{- 1}}$
Funcția caracteristică	$(1-i\theta t)^{-k}\$ ${\ displaystyle (1-i \ theta t) ^ {- k} \}$ $(1-i \ theta t) ^ {{- k}} \$
Manual

În teoria probabilității , distribuția Gamma este o distribuție continuă a probabilității , care include, ca cazuri particulare, și distribuțiile exponențiale și chi-pătrate .

Este folosit ca model general al timpilor de așteptare în teoria cozilor, mai ales atunci când există efecte importante care elimină „lipsa memoriei” distribuției exponențiale. În statisticile bayesiene este comun atât ca distribuție a priori, cât și a posteriori .

Definiție

Distribuția Gamma este distribuția probabilității variabilei aleatorii definită ca suma variabilelor aleatoare independente cu distribuție exponențială; distribuția Gamma este o distribuție de probabilitate definită pe numere reale pozitive, $\mathbb {R} ^{+}$ ${\ displaystyle \ mathbb {R} ^ {+}}$ $\ mathbb {R} ^ {+}$ . În funcție de autori, acesta este parametrizat în două moduri diferite: fie prin perechea de numere pozitive $(k,\theta )$ ${\ displaystyle (k, \ theta)}$ $(k, \ theta)$ , atât prin perechea de numere pozitive $(\alpha ,\beta )$ ${\ displaystyle (\ alpha, \ beta)}$ $(\ alfa, \ beta)$ . Cele două parametrizări sunt legate de relații $\alpha =k$ ${\ displaystyle \ alpha = k}$ $\ alfa = k$ Și $\beta =1/\theta$ ${\ displaystyle \ beta = 1 / \ theta}$ $\ beta = 1 / \ theta$ . În cele ce urmează ne vom referi la parametrizarea Gamma $(k,\theta )$ ${\ displaystyle (k, \ theta)}$ $(k, \ theta)$ .

Funcția sa de densitate a probabilității este

f(x)={\frac {1}{\theta ^{k}\Gamma (k)}}x^{k-1}e^{-{\frac {x}{\theta }}}={\frac {\beta ^{\alpha }}{\Gamma (\alpha )}}x^{\alpha -1}e^{-\beta x}

{\ displaystyle f (x) = {\ frac {1} {\ theta ^ {k} \ Gamma (k)}} x ^ {k-1} e ^ {- {\ frac {x} {\ theta}} } = {\ frac {\ beta ^ {\ alpha}} {\ Gamma (\ alpha)}} x ^ {\ alpha -1} e ^ {- \ beta x}}

{\ displaystyle f (x) = {\ frac {1} {\ theta ^ {k} \ Gamma (k)}} x ^ {k-1} e ^ {- {\ frac {x} {\ theta}} } = {\ frac {\ beta ^ {\ alpha}} {\ Gamma (\ alpha)}} x ^ {\ alpha -1} e ^ {- \ beta x}}

,

unde este $\Gamma (k)=\int _{0}^{\infty }t^{k-1}e^{-t}dt$ ${\ displaystyle \ Gamma (k) = \ int _ {0} ^ {\ infty} t ^ {k-1} e ^ {- t} dt}$ $\ Gamma (k) = \ int _ {0} ^ {\ infty} t ^ {{k-1}} e ^ {{- t}} dt$ este funcția Gamma a lui Euler.

Putem observa că dacă $k\in \mathbb {N}$ ${\ displaystyle k \ in \ mathbb {N}}$ $k \ in {\ mathbb {N}}$ merită asta $\Gamma (k)=(k-1)!$ ${\ displaystyle \ Gamma (k) = (k-1)!}$ $\ Gamma (k) = (k-1)!$

Funcția sa de distribuție este funcția gamma incompletă regularizată inferioară

F(x)=P(k,x)={\frac {\gamma (k,x/\theta )}{\Gamma (k)}}={\frac {\gamma (\alpha ,\beta x)}{\Gamma (\alpha )}}

{\ displaystyle F (x) = P (k, x) = {\ frac {\ gamma (k, x / \ theta)} {\ Gamma (k)}} = {\ frac {\ gamma (\ alpha, \ beta x)} {\ Gamma (\ alpha)}}}

F (x) = P (k, x) = {\ frac {\ gamma (k, x / \ theta)} {\ Gamma (k)}} = {\ frac {\ gamma (\ alpha, \ beta x) } {\ Gamma (\ alpha)}}

,

unde este $\gamma (k,x)=\int _{0}^{x}t^{k-1}e^{-t}dt$ ${\ displaystyle \ gamma (k, x) = \ int _ {0} ^ {x} t ^ {k-1} e ^ {- t} dt}$ $\ gamma (k, x) = \ int _ {0} ^ {x} t ^ {{k-1}} e ^ {{- t}} dt$ este funcția Gamma incompletă incompletă.

Caracteristici

Momentele simple ale intervalului Parametrii de distribuție $(k,\theta )$ ${\ displaystyle (k, \ theta)}$ $(k, \ theta)$ Sunt

\mu _{n}=\mathbb {E} [X^{n}]={\tfrac {1}{\theta ^{k}\Gamma (k)}}\int _{0}^{\infty }x^{k+n-1}e^{-{\frac {x}{\theta }}}dx

{\ displaystyle \ mu _ {n} = \ mathbb {E} [X ^ {n}] = {\ tfrac {1} {\ theta ^ {k} \ Gamma (k)}} \ int _ {0} ^ {\ infty} x ^ {k + n-1} e ^ {- {\ frac {x} {\ theta}}} dx}

{\ displaystyle \ mu _ {n} = \ mathbb {E} [X ^ {n}] = {\ tfrac {1} {\ theta ^ {k} \ Gamma (k)}} \ int _ {0} ^ {\ infty} x ^ {k + n-1} e ^ {- {\ frac {x} {\ theta}}} dx}

\mu _{n}={\tfrac {\theta ^{k+n-1}}{\theta ^{k-1}\Gamma (k)}}\int _{0}^{\infty }u^{k+n-1}e^{-u}du=\theta ^{n}{\frac {\Gamma (k+n)}{\Gamma (k)}}=\theta ^{n}\prod _{i=0}^{n-1}(k+i),

{\ displaystyle \ mu _ {n} = {\ tfrac {\ theta ^ {k + n-1}} {\ theta ^ {k-1} \ Gamma (k)}} \ int _ {0} ^ {\ infty} u ^ {k + n-1} e ^ {- u} du = \ theta ^ {n} {\ frac {\ Gamma (k + n)} {\ Gamma (k)}} = \ theta ^ { n} \ prod _ {i = 0} ^ {n-1} (k + i),}

{\ displaystyle \ mu _ {n} = {\ tfrac {\ theta ^ {k + n-1}} {\ theta ^ {k-1} \ Gamma (k)}} \ int _ {0} ^ {\ infty} u ^ {k + n-1} e ^ {- u} du = \ theta ^ {n} {\ frac {\ Gamma (k + n)} {\ Gamma (k)}} = \ theta ^ { n} \ prod _ {i = 0} ^ {n-1} (k + i),}

unde efectuați înlocuirea obișnuită ${\frac {x}{\theta }}=u$ ${\ displaystyle {\ frac {x} {\ theta}} = u}$ ${\ displaystyle {\ frac {x} {\ theta}} = u}$ pentru a obține reprezentarea integrală a funcției Gamma a lui Euler.

În special, distribuția are:

valorea estimata $\mathbb {E} [X]=k\theta ;$ ${\ displaystyle \ mathbb {E} [X] = k \ theta;}$ ${\ displaystyle \ mathbb {E} [X] = k \ theta;}$
varianță $\mathrm {Var} (X)=k\theta ^{2};$ ${\ displaystyle \ mathrm {Var} (X) = k \ theta ^ {2};}$ ${\ displaystyle \ mathrm {Var} (X) = k \ theta ^ {2};}$
indicele de asimetrie $\gamma _{1}=2\,k^{-{\frac {1}{2}}};$ ${\ displaystyle \ gamma _ {1} = 2 \, k ^ {- {\ frac {1} {2}}};}$ ${\ displaystyle \ gamma _ {1} = 2 \, k ^ {- {\ frac {1} {2}}};}$
indicele kurtozei $\gamma _{2}=6\,k^{-1}.$ ${\ displaystyle \ gamma _ {2} = 6 \, k ^ {- 1}.}$ ${\ displaystyle \ gamma _ {2} = 6 \, k ^ {- 1}.}$

Funcția de generare a momentului:

\mathbb {M} _{X}(t)=\mathbb {E} [e^{tX}]={\frac {1}{\theta ^{k}\Gamma (k)}}\int _{0}^{\infty }x^{k-1}e^{-x\left({\frac {1}{\theta }}-t\right)}dx={\frac {1}{\theta ^{k}\Gamma (k)({\tfrac {1}{\theta }}-t)^{k}}}\int _{0}^{\infty }u^{k-1}e^{-u}du

{\ displaystyle \ mathbb {M} _ {X} (t) = \ mathbb {E} [e ^ {tX}] = {\ frac {1} {\ theta ^ {k} \ Gamma (k)}} \ int _ {0} ^ {\ infty} x ^ {k-1} e ^ {- x \ left ({\ frac {1} {\ theta}} - t \ right)} dx = {\ frac {1} {\ theta ^ {k} \ Gamma (k) ({\ tfrac {1} {\ theta}} - t) ^ {k}}} \ int _ {0} ^ {\ infty} u ^ {k-1 } și ^ {- u} du}

{\ displaystyle \ mathbb {M} _ {X} (t) = \ mathbb {E} [e ^ {tX}] = {\ frac {1} {\ theta ^ {k} \ Gamma (k)}} \ int _ {0} ^ {\ infty} x ^ {k-1} e ^ {- x \ left ({\ frac {1} {\ theta}} - t \ right)} dx = {\ frac {1} {\ theta ^ {k} \ Gamma (k) ({\ tfrac {1} {\ theta}} - t) ^ {k}}} \ int _ {0} ^ {\ infty} u ^ {k-1 } și ^ {- u} du}

\mathbb {M} _{X}(t)=(1-\theta t)^{-k}

{\ displaystyle \ mathbb {M} _ {X} (t) = (1- \ theta t) ^ {- k}}

{\ displaystyle \ mathbb {M} _ {X} (t) = (1- \ theta t) ^ {- k}}

care există pentru orice valoare a t astfel încât

1-\theta t>0\Rightarrow t<\theta ^{-1}.

{\ displaystyle 1- \ theta t> 0 \ Rightarrow t <\ theta ^ {- 1}.}

{\ displaystyle 1- \ theta t> 0 \ Rightarrow t <\ theta ^ {- 1}.}

Proprietăți (teorema schimbării scalei)

De sine $X$ ${\ displaystyle X}$ $X$ urmează distribuția Gamma $(k,\theta )$ ${\ displaystyle (k, \ theta)}$ $(k, \ theta)$ asa de $la X$ ${\ displaystyle aX}$ $topor$ urmează distribuția Gamma $(k,a\theta )$ ${\ displaystyle (k, a \ theta)}$ $(k, a \ theta)$ .

De sine $X_{1},\ldots ,X_{n}$ ${\ displaystyle X_ {1}, \ ldots, X_ {n}}$ $X_ {1}, \ ldots, X_ {n}$ sunt variabile aleatoare independente , fiecare cu o distribuție Gamma $(k_{i},\theta )$ ${\ displaystyle (k_ {i}, \ theta)}$ $(k_ {i}, \ theta)$ , apoi suma lor $X_{1}+\ldots +X_{n}$ ${\ displaystyle X_ {1} + \ ldots + X_ {n}}$ ${\ displaystyle X_ {1} + \ ldots + X_ {n}}$ urmează distribuția Gamma $(k_{1}+\ldots +k_{n},\theta )$ ${\ displaystyle (k_ {1} + \ ldots + k_ {n}, \ theta)}$ ${\ displaystyle (k_ {1} + \ ldots + k_ {n}, \ theta)}$ .

Alte distribuții

Distribuția Gamma generalizează mai multe distribuții (acum este convenabil să utilizați a doua dintre cele două parametrizări prezentate):

de sine $k$ ${\ displaystyle k}$ $k$ este un număr natural obținem distribuția Erlang ;
$\mathrm {Gamma} (1,{\theta })={\mathcal {E}}({1/\theta })$ ${\ displaystyle \ mathrm {Gamma} (1, {\ theta}) = {\ mathcal {E}} ({1 / \ theta})}$ ${\ displaystyle \ mathrm {Gamma} (1, {\ theta}) = {\ mathcal {E}} ({1 / \ theta})}$ este distribuția exponențială ;
$\mathrm {Gamma} ({\tfrac {n}{2}},1/2)=\chi ^{2}(n)$ ${\ displaystyle \ mathrm {Gamma} ({\ tfrac {n} {2}}, 1/2) = \ chi ^ {2} (n)}$ ${\ displaystyle \ mathrm {Gamma} ({\ tfrac {n} {2}}, 1/2) = \ chi ^ {2} (n)}$ este distribuția chi-pătrat ;
de sine $X$ ${\ displaystyle X}$ $X$ urmează un parametru de distribuție Maxwell-Boltzmann $la$ ${\ displaystyle a}$ $la$ asa de $X^{2}$ ${\ displaystyle X ^ {2}}$ ${\ displaystyle X ^ {2}}$ se distribuie conform $\mathrm {Gamma} ({\tfrac {3}{2}},2a^{2})$ ${\ displaystyle \ mathrm {Gamma} ({\ tfrac {3} {2}}, 2a ^ {2})}$ ${\ displaystyle \ mathrm {Gamma} ({\ tfrac {3} {2}}, 2a ^ {2})}$ .

În inferența bayesiană , distribuția Gamma poate descrie parametrul atât a priori, cât și a posteriori al unei observații $X$ ${\ displaystyle X}$ $X$ a diferitelor distribuții de probabilitate, de exemplu distribuția exponențială și distribuția Poisson .

Distribuția Gamma inversă este distribuția inversă $X^{-1}$ ${\ displaystyle X ^ {- 1}}$ $X ^ {{- 1}}$ a unei variabile aleatorii $X$ ${\ displaystyle X}$ $X$ care urmărește distribuția Gamma.

De sine $X$ ${\ displaystyle X}$ $X$ Și $Da$ ${\ displaystyle Y}$ $Da$ sunt variabile aleatoare independente cu distribuții $\mathrm {Gamma} (k_{1},\theta )$ ${\ displaystyle \ mathrm {Gamma} (k_ {1}, \ theta)}$ ${\ displaystyle \ mathrm {Gamma} (k_ {1}, \ theta)}$ Și $\mathrm {Gamma} (k_{2},\theta )$ ${\ displaystyle \ mathrm {Gamma} (k_ {2}, \ theta)}$ ${\ displaystyle \ mathrm {Gamma} (k_ {2}, \ theta)}$ , asa de $Z={\tfrac {X}{X+Y}}$ ${\ displaystyle Z = {\ tfrac {X} {X + Y}}}$ $Z = {\ tfrac {X} {X + Y}}$ Urmează distribuția beta $\mathrm {Beta} (k_{1},k_{2})$ ${\ displaystyle \ mathrm {Beta} (k_ {1}, k_ {2})}$ ${\ displaystyle \ mathrm {Beta} (k_ {1}, k_ {2})}$ , in timp ce ${\tfrac {X}{Y}}={\tfrac {Z}{1-Z}}$ ${\ displaystyle {\ tfrac {X} {Y}} = {\ tfrac {Z} {1-Z}}}$ ${\ tfrac {X} {Y}} = {\ tfrac {Z} {1-Z}}$ urmează o distribuție beta de al doilea tip.

Mai general vectorul ${\tfrac {1}{X_{1}+\ldots +X_{n}}}(X_{1},\ldots ,X_{n})$ ${\ displaystyle {\ tfrac {1} {X_ {1} + \ ldots + X_ {n}}} (X_ {1}, \ ldots, X_ {n})}$ ${\ tfrac {1} {X_ {1} + \ ldots + X_ {n}}} (X_ {1}, \ ldots, X_ {n})$ , descris de $n$ ${\ displaystyle n}$ $n$ variabile aleatorii independente $X_{i}$ ${\ displaystyle X_ {i}}$ $X_i$ a distribuțiilor $\mathrm {Gamma} (k_{i},\theta )$ ${\ displaystyle \ mathrm {Gamma} (k_ {i}, \ theta)}$ ${\ displaystyle \ mathrm {Gamma} (k_ {i}, \ theta)}$ , urmează o distribuție Dirichlet a parametrilor $(k_{1},\ldots ,k_{n})$ ${\ displaystyle (k_ {1}, \ ldots, k_ {n})}$ $(k_ {1}, \ ldots, k_ {n})$ .

O generalizare a distribuției Gamma este distribuția Wishart , care generalizează și distribuția $\chi ^{2}$ ${\ displaystyle \ chi ^ {2}}$ $\ cine ^ {2}$ .

Estimatori

Să calculăm acum câțiva estimatori care, având în vedere un eșantion Gamma probabil distribuit, ne pot oferi o estimare a parametrilor săi $\theta$ ${\ displaystyle \ theta}$ $\ theta$ Și $k$ ${\ displaystyle k}$ $k$ .

Un estimator corect pentru $\theta$ ${\ displaystyle \ theta}$ $\ theta$ Și

{\hat {\theta }}={\frac {1}{nk}}\sum _{i=1}^{n}x_{i}.

{\ displaystyle {\ hat {\ theta}} = {\ frac {1} {nk}} \ sum _ {i = 1} ^ {n} x_ {i}.}

{\ displaystyle {\ hat {\ theta}} = {\ frac {1} {nk}} \ sum _ {i = 1} ^ {n} x_ {i}.}

Estimator corect asimptotic pentru $k$ ${\ displaystyle k}$ $k$ Și:

{\hat {k}}=\psi _{0}^{-1}\left[\ln \left({\sqrt[{n}]{\prod _{i=1}^{n}{\frac {x_{i}}{\theta }}}}\right)\right]=\psi _{0}^{-1}\left[{\frac {1}{n}}\sum _{i=1}^{n}\ln \left({\frac {x_{i}}{\theta }}\right)\right].

{\ displaystyle {\ hat {k}} = \ psi _ {0} ^ {- 1} \ left [\ ln \ left ({\ sqrt [{n}] {\ prod _ {i = 1} ^ {n } {\ frac {x_ {i}} {\ theta}}}} \ right) \ right] = \ psi _ {0} ^ {- 1} \ left [{\ frac {1} {n}} \ sum _ {i = 1} ^ {n} \ ln \ left ({\ frac {x_ {i}} {\ theta}} \ right) \ right].}

{\ displaystyle {\ hat {k}} = \ psi _ {0} ^ {- 1} \ left [\ ln \ left ({\ sqrt [{n}] {\ prod _ {i = 1} ^ {n } {\ frac {x_ {i}} {\ theta}}}} \ right) \ right] = \ psi _ {0} ^ {- 1} \ left [{\ frac {1} {n}} \ sum _ {i = 1} ^ {n} \ ln \ left ({\ frac {x_ {i}} {\ theta}} \ right) \ right].}

unde este $\psi _{0}^{-1}$ ${\ displaystyle \ psi _ {0} ^ {- 1}}$ ${\ displaystyle \ psi _ {0} ^ {- 1}}$ este funcția inversă a funcției digamma $\psi _{0}(k)$ ${\ displaystyle \ psi _ {0} (k)}$ ${\ displaystyle \ psi _ {0} (k)}$ definit astfel:

\psi _{0}(x):={\frac {\Gamma '(x)}{\Gamma (x)}}={\frac {d}{dx}}\ln \Gamma (x).

{\ displaystyle \ psi _ {0} (x): = {\ frac {\ Gamma '(x)} {\ Gamma (x)}} = {\ frac {d} {dx}} \ ln \ Gamma (x ).}

{\ displaystyle \ psi _ {0} (x): = {\ frac {\ Gamma '(x)} {\ Gamma (x)}} = {\ frac {d} {dx}} \ ln \ Gamma (x ).}

Dovezile folosesc metoda de maximă probabilitate , unde funcția de probabilitate dată eșantionului este

\{X_{i}\}_{i=1}^{n}\subset \mathbb {R} ^{+}

{\ displaystyle \ {X_ {i} \} _ {i = 1} ^ {n} \ subset \ mathbb {R} ^ {+}}

{\ displaystyle \ {X_ {i} \} _ {i = 1} ^ {n} \ subset \ mathbb {R} ^ {+}}

{\mathcal {L}}(\{X_{i}\}|\theta ,k)={\frac {1}{\theta ^{nk}\Gamma ^{n}(k)}}\,\cdot \,\left(\prod _{i=1}^{n}x_{i}\right)^{k-1}\,e^{-{\frac {1}{\theta }}\sum _{i=1}^{n}x_{i}}.

{\ displaystyle {\ mathcal {L}} (\ {X_ {i} \} | \ theta, k) = {\ frac {1} {\ theta ^ {nk} \ Gamma ^ {n} (k)}} \, \ cdot \, \ left (\ prod _ {i = 1} ^ {n} x_ {i} \ right) ^ {k-1} \, e ^ {- {\ frac {1} {\ theta} } \ sum _ {i = 1} ^ {n} x_ {i}}.}

{\ displaystyle {\ mathcal {L}} (\ {X_ {i} \} | \ theta, k) = {\ frac {1} {\ theta ^ {nk} \ Gamma ^ {n} (k)}} \, \ cdot \, \ left (\ prod _ {i = 1} ^ {n} x_ {i} \ right) ^ {k-1} \, e ^ {- {\ frac {1} {\ theta} } \ sum _ {i = 1} ^ {n} x_ {i}}.}

Estimator de dovadă a $\theta$ ${\ displaystyle \ theta}$ $\ theta$

Parametrul $\theta$ ${\ displaystyle \ theta}$ $\ theta$ este cel mai simplu de estimat.

Observăm că funcția de probabilitate este peste tot pozitivă și se încadrează în limitele $\theta$ ${\ displaystyle \ theta}$ $\ theta$ , anulați.

\lim _{\theta \rightarrow 0^{+}}{\mathcal {L}}=0

{\ displaystyle \ lim _ {\ theta \ rightarrow 0 ^ {+}} {\ mathcal {L}} = 0}

{\ displaystyle \ lim _ {\ theta \ rightarrow 0 ^ {+}} {\ mathcal {L}} = 0}

\lim _{\theta \rightarrow +\infty }{\mathcal {L}}=0

{\ displaystyle \ lim _ {\ theta \ rightarrow + \ infty} {\ mathcal {L}} = 0}

{\ displaystyle \ lim _ {\ theta \ rightarrow + \ infty} {\ mathcal {L}} = 0}

Prin urmare, dacă îi impunem derivata egală cu zero, dacă soluția este unică, acesta trebuie să fie neapărat un punct maxim.

\left({\frac {\partial {\mathcal {L}}}{\partial \theta }}\right)_{\theta ={\hat {\theta }}}={\frac {e^{-{\frac {1}{\hat {\theta }}}\sum _{i=1}^{n}x_{i}}}{\Gamma ^{n}(k)}}\left(\prod _{i=1}^{n}x_{i}\right)^{k-1}\,\cdot \left({\hat {\theta }}^{-nk-2}\sum _{i=1}^{n}x_{i}-nk{\hat {\theta }}^{-nk-1}\right)

{\ displaystyle \ left ({\ frac {\ partial {\ mathcal {L}}} {\ partial \ theta}} \ right) _ {\ theta = {\ hat {\ theta}}} = {\ frac {e ^ {- {\ frac {1} {\ hat {\ theta}}} \ sum _ {i = 1} ^ {n} x_ {i}}} {\ Gamma ^ {n} (k)}} \ left (\ prod _ {i = 1} ^ {n} x_ {i} \ right) ^ {k-1} \, \ cdot \ left ({\ hat {\ theta}} ^ {- nk-2} \ sum _ {i = 1} ^ {n} x_ {i} -nk {\ hat {\ theta}} ^ {- nk-1} \ right)}

{\ displaystyle \ left ({\ frac {\ partial {\ mathcal {L}}} {\ partial \ theta}} \ right) _ {\ theta = {\ hat {\ theta}}} = {\ frac {e ^ {- {\ frac {1} {\ hat {\ theta}}} \ sum _ {i = 1} ^ {n} x_ {i}}} {\ Gamma ^ {n} (k)}} \ left (\ prod _ {i = 1} ^ {n} x_ {i} \ right) ^ {k-1} \, \ cdot \ left ({\ hat {\ theta}} ^ {- nk-2} \ sum _ {i = 1} ^ {n} x_ {i} -nk {\ hat {\ theta}} ^ {- nk-1} \ right)}

Acum este necesar să egalizăm această expresie la zero

\left({\frac {\partial {\mathcal {L}}}{\partial \theta }}\right)_{\theta ={\hat {\theta }}}=0\,\Rightarrow \,{\hat {\theta }}^{-nk-2}\sum _{i=1}^{n}x_{i}-nk{\hat {\theta }}^{-nk-1}=0\,\Rightarrow \,{\hat {\theta }}={\frac {1}{nk}}\sum _{i=1}^{n}x_{i}

{\ displaystyle \ left ({\ frac {\ partial {\ mathcal {L}}} {\ partial \ theta}} \ right) _ {\ theta = {\ hat {\ theta}}} = 0 \, \ Rightarrow \, {\ hat {\ theta}} ^ {- nk-2} \ sum _ {i = 1} ^ {n} x_ {i} -nk {\ hat {\ theta}} ^ {- nk-1} = 0 \, \ Rightarrow \, {\ hat {\ theta}} = {\ frac {1} {nk}} \ sum _ {i = 1} ^ {n} x_ {i}}

{\ displaystyle \ left ({\ frac {\ partial {\ mathcal {L}}} {\ partial \ theta}} \ right) _ {\ theta = {\ hat {\ theta}}} = 0 \, \ Rightarrow \, {\ hat {\ theta}} ^ {- nk-2} \ sum _ {i = 1} ^ {n} x_ {i} -nk {\ hat {\ theta}} ^ {- nk-1} = 0 \, \ Rightarrow \, {\ hat {\ theta}} = {\ frac {1} {nk}} \ sum _ {i = 1} ^ {n} x_ {i}}

Și iată estimatorul nostru de $\theta$ ${\ displaystyle \ theta}$ $\ theta$ , care amintește foarte mult de o medie aritmetică, redefinită la parametru $k$ ${\ displaystyle k}$ $k$ (care ne amintim că este egal cu 1 în cazul particular al distribuției exponențiale). Se poate vedea cu ușurință că valoarea preconizată a acestui estimator este exact $\theta$ ${\ displaystyle \ theta}$ $\ theta$ , dată fiind liniaritatea operatorului.

\mathbb {E} [{\hat {\theta }}]=\mathbb {E} \left[{\frac {1}{kn}}\sum _{i=1}^{n}x_{i}\right]={\frac {1}{kn}}\sum _{i=1}^{n}\mathbb {E} [x_{i}].

{\ displaystyle \ mathbb {E} [{\ hat {\ theta}}] = \ mathbb {E} \ left [{\ frac {1} {kn}} \ sum _ {i = 1} ^ {n} x_ {i} \ right] = {\ frac {1} {kn}} \ sum _ {i = 1} ^ {n} \ mathbb {E} [x_ {i}].}

{\ displaystyle \ mathbb {E} [{\ hat {\ theta}}] = \ mathbb {E} \ left [{\ frac {1} {kn}} \ sum _ {i = 1} ^ {n} x_ {i} \ right] = {\ frac {1} {kn}} \ sum _ {i = 1} ^ {n} \ mathbb {E} [x_ {i}].}

Ne amintim $\mathbb {E} [x_{i}]=k\theta$ ${\ displaystyle \ mathbb {E} [x_ {i}] = k \ theta}$ ${\ displaystyle \ mathbb {E} [x_ {i}] = k \ theta}$

\mathbb {E} [{\hat {\theta }}]={\frac {nk\theta }{kn}}=\theta .

{\ displaystyle \ mathbb {E} [{\ hat {\ theta}}] = {\ frac {nk \ theta} {kn}} = \ theta.}

{\ displaystyle \ mathbb {E} [{\ hat {\ theta}}] = {\ frac {nk \ theta} {kn}} = \ theta.}

Estimator de dovadă a $k$ ${\ displaystyle k}$ $k$

Să analizăm acum calculul estimatorului pentru $k$ ${\ displaystyle k}$ $k$ .

Și aici funcția de probabilitate dispare pentru limita $k\rightarrow 0^{+}$ ${\ displaystyle k \ rightarrow 0 ^ {+}}$ ${\ displaystyle k \ rightarrow 0 ^ {+}}$ Și $k\rightarrow +\infty$ ${\ displaystyle k \ rightarrow + \ infty}$ ${\ displaystyle k \ rightarrow + \ infty}$ , prin urmare, continuăm cu calculul derivatului.

\left({\frac {\partial {\mathcal {L}}}{\partial k}}\right)_{k={\hat {k}}}\!\!\!\!\!=e^{-{\frac {1}{\theta }}\sum x_{i}}\left(\prod x_{i}\right)^{{\hat {k}}-1}\left[{\frac {\ln \left(\prod x_{i}\right)}{\theta ^{n{\hat {k}}}\Gamma ^{n}({\hat {k}})}}-n{\frac {\ln(\theta )+\psi _{0}({\hat {k}})}{\theta ^{n{\hat {k}}}\Gamma ^{n}({\hat {k}})}}\right]={\frac {e^{-{\frac {1}{\theta }}\sum x_{i}}\left(\prod x_{i}\right)^{{\hat {k}}-1}}{\theta ^{n{\hat {k}}}\Gamma ^{n}({\hat {k}})}}\left[\ln \left(\prod {\frac {x_{i}}{\theta }}\right)-n\psi _{0}({\hat {k}})\right].

{\ displaystyle \ left ({\ frac {\ partial {\ mathcal {L}}} {\ partial k}} \ right) _ {k = {\ hat {k}}} \! \! \! \! \ ! = e ^ {- {\ frac {1} {\ theta}} \ sum x_ {i}} \ left (\ prod x_ {i} \ right) ^ {{\ hat {k}} - 1} \ left [{\ frac {\ ln \ left (\ prod x_ {i} \ right)} {\ theta ^ {n {\ hat {k}}} \ Gamma ^ {n} ({\ hat {k}})} } -n {\ frac {\ ln (\ theta) + \ psi _ {0} ({\ hat {k}})} {\ theta ^ {n {\ hat {k}}} \ Gamma ^ {n} ({\ hat {k}})}} \ right] = {\ frac {e ^ {- {\ frac {1} {\ theta}} \ sum x_ {i}} \ left (\ prod x_ {i} \ right) ^ {{\ hat {k}} - 1}} {\ theta ^ {n {\ hat {k}}} \ Gamma ^ {n} ({\ hat {k}})}} \ left [ \ ln \ left (\ prod {\ frac {x_ {i}} {\ theta}} \ right) -n \ psi _ {0} ({\ hat {k}}) \ right].}

{\ displaystyle \ left ({\ frac {\ partial {\ mathcal {L}}} {\ partial k}} \ right) _ {k = {\ hat {k}}} \! \! \! \! \ ! = e ^ {- {\ frac {1} {\ theta}} \ sum x_ {i}} \ left (\ prod x_ {i} \ right) ^ {{\ hat {k}} - 1} \ left [{\ frac {\ ln \ left (\ prod x_ {i} \ right)} {\ theta ^ {n {\ hat {k}}} \ Gamma ^ {n} ({\ hat {k}})} } -n {\ frac {\ ln (\ theta) + \ psi _ {0} ({\ hat {k}})} {\ theta ^ {n {\ hat {k}}} \ Gamma ^ {n} ({\ hat {k}})}} \ right] = {\ frac {e ^ {- {\ frac {1} {\ theta}} \ sum x_ {i}} \ left (\ prod x_ {i} \ right) ^ {{\ hat {k}} - 1}} {\ theta ^ {n {\ hat {k}}} \ Gamma ^ {n} ({\ hat {k}})}} \ left [ \ ln \ left (\ prod {\ frac {x_ {i}} {\ theta}} \ right) -n \ psi _ {0} ({\ hat {k}}) \ right].}

Cu $\psi _{0}(k)$ ${\ displaystyle \ psi _ {0} (k)}$ ${\ displaystyle \ psi _ {0} (k)}$ indicăm funcția digamă astfel definită:

\psi _{0}(x):={\frac {\Gamma '(x)}{\Gamma (x)}}={\frac {d}{dx}}\ln \Gamma (x),

{\ displaystyle \ psi _ {0} (x): = {\ frac {\ Gamma '(x)} {\ Gamma (x)}} = {\ frac {d} {dx}} \ ln \ Gamma (x ),}

{\ displaystyle \ psi _ {0} (x): = {\ frac {\ Gamma '(x)} {\ Gamma (x)}} = {\ frac {d} {dx}} \ ln \ Gamma (x ),}

care poate fi exprimat printr-o relație integrală

\psi _{0}(x)=\int _{0}^{\infty }{\frac {e^{-t}-(1+t)^{-x}}{t}}dt.

{\ displaystyle \ psi _ {0} (x) = \ int _ {0} ^ {\ infty} {\ frac {e ^ {- t} - (1 + t) ^ {- x}} {t}} dt.}

{\ displaystyle \ psi _ {0} (x) = \ int _ {0} ^ {\ infty} {\ frac {e ^ {- t} - (1 + t) ^ {- x}} {t}} dt.}

Echivalând funcția noastră de probabilitate cu zero, obținem punctul nostru maxim

\left({\frac {\partial {\mathcal {L}}}{\partial k}}\right)_{k={\hat {k}}}\!\!\!\!\!=0\,\Rightarrow \,\ln \left(\prod {\frac {x_{i}}{\theta }}\right)-n\psi _{0}({\hat {k}})=0\,\Rightarrow \,\psi _{0}({\hat {k}})=\ln \left({\sqrt[{n}]{\prod {\frac {x_{i}}{\theta }}}}\right)

{\ displaystyle \ left ({\ frac {\ partial {\ mathcal {L}}} {\ partial k}} \ right) _ {k = {\ hat {k}}} \! \! \! \! \ ! = 0 \, \ Rightarrow \, \ ln \ left (\ prod {\ frac {x_ {i}} {\ theta}} \ right) -n \ psi _ {0} ({\ hat {k}}) = 0 \, \ Rightarrow \, \ psi _ {0} ({\ hat {k}}) = \ ln \ left ({\ sqrt [{n}] {\ prod {\ frac {x_ {i}} { \ theta}}}} \ right)}

{\ displaystyle \ left ({\ frac {\ partial {\ mathcal {L}}} {\ partial k}} \ right) _ {k = {\ hat {k}}} \! \! \! \! \ ! = 0 \, \ Rightarrow \, \ ln \ left (\ prod {\ frac {x_ {i}} {\ theta}} \ right) -n \ psi _ {0} ({\ hat {k}}) = 0 \, \ Rightarrow \, \ psi _ {0} ({\ hat {k}}) = \ ln \ left ({\ sqrt [{n}] {\ prod {\ frac {x_ {i}} { \ theta}}}} \ right)}

Funcția digamă , în realuri pozitive, este strict în creștere, pentru care există funcția inversă

{\hat {k}}=\psi _{0}^{-1}\left[\ln \left({\sqrt[{n}]{\prod _{i=1}^{n}{\frac {x_{i}}{\theta }}}}\right)\right]=\psi _{0}^{-1}\left[{\frac {1}{n}}\sum _{i=1}^{n}\ln \left({\frac {x_{i}}{\theta }}\right)\right].

{\ displaystyle {\ hat {k}} = \ psi _ {0} ^ {- 1} \ left [\ ln \ left ({\ sqrt [{n}] {\ prod _ {i = 1} ^ {n } {\ frac {x_ {i}} {\ theta}}}} \ right) \ right] = \ psi _ {0} ^ {- 1} \ left [{\ frac {1} {n}} \ sum _ {i = 1} ^ {n} \ ln \ left ({\ frac {x_ {i}} {\ theta}} \ right) \ right].}

{\ displaystyle {\ hat {k}} = \ psi _ {0} ^ {- 1} \ left [\ ln \ left ({\ sqrt [{n}] {\ prod _ {i = 1} ^ {n } {\ frac {x_ {i}} {\ theta}}}} \ right) \ right] = \ psi _ {0} ^ {- 1} \ left [{\ frac {1} {n}} \ sum _ {i = 1} ^ {n} \ ln \ left ({\ frac {x_ {i}} {\ theta}} \ right) \ right].}

Acest estimator obținut este asimptotic corect , dar pentru valorile finite ar trebui să se verifice valoarea așteptată care, dacă se dovedește a fi $k$ ${\ displaystyle k}$ $k$ , atunci ar fi un estimator corect.

Calculăm apoi

\mathbb {E} [\psi _{0}({\hat {k}})]=\mathbb {E} \left[{\frac {1}{n}}\sum _{i=1}^{n}\ln \left({\frac {x_{i}}{\theta }}\right)\right]={\frac {1}{n}}\sum _{i=1}^{n}\mathbb {E} \left[\ln \left({\frac {x_{i}}{\theta }}\right)\right]={\frac {1}{n}}\sum _{i=1}^{n}\int _{0}^{\infty }\ln \left({\frac {x_{i}}{\theta }}\right){\frac {x_{i}^{k-1}}{\theta ^{k}\Gamma (k)}}e^{-{\frac {x_{i}}{\theta }}}dx_{i},

{\ displaystyle \ mathbb {E} [\ psi _ {0} ({\ hat {k}})] = \ mathbb {E} \ left [{\ frac {1} {n}} \ sum _ {i = 1} ^ {n} \ ln \ left ({\ frac {x_ {i}} {\ theta}} \ right) \ right] = {\ frac {1} {n}} \ sum _ {i = 1} ^ {n} \ mathbb {E} \ left [\ ln \ left ({\ frac {x_ {i}} {\ theta}} \ right) \ right] = {\ frac {1} {n}} \ sum _ {i = 1} ^ {n} \ int _ {0} ^ {\ infty} \ ln \ left ({\ frac {x_ {i}} {\ theta}} \ right) {\ frac {x_ {i } ^ {k-1}} {\ theta ^ {k} \ Gamma (k)}} e ^ {- {\ frac {x_ {i}} {\ theta}}} dx_ {i},}

{\ displaystyle \ mathbb {E} [\ psi _ {0} ({\ hat {k}})] = \ mathbb {E} \ left [{\ frac {1} {n}} \ sum _ {i = 1} ^ {n} \ ln \ left ({\ frac {x_ {i}} {\ theta}} \ right) \ right] = {\ frac {1} {n}} \ sum _ {i = 1} ^ {n} \ mathbb {E} \ left [\ ln \ left ({\ frac {x_ {i}} {\ theta}} \ right) \ right] = {\ frac {1} {n}} \ sum _ {i = 1} ^ {n} \ int _ {0} ^ {\ infty} \ ln \ left ({\ frac {x_ {i}} {\ theta}} \ right) {\ frac {x_ {i } ^ {k-1}} {\ theta ^ {k} \ Gamma (k)}} e ^ {- {\ frac {x_ {i}} {\ theta}}} dx_ {i},}

unde am folosit liniaritatea valorii așteptate și am scris definiția acesteia pe o variabilă continuă aleatorie.

\mathbb {E} [\psi _{0}({\hat {k}})]={\frac {1}{n\theta ^{k}\Gamma (k)}}\sum _{i=1}^{n}\int _{0}^{\infty }\ln \left({\frac {x_{i}}{\theta }}\right)x_{i}^{k-1}e^{-{\frac {x_{i}}{\theta }}}dx_{i}={\frac {1}{\theta ^{k}\Gamma (k)}}\int _{0}^{\infty }\ln \left({\frac {t}{\theta }}\right)t^{k-1}e^{-{\frac {t}{\theta }}}dt

{\ displaystyle \ mathbb {E} [\ psi _ {0} ({\ hat {k}})] = {\ frac {1} {n \ theta ^ {k} \ Gamma (k)}} \ sum _ {i = 1} ^ {n} \ int _ {0} ^ {\ infty} \ ln \ left ({\ frac {x_ {i}} {\ theta}} \ right) x_ {i} ^ {k- 1} e ^ {- {\ frac {x_ {i}} {\ theta}}} dx_ {i} = {\ frac {1} {\ theta ^ {k} \ Gamma (k)}} \ int _ { 0} ^ {\ infty} \ ln \ left ({\ frac {t} {\ theta}} \ right) t ^ {k-1} e ^ {- {\ frac {t} {\ theta}}} dt }

{\ displaystyle \ mathbb {E} [\ psi _ {0} ({\ hat {k}})] = {\ frac {1} {n \ theta ^ {k} \ Gamma (k)}} \ sum _ {i = 1} ^ {n} \ int _ {0} ^ {\ infty} \ ln \ left ({\ frac {x_ {i}} {\ theta}} \ right) x_ {i} ^ {k- 1} e ^ {- {\ frac {x_ {i}} {\ theta}}} dx_ {i} = {\ frac {1} {\ theta ^ {k} \ Gamma (k)}} \ int _ { 0} ^ {\ infty} \ ln \ left ({\ frac {t} {\ theta}} \ right) t ^ {k-1} e ^ {- {\ frac {t} {\ theta}}} dt }

Toate integralele din $the$ ${\ displaystyle i}$ $the$ -a variabilă este egală una cu cealaltă, deci suma lor dă $n$ ${\ displaystyle n}$ $n$ de ori singura integrală din variabila de integrare generică $t$ ${\ displaystyle t}$ $t$ .

\mathbb {E} [\psi _{0}({\hat {k}})]={\frac {1}{\theta ^{k}\Gamma (k)}}\int _{0}^{\infty }\ln \left({\frac {t}{\theta }}\right)t^{k-1}e^{-{\frac {t}{\theta }}}dt={\frac {\theta ^{k-1}}{\theta ^{k-1}\Gamma (k)}}\int _{0}^{\infty }\ln(u)u^{k-1}e^{-u}du={\frac {1}{\Gamma (k)}}\int _{0}^{\infty }u^{k-1}\ln(u)e^{-u}du

{\ displaystyle \ mathbb {E} [\ psi _ {0} ({\ hat {k}})] = {\ frac {1} {\ theta ^ {k} \ Gamma (k)}} \ int _ { 0} ^ {\ infty} \ ln \ left ({\ frac {t} {\ theta}} \ right) t ^ {k-1} e ^ {- {\ frac {t} {\ theta}}} dt = {\ frac {\ theta ^ {k-1}} {\ theta ^ {k-1} \ Gamma (k)}} \ int _ {0} ^ {\ infty} \ ln (u) u ^ {k -1} e ^ {- u} du = {\ frac {1} {\ Gamma (k)}} \ int _ {0} ^ {\ infty} u ^ {k-1} \ ln (u) e ^ {-u} du}

{\ displaystyle \ mathbb {E} [\ psi _ {0} ({\ hat {k}})] = {\ frac {1} {\ theta ^ {k} \ Gamma (k)}} \ int _ { 0} ^ {\ infty} \ ln \ left ({\ frac {t} {\ theta}} \ right) t ^ {k-1} e ^ {- {\ frac {t} {\ theta}}} dt = {\ frac {\ theta ^ {k-1}} {\ theta ^ {k-1} \ Gamma (k)}} \ int _ {0} ^ {\ infty} \ ln (u) u ^ {k -1} e ^ {- u} du = {\ frac {1} {\ Gamma (k)}} \ int _ {0} ^ {\ infty} u ^ {k-1} \ ln (u) e ^ {-u} du}

iar rezultatul acestei din urmă integrale este corect $\Gamma (k)\psi _{0}(k)$ ${\ displaystyle \ Gamma (k) \ psi _ {0} (k)}$ ${\ displaystyle \ Gamma (k) \ psi _ {0} (k)}$ pentru orice $k$ ${\ displaystyle k}$ $k$ cu partea reală pozitivă. Apoi am obținut identitatea

\mathbb {E} [\psi _{0}({\hat {k}})]=\psi _{0}(k),

{\ displaystyle \ mathbb {E} [\ psi _ {0} ({\ hat {k}})] = \ psi _ {0} (k),}

{\ displaystyle \ mathbb {E} [\ psi _ {0} ({\ hat {k}})] = \ psi _ {0} (k),}

ceea ce nu este suficient pentru a spune că estimatorul este corect (nu numai asimptotic), dar este totuși necesar.

Într-adevăr din inegalitatea lui Jensen (conform căreia $\varphi (\mathbb {E} [X])\leq \mathbb {E} [\varphi (X)]$ ${\ displaystyle \ varphi (\ mathbb {E} [X]) \ leq \ mathbb {E} [\ varphi (X)]}$ ${\ displaystyle \ varphi (\ mathbb {E} [X]) \ leq \ mathbb {E} [\ varphi (X)]}$ pentru orice variabilă aleatorie X și o funcție convexă $\varphi$ ${\ displaystyle \ varphi}$ $\ varphi$ ) obțineți un rezultat mai puternic datorită faptului că funcția $\psi _{0}^{-1}\colon \mathbb {R} \rightarrow \mathbb {R} ^{+}$ ${\ displaystyle \ psi _ {0} ^ {- 1} \ colon \ mathbb {R} \ rightarrow \ mathbb {R} ^ {+}}$ ${\ displaystyle \ psi _ {0} ^ {- 1} \ colon \ mathbb {R} \ rightarrow \ mathbb {R} ^ {+}}$ este convex pe întregul său domeniu.

De fapt folosind inegalitatea lui Jensen pentru $X=\psi _{0}({\hat {k}})$ ${\ displaystyle X = \ psi _ {0} ({\ hat {k}})}$ ${\ displaystyle X = \ psi _ {0} ({\ hat {k}})}$ Și $\varphi =\psi _{0}^{-1}$ ${\ displaystyle \ varphi = \ psi _ {0} ^ {- 1}}$ ${\ displaystyle \ varphi = \ psi _ {0} ^ {- 1}}$ va rezulta