Cramer-Raon epätasa-arvo

Cramer-Pao- epäyhtälö on epäyhtälö , joka tietyissä tilastomallin olosuhteissa antaa tuntemattoman parametrin estimaatin varianssille alarajan , joka ilmaisee sen Fisherin informaationa .

Nimetty ruotsalaisen matemaatikon Harald Cramerin ja intialaisen matemaatikon Kalyampudi Raon mukaan, mutta heistä riippumattomasti perustettiin myös Frechet , Darmois ( fr. Georges Darmois ), Aitken ( englanniksi Alexander Aitken ) ja Silverstone ( Harold Silverstone ). Estimoinnin kvanttiteoriassa tunnetaan yleistys - kvantti Cramer-Rao -epäyhtälö .

Sanamuoto

Tilastolliselle mallille on otos , jonka koko on , todennäköisyysfunktio määritetään ja seuraavat ehdot (säännöllisyyden ehdot) täyttyvät: ${\näyttötyyli (X,\,B,\,P_{\theta })}$ $x=(x_{1},\dots ,\,x_{n})$ $n$ $L(\theta ,\,x)=L(\theta ,\;x_{1},\,x_{2},\dots \,x_{n})$

$L_{}^{}>0$ ja kaikkialla erotettavissa suhteessa ; $\theta _{}^{}$
funktiolla ( näytteenottoavustusfunktio ) on äärellinen varianssi (tai vastaavasti Fisher-informaatio on äärellinen ); $U(\theta ,\,x)={\frac {\partial \ln L(\theta ,\,x)}{\partial \theta ))$
mille tahansa tilastolle , jolla on äärellinen toinen momentti, seuraava yhtälö pätee: ${\widehat {\theta ))(x)$ ${\frac {\partial }{\partial \theta }}\int \limits _{X}{\widehat {\theta }}(x)\,L(\theta ,\,x)\,dx =\int \limits _{X}{\widehat {\theta }}(x)\,{\frac {\partial }{\partial \theta }}L(\theta ,\,x)\,dx$ .

Jos näissä olosuhteissa annetaan tilasto, joka estimoi puolueettomasti differentioituvan funktion , niin seuraava epäyhtälö on tosi: ${\widehat {\theta ))(x)$ $\tau (\theta )$

\mathrm {D} _{\theta }{\big (}{\widehat {\theta }}(x){\big )}\geqslant {\frac {(\tau '(\theta ))^ {2}}{nI(\theta )}}}

, missä ;

I(\theta )=M\left({\frac {d\ln L(\theta ,x)}{d\theta }}\right)^{2}

ja tasa-arvo saavutetaan, jos ja vain jos:

{\frac {d\ln L(\theta ,x)}{d\theta }}=a(\theta )({\widehat {\theta }}(x)-\tau (\theta ))

Tässä on Fisherin tietojen määrä yhdessä havainnossa ja yleisen populaation jakautumistiheys jatkuvan tilastollisen mallin tapauksessa ja tapahtuman todennäköisyys diskreetin tilastomallin tapauksessa. $I^{}(\theta )$ $L(\theta ,t)$ $X$ ${\näyttötyyli (X=t)}$

Erikoistapaus

Seuraavaa erikoistapausta, jota kutsutaan myös Cramer-Rao-epäyhtälöksi, käytetään usein: jos säännöllisyysehdot täyttyvät ja se on parametrin puolueeton arvio , niin: ${\widehat {\theta ))(x)$ $\theta$

\mathrm {D} _{\theta }\,{\widehat {\theta }}(x)\geqslant {\frac {1}{I_{n}(\theta )))

Tasa-arvo tässä epätasa-arvossa saavutetaan jos ja vain jos . ${\hat {\theta }}(x)-\theta =a(\theta )U(\theta ,x)$

Sovellus

Parametrin estimaattia kutsutaan tehokkaaksi , jos sille Cramer-Raon epäyhtälö muuttuu yhtälöksi. Epäyhtälöllä voidaan siis todistaa, että tietyn estimaatin varianssi on pienin mahdollinen, eli että tämä estimaatti on jossain mielessä parempi kuin kaikki muut.

Kirjallisuus

Matemaattiset tilastot, toim. V. S. Zarubina, sarja "Mathematics at the Technical University", voi. XVII, M., MSTU, 2002