Hetkien menetelmä

Momenttimenetelmä on menetelmä jakaumien tuntemattomien parametrien estimoimiseksi matemaattisessa tilastotiedossa ja ekonometriassa , joka perustuu momenttien oletettuihin ominaisuuksiin ( Pearson , 1894). Menetelmän ideana on korvata todelliset suhteet selektiivisillä analogeilla.

Menetelmän ydin

Olkoon satunnaismuuttujalla (vektorilla, matriisilla jne.) X jokin jakauma parametrien mukaan . Olkoon mittaan integroitavissa olevat funktiot ( momentti- tai momenttifunktiot ) täyttävät momenttien ehdot $\mathbb {P} _{\theta }$ $\theta \in \Theta \subset {\mathbb {R}}^{k}$ $g_{i}:{\mathbb {R}}^{m}\to {\mathbb {R}}$ $\mathbb {P} _{\theta }$

{\mathbb {E}}\left[g_{i}(X,\theta )\right]=0~,~~i=1..k

Olkoon otos satunnaismuuttujasta X. Oletetaan, että momenttien ehtoja vastaavat suhteet täyttyvät myös otokselle, eli momenttien ehdoissa olevan matemaattisen odotuksen sijaan on käytettävä otosta tarkoittaa: $X_{1},\ldots,X_{n}$

\overline {g_{i}(X,\theta )}=0~,~~i=1..k

lisäksi tässä esityksessä (kun nolla on tasa-arvon oikealla puolella) riittää, että käytetään yksinkertaisia summia keskiarvojen sijaan.

Tämän yhtälöjärjestelmän ratkaisusta saatuja arvioita (momenttien selektiiviset ehdot) kutsutaan momenttimenetelmän estimaateiksi . Menetelmän nimi johtuu siitä, että funktiot ovat useimmiten potenssityypin funktioita, joiden matemaattisia odotuksia todennäköisyysteoriassa ja matemaattisissa tilastoissa yleensä kutsutaan momenteiksi. $g_i$

Jos momenttifunktiot ovat jatkuvia, niin momenttien menetelmän estimaatit ovat johdonmukaisia .

Erikoistapaukset

Jotkut klassiset regressiomallien estimointimenetelmät voidaan esittää momenttimenetelmän erikoistapauksina. Jos esimerkiksi lineaarinen regressiomalli täyttää ehdon , hetken ehdot näyttävät tältä: $y_{t}=x_{t}^{T}b+\varepsilon _{t}$ $E(x_{t}^{T}\varepsilon _{t})=0$

$X^{T}e=0~\Oikea nuoli ~X^{T}(y-Xb)=0~\Oikea nuoli ~X^{T}Xb=X^{T}y$

Siksi tässä tapauksessa momenttien menetelmän estimaatti on sama kuin pienimmän neliösumman menetelmän estimaatti ${\hat {b}}_{{MM}}={\hattu {b}}_{{OLS}}=(X^{T}X)^{{-1}}X^{T}y$

LSM on siis momenttimenetelmän erikoistapaus, jolloin regressorien ja satunnaisvirheiden ortogonaalisuuden ehto täyttyy. $E(x_{t}^{T}\varepsilon _{t})=0$

Tarkastellaan toista tapausta, jossa jotkut muuttujat z ovat ortogonaalisia lineaarisen regressiomallin satunnaisvirheisiin nähden, eli . Sitten meillä on tämän ehdon valikoiva analogi: $E(z_{t}^{T}\varepsilon _{t})=0$

$Z^{T}e=0~\Oikea nuoli Z^{T}(y-Xb)=0~\Oikea nuoli ~Z^{T}Xb=Z^{T}y$

Siksi momenttien menetelmän estimaatti osuu yhteen instrumentaalisten muuttujien menetelmän estimaatin kanssa : . ${\hattu {b}}_{{MM}}={\hattu {b}}_{{IV}}=(Z^{T}X)^{{-1}}Z^{T}y$

Instrumentaalimuuttujien menetelmä on siis momenttimenetelmän erikoistapaus, jolloin instrumenttien ortogonaalisuuden ja mallin satunnaisvirheiden ehto täyttyy.

Yleistetty hetkien menetelmä

Momenttimenetelmä voidaan yleistää tapaukseen, jossa momenttiolosuhteiden lukumäärä ylittää arvioitavien parametrien määrän. Tässä tapauksessa ongelmalla ei ilmeisesti ole ainutlaatuista ratkaisua (yleisessä tapauksessa). Tässä tapauksessa ongelma minimoida tietty toiminto, joka luonnehtii hetken ehtojen kokonaismäärää.

Olkoon joukko ehtoja hetkille, joiden lukumäärä on suurempi kuin tuntemattomien parametrien määrä. Momenttien yleinen menetelmä (GMM, GMM - Generalized Method of Moments) on arvio, joka minimoi näyteolosuhteiden positiivisen määrätyn neliömuodon momentille: $E(g(x,b))=0$

${\hat {b}}_{GMM}=\arg \min _{b}{\overline {g(x,b)}}^{T}W{\overline {g(x,b) }}$

missä W on jokin symmetrinen positiivinen määrätty matriisi.

Painomatriisi voi teoriassa olla mielivaltainen (ottaen huomioon positiivisen määrityksen rajoituksen), mutta on osoitettu, että tehokkaimpia ovat GMM-estimaatit, joiden painomatriisi on yhtä suuri kuin momenttifunktioiden käänteinen kovarianssimatriisi . Tämä on niin kutsuttu tehokas GMM . Koska tätä kovarianssimatriisia ei kuitenkaan tunneta käytännössä, käytetään seuraavaa menettelyä. Ensimmäisessä vaiheessa mallin parametrit estimoidaan GMM:llä identiteettipainomatriisin kanssa. Sitten näytetietojen ja parametrien löydettyjen arvojen mukaan momenttifunktioiden kovarianssimatriisi estimoidaan ja tuloksena saatua estimaattia käytetään efektiivisessä GMM:ssä (tämä on ns. käytettävissä oleva tehokas GMM). $W=V_{g}^{{-1}}$

Esimerkki

Antaa olla näyte gammajakaumasta tuntemattomilla parametreilla ja . Sitten $X_{1},\ldots ,X_{n}\sim \Gamma (\alpha ,\beta )$ $\alpha$ $\beeta$

{\mathbb {E}}[X_{i}]=\alpha \beta ,\;{\mathbb {E}}\left[X_{i}^{2}\right]=\alpha (\alpha +1 )\beta ^{2},\quad i=1,\ldots ,n

Sitten momenttimenetelmän estimaatit täyttävät yhtälöjärjestelmän:

{\begin{matrix}\overline {X}=&{\hat {\alpha }}_{{{\mathrm {MM}}}}{\hat {\beta }}_{({\mathrm {MM} }}}\\\overline {X^{2}}=&{\hat {\alpha }}_{({\mathrm {MM}}}}({\hat {\alpha }}_{{{\ mathrm {MM)))+1)\left({\hat {\beta }}_{({\mathrm {MM}}}}\right)^{2}\end{matrix}}~~\Rightarrow ~~{\hat {\alpha }}_{({\mathrm {MM}}}}={\frac {\left(\overline {X}\right)^{2}}{\overline {X^{ 2}}-\left(\overline {X}\right)^{2}}}~,~~{\hat {\beta }}_{({\mathrm {MM}}}}={\frac { \overline {X^{2}}-\left(\overline {X}\right)^{2}}{\overline {X}}}

Menetelmän edut ja haitat

Tietyssä määrin arvioitaessa parametreja tunnetusta todennäköisyysjakaumien perheestä, Fisherin maksimitodennäköisyysmenetelmä kumoaa tämän menetelmän , koska maksimitodennäköisyysestimaatti on suurella todennäköisyydellä lähempänä estimoidun arvon todellista arvoa.

Kuitenkin joissain tapauksissa, kuten edellä gamma-jakauman tapauksessa, maksimitodennäköisyysmenetelmän käyttö edellyttää tietokoneiden käyttöä , kun taas momenttimenetelmä voidaan toteuttaa nopeasti ja helposti käsin.

Momenttimenetelmällä saatuja arvioita voidaan käyttää ensimmäisenä approksimaationa maksimitodennäköisyyden menetelmälle. Lisäparannuksia arvioihin voidaan saada käyttämällä Newton-Raphsonin menetelmää .