Tietokriteeri

Tietokriteeri on ekonometriassa (tilastoissa) käytettyjen ekonometristen (tilastollisten) mallien suhteellisen laadun mitta, joka ottaa huomioon mallin "sovitusasteen" dataan korjauksella (rangaistus) käytettyjen arvioitujen parametrien määrään. . Toisin sanoen kriteerit perustuvat johonkin kompromissiin mallin tarkkuuden ja monimutkaisuuden välillä. Kriteerit vaihtelevat sen mukaan, kuinka ne saavuttavat tämän tasapainon.

Kriteerien informatiivinen luonne liittyy informaatioentropian käsitteeseen ja Kullback-Leibler-etäisyyteen , jonka pohjalta kehitettiin historiallisesti ensimmäinen kriteeri - Akaike-kriteeri (AIC) , jonka Hirotsugu Akaike ehdotti vuonna 1974 [1] .

Tietokriteereitä käytetään yksinomaan mallien vertaamiseen keskenään, ilman näiden kriteerien arvojen järkevää tulkintaa. Ne eivät salli mallien testaamista tilastollisten hypoteesien testaamisessa. Tyypillisesti mitä pienemmät kriteeriarvot ovat, sitä korkeampi on mallin suhteellinen laatu.

Akaike Information Criteria (AIC)

Hirotugu Akaiken ehdottama vuonna 1971, hän kuvasi ja tutki sitä vuosina 1973, 1974, 1983. Aluksi kirjoittajan ehdottama lyhenne AIC tulkittiin " tietokriteeriksi " ("tietyksi tietokriteeriksi"), mutta myöhemmät kirjoittajat kutsuivat sitä Akaike-tietokriteeriksi . Kriteerin alkuperäinen laskentakaava on muotoa:

AIC=2k-2l

jossa on konstruoidun mallin logaritmisen todennäköisyysfunktion arvo, on käytettyjen (estimoitujen) parametrien lukumäärä. $l$ $k$

Monet nykyaikaiset kirjoittajat, kuten myös monissa ekonometrisissä ohjelmistotuotteissa (esimerkiksi EViewsissa), käyttävät hieman erilaista kaavaa, joka sisältää jakamisen otoskoolla , jonka mukaan malli rakennettiin: $n$

AIC=2k/n-2l/n

Tämä lähestymistapa mahdollistaa erikokoisista näytteistä arvioitujen mallien vertailun.

Mitä pienempi kriteerin arvo, sitä parempi malli. Monet muut kriteerit ovat AIC:n muutoksia.

Bayesian Information Criterion (BIC) tai Schwartz Criterion (SC)

Schwartz ehdotti Bayesin tietokriteeriä (BIC) vuonna 1978, joten sitä kutsutaan usein myös Schwarz-kriteeriksi (SC). Se kehitettiin Bayesin lähestymistavan perusteella ja on yleisimmin käytetty AIC:n muunnos:

BIC=SC=k\ln n-2l

Kuten kaavasta voidaan nähdä, tämä kriteeri asettaa suuremman rangaistuksen parametrien lukumäärän kasvulle verrattuna AIC: hen, koska yli 2 jo 8 havainnon yhteydessä ${\näyttötyyli \ln n}$

Muut tietokriteerit

Bozdoganin vuonna 1987 ehdottama johdonmukainen AIC (CAIC) -kriteeri :

CAIC=(1+\ln n)k-2l

Tämä kriteeri on asymptoottisesti sama kuin . Sama kirjoittaja ehdotti vuonna 1994 muutoksia, jotka lisäävät kerrointa parametrien lukumäärällä (eikä 2 - 3 tai 4 varten ja ). $BIC$ ${\displaystyle AIC_{3))$ ${\displaystyle AIC_{4))$

Korjattu Akaike-testi (Corrected AIC- ), jota suositellaan käytettäväksi pienissä näytteissä (Sugiuran vuonna 1978 ehdottama): $AIC_{c}$

AIC_{c}=AIC+{\frac {2k(k+1)}{nk-1))

Kirjoittajat ehdottivat Hannan-Quinn (HQ) -testiä vuonna 1979

HQ=2k\ln \ln n/n-2l/n

Tämä kriteeri, yhdessä AIC:n ja BIC:n kanssa, myönnetään arvioitaessa malleja, joissa on erilliset ja rajoitetut riippuvat muuttujat EViewsissa.

On myös AIC-muokkauksia, jotka käyttävät monimutkaisempia rangaistustoimintoja, jotka riippuvat Fisherin tiedoista ja muista ominaisuuksista.

Tietokriteerit erikoistapauksissa

Klassisen normaalin lineaarisen regression erikoistapauksessa log-todennäköisyysfunktio on yhtä suuri kuin

l=-n/2(1+\ln 2\pi +\ln {\hat {\sigma }}^{2})

missä on mallin satunnaisvirheen varianssin johdonmukainen arvio (maksimitodennäköisyysmenetelmä), joka on yhtä suuri kuin jäännösten neliösumman suhde otoskokoon. ${\hat {\sigma }}^{2}$

Korvaamalla log-todennäköisyysfunktion arvon AIC-kaavaan (jaettuna otoskoolla) sekä ottamatta huomioon vakiotermejä 1 ja (koska ne eivät vaikuta tulokseen malleja verrattaessa), saadaan seuraava kaava: $\ln 2\pi$

AIC=2k/n+\ln {\hat {\sigma }}^{2}

Ominaisuudet

Erilaisten kriteerien soveltaminen voi johtaa eri mallien valintaan. Monissa teoksissa näitä kriteerejä verrataan, mutta lopullista johtopäätöstä yhden tai toisen kriteerin suosimisesta ei tehdä. Siksi ohjelmistotuotteet tarjoavat yleensä vähintään kaksi kriteeriä (AIC, BIC), joissakin malleissa myös kolmannen (HQ). Tiedetään, että autoregressiivisillä malleilla AIC-kriteeri yliarvioi mallin järjestyksen, eli tähän kriteeriin perustuva mallin järjestyksen estimointi on kestämätön. Johdonmukainen kriteeri autoregressiivisen mallin järjestyksen valinnassa on BIC.

Linkit

↑ Akaike, Hirotugu . Uusi näkymä tilastolliseen mallin tunnistukseen (neopr.) // IEEE Transactions on Automatic Control. - 1974. - T. 19 , nro 6 . - S. 716-723 . - doi : 10.1109/TAC.1974.1100705 .

Kirjallisuus

Grasa, Antonio Aznar (1989) Econometric Model Selection: A New Approach, Kluwer.
Greene, William H. (1997) Econometric Analysis, 3. painos, Prentice-Hall.