Bootstrap (tilastot)

Bootstrap [1] ( englanniksi bootstrap ) tilastoissa on käytännöllinen tietokonemenetelmä todennäköisyysjakaumien tilastojen jakautumisen tutkimiseen , joka perustuu useaan otosten generointiin Monte Carlo -menetelmällä olemassa olevan otoksen perusteella [2] . Voit helposti ja nopeasti arvioida monenlaisia tilastoja ( luottamusvälit , varianssi , korrelaatio ja niin edelleen) monimutkaisille malleille.

Bradley Efron esitteli konseptin vuonna 1977 (ensimmäinen julkaisu on vuodelta 1979 [3] ). Menetelmän ydin on rakentaa empiirinen jakauma olemassa olevan otoksen perusteella . Käyttämällä tätä jakaumaa teoreettisena todennäköisyysjakaumana on mahdollista tuottaa näennäissatunnaislukugeneraattorilla lähes rajoittamaton määrä mielivaltaisen kokoisia, esimerkiksi alkuperäisen kanssa samanlaisia pseudokonotoksia. Näennäytteiden sarjalla voidaan arvioida analysoitujen tilastollisten ominaisuuksien lisäksi myös niiden todennäköisyysjakaumia. Siten on mahdollista esimerkiksi arvioida minkä tahansa tilaston varianssi tai kvantiilit riippumatta sen monimutkaisuudesta. Tämä menetelmä on ei-parametristen tilastojen menetelmä .

" Jackknife "-menetelmien lisäksi ristiinvalidointi ja permutaatiotestaus ( eng. tarkka testi ) muodostavat luokan uudelleennäytteenottomenetelmiä ( eng. resampling ).

Etymologia

Sana tulee ilmaisusta: "Vetäytyä aidan yli saappaiden hihnoilla." (kirjaimellisesti - "päästä aidan yli vetämällä saappaiden hihnat" (katso kuva oikealla). Venäjänkielisille ihmisille on lähempänä tarina paroni Münchausenista , joka hiuksistaan vetäen veti itsensä ja hänen hevosensa suosta.

Bootstrap-anglismia itsessään käytetään monilla tiedon aloilla, joilla sinun on välitettävä merkitys saada jotain "ilmaiseksi" tai maagisesti saada jotain arvokasta tyhjästä. Tilastojen alalla termin lähin analogi etymologian kannalta on "itsevetävä".

Johdantoesimerkki

Olkoon kaksi havaintoa:

{\näyttötyyli (x_{1},y_{1})=(1,1),\ (x_{2},y_{2})=(2,3)}

Oletetaan, että meidän on arvioitava parametri y : n regressiossa x :llä :

{\displaystyle y_{i}=\theta x_{i}+\epsilon _{i))

Pienimmän neliösumman menetelmällä saatu parametriestimaatti on yhtä suuri kuin

{\hat {\theta }}={\frac {x_{1}y_{1}+x_{2}y_{2}}{x_{1}^{2}+x_{2}^{ 2}}}={\frac {1\times 1+2\times 3}{1^{2}+2^{2}}}={\frac {7}{5}}

Empiirinen jakaumafunktio tässä tapauksessa on yhtä suuri kuin

(x,y)'={\begin{cases}(1,1)',\quad p=1/2\\(2,3)',\quad p=1/2\\\end {tapaukset}}

Tässä tapauksessa kahden havainnon tiedot empiirisen jakauman suhteen jakautuvat seuraavasti:

(x_{1},y_{1})',(x_{2},y_{2})'={\begin{cases}(1,1)',(1,1)',\ quad p=1/4\\(1,1)',(2,3)',\quad p=1/4\\(2,3)',(1,1)',\quad p=1 /4\\(2,3)',(2,3)',\quad p=1/4\\\end{cases}}

Tämä on bootstrap-jakelu. Seuraavaksi löydämme OLS-arvion jakautumisen:

{\hat {\theta }}_{2}^{*}={\begin{cases}1,\quad \quad p=1/4\\7/5,\quad p=1/2 \\3/2,\quad p=1/4\\\end{cases}}

Sovellus

Bootstrapia käytetään korjaamaan harhaa, testaamaan hypoteeseja ja rakentamaan luottamusväliä.

Bootstrap Confidence Interval: An Algorithm

Olkoon otos yleisestä perusjoukosta ja sitä vaaditaan parametrin arvioimiseksi . On tarpeen valita pseudonäytteiden lukumäärä, jotka muodostetaan alkuperäisen näytteen elementeistä palautuksella. Jokaiselle pseudonäytteelle lasketaan pseudotilasto . $(z_{1};z_{2};\dots ;z_{n})$ $\theta$ $B$ $(z_{1}^{*};z_{2}^{*};\dots ;z_{n}^{*})_{b},b=1,2,\pisteet ,B$ ${\hat {\theta }}_{b}^{*}$

Pseudotilastot lajitellaan pienimmästä suurimpaan. Kvantiilit ottavat arvoja . Niitä käytetään luottamusvälin muodostamiseen. ${\hat {\theta }}_{1}^{*},{\hat {\theta }}_{2}^{*},\dots ,{\hat {\theta }}_{ B}^{*}$ $q_{\alpha _{1}}^{*},q_{1-\alpha _{2}}^{*}$ ${\hat {\theta }}_{[B\alpha _{1}]}^{*},{\hat {\theta }}_{[B(1-\alpha _{2}) +1]}^{*}$

Muistiinpanot

↑ Myös bootstrap , bootstrap , bootstrap , bootstrapping .
↑ アーカイブされたコピー. Haettu 23. maaliskuuta 2007. Arkistoitu alkuperäisestä 12. heinäkuuta 2012. (määrätön)
↑ Efron, 1979 .

Kirjallisuus

Stanislav Anatoliev . Ekonometria edistyneille. Luentokurssi. – 2002.
Bradley Efron . Bootstrap-menetelmät: Toinen katse Jackknifeen // Annals of Statistics. - 1979. - Voi. 7 , ei. 1 . - s. 1-26 . — ISSN 0090-5364 . - doi : 10.1214/aos/1176344552 .

Linkit

Bootstrap-opetusohjelma ICASSP 99:stä (downlink alkaen 13-05-2013 [3451 päivää] - historia ) : Opetusohjelma signaalinkäsittelyn näkökulmasta
Bootstrap-näytteenotto opetusohjelma MS Excelillä
Yihui Xien animaatiot iid-tietojen käynnistämiseen (downlink alkaen 13-05-2013 [3451 päivää] - historia ) R :n avulla
Bootstrap opetusohjelma

Bibliografisissa luetteloissa	BNF : 12378257v J9U : 987007536908405171 LCCN : sh91004766 NKC : ph225449