Kestävyys

Kokeneet kirjoittajat eivät ole vielä tarkistaneet sivun nykyistä versiota, ja se voi poiketa merkittävästi 6. lokakuuta 2017 tarkistetusta versiosta . tarkastukset vaativat 7 muokkausta .

Robustiteetti ( eng. robustness ← robust "vahva; vahva; kiinteä; vakaa") on tilastollisen menetelmän ominaisuus, joka kuvaa erilaisten päästöjen tutkimuksen tulokseen vaikuttamisen riippumattomuutta , häiriönkestävyyttä.

Outlier (robust) -menetelmä - menetelmä, jolla pyritään tunnistamaan poikkeavia arvoja, vähentämään niiden vaikutusta tai jättämään ne pois otoksesta .

Käytännössä jopa pienen määrän outliers (outliers) esiintyminen näytteissä voi vaikuttaa suuresti tutkimuksen tulokseen, esimerkiksi pienimmän neliösumman menetelmä ja maksimitodennäköisyysmenetelmä tietyissä jakaumissa ovat alttiina tällaisille vääristymille, ja tutkimuksen tuloksena saadut arvot saattavat lakata vastaamasta sinulle. Tällaisten häiriöiden vaikutuksen eliminoimiseksi käytetään erilaisia lähestymistapoja "huonojen" havaintojen (outliers) vaikutuksen vähentämiseksi tai niiden poistamiseksi kokonaan. Outlier-menetelmien päätehtävänä on erottaa "huono" havainto "hyvästä", ja yksinkertaisimmistakin lähestymistavoista, subjektiivisista (tutkijan sisäisten tunteiden perusteella), voi kuitenkin olla merkittävää hyötyä motivoituneelle hylkäämiselle. tutkijat käyttävät edelleen menetelmiä, jotka perustuvat joihinkin tiukkaan matemaattisiin perusteluihin. Tämä prosessi on tilastotieteilijälle hyvin ei-triviaali tehtävä ja määrittelee yhden tilastotieteen alueista .

Purkausvakauden (kestävyyden) käsite

Harkitse klassista esimerkkiä kestävistä ja epävakaista ominaisuuksista keskimääräisen tulon laskemiseksi. Olkoon 10 ihmistä, joista yhdeksän ansaitsee kukin 100 ruplaa ja yksi 500 ruplaa. Lukujen aritmeettinen keskiarvo on 140, vaikka 90 % otokseen kuuluneista ansaitsee vähemmän. Samalla otoksen mediaani on 100: hyvin erilainen arvo ei vaikuttanut mediaanin arvoon. Siten mediaani on esimerkki vahvasta ominaisuudesta, kun taas aritmeettinen keskiarvo ei ole.

Outlier-stabiilisuus (robustius) tilastoissa ymmärretään herkkyydeksi erilaisille poikkeamille ja epähomogeenisuuksille otoksessa, joka liittyy tiettyihin, yleisesti tuntemattomiin syihin [1] [2] . Nämä voivat olla havaintoja rekisteröiviä ilmaisinvirheitä, jonkun tunnollisia tai tahallisia yrityksiä "sovittaa" otos ennen kuin se pääsee tilastoihin, suunnitteluvirheitä, sisään hiipiviä kirjoitusvirheitä ja paljon muuta. Esimerkiksi jakaumalain muutosparametrin poikkeavin estimaatti on mediaani , joka on varsin ilmeinen intuitiivisella tasolla (tiukkaa todistusta varten kannattaa käyttää sitä tosiasiaa, että mediaani on katkaistu M-estimaatti, katso alla ) [ 1] . Suoraan "virheellisten" havaintojen lisäksi voi olla myös useita havaintoja, jotka noudattavat erilaista jakaumaa . Jakaumalakien ehdollisuuden vuoksi , ja tämä ei ole muuta kuin kuvausmalli, itse otos voi sisältää joitain poikkeavuuksia ihanteen kanssa.

Parametrinen lähestymistapa on kuitenkin niin tottunut, mikä osoittaa sen yksinkertaisuuden ja tarkoituksenmukaisuuden, että on järjetöntä kieltäytyä siitä. Siksi tuli tarpeen mukauttaa vanhoja malleja uusiin tehtäviin.

On syytä korostaa erikseen ja unohtamatta, että hylätyt havainnot vaativat erillistä, lähempää huomiota. Havainnot, jotka vaikuttavat "huonolta" yhdelle hypoteesille, voivat hyvinkin olla yhdenmukaisia toisen hypoteesin kanssa. Lopuksi, ei suinkaan aina terävästi erotetut havainnot ole "avioliitto". Yksi tällainen havainto esimerkiksi geenitekniikan osalta on miljoonien muiden havaintojen arvoinen, jotka eroavat vähän toisistaan.

Peruslähestymistavat

Epähomogeenisuuksien vaikutuksen rajoittamiseksi tai sen poistamiseksi kokonaan on olemassa monia erilaisia lähestymistapoja. Niistä erottuu kaksi pääsuuntaa.

Ryhmittele tiedot poistamatta yksittäisiä havaintoja (jotta voidaan vähentää yksittäisten poikkeavien arvojen aiheuttaman näytteen vahingoittumisen mahdollisuus). Sen jälkeen, riittävällä varmuudella, on sallittua käyttää klassisia tilastomenetelmiä .

Seuraa päästöjä suoraan analyysiprosessissa. Esimerkiksi jakautumislain parametrien määrittämiseen voidaan käyttää iteratiivista proseduuria katkaistuilla tai th - redisoiduilla M-estimaateilla [1] .

Tietojen ryhmittely poikkeavien tilastojen menetelmänä

Otos ryhmittelemällä yksittäisten havaintojen vaikutusta voidaan vähentää merkittävästi niitä hylkäämättä. Jako intervalleihin ei ole erityisen vaikeaa ja antaa erittäin konkreettisen tuloksen. On olemassa kolme yleisintä osiointimenetelmää.

Jakaminen yhtä pitkiin intervalleihin. Yksinkertaisin ja siksi yleisin tapa.

Tasaisen todennäköisyyden binning, jota kutsutaan myös tasataajuusryhmittelyksi, kuvastaa tämän menetelmän käytännön toteutusta. Tällaisen otoksen ryhmittelyn tuloksena informaatioentropia maksimoidaan , missä saavutetaan sopivuuskriteerin tai todennäköisyyssuhdekriteerin [3] suurin asymptoottinen teho . $\sum {-P_{i}}\ln {P_{i}}$ $P_{i}=\int \limits _{x_{i-1}}^{x_{i}}f(x)\,\mathrm {d} x$ $\chi ^{2}$

Jakaminen asymptoottisesti optimaalisiin aikaväleihin. Tällaisella osiolla minimoidaan ryhmittelystä johtuva tiedon menetys, eli Fisher-informaatio maksimoidaan , missä on lain arvioitu parametri. Monille jakautumislaeille oli mahdollista saada parametrien suhteen invariantteja intervallirajat ja laadittiin vastaavat taulukot. Tällaisen osion avulla voimme maksimoida kriteerin tehon . $\sum \left({\frac {\partial \ln P_{i}}{\partial \theta }}\right)^{2}P_{i}$ $\theta$

Vaikutusfunktion lähestymistapa

Erillinen lähestymistapa outlier-menetelmien rakentamiseen on "kontaminoituneen" näytteen jakautumislain parametrien estimoiminen Hampelin [1] ehdottaman lähestymistavan avulla . Tutkiakseen yksittäisen havainnon vaikutusta jakautumislain yhden tai toisen parametrin arviointiin (tarkasteltavana olevaan tilastoon), Hampel ottaa käyttöön ns. vaikutusfunktion , joka ei ole muuta kuin tämän tilaston johdannainen .

Peruskäsitteet

Funktionaali otetaan käyttöön jonkin jakauman näytteen funktiona parametrilla (se on myös ). riippuu . Samoin lain ja parametrin funktio . Let täyttää myös joitain johdonmukaisuuden ja säännöllisyyden ehtoja : $T$ $X=(X_{1}\ldots X_{n})\in \mathbb {X}$ $F$ $\theta \in \Theta$ $F_{\theta}$ $T$ ${\displaystyle X:F_{\theta ))$ $T$ $F$ $\theta$ $T$

T(F)=\theta ,\quad \int T\,\mathrm {d} F=0.

Tämän funktion derivaatta pisteessä, jossa on jakauma : $T$ $F$

\exists \,a:\quad \lim _{t\to 0}{\frac {T((1-t)F+tG)-T(F)}{t}}:=\int a \,\mathrm {d} G,

missä:

$a$ - tietty toiminto, jonka merkitys selviää seuraavassa vaiheessa;
$G$ onko jokin jakelulaki erilainen kuin . $F$

Korvattaessa tapahtumalle annetaan yksikkömassa sen sijaan , minkä seurauksena vain : $\Delta _{x}$ $X=x$ $G$ $kirves)$

IF=\lim _{t\to 0}{\frac {T((1-t)F+t\Delta _{x})-T(F)}{t)).

Tätä funktiota kutsutaan vaikutusfunktioksi .

Vaikutusfunktion merkitys osoitetaan korvaamalla ja korvaamalla raja, jolloin lauseke muunnetaan muotoon , joka vastaa tilannetta, kun jakaumaa noudattavien havaintojen otokseen lisätään uusi uusi . Siten se seuraa käytetyn toiminnallisuuden reaktiota tehtyyn lisäykseen ja näyttää yksittäisen havainnon vaikutuksen koko tietojoukon arviointiin. ${\frac {1}{n}}$ $t$ $F_{t,x}=(1-t)F+t\Delta _{x}$ $F_{{\frac {1}{n)),x}={\frac {(n-1)F+\Delta _{x}}{n}}$ $(n-1)$ $F$ $IF$ $T$ $x$

Yksittäisten havaintojen vaikutuksen karakterisoimiseksi otetaan käyttöön myös käsite herkkyys suurelle virheelle : $\gamma$

\gamma =\sup _{{x\in {\mathbb {X}}}}|IF(x)|.

Jos vaikutusfunktio on rajoitettu, niin vastaavaa estimaattia kutsutaan B(be)-robustiksi .

M-pisteet

Tehokkaimmat ja laajimmin käytetyt jakautumalakien parametrien estimaatit ovat maksimitodennäköisyysestimaatit (MLE), jotka määritetään jollakin seuraavista ehdoista:

\sum _{i}\ln P_{i}\to \max _{\theta \in \Theta },\qquad \sum _{i}{\frac {\partial \ln P_{i)) {\partial \theta }}=0,\qquad \sum _{i}{\frac {P_{i}'}{P_{i}}}=0,

kun on kyse ryhmittämättömästä näytteestä ja ryhmitellystä näytteestä, $P_{i}=f(x_{i},\theta )$ $P_{i}=\left(\int \limits _{x_{i-1}}^{x_{i}}f(x,\theta )\,\mathrm {d} x\right)^ {n_{i}}$

M-arviot - joukkotuhoaseista on tietty yleistys. Ne määritellään samalla tavalla jollakin suhteista:

\sum _{i=1}^{N}\rho (x_{i},\theta )\to \max _{\theta \in \Theta },\qquad \sum _{i=1} ^{N}\phi (x_{i},\theta )=0.

Jos asetamme substituutioon säännöllisyysehdon ja erottelemme sen suhteessa nollaan: $F_{t,x}=(1-t)F+t\Delta _{x}$ $t$

0={\frac {\partial }{\partial {t))}\int \phi (x,T(F_{t,x}))\,\mathrm {d} F_{t,x}

0=\int {\frac {\partial \phi (x,T(F_{t,x}))}{\partial \theta }}IF\,\mathrm {d} F_{t,x} +\int \phi (x,T(F_{t,x}))\,\mathrm {d} {\frac {\partial ((1-t)F+t\Delta _{x})}{\ osittainen t}}

0=IF\int {\frac {\partial \phi (x,T(F_{t,x}))}{\partial \theta }}\,\mathrm {d} F_{t,x} +\phi (x,T(F_{t,x})),

silloin ei ole vaikeaa saada vaikutusfunktion lauseke M-estimaateille :

IF={\frac {-\phi (x)}{\int \phi '_{\theta }(x)\,\mathrm {d} F)).

Tämän lausekkeen avulla voimme päätellä, että M-estimaatit vastaavat nollasta poikkeavaa vakiotekijää.

On helppo tarkistaa, että normaalin normaalijakauman lain MLE:ssä siirtoparametrin ja skaalausparametrin vaikutusfunktiot näyttävät vastaavasti: ${\mathcal {N}}(0,1)$ $IF$

IF=x,\quad IF={\frac {1}{2}}\;x^{2}-{\frac {1}{2}}.

Nämä toiminnot ovat rajoittamattomia, mikä tarkoittaa, että MLE ei ole purkaustolerantti (jämäkkä) B-kestävyyden suhteen.

Tämän korjaamiseksi M-estimaatit rajoittavat keinotekoisesti ja siten rajoittavat sitä (katso M-estimaattien lauseke ) asettaen ylemmän esteen poikkeavien (kaukana parametrien odotettujen arvojen) havaintojen vaikutukselle. Tämä tehdään ottamalla käyttöön niin sanotut typistetyt M-estimaatit, jotka määritellään lausekkeella: $IF$ $IF$

\phi _{b}(z)=\left\{{\begin{array}{lr}\phi (b),&b<z\\\phi (z),&-b<z\leqslant b\\\phi (-b),&z\leqslant -b\end{array}}\right\},

jossa , ja ovat arviot siirto- ja skaalausparametreista, vastaavasti. $z={\frac {x-\theta }{S}}$ $\theta$ $S$

Katkaistujen M-estimaattien joukossa katkaistu MLE [1] on optimaalinen B-robustiteetin kannalta .

Parametrien arviointimenettely

Yhtälön ratkaisemiseksi

\sum _{i=1}^{N}\phi (x_{i},\theta )=0

jotain numeerista menetelmää on käytettävä . Tätä varten sinun on valittava alkuperäiset likiarvot. Nollasiirtymäparametri on yleensä mediaani , ja skaalausparametri on mediaanista poikkeamien mediaanin kerrannainen.

Jos sinun on esimerkiksi arvioitava siirtoparametri, esimerkiksi normaalijakauman laissa , voit käyttää Newtonin menetelmää yhtälön juurten numeeriseen löytämiseen . Tämän seurauksena koko parametrin löytämismenettely pelkistyy lausekkeen iteratiiviseen laskemiseen:

\theta _{{k+1}}=\theta _{k}-{\frac {\sum _{{i=1}}^{N}\phi (x_{i},\theta _{k} )}{\sum _{{i=1}}^{N}\phi '_{\theta }(x_{i},\theta _{k))}}=\theta _{k}-{\ frac {\sum _{{i=1}}^{N}\phi \left((x_{i}-\theta _{k})/S\right)}{\sum _{{i=1} }^{N}\phi '_{\theta }\left((x_{i}-\theta _{k})/S\right)))=\theta _{k}+S{\frac {\ summa _{{i=1}}^{N}\phi \left(z\right)}{\sum _{{i=1}}^{N}\phi '_{z}\left(z\ oikein)}},

jossa on jokin arvio skaalausparametrista, jota käytetään tasoittamaan jakaumat eri alueilla. $S$

Katso myös

Uudelleenkoulutus
Marellierin lause

Muistiinpanot

↑ 1 2 3 4 5 Hampel F., Ronchetti E., Rausseu P., Stael W. Robustness in Statistics. Vahvat tilastot: vaikutusfunktioihin perustuva lähestymistapa . - M .: Mir, 1989.
↑ Huber P. Tilastojen kestävyys. - M .: Mir, 1984.
↑ Kendall M., Stewart A. Tilastolliset päätelmät ja assosiaatiot. - M .: Nauka, 1973.

Linkit

Dodonov Yu. S., Dodonova Yu. A. Keskeisen suuntauksen vahvat mittaukset: painotus mahdollisena vaihtoehtona datan katkaisulle vasteaika-analyysissä .
Julkaisuja poikkeavista (robusteista) menetelmistä parametrien arvioimiseksi ja tilastollisten hypoteesien testaamiseksi professori NSTU Lemeshko B. Yu:n verkkosivuilla.

Kirjallisuus

Robert G. Staudte: Vankka estimointi ja testaus . Wiley, New York 1990. ISBN 0-471-85547-2
Rand R. Wilcox: Johdatus luotettavaan estimointiin ja hypoteesitestaukseen . Academic Press, San Diego Cal 1997. ISBN 0-12-751545-3