Parhaan projektion löytäminen

Kokeneet kirjoittajat eivät ole vielä tarkistaneet sivun nykyistä versiota, ja se voi poiketa merkittävästi 26. helmikuuta 2017 tarkistetusta versiosta . tarkastukset vaativat 12 muokkausta .

Parhaan projektion etsintä ( eng. Projection Pursuit ) on tilastollinen menetelmä, jossa etsitään sellainen moniulotteisen datan projektio , jossa jokin projektion laatufunktio saavuttaa maksiminsa .

Laajuus

Vaikka ihmiset ovat hyviä visuaalisesti havaitsemaan tietoa, he pystyvät analysoimaan vain pienikokoisia kuvia . Moniulotteista dataa analysoitaessa kuvan havaitseminen ei toimi niin hyvin. Tämä ongelma ratkaistaan ottamalla huomioon kahden tai kolmen ulottuvuuden dataprojektiot. Dataprojektioiden visualisoimiseen käytetään tavallisia tekniikoita: sirontakaavioita , histogrammeja , laatikkokaavioita ja niin edelleen.

Menetelmäidea

On tarpeen päättää, mikä projektio on "mielenkiintoisin". Yksi lähestymistavista "mielenkiintoisimman" projektion valinnan automatisoimiseksi perustuu seuraaviin näkökohtiin (selvyyden vuoksi tarkastelemme projektioa suoralle viivalle). Pidämme dataprojektiota "kiinnostavana", jos histogrammilla on normaalijakauman tiheys , kuten kuvassa 1.

Projektioita, joissa on kahden kärjen jakauma, kuten kuvassa 2, pidetään "mielenkiintoisina".

Mielestämme bimodaalinen (bimodaalinen) jakauma on kiinnostavampi, koska se osoittaa kahden klusterin mahdollisen esiintymisen tiedoissa.

Projektioindeksi

"Mielenkiintoisimman" projektion etsimisen automatisoimiseksi käytetään erityisesti valittua laatutoimintoa, jota kutsutaan usein indeksiksi. Paras projektio on se, jonka laatutoiminto on maksimaalinen. Moniulotteisen datan projektion etsintää, joka perustuu jonkin projektion laadun funktion maksimointiin, kutsutaan parhaan projektion etsimiseksi (Projection Pursuit). Indeksin valinta määrittää, kuinka hyödyllinen tulos on. Kuvataan useita projektion laatufunktion muunnelmia.

Etsi yksiulotteinen projektio

Otetaan käyttöön notaatio. Olkoon -ulotteinen satunnaisvektori , niin oletetaan, että vektori on keskitetty, eli . $X$ $s$ $E(X)=0$

Merkitse - -ulotteinen numeerinen vektori, tämän vektorin löytäminen on ongelma löytää paras projektio, joka näyttää tältä . $a$ $s$ $a^{T}X$

Tässä tapauksessa datamatriisilla on ulottuvuus , vektori on datamatriisi. $p\times 1$ $X$

Sitten indeksi määritellään lineaarisen yhdistelmän varianssiksi lisänormalisointiehdon kanssa . $I(a)$ $a^{T}X$ $a^{T}a=1$

Yleiset projektioindeksit

Friedmanin ja Tukeyn lähestymistapa

Jerome Friedman ja John Tukey (1974) mittasivat, kuinka "mielenkiintoinen" monimuuttujajakauma on tarkastelemalla indeksiä $X$

$I_{FT,\;h}(a)=n^{-1}\sum _{j=1}^{n}{\hat {f))_{h,\;a}^{ 2}(a^{T}X_{i})$ ,

jossa tarkoittaa ytimen tiheysarviota , joka on saatu ennustetuista tiedoista, ${\hat {f}}_{h,\;a}$

${\hat {f}}_{h,\;a}(z)=n^{-1}\sum _{j=1}^{n}K_{h}(za^{T} X_{j})$ .

Jos monimuuttujalla satunnaismuuttujalla on normaalijakauma, niin jokaisella projektiolla on standardi normaalijakauma, niin pitkä kuin ja keskitetty. Suhteellisen muutokset osoittavat poikkeamia normaalista. $X$ $z=a^{T}X$ $\|a\|=1$ $X$ $I_{FT,\;h}(a)$ $a$

Hodgesin ja Lehmanin lähestymistapa

Projektioindeksi määritellään , jossa on monimuuttujan satunnaismuuttujan , joka on datamatriisi, jakautumistiheys. Hyvin usein tiheyttä ei voida laskea eksplisiittisesti tai on paljon kätevämpää käyttää sen estimaattia tiheyden sijaan. $\int (f')^{2}$ $f$ $X$

Hodges ja Lehman (1956) osoittivat, että josja, niin minimisaavutetaan Epanechnikov-tiheydellä, jonka muoto on, missäja. Tämä on parabolinen tiheysfunktio, joka on nolla välin ulkopuolella. Näin ollen, kun käytetään tällaista indeksiä, Epanechnikov-tiheys on vähiten kiinnostava. Suuri indeksiarvo ilmaisee suurta poikkeamaa parabolisesta muodosta. $E(X)=0$ $D(X)=1$ $\int (f')^{2}$ $f(z)=\max {\{0,\;c(b^{2}-z^{2})\))$ $c={\frac {3}{20{\sqrt {5}}}}$ $b={\sqrt {5}}$ $(-{\sqrt {5)),\;{\sqrt {5)))$

Vaihtoehtoinen Hodges-Lehman-indeksi perustuu entropian maksimointiin , ts . $\int (-f\log f)$

Jos ja , niin indeksin minimi saavutetaan normaalilla normaalitiheydellä. Tämä ominaisuus on indeksin etu edelliseen versioon verrattuna. $E(X)=0$ $D(X)=1$ $\int (f\log f)$

Todellakin näyttää intuitiivisesti siltä, että normaalijakauma on "vähemmän kiinnostava" kuin Epanetšnikov-jakauma. Näin ollen indeksillä mitataan jakauman poikkeama normaalista. $\int (f\log f)$

Fisherin lähestymistapa

Toisena indeksinä voimme pitää Fisherin tietoja , . $\int (f')^{2}/f$

Entropiaindeksiä laskettaessa kohtaamme suuria laskentavaikeuksia, joiden suorittaminen vaatii paljon aikaa, mikä ei tietenkään ole kovin kätevää.

Jonesin ja Sibsonin lähestymistapa

Jones ja Sibson (1987) ehdottivat, että poikkeamia normaalitiheydestä pidettäisiin arvona , jos funktio täyttää ehdot ${\displaystyle f(x)=\varphi (x)\{1+\varepsilon (x)\))$ $\varepsilon$

$\int \varphi (u)\varepsilon (u)u^{-r}du=0$ , klo $r=0,\;1,\;2.$

Jones-Sibson-indeksin laskennan yksinkertaistamiseksi on kätevää siirtyä kumulantteihin , . $\kappa _{3}=\mu _{3}=E(X^{3})$ $\kappa _{4}=\mu _{4}=E(X^{4})-3$

Koska normaali normaalitiheys täyttää ehdon , indeksin tulee sisältää vähintään informaatiota symmetristen poikkeamien ( tai nollasta poikkeavien) tasoon asti normaalista. Yksinkertaisin näistä indekseistä on positiivinen määrätty neliömuoto ja . Tässä tapauksessa datan etumerkkiä muutettaessa tulisi olla invarianssia, alkaen ja , pitäisi saada samanlainen poikkeama normaalista. Huomaa, että se on outoa, eli . Ja - tasaisesti, eli . Normaalista poikkeamaa mittaava ja neliöllinen muoto ei sisällä sekakerrointa . $\kappa _{3}=\kappa _{4}=0$ $\kappa_{3}$ ${\displaystyle \kappa _{4))$ $\kappa_{3}$ ${\displaystyle \kappa _{4))$ $a^{T}X$ $-a^{T}X$ $\kappa_{3}$ $\kappa _{3}(a^{T}X)=-\kappa _{3}(-a^{T}X)$ ${\displaystyle \kappa _{4))$ $\kappa _{4}(a^{T}X)=\kappa _{4}(-a^{T}X)$ $\kappa_{3}$ ${\displaystyle \kappa _{4))$ ${\displaystyle \kappa _{3}\kappa _{4))$

Siksi Jonesin ja Sibsonin ehdottama indeksi on

$I_{JS}(a)=\{\kappa _{3}^{2}(a^{T}X)+\kappa _{4}^{2}(a^{T}X) /4\}/12$ .

Tämä indeksi itse asiassa mittaa eron . $\int f\log f-\int \varphi \log \varphi$

Toteutusongelmat

Menetelmä parhaan projektion löytämiseksi voi antaa mielenkiintoisia tuloksia, mutta sen toteutuksessa on monia puutteita. Ensinnäkin on vaikea keksiä oikeaa tulkintaa saaduista tuloksista. Toiseksi menetelmän käyttöönotto voi kestää kauan ja vaatia melko paljon tietokoneen RAM-muistia. Lisäksi parhaan projektion ihmisen visuaalisen esityksen ja parasta projektiota etsittäessä saadun ratkaisun välillä on edelleen eroja. Näitä ongelmia ei ole vielä ratkaistu, menetelmästä ei ole "kanonista" versiota ja aktiivinen tutkimus on käynnissä.

Kirjallisuus

Peter J. Huber , Projection Pursuit (kutsuttu paperi), Harvard University, The Annalas of Statistics, 13, no. 2 (1985), 435-475.
Jerome H. Friedman , Tutkiva projektioharjoittelu. J. Amer. tilasto. Assoc. 82 (1987) 249-266. Ohjelmisto verkossa .