Radiaalinen kantafunktio

Kokeneet kirjoittajat eivät ole vielä tarkistaneet sivun nykyistä versiota, ja se voi poiketa merkittävästi 2. kesäkuuta 2021 tarkistetusta versiosta . vahvistus vaatii 1 muokkauksen .

Radial Base Function ( RBF ) on funktio samantyyppisten säteittäisten funktioiden joukosta, jota käytetään aktivointifunktiona keinotekoisen hermoverkon yhdessä kerroksessa tai muuten kontekstista riippuen. Säteittäinen funktio on mikä tahansa reaalifunktio, jonka arvo riippuu vain etäisyydestä origoon tai jonkin muun pisteen, jota kutsutaan keskipisteeksi , välisestä etäisyydestä : . Normi on yleensä euklidinen etäisyys , vaikka muitakin mittareita voidaan käyttää . $\phi \left(\mathbf {x} \right)=\phi \left(\left\|\mathbf {x} \right\|\right)$ ${\mathbf {c}}$ $\phi \left(\mathbf {x} ,\mathbf {c} \right)=\phi \left(\left\|\mathbf {x} -\mathbf {c} \right\|\right)$

Säteittäisten kantafunktioiden lineaarisia yhdistelmiä voidaan käyttää myös approksimoimaan tiettyä funktiota . Approksimaatio voidaan tulkita yksinkertaisimmaksi hermoverkon tyypiksi ; Tässä yhteydessä David Broomhead ja David Lowe määrittelivät radiaalikantafunktiot ensimmäisen kerran vuonna 1988 [1] [2] Michael Powellin vuoden 1977 tärkeän työn [3] [4] [5] perusteella .

Säteittäisiä kantafunktioita käytetään myös ytimenä tukivektorikoneissa . [6]

Laji

Yleisesti käytettyjä säteittäisiä perusfunktioita ovat ( ): $r=\left\|\mathbf {x} -\mathbf {x} _{i}\right\|$

Gaussin funktio : $\phi \left(r\right)=e^{-\left(\varepsilon r\right)^{2))$
Monineliöinen: ${\displaystyle \phi \left(r\right)={\sqrt {1+\left(\varepsilon r\right)^{2))))$
Käänteinen neliö: ${\displaystyle \phi \left(r\right)={\dfrac {1}{1+\left(\varepsilon r\right)^{2))))$
Käänteinen multikvadraattinen: $\phi \left(r\right)={\dfrac {1}{\sqrt {1+\left(\varepsilon r\right)^{2))))$
Polyharmoninen splaini : ${\begin{aligned}\phi \left(r\right)&=r^{k},&k&=1,3,5,\dotsc \\\phi \left(r\right)&=r ^{k}\ln \left(r\right),&k&=2,4,6,\dotsc \end{tasattu}}$
Ohut levysplaina (erityinen polyharmoninen spline): $\phi \left(r\right)=r^{2}\ln \left(r\right)$

Arviointi

Funktioiden likimääräiseksi säteittäiskantafunktioilla käytetään yleensä niiden lineaarista muotoyhdistelmää :

y\left(\mathbf {x} \right)=\sum _{i=1}^{N}w_{i}\,\phi \left(\left\|\mathbf {x} -\ mathbf {x} _{i}\right\|\right)

jossa approksimoivaksi funktioksi otetaan säteittäisten kantafunktioiden summa , joiden keskipisteet ovat pisteissä ja kertoimet . Kertoimet voidaan laskea pienimmän neliösumman menetelmällä , koska sovitusfunktio on lineaarinen kertoimiin nähden . $y\left(\mathbf {x} \right)$ $N$ ${\displaystyle \mathbf {x} _{i))$ $w_{{i}}$ $w_{{i}}$

Tällaiset approksimaatiokaaviot ovat erityisen hyödyllisiä.aikasarjaennusteissa , epälineaaristen järjestelmien ohjauksessa , joissa on melko yksinkertainen kaoottinen käyttäytyminen, ja 3D-mallinnus tietokonegrafiikassa .

RBF:ään perustuvat neuroverkot

Lineaarinen yhdistelmä:

y\left(\mathbf {x} \right)=\sum _{i=1}^{N}w_{i}\,\phi \left(\left\|\mathbf {x} -\ mathbf {x} _{i}\right\|\right)

voidaan tulkita myös yksinkertaisimmiksi yksikerroksiseksi keinotekoiseksi hermoverkoksi , jota kutsutaan radiaalisten kantafunktioiden verkostoksi , jossa säteittäinen kantafunktio toimii aktivointifunktiona. Voidaan osoittaa, että mikä tahansa jatkuva funktio kompaktilla aikavälillä voidaan periaatteessa interpoloida mielivaltaisella tarkkuudella riittävän suurelle . $N$

Approksimaatio on differentioitavissa suhteessa . Kertoimet voidaan laskea millä tahansa hermoverkkojen vakioiteratiivisella menetelmällä. $y\left(\mathbf {x} \right)$ $w_{{i}}$

Siten säteittäiset kantafunktiot tarjoavat joustavan interpolointityökalun edellyttäen, että keskusten joukko kattaa enemmän tai vähemmän tasaisesti halutun funktion alueen (ihannetapauksessa keskipisteiden tulisi olla yhtä kaukana lähimmistä naapureistaan). Kuitenkin pääsääntöisesti välipisteissä approksimaatio saavuttaa suuren tarkkuuden vain, jos säteittäisten kantafunktioiden joukkoa täydennetään polynomilla, joka on ortogonaalinen kuhunkin RBF:ään.

Muistiinpanot

↑ Radial Basis Function Networks Arkistoitu 23. huhtikuuta 2014.
↑ Broomhead, Lowe, 1988 , s. 321-355
↑ Michael J. D. Powell; Michael JD Powell. Käynnistä uudelleen konjugaattigradienttimenetelmän menettelyt // Matemaattinen ohjelmointi : päiväkirja. - Springer, 1977. - Voi. 12 . - s. 241-254 . - doi : 10.1007/bf01593790 .
↑ Sahin, Ferat (1997). Säteittäinen funktiolähestymistapa värikuvan luokitteluongelmaan reaaliaikaisessa teollisessa sovelluksessa (PDF) (M.Sc.). Virginia Tech . s. 26. Arkistoitu alkuperäisestä (PDF) 26.10.2015 . Haettu 2018-06-02 . Powell esitteli ensimmäisenä radiaalikantafunktiot ratkaistakseen todellisen monimuuttujainterpolointiongelman. Käytöstä poistettu parametri |deadlink=( ohje )
↑ Broomhead, Lowe, 1988 , s. 347: "Haluamme kiittää Cambridgen yliopiston sovelletun matematiikan ja teoreettisen fysiikan laitoksen professori MJD Powellia alkusysäyksen antamisesta tälle työlle."
↑ VanderPlas, Jake Johdatus vektorikoneisiin (linkki ei saatavilla) . [O'Reilly] (6. toukokuuta 2015). Haettu 14. toukokuuta 2015. Arkistoitu alkuperäisestä 5. syyskuuta 2015. (määrätön)

Kirjallisuus

Broomhead, David H.; Lowe, David. Multivariable Functional Interpolation and Adaptive Networks (englanniksi) // Complex Systems : Journal. - 1988. - Voi. 2 . - s. 321-355 . Arkistoitu alkuperäisestä 14. heinäkuuta 2014.
Buhmann, Martin D. (2003), Radial Basis Functions: Theory and Implementations , Cambridge University Press , ISBN 978-0-521-63338-3 .
Hardy, RL Topografian ja muiden epäsäännöllisten pintojen monineliöyhtälöt // Journal of Geophysical Research : päiväkirja. - 1971. - Voi. 76 , nro. 8 . - P. 1905-1915 . - doi : 10.1029/jb076i008p01905 . - .
Hardy, RL Multiquadric-biharmonic -menetelmän teoria ja sovellukset, 20 vuotta Discoveryä, 1968 1988 // Comp . matematiikkasovellus: päiväkirja. - 1990. - Voi. 19 , ei. 8/9 . - s. 163-208 . - doi : 10.1016/0898-1221(90)90272-l .
Press, W.H.; Teukolsky, SA; Vetterling, WT & Flannery, BP (2007), jakso 3.7.1. Radial Basis Function Interpolation , Numerical Recipes: The Art of Scientific Computing (3. painos), New York: Cambridge University Press, ISBN 978-0-521-88068-8
Sirayanone, S., 1988, Vertailevat tutkimukset krigingistä, multiquadric-biharmonic- ja muista menetelmistä mineraalivaraongelman ratkaisemiseksi, Ph.D. Väitöskirja, MPEI. Geosciences, Iowa State University, Ames, Iowa.
Sirayanone, S. Multiquadric-biharmonic Method käytettynä mineraalivaroihin, meteorologisiin ja muihin sovelluksiin // Journal of Applied Sciences and Computations : Journal. - 1995. - Voi. 1 . - s. 437-475 .

Koneoppiminen ja tiedon louhinta
Tehtävät	Luokitteluongelma Oppiminen ilman opettajaa Opettajan avustama oppiminen Taantumisanalyysi AutoML Yhdistyksen säännöt Ominaisuuksien erottaminen Ominaisuuksien koulutus Ranking koulutus Kieliopillinen johtaminen Verkko-oppiminen
Opettajan kanssa oppimista	k-lähimmän naapurin menetelmä Naiivi Bayesin luokitin päätöspuu Tuki vektorikonetta Lineaarinen regressio Logistinen regressio perceptron Mallien kokoonpanot Pussittaminen tehostaa satunnainen metsä Asiaankuuluva vektorimenetelmä
ryhmäanalyysi	k-keinomenetelmä Sumea klusterointimenetelmä Hierarkkinen klusterointi EM-algoritmi KOIVU PARANTAA DBSCAN OPTIIKKA Keskimääräinen siirto
Mittasuhteiden vähentäminen	Tekijäanalyysi Pääkomponenttimenetelmä CCA ICA LDA Ei-negatiivinen matriisin laajennus t-SNE
Rakenteellinen ennustaminen	Graafinen todennäköisyysmalli Bayesin verkko Piilotettu Markovin malli CRF
Anomalian havaitseminen	k-lähimmän naapurin menetelmä Paikallinen päästötaso
Piirrä todennäköisyysmallit	Bayesin verkko Markovin verkko Piilotettu Markovin malli
Neuroverkot	Rajoitettu Boltzmann-kone itseorganisoituva kartta Aktivointitoiminto Sigmoidi softmax Radiaalinen kantafunktio Takaisin lisäysmenetelmä Syväoppiminen Monikerroksinen perceptroni Toistuva neuroverkko pitkä lyhytaikainen muisti Hallittu toistuva esto Konvoluutiohermoverkko U-Net Autoenkooderi
Vahvistusoppiminen	Markovin prosessi Bellmanin yhtälö Ahne algoritmi Q-oppiminen SARSA Aikaero (TD)
Teoria	Vapnik-Chervonenkis teoria Bias-dispersion dilemma Laskennallinen oppimisteoria Empiirinen riskin minimointi Occam oppii PAC-oppiminen Tilastollinen oppimisteoria
Lehdet ja konferenssit	NeurIPS ICML ML JMLR ArXiv:cs.LG