Karhunen-Loeven lause

Kokeneet kirjoittajat eivät ole vielä tarkistaneet sivun nykyistä versiota, ja se voi poiketa merkittävästi 19. lokakuuta 2020 tarkistetusta versiosta . vahvistus vaatii 1 muokkauksen .

Tärkeä diskretisointiteorian peruskysymys on kysymys signaalien diskreetin kuvauksen tilavuudesta, toisin sanoen kuvaamaan käytettyjen kantafunktioiden lukumäärästä: $N$

a(t)=\sum _{{k=0}}^{{N-1}}\alpha _{{k}}\varphi _{{k}}(t)

Optimaalisen perustan löytämiseksi sinun on määritettävä signaaliluokka, jolle sitä haetaan, ja asetettava myös tämän luokan palautustarkkuus. Signaalien kuvauksen tilastollisessa lähestymistavassa optimaalisena mittaperustana yksittäisten signaalirealisaatioiden esittämiselle katsotaan yleensä perustaksi, jolla virhesuhde, joka on keskiarvotettu realisaatioiden joukosta, on minimaalinen. Tässä tapauksessa tarvittavat ja riittävät ehdot signaalin kantafunktioiden summana esittämisen virhenormin minimille määritetään Karhunen-Loevin lauseella. $N$

Suosittu sanamuoto

Signaalien esittämisen virhenormin minimiarvo pituusvälillä saavutetaan käyttämällä perustana operaattorin omia toimintoja, joiden ydin on signaalien korrelaatiofunktio : $T$ $R_{{a}}(t,\tau )$

\int _{{-{\frac {T}{2}}}}^{{{\frac {T}{2}}}}R_{{a}}(t,\tau )\varphi _{{ k}}(\tau )d\tau =\lambda _{{k}}\varphi _{{k}}(t)

jotka vastaavat suurimpia ominaisarvoja. Tässä tapauksessa virheprosentti on: $N$

\|\epsilon \|_{{min}}^{{2}}=\|a(t)-\sum _{{k=0}}^{{N-1}}\alpha _{{k }}\varphi _{{k}}(t)\|_{{min}}^{{2}}=\sum _{{k=N}}^{{\infty }}\lambda _{{ k}}

Tällainen hajoaminen on Karhunen-Loeve-hajotelma [1] [2] .

Sovellus

Satunnaisprosessien teoriassa Karhunen-Loeven lause (nimetty Kari Karhusen ja Michel Loeven mukaan ) on esitys satunnaisprosessista ortogonaalisten funktioiden äärettömänä lineaarisena yhdistelmänä , samanlainen kuin Fourier-sarjan esitys - funktioiden peräkkäinen esitys. rajoitetulla aikavälillä. Toisin kuin Fourier-sarjassa, jossa kertoimet ovat reaalilukuja ja esityskanta koostuu sinifunktioista (eli sini- ja kosinifunktioista eri taajuuksilla), Karhunen-Loeven lauseen kertoimet ovat satunnaismuuttujia ja esitysperuste riippuu prosessi. Tässä esityksessä käytetyt ortogonaaliset kantafunktiot määrittelevät prosessin kovarianssifunktion . Jos tarkastellaan stokastista prosessia satunnaisfunktiona F , eli prosessina, jossa funktio välissä [ a , b ] saa arvon F , niin tätä lausetta voidaan pitää F:n satunnaisena ortonormaalina laajennuksena .

Keskitetty satunnaisprosessi { X t } t ∈ [ a , b ] (jossa keskitys tarkoittaa, että matemaattiset odotukset E( X t ) ovat olemassa ja ne ovat yhtä kuin nolla kaikille parametrin t arvoille [ a , b ]) , joka täyttää jatkuvuuden teknisen ehdon, sallii hajoamisen seuraavassa muodossa:

{\mathbf {X}}_{t}=\sum _{{k=1}}^{\infty }{\mathbf {Z}}_{k}e_{k}(t).

missä Z k ovat keskenään korreloimattomia satunnaismuuttujia ja funktiot e k ovat jatkuvia reaalifunktioita [ a , b ] :lla ortogonaalisia L ² [ a , b ]. Keskittämättömän prosessin tapauksessa on samanlainen laajennus, joka saadaan laajentamalla odotusfunktiota kannassa e k .

Jos prosessi on Gaussin prosessi , niin satunnaismuuttujat Z k ovat myös Gaussisia ja riippumattomia . Tämä tulos yleistää Karhunen-Loeve- muunnokset . Tärkeä esimerkki keskitetystä stokastisesta prosessista välillä [0,1] on Wiener-prosessi , ja Karhunen-Loeven lausetta voidaan käyttää kanonisen ortogonaalisen esityksen saamiseksi. Tässä tapauksessa laajennus koostuu sinimuotoisista funktioista. ${\mathbf {X}}_{t}$

Yllä olevat hajotukset tunnetaan myös Karhunen-Loeve- hajotelmina tai dekompositioina (empiirinen versio eli alkuperäisen numeerisen datan kertoimilla), pääkomponenttianalyysinä , oikeana ortogonaalisena hajotuksena tai Hotelling - muunnoksena .

Sanamuoto

Muotoilkaamme tulos kompleksiarvoisten stokastisten prosessien avulla. Tuloksia voidaan soveltaa reaaliarvoisiin prosesseihin muuttamatta, kun muistetaan, että reaaliluvun kompleksikonjugaatti on sama kuin itse.

Satunnaisalkioiden X ja Y skalaaritulo määritellään kaavalla

\langle {\mathbf {X}}|{\mathbf {Y}}\rangle =\operaattorin nimi {E}({\mathbf {X^{*}}}{\mathbf {Y}})

jossa * tarkoittaa kompleksikonjugaatiooperaatiota .

Toisen tilauksen tilastot

Pistetulo on hyvin määritelty, jos molemmilla ja niillä on äärelliset sekuntimomentit, tai vastaavasti, jos ne molemmat ovat neliöintegroitavia . Huomaa, että pistetulo liittyy kovarianssiin ja korrelaatioon . Erityisesti satunnaismuuttujien, joiden keskiarvo on nolla, kovarianssi ja pistetulo ovat samat. Autokovarianssifunktio $X$ $Y$ $K_{{\mathrm {XX}}}$

K_{{\mathrm {XX}}}(t,s)=\operaattorinimi {Cov}[X(t),X(s)]=\langle {\mathbf {X}}_{t}|{\mathbf {X}}_{s}\rangle

{\displaystyle =\mathrm {E} \{[X(t)-\mu _{X}(t)]^{*}[X(s)-\mu _{X}(s)]\))

=\mathrm {E} \{X^{*}(t)X(s)\}-\mu _{X}^{*}(t)\mu _{X}(s)

=R_{\mathrm {XX} }(t,s)-\mu _{X}^{*}(t)\mu _{X}(s).

Jos prosessi { X t } t on keskitetty, niin

\mu _{X}(t)=0

kaikille t . Siten K XX :n autokovarianssi on yhtä suuri kuin R XX : n autokorrelaatio :

K_{\mathrm {XX} }(t,s)=R_{\mathrm {XX} }(t,s).

Huomaa, että jos { X t } t on keskitetty ja t 1 , ≤ t 2 , …, ≤ t N ovat pisteitä välillä [ a , b ], siksi

\sum _{{k,\ell }}\operaattorinimi {Cov}_{({\mathbf {X}}}}(t_{k},t_{\ell })=\operaattorinimi {Var}\left(\ summa _{{k=1}}^{N}{\mathbf {X}}_{k}\right)\geq 0.

Lauseen lause

Lause . Tarkastellaan keskitettyä stokastista prosessia , joka on indeksoitu kovarianssifunktiolla . Oletetaan, että kovarianssifunktio on jatkuva muuttujajoukossa . Sitten on positiivinen määrätty ydin, ja Mercerin lauseen mukaan integraalioperaattorilla (lähellä Lebesguen mittaa kohdassa ) on ominaisvektorien ortonormaali kanta . Olkoon nollasta poikkeavia ominaisarvoja vastaavat ominaisvektorit ja $\{{\mathbf {X}}_{t}\}$ $t$ $[a,b]$ ${\mathrm {Cov}}_{{{\mathbf {X}}}}$ ${\mathrm {Cov}}_{{{\mathbf {X}}}}(t,s)$ $t,s$ ${\mathrm {Cov}}_{{{\mathbf {X}}}}$ $T$ $L^{2}[a,b]$ $[a,b]$ $\{e_{i}\}$ $T$

{\mathbf {Z}}_{i}=\int _{a}^{b}{\mathbf {X}}_{t}e_{i}(t)dt.

Sitten keskitetään ortogonaaliset satunnaismuuttujat ja $Z_{i}$

{\mathbf {X}}_{t}=\sum _{{i=1}}^{\infty }e_{i}(t){\mathbf {Z}}_{i}

sarja konvergoi keskineliöön ja myös tasaisesti . sitä paitsi $t$

\operaattorinnimi {Var}({\mathbf {Z}}_{i})=\operaattorin nimi {E}({\mathbf {Z}}_{i}^{2})=\lambda _{i}.

missä on ominaisarvo, joka vastaa ominaisvektoria . $\lambda _{i}$ $e_{i}$

Cauchy-summat

Lauseen muotoilussa määritelmän integraali voidaan ymmärtää satunnaismuuttujien Cauchyn summien keskimääräisenä rajana. $Z_{i}$

\sum _{{k=0}}^{{\ell -1}}{\mathbf {X}}_({\xi _{k}}}e_{i}(\xi _{k})( t_{{k+1}}-t_{k}),

missä

a=t_{0}\leq \xi _{0}\leq t_{1}\leq \cdots \leq \xi _{{\ell -1}}\leq t_{n}=b

Erikoistapaus: Gaussin jakauma

Koska yhdessä Gaussin satunnaismuuttujien keskineliöraja on Gaussinen ja yhdessä Gaussin (keskitetty) satunnaismuuttujat ovat riippumattomia, jos ja vain jos ne ovat ortogonaalisia, voimme myös päätellä:

Lause . Satunnaismuuttujilla on Gaussin jakauma ja ne ovat riippumattomia, jos alkuprosessi { X t } t on myös Gaussinen. $Z_{i}$

Gaussin tapauksessa, koska satunnaismuuttujat ovat riippumattomia, voimme olla varmoja, että: $Z_{i}$

\lim _{{N\rightarrow \infty }}\sum _{{i=1}}^{N}e_{i}(t){\mathbf {Z}}_{i}(\omega )={ \mathbf {X}}_{t}(\omega )

melko varmasti.

Huomaa, että yleistäen Mercerin lauseen, voimme korvata intervallin muilla kompakteilla avaruuksilla ja Lebesguen mitta päällä Borelin suurella, jota tuetaan . $[a,b]$ $C$ $[a,b]$ $C$

Wiener-prosessi

Wiener-prosessi satunnaisprosessien teoriassa on matemaattinen malli Brownin liikkeestä tai satunnaisesta kävelystä jatkuvalla ajalla. Tässä määritellään se keskitetyksi Gaussin prosessiksi B ( t ), jossa on kovarianssifunktio

{\mathrm {K}}_{{\mathrm {BB}}}(t,s)=\operaattorin nimi {Cov}(B(t),B(s))=\min(s,t).

On helppo nähdä, että kovarianssiominaisvektorit ovat

e_{k}(t)={\sqrt {2}}\sin \left(k-{\frac {1}{2}}\right)\pi t

ja vastaavat ominaisarvot

\lambda _{k}={\frac {4}{(2k-1)^{2}\pi ^{2}}}.

Tämän avulla voimme saada seuraavan esityksen Wiener-prosessista:

Lause . On olemassa riippumattomien Gaussin satunnaismuuttujien sarja { W i } i , joiden keskiarvo ja yksikkövarianssi on nolla siten, että

{\mathbf {B}}_{t}={\sqrt {2}}\sum _{{k=1}}^{\infty }{\mathbf {W}}_{k}{\frac {\ sin \left(k-{\frac {1}{2}}\right)\pi t}{\left(k-{\frac {1}{2}}\right)\pi }}.

Konvergenssi on tasainen t :ssä L²-normissa siten, että

\operaattorinimi {E}\left({\mathbf {B}}_{t}-{\sqrt {2}}\sum _{{k=1}}^{n}{\mathbf {W}}_{ k}{\frac {\sin \left(k-{\frac {1}{2}}\right)\pi t}{\left(k-{\frac {1}{2}}\right)\ pi }}\right)^{2}\rightarrow 0

tasaisesti t .

Käyttö

On esitetty, että SETI-projektissa tulisi käyttää Karhunen-Loeve-muunnoksia erittäin laajan spektrin signaalien havaitsemiseen. Vastaavasti adaptiiviset optiikkajärjestelmät käyttävät joskus Karhunen-Loeve-funktioita aaltorintaman vaiheen tiedon palauttamiseen. (Dai 1996, JOSA A).

Katso myös

Linkit

I. I. Gikhman, A. V. Skorokhod, Johdatus satunnaisten prosessien teoriaan (pääsemätön linkki) .- M .: Nauka, 1965.
B. Simon, Functional Integration and Quantum Physics , Academic Press, 1979
K. Karhunen, Kari, Uber lineare Methoden in der Wahrscheinlichkeitsrechnung , Ann. Acad. sci. fennicae. Ser. AI Math.-Phys., 1947, no. 37, 1-79
M. Loev, Todennäköisyysteoria , - M.: IL, 1962.
G. Dai, Modaalinen aaltorintaman rekonstruktio Zernike-polynomeilla ja Karhunen-Loeve-funktioilla , JOSA A, 13, 6, 1996

Muistiinpanot

↑ Johdanto digitaaliseen kuvankäsittelyyn, 1979 , s. 68.
↑ Signaaliteoria, 1974 , s. 115.

Kirjallisuus

Yaroslavsky L.P. Johdatus digitaaliseen kuvankäsittelyyn. - M . : Neuvostoliiton radio, 1979. - 312 s.
Franks L. Signaaliteoria. - M . : Neuvostoliiton radio, 1974. - 399 s.