Suurten lukujen laki

Kokeneet kirjoittajat eivät ole vielä tarkistaneet sivun nykyistä versiota, ja se voi poiketa merkittävästi 29. tammikuuta 2022 tarkistetusta versiosta . tarkastukset vaativat 3 muokkausta .

Suurten lukujen laki ( LNA ) todennäköisyysteoriassa on periaate, joka kuvaa saman kokeen monta kertaa suoritetun tuloksen. Lain mukaan kiinteän jakauman äärellisen otoksen keskiarvo on lähellä tämän jakauman matemaattista odotusta .

Suurten lukujen laki on tärkeä, koska se takaa joidenkin satunnaisten tapahtumien keskiarvojen vakauden riittävän pitkän koesarjan aikana.

On tärkeää muistaa, että lakia sovelletaan vain silloin, kun otetaan huomioon suuri määrä oikeudenkäyntejä.

Esimerkkejä

Otetaan esimerkiksi kuusisivuisen nopan heitto, jolle yksi luvuista 1, 2, 3, 4, 5 tai 6 voi pudota yhtä suurella todennäköisyydellä. Siksi yhden heiton odotus on

{\frac {1+2+3+4+5+6}{6}}=3{,}5.

Suurten lukujen lain mukaan, kun heittoja on paljon, niiden keskiarvo on todennäköisesti lähellä 3,5:tä, kun taas tarkkuus kasvaa heittojen määrän kasvaessa.

Suurten lukujen laista seuraa, että empiirinen onnistumisen todennäköisyys Bernoulli-kokeiden sarjassa konvergoi teoreettiseen todennäköisyyteen. Bernoullin satunnaismuuttujan keskiarvo on teoreettinen onnistumisen todennäköisyys ja tällaisten muuttujien (jos ne ovat riippumattomia ja tasaisesti jakautuneita) keskiarvo on suhteellinen taajuus. $n$

Esimerkiksi oikean kolikon heittäminen on Bernoullin testi. Yhdellä heitolla teoreettinen todennäköisyys saada päitä on . Siksi suurten lukujen lain mukaan "kotkien" osuuden, joilla on suuri määrä kokeita, "pitäisi olla" noin . Erityisesti "päiden" osuus heittojen jälkeen supistuu arvoon , . $1/2$ $1/2$ $n$ $1/2$ $n\to\infty$

Vaikka päiden (ja pyrstöjen) osuus on taipumus , on lähes varmaa, että päiden ja hänntien välisen eron absoluuttinen arvo kasvaa suureksi heittojen määrän kasvaessa loputtomasti. Eli heittojen määrän kasvaessa todennäköisyys, että eron moduuli on pieni, menee nollaan, ja eron moduulin suhde heittojen kokonaismäärään pyrkii lähes varmasti nollaan: $1/2$

|n_{\text{o}}-n_{\text{p}}|\not \to 0,\quad {\frac {|n_{\text{o}}-n_{\text{p }}|}{n}}\to 0.

Historia

Italialainen matemaatikko Gerolamo Cardano (1501-1576) oli intohimoinen uhkapeluri. Hänen nopparakkautensa "sivutuote" oli kirja Uhkapelaamisesta ( italiaksi: De Ludo alea , 1563), joka sisälsi muotoilun suurten lukujen laista. Siinä Cardano totesi, että empiiristen tilastojen tarkkuus pyrkii paranemaan kokeiden määrän myötä.

Vuonna 1713 Jacob Bernoulli hahmotteli säännöt monimutkaisten tapahtumien todennäköisyyksien laskemiseksi ja antoi ensimmäisen version "suurten lukujen laista", selittäen, miksi tapahtuman taajuus testisarjassa ei muutu satunnaisesti, vaan jossain mielessä. pyrkii teoreettiseen raja-arvoonsa (eli todennäköisyyteen).

On myös huomioitava S. D. Poissonin (1781-1840) työ, joka osoitti suurten lukujen lain yleisemmän muodon kuin Jacob Bernoullin .

P. L. Chebyshev sai yleisen muotoilun suurten lukujen laista: jos satunnaismuuttujien sarjan matemaattiset odotukset ja näiden matemaattisten odotusten neliöt ovat rajalliset, niin näiden määrien aritmeettinen keskiarvo konvergoi todennäköisyydessään aritmeettiseen keskiarvoon. matemaattisten odotustensa vuoksi.

A. A. Markov osoitti suurten lukujen lain muunnelman joillekin yleisille riippuvaisille suureille.

1900-luvulla Tšebyševin ja Markovin tutkimusta jatkoivat A. Ya Khinchin ja A. N. Kolmogorov . He osoittivat, että jos satunnaismuuttujat eivät ole vain riippumattomia, vaan myös tasaisesti jakautuneita, niin niiden matemaattisen odotuksen olemassaolo on välttämätön ja riittävä ehto suurten lukujen lain sovellettavuuden kannalta.

Vaihtoehdot

Tarkastellaan Lebesgue-integroituvien satunnaismuuttujien sarjaa, jotka ovat riippumattomia aggregaatissa ja joilla on samat jakautumat ja siten samat matemaattiset odotukset . $X_{1},X_{2},\dots$ $\mathbb {E} (X_{1})=\mathbb {E} (X_{2})=\ldots =\mu$

Merkitään tarkasteltujen satunnaismuuttujien aritmeettisella keskiarvolla: ${\overline {X}}_{n}$

{\overline {X}}_{n}={\frac {1}{n}}(X_{1}+\ldots +X_{n}).

Se vastaa matemaattista odotusta :

{\overline {X}}_{n}\to \mu

klo

n\to \infty .

Riippumattomuus satunnaismuuttujien aggregaatissa voidaan korvata parittaisella riippumattomuudella molemmissa lain versioissa [1] .

Alla kuvataan kaksi eri versiota suurten lukujen laista. Niitä kutsutaan suurten lukujen vahvaksi laiksi ja suurten lukujen heikoksi laiksi . Ero vahvan ja heikon muodon välillä liittyy konvergenssimenetelmän valintaan.

Heikko laki

Suurten lukujen heikko laki ( J. Bernoullin muotoilema Bernoullin lause , julkaistu vuonna 1713 [2] ) sanoo, että otoskeskiarvo konvergoi todennäköisyydessään matemaattiseen odotukseen [3] :

{\overline {X}}_{n}\xrightarrow {P} \mu

klo

n\to \infty .

Eli se suoritetaan $\forall \varepsilon >0$

\lim _{n\to \infty }P{\big (}|{\overline {X}}_{n}-\mu |>\varepsilon {\big )}=0.

Tulkitsemalla tätä tulosta huomaamme, että heikko laki sanoo, että kaikilla nollasta poikkeavilla määritellyillä rajoilla, olivatpa ne kuinka pienet tahansa, riittävän suurella otoksella todennäköisyys, että otoksen keskiarvo on lähellä keskiarvoa, on erittäin korkea näissä. rajoja.

Kuten aiemmin mainittiin, heikkoa lakia voidaan soveltaa riippumattomien, identtisesti jakautuneiden satunnaismuuttujien tapauksessa, joissa on matemaattinen odotus . Sitä voidaan kuitenkin soveltaa myös joissakin muissa tapauksissa. Esimerkiksi varianssi voi olla erilainen jokaiselle otoksen satunnaismuuttujalle, kun taas matemaattinen odotus voi pysyä vakiona. Jos hajautus on rajoitettua, myös laki pätee, kuten Chebyshev osoitti vuonna 1867. Tšebyshevin todistus toimii niin kauan kuin ensimmäisten arvojen keskimääräisen lukumäärän varianssi ei tapahdu nollaan [4] . $n$ $n\to\infty$

Vahvistettu laki

Suurten lukujen vahva laki sanoo, että tietyissä olosuhteissa, todennäköisyydellä yksi, on olemassa rajaton konvergenssi satunnaismuuttujien sarjan aritmeettisilla keskiarvoilla joillakin vakioarvoilla.

Antaa olla satunnaismuuttujien sarja ja . $X_{1},X_{2},\dots$ ${\overline {X}}_{n}={\frac {1}{n}}(X_{1}+\ldots +X_{n})$

Jakson sanotaan täyttävän suurten lukujen vahvan lain, jos on olemassa jono , jonka todennäköisyys suhteelle: , for on yhtä suuri kuin 1. $X_{1},X_{2},\dots$ $\mu _{n}$ ${\overline {X}}_{n}-\mu _{n}\to 0$ $n\to\infty$

Toinen, edellistä vastaava formulaatio on seuraava: jono täyttää suurten lukujen vahvan lain, jos kaikkien epäyhtälöiden samanaikainen toteutumisen todennäköisyys $X_{1},X_{2},\dots$ $\forall \varepsilon >0$

|{\overline {X}}_{n}-\mu _{n}|\leqslant \varepsilon ,

|{\overline {X}}_{n+1}-\mu _{n+1}|\leqslant \varepsilon ,

\pisteet

yleensä 1 klo . $n\to\infty$

Siten tässä tarkastellaan koko summasarjan käyttäytymistä kokonaisuutena, kun taas tavanomaisessa suurten lukujen laissa puhumme vain yksittäisistä summista.

Jos sekvenssi täyttää suurten lukujen vahvan lain, se täyttää myös tavanomaisen suurten lukujen lain samalla , eli , , . $X_{1},X_{2},\dots$ $\mu _{n}$ $P{\big (}|{\bar {X}}_{n}-\mu _{n}|\leqslant \varepsilon {\big )}\to 1$ $n\to\infty$ $\forall \varepsilon >0$

Käänteinen ei välttämättä ole totta. Esimerkiksi, jos satunnaismuuttujat ovat riippumattomia ja niillä on kaksi arvoa todennäköisyydellä , niin tavallinen suurten lukujen laki täyttyy niille , mutta ei kummallekaan vahva suurten lukujen laki. $X_{1},X_{2},\dots$ $n\geqslant 16$ $\pm {\sqrt {n/\log \log \log n))$ $1/2$ $\mu _{n}=0$ $\mu _{n}$

Kolmogorovin lause

Riippumattomien termien osalta tunnetuimpia ovat A. N. Kolmogorovin asettamat suurten lukujen vahvan lain sovellettavuusehdot: riittävä - suureille, joilla on äärellinen varianssi, ja välttämätön ja riittävä - identtisesti jakautuneille suureille (jotka koostuu määrien matemaattisen odotuksen olemassaolosta ). Kolmogorovin lause satunnaismuuttujille, joilla on äärellinen varianssi, sanoo, että ehdosta $X_{i}$

$\sum \limits _{n=1}^{\infty }{\frac {D[X_{n}]}{n^{2))}<\infty$

(yksi)

suurten lukujen vahvan lain soveltuvuus sekvenssiin seuraa . Varianssien suhteen ehto ( 1 ) osoittautuu parhaaksi siinä mielessä, että mille tahansa positiivisten lukujen sarjalle, jolla on divergentti sarja , voidaan muodostaa riippumattomien satunnaismuuttujien sekvenssi c , joka ei täytä suurten lukujen vahvaa lakia. . [5] $X_{1},X_{2},\dots$ $A_{n}=\mathbb {E} ({\overline {X}}_{n})$ $b_n$ $\sum b_{n}/n^{2}$ $X_n$ $DX_{n}=b_{n}$

Erot heikon ja vahvan lain välillä

Heikko laki sanoo, että tietylle suurelle keskiarvo on todennäköisesti lähellä . Näin ollen se voi esiintyä äärettömän monta kertaa, vaikkakin mielivaltaisen harvoin. ( Ei välttämättä totta kaikille .) $n$ ${\overline {X}}_{n}$ $\mu$ $|{\overline {X}}_{n}-\mu |>\varepsilon$ $n$ $|{\overline {X}}_{n}-\mu |\neq 0$

Täytäntöönpanolaki osoittaa, mitä lähes varmasti ei tapahdu. Tämä tarkoittaa, että todennäköisyydellä 1 epäyhtälö pätee riittävän suurelle . [6] $|{\overline {X}}_{n}-\mu |>\varepsilon$ $\forall \varepsilon >0$ $|{\overline {X}}_{n}-\mu |<\varepsilon$ $n$

Alla on kolme esimerkkiä symmetrisistä jakaumista; kussakin esimerkissä näillä jakaumilla ei ole matemaattista odotusta, suurten lukujen vahva laki (konvergenssi lähes kaikkialla) ei päde, mutta heikko laki täyttyy: satunnaismuuttujien keskiarvo konvergoi todennäköisyys vakioon, niiden jakautumisen symmetriakeskukseen. [7] [8] [9]

Olkoon eksponentiaalisesti jakautunut satunnaismuuttuja parametrilla 1. Satunnaismuuttujalla ei ole Lebesguen integraalin antamaa matemaattista odotusta, mutta käyttämällä ehdollista konvergenssia ja integraalin tulkintaa Dirichlet-integraalina , joka on väärä Riemannin integraali , voimme sanoa: $x$ ${\frac {\sin(x)e^{x}}{x}}$ $\mathbb {E} \left({\frac {\sin(x)e^{x}}{x}}\right)=\int _{0}^{\infty }{\frac {\ sin(x)e^{x}}{x}}e^{-x}\,dx={\frac {\pi }{2}}.$
Antaa olla geometrinen jakauma todennäköisyydellä . Satunnaismuuttujalla ei ole odotusarvoa tavanomaisessa merkityksessä, koska ääretön sarja ei ole ehdottoman konvergentti , mutta ehdollista konvergenssia käyttämällä voidaan sanoa: $x$ $0{,}5$ ${\frac {2^{x}(-1)^{x}}{x}}$ $\mathbb {E} \left({\frac {2^{x}(-1)^{x}}{x}}\right)=\sum _{1}^{\infty }{\ frac {2^{x}(-1)^{x}}{x}}2^{-x}=-\ln(2).$
Jos satunnaismuuttujan jakaumafunktio on yhtä suuri kuin $1-F(x)={\frac {e}{2x\ln(x))),\quad x\geqslant e,$ $F(x)={\frac {e}{-2x\ln(-x))),\quad x\leqslant -e,$ silloin sillä ei ole matemaattista odotusta, mutta heikko laki täyttyy. [10] [11]

Suurien lukujen yhtenäinen laki

Antaa olla jokin funktio, joka on määritelty ja jatkuva muuttujan suhteen . Silloin mille tahansa kiinteälle sekvenssi on riippumattomien ja identtisesti jakautuneiden satunnaismuuttujien sarja siten, että tämän sekvenssin otoskeskiarvo konvergoi todennäköisyydellä . $f(x,\theta )$ $\theta \in \Theta$ $\theta$ ${\displaystyle \{f(X_{1},\theta ),f(X_{2},\theta ),\dots \))$ $\mathbb {E} [f(X,\theta )]$

Suurten lukujen yhtenäinen laki kuvaa olosuhteet, joissa konvergenssi on yhtenäinen . $\theta$

Jos: [12] [13]

$\Theta$ kompakti,
$f(x,\theta )$ on jatkuva jokaiselle lähes kaikille ja mitattavissa oleva funktio jokaisessa , $\theta \in \Theta$ $x$ $x$ $\theta$
on olemassa hallitseva toiminto , joka koskee kaikkia $d(x)$ $\mathbb {E} [d(X)]<\infty$ $\|f(x,\theta )\|\leqslant d(x)$ $\theta \in \Theta$

sitten jatkuva sisään ja $\mathbb {E} [f(X,\theta )]$ $\theta$

\sup _{\theta \in \Theta }\left\|{\frac {1}{n}}\sum _{i=1}^{n}f(X_{i},\theta ) -\mathbb {E} [f(X,\theta )]\right\|\xrightarrow {\text{n.  n.}} 0.

Suurten lukujen Borel-laki

Borelin suurten lukujen laki, joka on nimetty Émile Borelin mukaan, sanoo, että jos koe toistetaan monta kertaa itsenäisesti samoissa olosuhteissa, minkä tahansa määritellyn tapahtuman esiintymiskertojen osuus on suunnilleen yhtä suuri kuin tapahtuman todennäköisyys missä tahansa tietyssä kokeessa; mitä suurempi määrä toistoja, sitä parempi approksimaatio. Tarkemmin sanottuna if ilmaisee kyseessä olevaa tapahtumaa - sen esiintymistodennäköisyyttä ja - kuinka monta kertaa se esiintyy ensimmäisissä kokeissa, niin todennäköisyydellä 1 [14] $E$ $s$ $N_{n}(E)$ $E$ $n$

{\frac {N_{n}(E)}{n}}\to p,\quad n\to \infty .

Chebyshevin epätasa-arvo

Olkoon satunnaismuuttuja, jolla on äärellinen matemaattinen odotus ja rajallinen nollasta poikkeava varianssi . Sitten mille tahansa todelliselle numerolle $X$ $\mu$ $\sigma ^{2}$ $k>0$

P{\big (}|X-\mu |\geqslant k\sigma {\big )}\leqslant {\frac {1}{k^{2))}.

Todiste heikosta laista

Tarkastellaan ääretöntä sarjaa riippumattomia ja identtisesti jakautuneita satunnaismuuttujia, joilla on äärellinen matemaattinen odotus . Meitä kiinnostaa todennäköisyyksien konvergenssi $X_{1},X_{2},\dots$ $\mathbb {E} (X_{1})=\mathbb {E} (X_{2})=\ldots =\mu <\infty$

{\overline {X}}_{n}={\frac {1}{n}}(X_{1}+\ldots +X_{n}).

Lause

{\overline {X}}_{n}\xrightarrow {P} \mu

klo

n\to \infty .

Todistus käyttäen Tšebyshevin epäyhtälöä, olettamalla äärellinen varianssi

Äärillisen varianssin oletus on valinnainen. Suuri tai ääretön varianssi hidastaa konvergenssia, mutta LPA pätee joka tapauksessa. $D(X_{1})=D(X_{2})=\ldots =\sigma ^{2}<\infty$

Tämä todistus käyttää äärellisen varianssin oletusta (kaikki ). Satunnaismuuttujien riippumattomuus ei tarkoita niiden välistä korrelaatiota $\operaattorin nimi {D} (X_{i})=\sigma ^{2}$ $i$

\operaattorinimi {D} ({\overline {X}}_{n})=\operaattorinimi {D} {\big (}{\tfrac {1}{n}}(X_{1}+\ldots) +X_{n}){\big )}={\frac {1}{n^{2}}}\operaattorinimi {D} (X_{1}+\ldots +X_{n})={\frac { n\sigma ^{2}}{n^{2}}}={\frac {\sigma ^{2}}{n}}.

Jakson matemaattinen odotus on otoskeskiarvon keskiarvo: $\mu$

\mathbb {E} ({\overline {X}}_{n})=\mu .

Käyttämällä Chebyshev epätasa-arvo , saamme ${\overline {X}}_{n}$

\operaattorinnimi {P} {\big (}|{\overline {X}}_{n}-\mu |\geqslant \varepsilon {\big )}\leqslant {\frac {\sigma ^{2} }{n\varepsilon ^{2}}}.

Käytämme tätä epäyhtälöä saadaksemme seuraavat:

\operaattorinimi {P} {\iso (}|{\overline {X}}_{n}-\mu |<\varepsilon {\big )}=1-\operaattorinimi {P} {\iso (} |{\overline {X}}_{n}-\mu |\geqslant \varepsilon {\big )}\geqslant 1-{\frac {\sigma ^{2}}{n\varepsilon ^{2}}} .

Kun lauseke pyrkii 1. $n\to\infty$

Nyt todennäköisyyskonvergenssin määritelmällä saamme:

{\overline {X}}_{n}\xrightarrow {P} \mu

osoitteessa .

n\to\infty

Todistus ominaisfunktioiden konvergenssilla

Taylorin kompleksisten funktioiden lauseen mukaan minkä tahansa satunnaismuuttujan, jolla on äärellinen keskiarvo, ominaisfunktio voidaan kirjoittaa seuraavasti $X$ $\mu$

\varphi _{X}(t)=1+it\mu +o(t),\quad t\to 0.

Kaikilla on sama ominaisfunktio, merkitään se nimellä . $X_{1},X_{2},\dots$ $\varphi _{X}$

Tunnusomaisten funktioiden pääominaisuuksista erotetaan kaksi ominaisuutta:

\varphi _{{\frac {1}{n}}X}(t)=\varphi _{X}{\big (}{\tfrac {t}{n}}{\big )},

\varphi _{X+Y}(t)=\varphi _{X}(t)\,\varphi _{Y}(t),

missä ja ovat itsenäisiä. $X$ $Y$

Näitä sääntöjä voidaan käyttää ominaisfunktion laskemiseen seuraavilla tavoilla : ${\overline {X}}_{n}$ $\varphi _{X}$

\varphi _{{\overline {X}}_{n}}(t)=\left[\varphi _{X}\left({\frac {t}{n}}\right)\right ]^{n}=\left[1+i\mu {\frac {t}{n}}+o\left({\frac {t}{n}}\right)\right]^{n}\ e^{it\mu }

klo

n\to \infty .

Raja on vakion ominaisfunktio ja siten Lévyn jatkuvuuslauseen mukaan konvergoi jakaumassa muotoon : ${\displaystyle e^{it\mu ))$ $\mu$ ${\overline {X}}_{n}$ $\mu$

{\overline {X}}_{n}\xrightarrow {\mathcal {D}} \mu

klo

n\to \infty .

Koska on vakio, tästä seuraa, että konvergenssi jakaumassa ja konvergenssi todennäköisyydessä ovat ekvivalentteja. Siksi $\mu$ $\mu$ $\mu$

{\overline {X}}_{n}\xrightarrow {\mathcal {P}} \mu

klo

n\to \infty .

Tämä osoittaa, että otoskeskiarvo konvergoi todennäköisyydessään ominaisfunktion derivaatan origossa, jos sellainen on olemassa.

Katso myös

Muistiinpanot

↑ Etemadi, N. Z. (1981). "Alkuperäinen todiste suurten lukujen vahvasta laista". Wahrscheinlichkeitstheorie verw Gebiete . 55 (1): 119-122. doi: 10.1007/BF01013465 .
↑ Paskhaver, 1974 , s. 34.
↑ Loève 1977, luku 1.4, s. neljätoista.
↑ Juri Prohorov . "Suurten lukujen laki" Arkistoitu 26. heinäkuuta 2018 Wayback Machinessa . Matematiikan tietosanakirja .
↑ Yu. V. Prokhorov. Suuri joukko vahvisti lakia . Matematiikan kirjasto . Haettu 28. maaliskuuta 2018. Arkistoitu alkuperäisestä 28. maaliskuuta 2018. (määrätön)
↑ Ross (2009).
↑ Lehmann, Erich L.; Romano, Joseph P. (30.3.2006). Heikko laki konvergoi vakioon . ISBN 9780387276052 .
↑ Dguvl Hun Hong ja Sung Ho Lee. "HUOMAUTUS VAIHTEETTAVIEN SATUNNAISMUUTTAJIEN SUURIEN LUKUJEN HEIKKOSTA LAISTA" . Arkistoitu 1. heinäkuuta 2016 Wayback Machinessa .
↑ "Suurten lukujen heikko laki: todiste käyttämällä ominaisfunktioita vs. todistus katkaisua VARIABLES" Arkistoitu 22. maaliskuuta 2018 Wayback Machineen . Matematiikan pinonvaihto.
↑ Mukherjee, Sayan. "Suurten lukujen laki" . Arkistoitu 9. maaliskuuta 2013 Wayback Machinessa .
↑ J. Geyer, Charles. "Suurten lukujen laki" Arkistoitu 13. kesäkuuta 2018 Wayback Machinessa .
↑ Newey & McFadden 1994, Lemma 2.4.
↑ Jennrich, Robert I. (1969). "Epälineaaristen pienimmän neliösumman arvioijien asymptoottiset ominaisuudet". The Annals of Mathematical Statistics . 40 (2): 633-643. doi: 10.1214/aoms/1177697731 .
↑ Wen, L. Analyyttinen tekniikka Borelin vahvan suurten lukujen lain todistamiseksi . Olen. Matematiikka. Kuukausi, 1991.

Kirjallisuus

Chistyakov V. P. Todennäköisyysteoriakurssi. - M .: Nauka, 1982.
Shiryaev A. N. Todennäköisyys. - M .: Nauka, 1989.
Paskhaver IS Suurten lukujen ja tilastollisten säännönmukaisuuksien laki. — M .: Tilastot, 1974.
Bernoullin lause / V. I. Bityutskov // Suuri venäläinen tietosanakirja : [35 nidettä] / ch. toim. Yu. S. Osipov . - M . : Suuri venäläinen tietosanakirja, 2004-2017.

Sanakirjat ja tietosanakirjat	Suuri katalaani Hienoa norjalaista Iso venäläinen Britannica (verkossa)
Bibliografisissa luetteloissa	BNF : 11978788d GND : 4157077-7 J9U : 987007558155705171 LCCN : sh85075318 SUDOC : 027830632