Lindleyn paradoksi

Lindleyn paradoksi on ristiriitainen tilanne tilastoissa , jossa bayesilainen ja usein esiintyvä lähestymistapa hypoteesien testaamisen ongelmaan antaa erilaisia tuloksia tietyille aikaisemman jakauman valinnaille . Ongelmaa näiden kahden lähestymistavan välillä käsiteltiin Harold Jeffreysin vuonna 1939 julkaisemassa kirjassa [1] . Ongelma tuli tunnetuksi Lindleyn paradoksina sen jälkeen, kun Dennis Lindley oli eri mieltä paradoksista vuoden 1957 artikkelissa [2] .

Vaikka tilannetta kuvaillaan paradoksiksi , ero Bayesin ja usein esiintyvän lähestymistavan välillä voidaan selittää sillä, että niitä käytetään vastaamaan pohjimmiltaan erilaisiin kysymyksiin, eikä todellisena erimielisyytenä näiden kahden menetelmän välillä.

Oli miten oli, suurelle luokalle a priori erot taajuusmuuttajan ja bayesilaisen lähestymistavan välillä johtuvat merkitsevyystason säilymisestä. Kuten Lindley ymmärsi, "teoria ei voi oikeuttaa merkitsevyystason ylläpitämisen käytäntöä" ja jopa "jotkut professori Pearsonin tämän artikkelin käsittelyssä tekemät laskelmat korostavat, kuinka paljon merkitsevyystaso voi muuttua otoskoon mukaan, jos häviöt ja aiemmat todennäköisyydet pysyvät ennallaan". [2] . Itse asiassa, jos kriittinen arvo kasvaa riittävän nopeasti otoskoon kanssa, epäsuhta esiintyvän ja bayesilaisen lähestymistavan välillä tulee merkityksettömäksi [3] [4] .

Paradoksin kuvaus

Harkitse jonkin kokeen tulosta kahdella mahdollisella selityksellä, hypoteesilla ja , ja jollakin aikaisemmalla jakaumalla , jotka edustavat epävarmuutta siitä, kumpi hypoteesi on tarkempi, ennen kuin harkitset . $x$ $H_{0}$ ${\displaystyle H_{1))$ $\pi$ $x$

Lindleyn paradoksi löytyy tapauksesta:

Tulos osoittautuu "merkittäväksi" frekvenssihypoteesitestin kannalta , ja se osoittaa merkittävää näyttöä hypoteesin hylkäämiseksi , vaikkapa 5 %:n tasolla. $x$ $H_{0}$ $H_{0}$
Tuloksen antaman hypoteesin posteriori todennäköisyys on korkea, mikä viittaa vahvasti siihen, että hypoteesi on johdonmukaisempi kuin hypoteesi . $H_{0}$ $x$ $H_{0}$ $x$ ${\displaystyle H_{1))$

Nämä tulokset voivat tapahtua samanaikaisesti, jos ne ovat hyvin tarkkoja, sumeampia, eikä aikaisempi jakauma suosi kumpaakaan, kuten alla on esitetty. $H_{0}$ ${\displaystyle H_{1))$

Numeerinen esimerkki

Voimme havainnollistaa Lindleyn paradoksia numeerisella esimerkillä. Kuvittele kaupunki, jossa 49 581 poikaa ja 48 870 tyttöä syntyi tietyn ajanjakson aikana. Poikien havaittu osuus on 49581/98451 ≈ 0,5036. Oletetaan, että poikien syntymien määrä on binomimuuttuja parametrilla . Haluamme tarkistaa, onko se yhtä suuri kuin 0,5 tai jokin muu arvo. Eli nollahypoteesimme on: , ja vaihtoehtoinen hypoteesi on . $x$ $\theta$ $\theta$ $H_{0}:\theta =0,5$ $H_{1}:\theta \neq 0.5$

Frequency lähestymistapa

Taajuustestauksen lähestymistapa on laskea p-arvo , poikien osuuden havaitsemisen todennäköisyys ainakin olettaen, että hypoteesi on totta. Koska syntyneiden määrä on suuri, voimme käyttää normaalia likiarvoa poikien syntymisosuudelle , ja laskettaessa $H_{0}$ $x$ $H_{0}$ $X\sim N(\mu ,\sigma ^{2})$ $\mu =np=n\theta =98451\times 0.5=49225.5$ $\sigma ^{2}=n\theta (1-\theta )=98451\times 0.5\times 0.5=24612.75$

{\begin{aligned}P(X\geq x\mid \mu =49225.5)=\int _{x=49581}^{98451}{\frac {1}{\sqrt {2\pi \sigma ^{2}}}}e^{-({\frac {u-\mu }{\sigma }})^{2}/2}du\\=\int _{x=49581}^{ 98451} {\frac {1}{\sqrt {2\pi (24612.75)}}}e^{-{\frac {(u-49225.5)^{2}}{24612.75}}/ 2}du\noin 0.0117.\ loppu{tasattu}}

Yllätyisimme myös, jos otamme huomioon 48870 tytön syntymän eli , joten taajuustesti tekisi normaalisti kaksisuuntaisen testin, jonka p-arvo olisi . Molemmissa tapauksissa p-arvo on pienempi kuin 5 %:n merkitsevyystaso, joten toistuva lähestymistapa hylkää hypoteesin havaitun datan vastaisena. $x\noin 0,4964$ $p\noin 2\times 0,0117=0,0235$ $\alpha$ $H_{0}$

Bayesin lähestymistapa

Olettaen, ettei ole mitään syytä suosia yhtä hypoteesia toiselle, Bayesin lähestymistapa on määrittää hypoteesille aiemmat todennäköisyydet , tasainen jakauma, ja sitten laskea posteriori todennäköisyys Bayesin lauseen käytölle . $\pi (H_{0})=\pi (H_{1})=0,5$ $\theta$ $H_1$ $H_{0}$

P(H_{0}\mid k)={\frac {P(k\mid H_{0})\pi (H_{0})}{P(k\mid H_{0})\pi (H_{0})+P(k\mid H_{1})\pi (H_{1})}}.

Kun olemme havainneet poikien syntymää vastasyntyneistä, voimme laskea kunkin hypoteesin posteriorisen todennäköisyyden käyttämällä binomiaalimuuttujan massajakaumafunktiota , $k=49581$ $n=98451$

{\begin{aligned}P(k\mid H_{0})&={n \choose k}(0.5)^{k}(1-0.5)^{nk}\noin 1 ,95\kertaa 10^{-4}\\P(k\mid H_{1})&=\int _{0}^{1}{n \choose k}\theta ^{k}(1-\ theta )^{ nk}d\theta ={n \valitse k}\mathrm {\mathrm {B} } (k+1,n-k+1)=1/(n+1)\noin 1,02\ kertaa 10^{-5 }\end{aligned}}

missä on beetafunktio . $\mathrm {\mathrm {B} } (a,b)$

Näistä arvoista löydämme posteriorin todennäköisyyden , joka suosii voimakkaasti . $P(H_{0}\mid k)\noin 0,95$ $H_{0}$ ${\displaystyle H_{1))$

Kaksi lähestymistapaa, toistuva ja bayesilainen, ovat ristiriidassa, ja tämä on "paradoksi".

Bayesilaisen ja toistuvan lähestymistavan yhteensovittaminen

Kuitenkin, ainakin Lindleyn esimerkissä, jos otetaan merkitsevyystasojen sarja siten, että c , niin nollahypoteesin posteriori todennäköisyys on yleensä 0, mikä on yhdenmukainen nollahypoteesin hylkäämisen kanssa [3] . Numeerisessa esimerkissämme, jos otamme , tuloksena on merkitsevyystaso 0,00318, joten frekvenssilähestymistapa ei hylkää nollahypoteesia, joka on pitkälti yhdenmukainen Bayesin lähestymistavan kanssa. $\alpha_{n}$ ${\displaystyle \alpha _{n}=n^{-k))$ $k>{\tfrac {1}{2))$ $k>{\tfrac {1}{2))$

Jos käytetään informatiivista ennakkojakaumaa ja testataan hypoteesia, joka muistuttaa enemmän taajuuslähestymistavan hypoteesia, paradoksi katoaa.

Jos esimerkiksi laskemme posteriorijakauman käyttämällä yhtenäistä prioria ja (eli ), saamme $P(\theta \mid x,n)$ $\theta$ $\pi (\theta \in [0,1])=1$

P(\theta \mid k,n)=\mathrm {\mathrm {B} } (k+1,n-k+1).

Jos käytämme tätä testaamaan todennäköisyyttä, että vastasyntynyt on todennäköisemmin poika kuin tyttö, eli , saamme: $P(\theta >0,5\mid k,n)$

$\int _{0.5}^{1}\mathrm {\mathrm {B} } (49582.48871)\noin 0.983.$

Toisin sanoen on hyvin todennäköistä, että poikien syntyvyys on yli 0,5.

Kumpikaan analyysi ei anna suoraa arviota vaikutuksen koosta , mutta molemmilla voidaan määrittää esimerkiksi, onko poikien syntyneiden osuus jonkin tietyn kynnyksen yläpuolella.

Ei todellista paradoksia

Näennäinen ero näiden kahden lähestymistavan välillä johtuu useiden tekijöiden yhdistelmästä. Ensinnäkin taajuuslähestymistapa tarkistaa yllä ottamatta huomioon . Bayesin lähestymistapa laskee vaihtoehtona k:lle ja havaitsee, että ensimmäinen hypoteesi on yhdenmukaisempi havaintojen kanssa. Tämä johtuu siitä, että jälkimmäinen hypoteesi on huomattavasti sumeampi, koska arvo voi olla mikä tahansa välissä , mikä johtaa erittäin pieneen posterioriin todennäköisyyteen. Ymmärtääksesi miksi, on hyödyllistä tarkastella kahta hypoteesia havaintojen luojina: $H_{0}$ $H_1$ $H_{0}$ ${\displaystyle H_{1))$ $\theta$ $[0,1]$

Hypoteesissa valitsemme ja kysymme, kuinka todennäköistä on nähdä 49 581 poikaa ja 98 451 vastasyntynyttä. $H_{0}$ $\theta \noin 0,500$
Hypoteesissa valitsemme satunnaisesti väliltä 0 ja 1 ja kysymme saman kysymyksen. ${\displaystyle H_{1))$ $\theta$

Suurin osa hypoteesin mahdollisista arvoista on havainnoilla erittäin huonosti tuettu. Sellaisenaan näennäinen erimielisyys menetelmien välillä ei ole lainkaan erimielisyyttä, vaan kaksi eri väitettä tiedoista: $\theta$ ${\displaystyle H_{1))$

Taajuuslähestymistapa havaitsee, että se selittyy huonosti havainnoilla. $H_{0}$
Bayesilaisessa lähestymistavassa havaitaan, että hypoteesi selittyy olennaisesti paremmin havainnoilla kuin hypoteesi . $H_{0}$ ${\displaystyle H_{1))$

Vastasyntyneiden (poikien/tyttöjen) sukupuolisuhde 50/50 taajuustestin mukaan on epäuskottava. Silti 50/50-suhde on parempi arvio kuin useimmat, mutta eivät kaikki, muut suhteet. Hypoteesi sopisi havaintoihin paljon paremmin kuin kaikki muut suhteet, mukaan lukien . $\theta \noin 0,504$ $\theta \noin 0,500$

Esimerkiksi [5] tästä hypoteesin ja ennakkotodennäköisyyden valinnasta seuraa lause: "Jos > 0,49 ja < 0,51, niin ennakkotodennäköisyys olla täsmälleen 0,5 on 0,50/0,51 98 %". Kun otetaan huomioon niin vahva suosio , on helppo nähdä, että Bayesin lähestymistapa suosii , vaikka havaittu arvo olisi 0,5 :n sisällä . Poikkeama, joka on suurempi kuin poikkeama , katsotaan merkitseväksi frekventoivassa lähestymistavassa, mutta merkitys hylätään a priori bayesialaisessa lähestymistavassa. $\theta$ $\theta$ $\theta$ $\n$ $\theta =0,5$ $H_{0}$ $x\noin 0,5036$ $x$ $2.28\sigma$ $2\sigma$ $H_{0}$

Tarkasteltaessamme toisesta suunnasta voimme nähdä, että aiempi jakauma on olennaisesti tasainen delta-funktiolla . On selvää, että se on kyseenalaista. Itse asiassa, jos yrität piirtää reaalilukuja jatkuvina, olisi loogista olettaa, että se ei ole mahdollista tietylle parametrille . $\theta =0,5$ $P(\theta =0.5)=0$

Realistisempi jakauma vaihtoehtoiselle hypoteesille tuottaa vähemmän yllättäviä tuloksia hypoteesin posterioriselle todennäköisyydelle . Jos esimerkiksi korvaamme arvolla , eli maksimitodennäköisyysestimaatin arvolle , hypoteesin posteriori todennäköisyys on vain 0,07 verrattuna hypoteesin 0,93:een (maksimitodennäköisyysestimaattia ei tietenkään voi käyttää osana aiemman jakauman ). $\theta$ $H_{0}$ ${\displaystyle H_{1))$ $H_{2}:\theta =x$ $\theta$ $H_{0}$ $H_{2}$

Nykyaikainen keskustelu

Paradoksista keskustellaan edelleen aktiivisesti [3] [6] [7] .

Katso myös

Bayesin kerroin

Muistiinpanot

↑ Jeffreys, 1939 .
↑ 1 2 Lindley, 1957 , s. 187-192.
↑ 1 2 3 Spanos, 2013 , s. 73–93.
↑ Naaman, 2016 , s. 1526-1550
↑ Tätä englanninkielisen version osaa kritisoidaan, koska se vaatii täydellisen uudelleenkirjoituksen.
↑ Sprenger, 2013 , s. 733–744.
↑ Robert, 2014 .

Kirjallisuus

Glen Shafer. Lindleyn paradoksi // Journal of the American Statistical Association . - 1982. - T. 77 , no. 378 . — S. 325–334 . - doi : 10.2307/2287244 . — .
Harold Jeffreys . Todennäköisyysteoria. - Oxford University Press, 1939.
Lindley DV Tilastollinen paradoksi // Biometrika . - 1957. - T. 44 , no. 1-2 . - doi : 10.1093/biomet/44.1-2.187 . — .
Michael Naman. Melkein varma hypoteesien testaus ja Jeffreys-Lindleyn paradoksin ratkaisu // Electronic Journal of Statistics. - 2016. - T. 10 , nro 1 . — ISSN 1935-7524 . - doi : 10.1214/16-EJS1146 .
Aris Spanos. Kenen pitäisi pelätä Jeffreys-Lindleyn paradoksia? // Tieteen filosofia. - 2013. - T. 80.1 . - doi : 10.1086/668875 .
Jan Sprenger. Tarkan nollahypoteesin testaaminen: Lindleyn paradoksin tapaus // Tiedefilosofia. - 2013. - T. 80 . - doi : 10.1086/673730 .
Christian P. Robert. Jeffreys-Lindleyn paradoksista // Tieteen filosofia. - 2014. - T. 81.2 . - doi : 10.1086/675729 . - arXiv : 1303.5973 .