Omat tiedot

Oma tieto on diskreetin satunnaismuuttujan tilastollinen funktio .

Oma tieto on itsessään satunnaismuuttuja, joka tulee erottaa sen keskiarvo - informaatioentropiasta .

Satunnaismuuttujalle, jolla on äärellinen määrä arvoja: $X$

P_{X}(x_{i})=p_{i},\quad p_{i}\geqslant 0,i=1,2,\dots ,n,\quad \sum _{i=1} ^{n}p_{i}=1

oma tieto määritellään

I(X)=-\log P_{X}(X).

Tiedon mittayksiköt riippuvat logaritmin kannasta . Kun kyseessä on logaritmi, jonka kanta on 2, mittayksikkö on bitti , jos käytetään luonnollista logaritmia, niin nat , jos desimaali, niin hartley .

Logaritmin kanta	Mittayksikkö _	Tietojen määrä kolikon putoamisesta "kotka" ylös
2	bitti	$-\log _{2}(1/2)=\log _{2}2=1$ bitti
e	nat	$-\ln(1/2)=\ln 2\noin 0,69$ nata
kymmenen	hartley	$-\log _{10}(1/2)=\log _{10}2\noin 0,30$ hartley

Itsetieto voidaan ymmärtää tapahtuman "yllätyksen mittana" - mitä pienempi tapahtuman todennäköisyys on, sitä enemmän se sisältää tietoa.

Omien tietojen ominaisuudet

Ei-negatiivisuus : . klo , eli ennalta määrätty tosiasia ei sisällä mitään tietoa. $I(x)\geqslant 0$ $I(x) = 0$ $p(x)=1$
Monotonisuus : jos . $I(x_{1})>I(x_{2})$ $p(x_{1})<p(x_{2})$
Additiivisuus : totta riippumattomille . ${\displaystyle x_{1},\dots ,x_{n))$ $I(x_{1},\dots ,x_{n})=\sum _{i=1}^{n}I(x_{i})$

Katso myös

Kirjallisuus

Gabidulin E. M. , Pilipchuk N. I. Luennot informaatioteoriasta - Moskovan fysiikan ja teknologian instituutti , 2007. - 214 s. — ISBN 978-5-7417-0197-3

Puristusmenetelmät _

Teoria

Tiedot	Oma Keskinäinen Haje Ehdollinen entropia Monimutkaisuus Redundanssi
Yksiköt	Bitti Nat Napostella Hartley Hartleyn kaava

Häviötön

Entropian pakkaus	Epäsymmetriset lukujärjestelmät Huffmanin algoritmi Mukautuva Huffman-algoritmi Shannon-Fano-algoritmi Shannonin algoritmi Aritmeettinen koodaus ( intervalli ) Golomb koodit Delta Universaali koodi Elias fibonacci
Sanakirjamenetelmät	RLE Tyhjennä LZ ( LZ77/LZ78 LZSS LZW LZWL LZO LZMA LZX LZRW LZJB LZT LZ4 Brotli zstandardi )
Muut	RLE CTW BWT MTF PPM DMC

Audio

Teoria	Convolution PCM Aliasing Näytteenotto Kotelnikovin lause
menetelmät	LPC LAR LSP WLPC CELP ACELP Laki μ-laki ADPCM MDCT Fourier-muunnos Psykoakustinen malli
Muut	Äänen kompressori Puheen pakkaus Band koodaus

Kuvat

Ehdot	väriavaruutta Pikseli Saturaatio-alinäytteenotto Pakkausesineitä
menetelmät	RLE DPCM fraktaali aallokko EZW SPIHT LP PrEP PCL
Muut	Bittinopeus Normaali testikuva PSNR Kvantisointi

Video

Ehdot	Videon ominaisuudet Kehys Kehystyypit Videon laatu
menetelmät	Liikekompensointi PrEP Kvantisointi aallokko
Muut	Videokoodekki Nopeuden vääristymisteoria CBR ABR VBR