Informatsiooniteooria: erinevus redaktsioonide vahel

Eemaldatud sisu Lisatud sisu
Addbot (arutelu | kaastöö)
P Bot: Migrating 50 interwiki links, now provided by Wikidata on d:q131222 (translate me)
Resümee puudub
1. rida:
{{ToimetaAeg|kuu=november|aasta=2015}}
{{toimeta}}
 
'''Informatsiooniteooria''' on [[matemaatika]] haru, mis tegeleb informatsiooni[[informatsioon]]i kvantifitseerimisega. Informatsiooniteooria allaInformatsiooniteooriasse kuuluvad sellised teemad, nagu näiteks informatsiooni [[entroopia]], [[kommunikatsioonisüsteemid]], [[krüptograafia]], [[andmete pakkimine]], [[veakorrektsioon]], jne. Informatsiooniteooria valdkonda ei kuulu [[raamatukogundus]] ja [[infotehnoloogia]].
 
Kaasaegse informatsiooniteooria leiutas [[Claude Shannon]] oma [[1948]] aastal avaldatud artiklis [http://cm.bell-labs.com/cm/ms/what/shannonday/paper.html ''A Mathematical Theory of Communications''].
 
Tema järgi on informatsiooniks ainult need sõnumid, mille esinemist ei saa vastuvõtja ette ennustada. Teates leiduva info hulk võrdne nende [[bitt|bittide]] minimaalse hulgaga, mida läheb vaja teate kõikvõimalike väärtuste kodeerimiseks. Seda eeldades, et kõik teated on võrdse tõenäosusega. Näiteks andmebaasis läheb nädalapäevade tähistamiseks vaja kolme bitti:
 
Kaasaegsele informatsiooniteooriale pani aluse[[Claude Shannon]] oma [[1948]] aastal avaldatud artiklis "[[A Mathematical Theory of Communications]]". Tema järgi on informatsiooniks ainult need sõnumid, mille esinemist ei saa vastuvõtja ette ennustada. Teates leiduva info hulk võrdneon nendevõrdne [[bitt|bittide]]ide minimaalse hulgaga, mida läheb vaja teate kõikvõimalike väärtuste kodeerimiseks. Seda eeldades, et kõik teated on võrdse tõenäosusega. Näiteks andmebaasis läheb nädalapäevade tähistamiseks vaja kolme bitti:
:000 = esmaspäev
 
:001 = teisipäev
 
:010 = kolmapäev
 
:011 = neljapäev
 
:100 = reede
 
:101 = laupäev
 
:110 = pühapäev
 
:111 = seda ei kasutata
 
Kui seda kõike esitada tavaliste tähejadade abil, siis lähebon nende säilitamiseks vaja rohkem ruumi, kuid rohkem infot need ei sisaldaks.
 
Formaalselt mõõdetakse teates <math>\mbox{M}</math> sisalduva info hulka selle [[entroopia]]ga <math>\mbox{H(M)}</math>. Üldjuhul sõnumi entroopia (bittides)