telit.etf.rs

Teorija informacija i kodovi u telekomunikacijama

O predmetu

Informacije o predmetu

Specifikacija predmeta
Naziv predmeta Teorija informacija i kodovi u telekomunikacijama
Akronim OT4TIK
Studijski program Elektrotehnika i računarstvo
Modul modul Telekomunikacije i informacione tehnologije
Tip studija osnovne akademske studije
Nastavnik (za predavanja) Prof. dr Predrag Ivaniš
Nastavnik (za vezbe) Doc. dr Srđan Brkić, Prof. dr Predrag Ivaniš
Nastavnik/saradnik (za DON) Doc. dr Srđan Brkić, Prof. dr Zoran Čiča, Prof. dr Predrag Ivaniš
Broj ESPB 6 Status predmeta obavezan
Uslov nema
Cilj predmeta

Cilj predmeta je da se izlože osnovne postavke Teorije informacija, kao i da se sistematski predstave osnovi kodovanja izvora, osnovne tehnike kanalnog i linijskog kodovanja, kao i elemenata kriptologije.

Ishod predmeta

Osposobljavanje studenata za razumevanje osnovnih pojmova teorije informacija, osnovnih metoda konstrukcije i dekodovanja zaštitnih kodova. Pored toga će biti u mogućnosti da prate najnovija dostignuća kompresije i kriptologije.

Sadržaj predmeta
Sadržaj teorijske nastave

Uvod. Entropija. Markovljevi izvori. Dijagram stanja i trelis. Diskretni i kontinualni izvori informacija. Teorema o kodovanju izvora. Kompresija podataka. Modeli diskretnog kanala i kapacitet kanala. Teorema o kanalnom kodovanju. Linearni blok kodovi, interliving. Uvod u ciklične kodove. Konvolucioni kodovi. Uvod u turbo kodove i prostorno vremenske kodove. Teorija informacija i kriptografija.

Sadržaj praktične nastave

Auditorne i laboratorijske vežbe

Literatura

1. 1. D. Drajić, P. Ivaniš, Uvod u teoriju informacija i kodovanje, III izd. Akademska misao, Beograd, 2009., D. Drajic, P. Ivanis, Introduction in information theory and coding, 3rd ed., Academic mind, Belgrade, 2009.
2. T.M. Cover, J.A. Thomas, Elements on Information Theory, John Wiley & Sons, 2nd ed, 2006
3. 2. S. Lin, D. J. Costello, Error Control Coding, fundamentals and applications, 2nd edition, Prentice Hall, New Jersey, 2004.

Broj časova aktivne nastave nedeljno tokom semestra/trimestra/godine
Predavanja Vežbe DON Studijski i istraživački rad Ostali časovi
3 1 1
Metode izvođenja nastave

Predavanja, auditorne vežbe, laboratorijske vežbe.

Ocena znanja (maksimalni broj poena 100)
Predispitne obaveze Poena Završni ispit Poena
Aktivnosti u toku predavanja Pismeni ispit 70
Praktična nastava Usmeni ispit
Projekti
Kolokvijumi 25
Seminari

Elektronski dokumenti

Novosti i obaveštenja

Ostalo

Claude ShannonMatematička teorija telekomunikacijaShannon-ove teoreme

Kako je briljantna i inovativna ideja mladog naučnika naučila svet da komunicira

Usuditi se reći da rešenje problema u razvoju telekomunikacija može da se opiše nulama i jedinicama bio je neobično kreativan potez. Nadovezati se na to tvrdnjom da je informacija koja se prenosi iz jedne tačke u drugu nezavisna od fizičkog nosioca bilo je revolucionarno. Sve zajedno, zvučalo je suludo, a iza svega je stajala čista matematika.

Američki matematičar Klod Šenon bio je tek dvadesetogodišnji student MIT-a kad je prvi put uvideo vezu između Bulove algebre i rešavanja numeričkih i logičkih problema digitalnih električnih kola. Dve decenije kasnije, 1948. godine, u tehničkom časopisu Bell Systems objavio je rad „Matematička teorija komunikacije“; delo od kapitalne važnosti za teoriju informacija, disciplinu u jeku napretka.

PROBLEM DIGITALNOG PISMA

Pre Šenonovog angažovanja na ovom polju, naučnici i inženjeri su se suočavali sa velikim problemom pojavljivanja smetnji u transferu tekstualnih, zvučnih ili vizuelnih poruka, na većim fizičkim razdaljinama. Pri transferima bi se javljali šumovi koji su se ponašali potpuno nepredvidljivo, i to je ono što je istraživače najviše mučilo.

Pri jednom ambicioznom pokušaju prenosa poruke iz Severne Amerike ka Evropi, ovi takozvani šumovi su postajali sve snažniji i naposletku učinili da se ona u potpunosti izgubi pre nego što je stigla na odredište.

Naučnicima nije polazilo za rukom da formulišu jasne odgovore na pitanja kao što su: kojom brzinom možemo da šaljemo poruke? Možemo li slike visoke rezolucije poslati putem telefonske linije? Koliko je potrebno vremena? Koji je najbolji način?

Šenon je matematičkim jezikom napisao jedinstvenu teoriju informacija i rešio dotadašnje nejasnoće. Od suštinskog je značaja bila činjenica da način prenošenja poruke nije bio važan; nije bila važna ni njena vrsta. Smatrao je da bilo kakav sadržaj može da se predstavi bitovima (binarnim ciframa). Bitove je proglasio jedinim relevantnim i usvojio ih kao osnovnu jedinicu mere teorije informacija.

Zahvaljujući Šenonu, ovo je jedna od retkih naučnih disciplina čiji je jasan početak moguće istorijski lokalizovati.

ZNAČAJ KONTEKSTA

U Šenonovoj teoriji, sama informacija zavisila je od konteksta. Primera radi, ako se zovete Dragoslav i živite u Srbiji, vaše ime ne daje mnogo informacija, već je za identifikaciju potrebno i prezime. S druge strane, u Mongoliji bi sigurno bilo jasno o kome je reč samo na osnovu imena.

Matematičkim jezikom, kontekst je određen verovatnoćom poruke. U našem slučaju, naići na nekog Dragoslava u Mongoliji mnogo je manje verovatno nego naići na Dragoslava u Srbiji. Ako je pverovatnoća poruke, informacija se predstavlja kao 1/p.

Šenon je pokazao da, ako poruci dodamo dovoljno dodatnih bitova, oni bi pomogli ispravljanju grešaka uzrokovanih šumovima. U godinama koje su usledile, njegove ideje su se proširile na razne druge oblasti kao što su kriptografija, matematička verovatnoća i druge.

Neki tvrde da je Šenon napravio teoriju o prenosu signala. Međutim, kao što delimično vidimo, ona je gotovo čist matematički račun. Njene primene su moguće gde god su ispunjivi aksiomi koje je postavio i gde se korisnici susreću sa pitanjem koja poruka može, a koja ne može da se prenese.

Savremena literatura uglavnom zaobilazi matematički deo posla i predstavlja ove koncepte jednostavnim shematskim prikazima pod nazivom „Šenonov linearni model komunikacije“. Kao što je napomenuto, tačno je da je Šenon bio zaokupljen problemom prenosa informacije i reprodukcijom poruke koja se šalje iz jedne tačke u drugu. Međutim, ova teorija obezbeđuje mnogostran matematički račun; ne samo jedan, komunikacioni model.

Uočavanjem kako određena količina izbora u jednoj tački utiče na na one koji su doneti u drugoj tački, ova teorija postavlja fundamentalne granice na svim nivoima ljudske komunikacije.

izvor: Elementarijum

Login

Prijava na mailing liste