Vzorec na výpočet šírky pásma kanála. Šírka pásma nepretržitého komunikačného kanála

5.2. Šírka pásma komunikačný kanál.

Charakteristiky komunikačného systému do značnej miery závisia od parametrov komunikačného kanála, ktorý sa používa na prenos správ. Pri skúmaní kapacity kanála sme predpokladali, že ich parametre zostávajú konštantné. Väčšina skutočných kanálov však má variabilné parametre. Parametre kanála majú tendenciu sa časom meniť náhodne. náhodné zmeny zosilnenie kanála m spôsobí slabnutie signálu, čo je ekvivalentné účinku multiplikatívneho rušenia

Homogénny symetrický komunikačný kanál je úplne definovaný abecedou prenesená správa, rýchlosť prenosu prvkov správy u a pravdepodobnosť chybného prijatia prvku správy p (pravdepodobnosť chyby).

Šírka pásma kanála sa vypočíta podľa vzorca:

v konkrétnom prípade pre binárny kanál (m=2) dostaneme vzorec:

kde p = 0,003, t = 1510-6

Porovnaním šírky pásma komunikačného kanála a výkonu zdroja (po optimálnom kódovaní) môžeme konštatovať, že podmienka K. Shannona je splnená, t.j. výkon zdroja je menší ako šírka pásma kanála, čo nám umožní prenášať informácie tento kanál spojenia. Pre nekódovaný zdroj je táto podmienka tiež splnená, pretože výkon nekódovaného zdroja je nižší ako výkon optimálne zakódovaného zdroja.

6. Protihlukové kódovanie.

Pri prenose digitálnych dát cez zašumený kanál vždy existuje možnosť, že prijaté dáta budú obsahovať určitú úroveň chybovosti. Prijímač zvyčajne nastavuje určitú úroveň chybovosti, nad ktorou sa prijaté dáta nedajú použiť. Ak chybovosť v prijatých údajoch prekročí prípustná úroveň možno použiť kódovanie na opravu chýb na zníženie chybovosti na prijateľnú úroveň.

Detekcia chýb a korekčné kódovanie je zvyčajne spojené s konceptom redundancie kódu, čo v konečnom dôsledku vedie k zníženiu prenosovej rýchlosti. tok informácií pozdĺž komunikačnej cesty. Nadbytočnosť je digitálnych správ obsahujú ďalšie znaky poskytujúce individualitu každého kódového slova. Druhou vlastnosťou spojenou s kódovaním na opravu chýb je priemerovanie šumu. Tento efekt spočíva v tom, že nadbytočné symboly závisia od viacerých informačných symbolov.

S nárastom dĺžky bloku kódu (t.j. počtu nadbytočných symbolov) má podiel chybných symbolov v bloku tendenciu k priemernej chybovosti v kanáli. Spracovaním symbolov v blokoch a nie po jednom je možné dosiahnuť zníženie celkovej chybovosti a s pevnou pravdepodobnosťou blokovej chyby aj podielu chýb, ktoré je potrebné opraviť.

Všetky v súčasnosti známe kódy možno rozdeliť na dva veľké skupiny: blokové a súvislé. Blokové kódy sa vyznačujú tým, že postupnosť prenášaných symbolov je rozdelená do blokov. Operácie kódovania a dekódovania v každom bloku sa vykonávajú samostatne. Spojité kódy sa vyznačujú tým, že primárna sekvencia znakov, prenášanie informácií, sa podľa určitého zákona priebežne premieňa na inú sekvenciu obsahujúcu prebytočný počet znakov. Procesy kódovania a dekódovania zároveň nevyžadujú rozdelenie kódové symboly na blokoch.

Varianty blokových aj spojitých kódov sú oddeliteľné (s možnosťou extrakcie informácií a riadiacich znakov) a neoddeliteľné kódy. Lineárne kódy sú najpočetnejšou triedou oddeliteľných kódov. Ich zvláštnosťou je, že riadiace symboly sú tvorené ako lineárne kombinácie informačných symbolov.

6.1. Princíp detekcie a opravy chýb.

Korekčné kódy sú zostavené tak, že počet kombinácií M prevyšuje počet zdrojov správ M 0 . V tomto prípade sa však na prenos informácií používa iba M 0 kombinácií zdrojov z celkového počtu. Takéto kombinácie sa nazývajú povolené a ostatné - zakázané M-M 0 Prijímač pozná všetky povolené a zakázané kombinácie, preto ak pri prijatí nejakej povolenej správy v dôsledku chyby táto správa spadne do kategórie zakázaných, potom bude takáto chyba zistená a keď určité podmienky pevné. Je potrebné poznamenať, že v prípade chyby, ktorá má za následok ďalší povolený signál, takáto chyba nie je detekovateľná.

Hammingova vzdialenosť d medzi dvoma sekvenciami je počet pozícií, v ktorých sa tieto dve sekvencie navzájom líšia. Najnižšia hodnota d pre všetky páry kódových sekvencií sa nazýva kódová vzdialenosť.

Chyba je zistená vždy, ak jej násobnosť, t.j. počet skomolených znakov v kombinácia kódov:g d, nájdu sa aj nejaké chyby. Neexistuje však úplná záruka detekcie chyby, pretože chybná kombinácia môže zodpovedať akejkoľvek povolenej kombinácii. Minimálna kódová vzdialenosť, pri ktorej sa zistia jednotlivé chyby, je d=2.

Korekcia chýb v procese dekódovania je zredukovaná na určenie prenášanej kombinácie zo známej prijatej. Vzdialenosť medzi vysielanou povolenou kombináciou a prijatou zakázanou kombináciou d 0 sa rovná násobku chyby g. Ak sa chyby v symboloch kombinácie vyskytnú nezávisle od seba, potom sa pravdepodobnosť skreslenia niektorých g symbolov v n-cifernej kombinácii bude rovnať:

6.1. Kódy s detekciou chýb.

Jedným z kódov tohto typu je kód s párnym počtom jednotiek. Každá kombinácia tohto kódu obsahuje okrem informačných symbolov aj jeden riadiaci symbol, zvolený rovný 0 alebo 1 tak, aby súčet počtu jednotiek v kombinácii bol vždy párny.

Najjednoduchším príkladom kódu s paritnou kontrolou je Baudotov kód, v ktorom sa k päťcifernej kombinácii informačných znakov pridáva šiesty kontrolný znak: 11001.1; 10001,0. Pravidlo na výpočet kontrolného znaku sa nachádza takto:

z čoho vyplýva, že pre akúkoľvek kombináciu bude súčet všetkých symbolov modulo dva rovný nule. To umožňuje dekodéru pomerne jednoducho odhaliť chyby kontrolou parity. K porušeniu parity dochádza, keď je jedno, trojité a všeobecný prípad nepárna násobnosť, ktorá ich umožňuje odhaliť. Výskyt párnych chýb nemení paritu súčtu, takže takéto chyby sa nezistia.

Definujme redundanciu kódu:

k=6 – počet symbolov v kóde na opravu chýb

n=5 – počet symbolov bez redundancie

Záver

V tejto práci sa uvažovalo:

1. FM koherentný systém prijímača. Po výpočte parametrov a porovnaní údajov získaných ako výsledok výpočtov s inými systémami príjmu signálu boli odhalené niektoré výhody a nevýhody tohto systému vysielania a príjmu. informačné správy. Porovnanie bolo urobené aj s ideálnym prijímačom Kotelnikov, ktorý poskytuje potenciálnu odolnosť voči šumu. Je uvedené, ako je možné zlepšiť vlastnosti prijímača pomocou prispôsobených filtrov.

2. Nepretržitý prenos analógové signály digitálnych metód. Vykonáva sa analýza a porovnanie diskrétnych metód (AIM, PWM, VIM) s digitálnou metódou na prenos spojitých analógových PCM signálov. Výhody zaznamenané digitálnych metód prenos informácií v porovnaní s analógovým.

3. Kódovanie správ. Porovnali a určili sa charakteristiky štatistického (efektívneho kódovania) verzus chybové (nadbytočné) kódovania. Bola určená šírka pásma komunikačného kanála a zistilo sa, že tento systém je realizovateľný (t.j. podmienka K. Shannona je splnená).

Keď uvažujeme o vysielaní a prijímaní signálov pomocou metódy PCM s kódovaním správ, môžeme konštatovať, že na zlepšenie kvality prijímaných správ by sa malo použiť kódovanie odolné voči šumu. Uvažovaná metóda kódovania na opravu chýb je najjednoduchšia. Pre viac efektívne využitie komunikačného kanála, je potrebné použiť pokročilejšie algoritmy kódovania správ.

Literatúra

1. Zyuko A.G., Korobov Yu.F. Teória prenosu signálu - M. Komunikácia 1972.

2. B.N. Bondarev, A.A. Makarov „Základy teórie prenosu signálu“, Novosibirsk - 1969

3. E.Prager, B.Shimek, V.P.Dmitriev – “ Digitálna technológia v komunikácii“ – M. Rádio a komunikácie.

V akomkoľvek komunikačnom systéme sa informácie prenášajú cez kanál. Jeho bitová rýchlosť bola definovaná v § 4.2. Ako je zrejmé z (4.25), táto rýchlosť závisí nielen od samotného kanála, ale aj od vlastností signálu privádzaného na jeho vstup, a preto nemôže charakterizovať kanál ako prostriedok prenosu informácií. Pokúsme sa nájsť spôsob, ako vyhodnotiť schopnosť kanála prenášať informácie. Uvažujme najskôr o diskrétnom kanáli, cez ktorý sa prenášajú v symboly z abecedy s objemom m za jednotku času. Počas prenosu každého znaku prejde kanálom v priemere množstvo informácií

I(A, B) = H(A) - H(A|B) = H(B) - H(B|A), (4,35)

kde sú A a B náhodné znaky na vstupe a výstupe kanála. Zo štyroch entropií H(A), ktoré sa tu objavujú, je inherentná informácia prenášaného symbolu určená zdrojom diskrétny signál* a nezávisí od vlastností kanála. Zvyšné tri entropie vo všeobecnosti závisia od zdroja signálu aj od kanálu.

* (Zdrojom diskrétneho signálu v komunikačnom systéme (pozri obr. 1.5) je kombinácia zdroja správy a kódovača.)

Predstavte si, že na vstup kanála môžu byť priradené symboly rôzne zdroje charakterizované rôznymi rozdeleniami pravdepodobnosti P(A) (ale samozrejme pre rovnaké hodnoty m a v). Pre každý takýto zdroj naberá množstvo informácií prenášaných cez kanál svoju vlastnú hodnotu. Maximálna suma prenášaných informácií, prevzatých zo všetkých možných zdrojov vstupného signálu, charakterizuje samotný kanál a nazýva sa kapacita kanála na symbol

kde * je maximalizované cez všetky viacrozmerné rozdelenia pravdepodobnosti P(A). Môžete tiež definovať priepustnosť kanála C za jednotku času (napríklad sekundu):

* (Ak takéto maximum neexistuje (čo môže byť nekonečné číslo možných zdrojov), potom je priepustnosť definovaná ako najmenšia horná hranica sup I (A, B), t.j. taká hodnota, ku ktorej sa I (A, B) môže ľubovoľne priblížiť, ale nemôže ju prekročiť.)

Rovnosť (4.37) vyplýva z aditivity entropie. V budúcnosti, všade tam, kde to nebude konkrétne uvedené, budeme priepustnosť za sekundu chápať ako priepustnosť.

Ako príklad si vypočítajme priepustnosť symetrický kanál bez pamäte, pre ktoré sú uvedené pravdepodobnosti prechodov (3.36). Podľa (4.36)

Hodnota

v tento prípad je ľahké vypočítať, keďže podmienená (prechodná) pravdepodobnosť P(b j |a i) nadobúda iba dve hodnoty: p/(m-1), ak b j ≠a i a 1-p, ak b j = a i . Prvá z týchto hodnôt sa vyskytuje s pravdepodobnosťou p a druhá s pravdepodobnosťou 1-p. Taktiež, keďže sa berie do úvahy kanál bez pamäte, výsledky príjmu jednotlivých symbolov sú navzájom nezávislé. Preto

V dôsledku toho H(B|A) nezávisí od rozdelenia pravdepodobnosti v súbore A, ale je určené iba pravdepodobnosťami prechodu kanála. Táto vlastnosť je zachovaná pre všetky modely kanálov s aditívnym šumom.

Dosadením (4.38) do (4.37) dostaneme

Keďže od rozdelenia pravdepodobnosti P(A) závisí iba člen H(B) na pravej strane, je potrebné ho maximalizovať. Maximálna hodnotaН (В) podľa (4.6) sa rovná log m a realizuje sa vtedy, keď sú všetky prijaté symboly b j rovnako pravdepodobné a navzájom nezávislé. Je ľahké overiť, či je táto podmienka splnená, ak sú vstupné symboly rovnako pravdepodobné a nezávislé, pretože v tomto prípade

V tomto prípade H(B) = log m a

Preto priepustnosť za jednotku času

Pre binárny symetrický kanál (m = 2) priepustnosť v binárnych jednotkách za jednotku času

C = v (4,42)

Závislosť C/v od p podľa (4.42) je znázornená na obr. 4.3.

Pre p = 1/2 je kapacita binárneho kanála C = 0, pretože s takou pravdepodobnosťou chyby je výstupná sekvencia binárne znaky možno získať bez prenosu signálov kanálom, ale ich náhodným výberom (napríklad podľa výsledkov hodu mincou), tj pri p = 1/2, sekvencie na výstupe a vstupe kanály sú nezávislé. Prípad C = 0 sa nazýva prerušenie kanála. Že priepustnosť pri p = 1 palec binárny kanál to isté ako pre p=0 (kanál bez šumu) sa vysvetľuje tým, že pre p = 1 stačí invertovať všetky výstupné symboly (tj nahradiť 0 1 a 1 0), aby sa vstupný signál správne obnovil .

Priepustnosť súvislého kanála sa vypočíta podobným spôsobom. Nech má kanál napríklad obmedzenú šírku pásma šírky F. Potom signály U(t) a Z(t), v tomto poradí, na vstupe a výstupe kanála, podľa Kotelnikovovej vety, sú určené ich vzorkami. prevzaté cez interval 1/(2F), a teda informácia prechádzajúca kanálom po určitú dobu T, sa rovná súčtu množstva informácií prenášaných pre každú takúto vzorku * . Kapacita kanála na jednu takúto vzorku

Tu U a Z - náhodné premenné sú úseky procesov U(t) a Z(t) na vstupe a výstupe kanála a maximum sa preberá cez všetky prípustné vstupné signály, t.j. cez všetky distribúcie U.

* (Namiesto Kotelnikovovej série je možné použiť rozklad signálov v ľubovoľnom ortogonálnom základe a zvážiť počet prenášané informácie pre každého člena série.)

Priepustnosť C je definovaná ako súčet hodnôt Ss zo všetkých vzoriek za sekundu. V tomto prípade je samozrejme potrebné vypočítať diferenciálne entropie v (4.43) s prihliadnutím na pravdepodobnostné vzťahy medzi hodnotami.

Vypočítajme napríklad priepustnosť súvislý kanál bez pamäte s aditívnym bielym gaussovským šumom so šírkou pásma F, ak priemerný výkon signálu (rozptyl U) nepresiahne danú hodnotu P s. Výkon (rozptyl) hluku v pásme F bude označený ako Р w. Vzorky vstupných a výstupných signálov, ako aj šum N, sú spojené rovnosťou

Z = U + N. (4,44)

Keďže N má normálne rozdelenie s nulovým matematickým očakávaním, potom podmienená hustota pravdepodobnosti w(z|u) pri pevnom u bude tiež normálna - s matematickým očakávaním u a rozptylom Рw.

Poďme nájsť šírku pásma na vzorku (4.43):

Podľa (4.34) diferenciálna entropia h(Z|U) normálneho rozdelenia w(Z|U) nezávisí od očakávania a rovná sa

Preto, aby sme našli počet C, mali by sme nájsť takú distribučnú hustotu w(U), pri ktorej je h(Z) maximalizované. Vzhľadom na to, že U a N sú nezávislé náhodné premenné, z (4.44) máme pre rozptyly:

D(Z) \u003d D (U) + D (N) \u003d Pc + P w. (4,45)

Rozptyl Z je teda pevný, pretože sú dané Pc a Pw. Ako bolo uvedené (pozri str. 114), s pevným rozptylom je maximálna diferenciálna entropia poskytovaná normálnym rozdelením. Z (4.44) vidno, že pri normálnom jednorozmernom rozdelení U bude aj rozloženie Z normálne, a preto je zaistené maximum diferenciálnej entropie (4.34):

Pokiaľ ide o priepustnosť C za sekundu, poznamenávame, že informácie prenášané cez niekoľko vzoriek sú maximálne, keď sú vzorky signálu nezávislé. Dá sa to dosiahnuť, ak sa signál U(t) zvolí tak, aby jeho spektrálna hustota bola rovnomerná v pásme F. Ako je uvedené v § 2.2 [pozri (2.48)], počty oddelené intervalmi, ktoré sú násobkami 1/(2F) sú vzájomne nekorelované a pre Gaussove veličiny nekorelácia znamená nezávislosť.

Priepustnosť C (za sekundu) teda možno nájsť pridaním priepustnosti (4.46) pre nezávislé vzorky 2F:

C \u003d 2FC počet \u003d F log (1 + P s / P w). (4,47)

Realizuje sa, ak U(t) je Gaussov proces s rovnomernou spektrálnou hustotou vo frekvenčnom pásme F (kvázi biely šum).

Z (4.47) vidno, že ak by výkon signálu Pc nebol obmedzený, potom by priepustnosť bola ľubovoľne veľká. Priepustnosť je nulová, ak je pomer signálu k šumu Pc/Pw v kanáli nulový. So zvýšením tohto pomeru sa priepustnosť zvyšuje neurčito, ale pomaly, v dôsledku logaritmickej závislosti.

Vzťah (4.47) sa často nazýva Shannonov vzorec. Tento vzorec má dôležitosti v teórii informácie, keďže určuje závislosť kapacity uvažovaného spojitého kanála od toho technické údaje ako šírka pásma a pomer signálu k šumu. Shannonov vzorec naznačuje možnosť výmeny šírky pásma za silu signálu a naopak. Keďže však C závisí lineárne od F a od Pc / Pw - podľa logaritmického zákona, zvyčajne nie je výhodné kompenzovať možné zníženie šírky pásma zvýšením výkonu signálu. Efektívnejšie je spätná výmena sila signálu na šírku pásma.

Všimnite si, že keď Р c /P w >>1, výraz (4.50) sa zhoduje s charakteristikou (1.2), nazývanou v § 1.2 kapacita (objem) kanála.

Je potrebné zdôrazniť, že Shannonov vzorec (4.47) platí len pre kanál s konštantnými parametrami a aditívnym Gaussovým bielym (alebo kvázi bielym) šumom. Ak rozdelenie aditívneho rušenia nie je normálne alebo ak je jeho spektrum v šírke pásma kanála nerovnomerné, potom je jeho šírka pásma väčšia ako šírka vypočítaná podľa vzorca (4.47). Multiplikatívne rušenie (vyblednutie signálu) zvyčajne znižuje kapacitu kanála.

Na obr. 4.5 ukazuje závislosti C/F na priemernom pomere Pc/Pw pre kanál s konštantnými parametrami (1) a kanál s Rayleighovým zoslabovaním (2). Z analýzy kriviek vyplýva, že pomalé Rayleighovo slabnutie znižuje kapacitu kanála o maximálne 17 %.

Táto téma je jednou z centrálnych v teórii informácie. Zvažuje limitujúce možnosti komunikačných kanálov na prenos informácií, určuje charakteristiky kanálov, ktoré tieto schopnosti ovplyvňujú, a študuje ich v všeobecný pohľad obmedzujúce možnosti kódovania, ktoré poskytujú maximálnu odolnosť voči šumu a množstvo prenášaných informácií.

Definície:

1. Rýchlosť prenosu informácií je priemerné množstvo informácií prenášaných kanálom za jednotku času.

V prípade kanála bez šumu sa táto rýchlosť rovná V až *H až, kde V až je počet symbolov prenesených cez kanál za jednotku času, H až je priemerná entropia jedného symbolu správy na vstupe a výstupe kanála.

2. Výkon zdroja je priemerná rýchlosť prijímania informácií zo zdroja správy.

Výkon zdroja sa zistí podľa vzorca V a *H a, kde V a je počet symbolov vygenerovaných zdrojom za jednotku času, H a je priemerná entropia jedného symbolu správy na výstupe zdroja.

Šírka pásma komunikačného kanála- maximálna možná rýchlosť prenosu informácií pre tento kanál. Označíme to C až.

Zaznamenali sme ďalšiu dôležitú charakteristiku kanála - maximálnu symbolovú rýchlosť V až max cez neho. Vždy je obmedzená. Preto maximálna rýchlosť prenos informácií sa dosiahne pomocou maximálnej symbolovej rýchlosti a maximálnej priemernej entropie V až max prenášaný charakter. Predtým sa dokázalo, že maximálna priemerná entropia na jeden symbol sa dosiahne s rovnakou pravdepodobnosťou a nezávislosťou ich výskytu.

Pretože zdroj informácií nemusí nutne odosielať symboly s týmito charakteristikami, musia byť zakódované, aby sa dosiahlo čo najefektívnejšie využitie kanála. Predtým sa pri štúdiu efektívneho kódovania dokázalo, že práve efektívne kódovanie poskytuje po zakódovaní znakom požadované parametre. Entropia symbolov sekundárnej abecedy v dôsledku takéhoto kódovania pri kódovaní nekonečne veľkých blokov informačnej sekvencie v limite sa rovná poleno 2m, kde m je hlasitosť sekundárnej abecedy použitej na výstupe kódovača.

Vzhľadom na toto: C až \u003d V až * H max \u003d V až * log 2 m.

Ak m=2(používa sa na kódovanie binárny kód), potom bude entropia jedného znaku na výstupe kodéra rovná 1, t.j. každý binárny znak efektívny kód budú niesť 1 bit informácie a samotné symboly budú rovnako pravdepodobné a štatisticky nezávislé.

V tomto prípade C do \u003d V do.

Pri prenose informácií komunikačným kanálom sa snažia o čo najefektívnejšie (z hľadiska množstva prenášaných informácií) ich využitie.

Nájdite požiadavky na zdroj informácií, pri ktorých je možná maximálna rýchlosť prenosu informácií kanálom.

Popíšeme zdroj informácií s parametrami V a A H a. Predpokladajme, že v komunikačnom kanáli nie je žiadny šum. Komunikačný kanál je opísaný jeho šírkou pásma a hlasitosťou m abeceda.

Keďže v kanáli nie je žiadny šum, informácie sa počas prenosu cez kanál neskresľujú ani nestrácajú. Preto je rýchlosť prenosu informácií na výstupe zdroja V a *H a a výstup kanála sa zhoduje. Najefektívnejšie využitie kanála bude také, že výkon zdroja sa bude rovnať šírke pásma kanála:

C až \u003d V až max * log 2 m \u003d V a * H a.

Ak je teda známa priemerná entropia jedného symbolu správy prichádzajúcej z výstupu zdroja, najefektívnejšie využitie kanála možno dosiahnuť, ak sa rýchlosť príchodu týchto symbolov zo zdroja zvolí v súlade so vzorcom : V a \u003d V do max * log 2 m / H a alebo V a \u003d V na maximum / H a pomocou najbežnejšie používaného binárneho kódovania.

Upozorňujeme, že tento vzorec predpokladá použitie efektívneho kódovania informácií prichádzajúcich zo zdroja pred ich prenosom do komunikačného kanála bez rušenia (šumu).

Zvážte nasledujúci model hlučného komunikačného kanála (obr. 4.4):

Ryža. 4.4. Model hlučného komunikačného kanála.

Podľa typu signálov prenášaných kanálom sa rozlišujú diskrétne a kontinuálne komunikačné kanály.

Najdôležitejšia charakteristika kanál je jeho priepustnosť, definovaná ako najvyššia rýchlosť prenos informácií cez. Šírka pásma diskrétny kanál možno vypočítať napríklad pomocou nasledujúceho vzorca:

C \u003d V k * Som a x ,

kde Vk– rýchlosť prenosu abecedných znakov cez kanál;

som x– maximálne možné množstvo informácií na jeden symbol prenášaný kanálom.

Množstvo informácií na 1 symbol prenesené cez kanál závisí od entropie (stupeň neistoty pri získavaní symbolu) na vstupe a výstupe kanála. Podľa Shannonovej miery

I = H a priori - H posterior = H(X) – H(X/Y) .

Tu H a priori = H(X) A H posterior = H(X/Y)– podmienená entropia charakterizujúca neistotu o symbole prenášanom na výstup kanála X akceptovaným charakterom Y pri východe. Prítomnosť tejto neistoty je dôsledkom pôsobenia na šumový symbol prenášaný cez kanál. H(X/Y) - charakteristika kanála.

Koniec práce -

Táto téma patrí:

Teória informácie a kódovania

Soči Štátna univerzita.. cestovný ruch a rezort podnikania.Fakulta informačných technológií a matematika..

Ak potrebujete ďalší materiál k tejto téme, alebo ste nenašli to, čo ste hľadali, odporúčame použiť vyhľadávanie v našej databáze prác:

Čo urobíme s prijatým materiálom:

Ak sa tento materiál ukázal byť pre vás užitočný, môžete si ho uložiť na svoju stránku v sociálnych sieťach:

pípanie

Všetky témy v tejto sekcii:

Prednáškový kurz
Efektívna organizácia výmeny informácií je čoraz dôležitejšia ako podmienka úspechu praktické činnosti z ľudí. Množstvo informácií potrebných pre normálne fungovanie moderného

Definícia pojmu informácie
Slovo informácia pochádza z latinského informare – zobrazovať, zostavovať o niečom koncept, informovať. Informácie spolu s hmotou a energiou sú prvoradé

Fázy obehu informácií
Riadiaci systém pozostáva z riadiaceho objektu, komplexu technické prostriedky, pozostávajúce z počítača, vstupno-výstupných a v ňom zahrnutých zariadení na ukladanie informácií, zariadení na zber prenosu

Niektoré definície
Dáta alebo signály organizované v určitých sekvenciách nesú informácie nie preto, že opakujú objekty reálneho sveta, ale podľa sociálnej konvencie o kódovaní, t.j. jeden

Informačné opatrenia
Skôr ako pristúpime k opatreniam informácií, poukážeme na to, že zdroje informácií a správy, ktoré vytvárajú, sa delia na diskrétne a spojité. Diskrétne správy sa skladajú z konečne

geometrická miera
Určenie množstva informácií geometrická metóda sa redukuje na meranie dĺžky čiary, plochy alebo objemu geometrického modelu toto médium informácie alebo správy. Podľa geometrických rozmerov

Aditívna miera (Hartleyova miera)
Aditívne opatrenie možno považovať za vhodnejšie kombinatorické opatrenie pre množstvo aplikácií. Naša intuícia o informáciách naznačuje, že množstvo informácií sa zvyšuje

Entropia a jej vlastnosti
Existuje niekoľko typov štatistických meraní informácií. V nasledujúcom texte sa budeme zaoberať iba jedným z nich, mierou Shannon. Shannonova miera množstva informácií úzko súvisí s konceptom

Entropia a stredná entropia jednoduchého deja
Pozrime sa podrobnejšie na pojem entropia v rôzne možnosti, ako sa používa v Shannonovej teórii informácie. Entropia je mierou neistoty nejakej skúsenosti. V najjednoduchšom prípade to

Lagrangeova multiplikačná metóda
Ak potrebujete nájsť extrém (maximum, minimum alebo sedlový bod) funkcií n premenných f(x1, x2, …, xn) spojených s k

Odvodenie vzorca pre priemernú hodnotu entropie na list správy
Predpokladajme, že existuje správa pozostávajúca z n písmen: , kde j=1, 2, …, n ─ čísla písmen v správe v poradí a i1, i2, … ,v číslach

Entropia komplexnej udalosti pozostávajúcej z niekoľkých závislých udalostí
Teraz predpokladajme, že prvky správy (písmená) sú vzájomne závislé. V tomto prípade sa pravdepodobnosť výskytu postupnosti niekoľkých písmen nerovná súčinu pravdepodobnosti výskytu

Redundancia správ
Ako bolo uvedené, entropia je maximálna, ak sú pravdepodobnosti správ alebo symbolov, z ktorých sú zložené, rovnaké. Takéto správy obsahujú maximum možnej informácie. Ak správa obsahuje

Obsah informácií
Miera obsahu sa označuje ako cont (z anglického Content ─ content). Obsah deja I je vyjadrený cez funkciu miery obsahu jeho o

Užitočnosť informácií
Ak sa informácie používajú v manažérskych systémoch, potom je rozumné hodnotiť ich užitočnosť podľa vplyvu, ktorý majú na výsledok riadenia. V tejto súvislosti v roku 1960 sovietsky vedec A.A.

Dynamická entropia
Tu sa entropia považuje za funkciu času. V tomto prípade je cieľom zbaviť sa neistoty, t.j. dosiahnuť polohu, kde sa entropia rovná 0. Táto situácia je typická pre problémy

Entropia nepretržitých správ
Nespracované údaje sú často prezentované ako spojité hodnoty, ako je teplota vzduchu alebo morskej vody. Preto je zaujímavé merať množstvo informácií obsiahnutých v takýchto správach.

Prvý prípad (hodnoty nasledujúcich veličín sú obmedzené intervalom)
Náhodná premenná a je obmedzená intervalom . V tomto prípade, určitý integrál jeho hustoty rozdelenia pravdepodobnosti (zákon o diferenciálnom rozdelení pravdepodobnosti) na

Druhý prípad (uvádza sa rozptyl a matematické očakávanie ďalšej hodnoty)
Predpokladajme teraz, že oblasť definície hodnôt náhodnej premennej nie je obmedzená, ale je daný jej rozptyl D a matematické očakávanie M. Všimnite si, že rozptyl je priamo úmerný

Kvantovanie signálu
Spojité signály - nosiče informácií - sú spojité funkcie spojitého argumentu - času. Prenos takýchto signálov sa môže uskutočniť pomocou nepretržitých komunikačných kanálov,

Typy diskretizácie (kvantizácia)
Najjednoduchšie a najčastejšie používané typy kvantovania sú: · kvantovanie podľa úrovne (povieme zjednodušene kvantovanie); kvantovanie času (zavoláme

Kritériá presnosti reprezentácie kvantovaného signálu
V dôsledku inverznej konverzie zo spojitej diskrétnej formy na spojitú sa získa signál, ktorý sa od pôvodného líši veľkosťou chyby. Signál sa nazýva reprodukčná funkcia

Prvky zovšeobecnenej spektrálnej teórie signálov
Zovšeobecnená spektrálna teória signálov kombinuje metódy matematického popisu signálov a šumu. Tieto metódy umožňujú zabezpečiť požadovanú redundanciu signálov, aby sa znížil vplyv rušenia.

O praktickom využití Kotelnikovovej vety
Možná schéma pre kvantizáciu-prenos-obnovu spojitého signálu môže byť znázornená tak, ako je znázornené na obr. 2.5. Ryža. 2.5. Možná schéma kvantizácie-prenosu

Výber periódy vzorkovania (časové kvantovanie) podľa kritéria najväčšej odchýlky
V dôsledku časovej kvantizácie funkcie x(t) sa získa séria hodnôt x(t1), x(t2), … kvantovanej veličiny x(t) v diskrétnych časoch t

Interpolácia pomocou Lagrangeových polynómov
Reprodukčná funkcia sa vo väčšine prípadov vypočíta podľa vzorca: , kde sú niektoré funkcie. Tieto funkcie majú zvyčajne tendenciu vyberať tak, že. (2.14) V tomto prípade

Odhad maximálnej hodnoty chyby pri získavaní reprodukčnej funkcie na základe Lagrangeovho polynómu
Nájdite chybu interpolácie. Predstavme si to ako: , (2.16) kde K(t) je pomocná funkcia, ktorú treba nájsť. Pre ľubovoľné t* máme: (

Zovšeobecnenie na prípad použitia Lagrangeových polynómov ľubovoľného poradia
Interpolácia polynómami n-tého rádu sa uvažuje podobne ako v predchádzajúcich prípadoch. V tomto prípade sa pozoruje významná komplikácia vzorcov. Zovšeobecnenie vedie k vzorcu nasledujúceho tvaru:

Výber intervalu vzorkovania podľa kritéria štandardnej odchýlky
Uvažujme prípad diskretizácie náhodného stacionárneho ergodického procesu x(t) so známou korelačnou funkciou. Obnovíme pomocou Lagrangeových polynómov. Najčastejšie

Optimálna úroveň kvantovania
Obrázok 2.13 znázorňuje princíp kvantovania úrovne. Ryža. 2.13. Kvantovanie úrovne. Toto kvantovanie je zredukované na nahradenie hodnoty signálu pôvodnej úrovne

Výpočet nehomogénneho optima v zmysle minimálnej chyby rozptylu kvantizačnej stupnice
Ryža. 2.19. Notácia Nastavme teraz počet kvantizačných krokov n, hranice intervalu (xmin, xmax

Všeobecné pojmy a definície. Kódovanie cieľov
Kódovanie je operácia identifikácie znakov alebo skupín znakov jedného kódu so znakmi alebo skupinami znakov iného kódu. Kód (francúzsky kód), súbor vedomostí

Prvky teórie kódovania
Niektoré všeobecné vlastnosti kódov. Pozrime sa na príklady. Predpokladajme, že diskrétny zdroj bez pamäte, t.j. dávať na výstupe nezávislé správy – písmená, mať

Kraftova nerovnosť
Veta 1. Ak celé čísla n1, n2, …, nk spĺňajú nerovnosť (3.1), existuje predponový kód s abecedou veľkosti m,

Veta 2.
Formulácia. Nech je daný kód s dĺžkami kódových slov n1, n2, … , nk as abecedou objemu m. Ak je kód jednoznačne dekódovateľný, potom Kraftova nerovnosť vyhovuje

Veta 3.
Formulácia. Vzhľadom na entropiu H zdroja a objem m sekundárnej abecedy existuje predponový kód s minimálnou priemernou dĺžkou nav min.

Veta o minimálnej priemernej dĺžke kódového slova pre blokové kódovanie (Veta 4)
Pozrime sa teraz na prípad kódovania nie jednotlivých zdrojových písmen, ale sekvencií písmen L. Veta 4. Tvrdenie. Pre daný diskrétny zdroj

Optimálne nejednotné kódy
Definície. Nerovnomerné kódy sú kódy, ktorých kódové slová majú rôzne dĺžky. Optimalitu možno chápať rôznymi spôsobmi v závislosti od

Lema 1. O existencii optimálneho kódu s rovnakou dĺžkou kódových slov dvoch najmenej pravdepodobných zakódovaných písmen
Formulácia. Pre každý zdroj s k>=2 písmenami existuje optimálny (v zmysle minimálnej priemernej dĺžky kódového slova) binárny kód, v ktorom sú dve najmenej pravdepodobné vrstvy

Lema 2. O optimálnosti prefixového kódu neredukovaného súboru, ak je prefixový kód redukovaného súboru optimálny
Formulácia. Ak je nejaký prefixový kód redukovaného súboru U optimálny, potom zodpovedajúci prefixový kód pôvodného súboru m

Vlastnosti efektívnych kódov
1. Písmeno primárnej abecedy s najmenšou pravdepodobnosťou výskytu má priradený kód s najväčšou dĺžkou (Lema 1), t.j. takýto kód je nejednotný (s rôznymi dĺžkami kódových slov). V r

Kódovanie na korekciu šumu
Ako už názov napovedá, takéto kódovanie má eliminovať škodlivý vplyv rušenie v kanáloch prenosu informácií. Už bolo hlásené, že takýto prenos je možný vo vesmíre aj vo vesmíre.

Najjednoduchšie modely digitálnych komunikačných kanálov s rušením
Vlastnosť kódov na opravu chýb zisťovať a opravovať chyby vo veľkej miere závisí od charakteristík rušenia a kanála prenosu informácií. Informačná teória zvyčajne považuje dve jednoduché

Výpočet pravdepodobnosti skomolenia kódového slova v DSMK
Predpokladajme, že kódové slovo pozostáva z n binárnych symbolov. Pravdepodobnosť neskreslenia kódového slova, ako sa dá ľahko dokázať, sa rovná: . Pravdepodobnosť skreslenia jedného znaku (single

Všeobecné zásady používania redundancie
Pre jednoduchosť zvážte blokový kód. S jeho pomocou je každému k bitom (písmenom) vstupnej sekvencie priradené n-bitové kódové slovo. Množstvo rôzneho druhu

Hammingova hranica
Hammingova hranica Q určuje maximálny možný počet povolených kódových slov jednotného kódu pre danú dĺžku kódového slova n a korekčnú schopnosť kódu CSC.

Redundancia kódov na opravu chýb
Jednou z charakteristík kódu je jeho redundancia. Zvýšenie nadbytočnosti je v zásade nežiaduce, keďže zvyšuje objem uložených a prenášaných dát, avšak na boj proti skresleniam, prebytkom

Riadkové kódy
Uvažujme o triede algebraických kódov nazývaných lineárne. Definícia: Lineárne kódy sa nazývajú blokové kódy, ktorých ďalšie číslice sa tvoria

Určenie počtu ďalších číslic m
Na určenie počtu ďalších číslic môžete použiť Hammingov hraničný vzorec: . V tomto prípade možno získať husto zabalený kód, t.j. kód s minimom pre dané páry

Konštrukcia generujúcej matice
Lineárne kódy majú nasledujúcu vlastnosť: z celkovej množiny 2k povolených kódových slov, ktoré mimochodom tvoria skupinu, je možné vybrať podmnožiny k slov, ktoré majú

Kódovací príkaz

Poradie dekódovania

Binárne cyklické kódy
Vyššie uvedený postup konštrukcie lineárneho kódu má množstvo nevýhod. Je nejednoznačný (MDS môže byť špecifikovaný rôznymi spôsobmi) a je nepohodlné ho implementovať do formulára technické zariadenia. Tieto nedostatky

Niektoré vlastnosti cyklických kódov
Všetky vlastnosti cyklických kódov sú určené generujúcim polynómom. 1. Cyklický kód, ktorého tvoriaci polynóm obsahuje viac ako jeden člen, zisťuje všetky jednotlivé chyby.

Vytvorenie kódu s danou opravnou schopnosťou
Existuje jednoduchý postup na zostavenie kódu s danou korekčnou schopnosťou. Pozostáva z: 1. By danej veľkosti informačná zložka kódového slova s ​​dĺžkou

Maticový popis cyklických kódov
Cyklické kódy môžu byť, ako každý lineárny kód, opísané pomocou matíc. Pripomeňme, že KC(X) = gm(X)*U(X) . Spomeňte si aj na príklad poradia násobenia

Výber generovaného polynómu
Je jasné, že polynómy kódového slova KS(X) musia byť bezo zvyšku deliteľné generujúcim polynómom g(X). Cyklické kódy patria do triedy lineárnych kódov. To znamená, že pre tieto kódy existuje

Typy kanálov prenosu informácií
Zvážte kanály, ktoré sa líšia typom komunikačných liniek, ktoré sa v nich používajú. 1. Mechanický, pri ktorom sa na prenos informácií využíva pohyb akejkoľvek pevnej látky, kvapaliny

Šírka pásma diskrétneho komunikačného kanála so šumom
Teraz skúmame priepustnosť diskrétneho komunikačného kanála so šumom. existuje veľké množstvo matematické modely takéto kanály. Najjednoduchší z nich je kanál s nezávislými

Typické sekvencie a ich vlastnosti
Budeme uvažovať o postupnostiach štatisticky nezávislých písmen. Podľa zákona veľkých čísel sú najpravdepodobnejšie postupnosti dĺžky n, v ktorých pre číslo N

Shannonova hlavná veta pre diskrétny kanál so šumom
Formulácia Pre diskrétny kanál v šume existuje taká metóda kódovania, ktorá dokáže zabezpečiť bezchybný prenos všetkých informácií prichádzajúcich zo zdroja.

Diskusia o Shannonovej hlavnej vete pre hlučný kanál
Shannonova veta pre zašumený kanál nenaznačuje špecifickú metódu kódovania, ktorá zaisťuje spoľahlivý prenos informácií rýchlosťou ľubovoľne blízkou kapacite kanála s

Priepustnosť súvislého kanála v prítomnosti aditívneho šumu
Zvážte nasledujúci model kanála: 1. Kanál je schopný prenášať oscilácie s frekvenciami pod Fm. 2. V kanáli je rušenie n(t), ktorý má normál (gau

Krok 2. Zadávanie textových súborov do tabuľky programu Excel, pričom každý riadok textu sa rozdelí na samostatné znaky
Pri zadávaní predtým uloženého textový súbor Je potrebné zadať typ súboru *.*. To vám umožní vidieť všetky súbory v zozname počas výberu. Zadajte svoj súbor. Potom sa na obrazovke zobrazí okno M.

Krok 4. Nájdite priemernú entropiu na 1 písmeno správy
Ako je popísané v teoretickom úvode, priemernú entropiu zisťujeme pomocou vzorcov 1 a 2. V oboch prípadoch je potrebné nájsť pravdepodobnosti výskytu písmen alebo dvojpísmenových kombinácií. Pravdepodobnosti môžu byť

Krok 8. Napíšme správu o pokroku popisujúcu všetky výpočty a spôsob ich vykonania. Komentujte výsledky
Výsledky výpočtu prezentujte vo forme tabuľky:<Язык 1> <Язык

Pripojenie možnosť využitia neštandardných funkcií
Programové ovládanie aplikácií, ktoré sú súčasťou Microsoft Office, prebieha pomocou takzvaných makier. Slovo makro je gréckeho pôvodu. Preklad

Vytvorenie vlastnej funkcie
Pred vytvorením vlastných funkcií musíte otvoriť súbor v zošite obsahujúcom informácie, ktoré chcete spracovať pomocou týchto vlastných funkcií. Ak bol tento zošit predtým

Nahrávanie hlasu a príprava signálu
Nahrávanie začína a končí stlačením tlačidla Record (obr. 5), označeného červeným krúžkom. Počas procesu nahrávania vyzerá tlačidlo Record stlačené a svetlejšie (zvýraznené).

Import textových údajov do Excelu
Dvojitým kliknutím otvoríte textový súbor s dátami exportovanými z programu Wavosaur (obr. 23). Ryža. 23. Približný pohľad na dáta Je vidieť, že exportované

Kvantovanie úrovne je zredukované na nahradenie hodnoty pôvodného signálu úrovňou kroku, do ktorého táto hodnota spadá
Kvantovanie úrovne je nevyhnutnou podmienkou prevodu spojitého signálu do digitálnej podoby. Na to však nestačí len kvantovanie úrovní – na prevod do digitálnej podoby

Huffmanove kódy
Tento algoritmus sa používa na zostavenie postupu na zostavenie optimálneho kódu, ktorý v roku 1952 navrhol doktor Massachusettského technologického inštitútu (USA) David Huffman: 5) písmena 1.

Proces sa opakuje dovtedy, kým v každej podskupine nezostane len jedno písmeno.
Zoberme si abecedu s ôsmimi písmenami. Je jasné, že v konvenčnom (neštatistickom) kódovaní vyžaduje každé písmeno tri znaky, ktoré má reprezentovať. Najväčší efekt

Parametre účinnosti optimálnych kódov
Existujú 2 takéto parametre: koeficient štatistickej kompresie a koeficient relatívnej účinnosti. Oba parametre charakterizujú mieru zníženia priemernej dĺžky kódového slova. Zatiaľ čo priemerná dĺžka

Vlastnosti efektívnych kódov
5. Písmeno primárnej abecedy s najmenšou pravdepodobnosťou výskytu má priradený kód s najväčšou dĺžkou (Lema 1), t.j. takýto kód je nejednotný (s rôznymi dĺžkami kódových slov). V r

Dokončenie práce
Laboratórne práce č. 4 sa vykonávajú pod kontrolou špeciálne napísaného kontrolného programu. Tento ovládací program je napísaný vo Visual Basic 6. Spustiteľný súbor programu nesie a

Konštrukcia generujúcej matice
Lineárne kódy majú nasledujúcu vlastnosť: z celej množiny 2k povolených kódových slov možno vybrať podmnožiny k slov, ktoré majú vlastnosť lineárnej nezávislosti

Kódovací príkaz
Kódové slovo CS sa získa vynásobením matice informačnej sekvencie ||X|| na generujúcu maticu ||OM||: ||KC1*n|| = ||X

Poradie dekódovania
V dôsledku prenosu kódového slova cez kanál môže dôjsť k jeho skresleniu rušením. Výsledkom bude prijaté kódové slovo ||PCS|| nemusí zodpovedať originálu ||COP||.

Dokončenie práce
Laboratórna práca č. 5 sa rovnako ako práca č. 4 vykonáva pod kontrolou riadiaceho programu napísaného v algoritmickom jazyku Visual Basic 6. Spustiteľný súbor programu sa nazýva Interferencia

Na obr. 1 prijala tieto označenia: X, Y, Z, W- signály, správy ; f- prekážka; LS- komunikačná linka; AI, PI– zdroj a príjemca informácií; P– prevodníky (kódovanie, modulácia, dekódovanie, demodulácia).

Existujú rôzne typy kanálov, ktoré možno klasifikovať podľa rôznych kritérií:

1.Podľa typu komunikačných liniek: drôtové; kábel; optických vlákien;

elektrické vedenie; rozhlasové kanály atď.

2. Podľa povahy signálov: nepretržitý; diskrétne; diskrétne-kontinuálne (signály na vstupe systému sú diskrétne a na výstupe sú spojité a naopak).

3. Pre odolnosť proti hluku: kanály bez rušenia; s interferenciou.

Komunikačné kanály sa vyznačujú:

1. Kapacita kanála definovaný ako súčin času používania kanála T do,šírka spektra frekvencií prenášaných kanálom F až a dynamický rozsah D až. , ktorá charakterizuje schopnosť kanála prenášať rôzne úrovne signálov

V až = T až F až D až. (1)

Podmienka zhody signálu s kanálom:

Vc £ Vk ; T c £ T k ; F c £ Fk ; Vc £ Vk ; Dc £ D k .

2.Rýchlosť prenosu informácií - priemerné množstvo informácií prenesených za jednotku času.

3.

4. Nadbytok - zabezpečuje spoľahlivosť prenášaných informácií ( R= 0¸1).

Jednou z úloh teórie informácie je určiť závislosť rýchlosti prenosu informácií a priepustnosti komunikačného kanála od parametrov kanála a charakteristík signálov a rušenia.

Komunikačný kanál možno obrazne prirovnať k cestám. Úzke cesty - nízka kapacita, ale lacné. Široké cesty - dobrá dopravná kapacita, ale drahé. Priepustnosť je určená úzkym miestom.

Rýchlosť prenosu dát do značnej miery závisí od prenosového média v komunikačných kanáloch, ktorými sú rôzne typy komunikačných liniek.

Káblové:

1. Drôtové– krútená dvojlinka (ktorá čiastočne potláča elektromagnetické žiarenie z iných zdrojov). Prenosová rýchlosť až 1 Mbps. Používa sa v telefónnych sieťach a na prenos dát.

2. Koaxiálny kábel. Prenosová rýchlosť 10-100 Mbps - používa sa v lokálnych sieťach, káblovej televízii a pod.

3. Optické vlákno. Prenosová rýchlosť 1 Gbps.

V prostrediach 1-3 je útlm v dB lineárny so vzdialenosťou, t.j. výkon klesá exponenciálne. Preto je po určitej vzdialenosti potrebné inštalovať regenerátory (zosilňovače).

Rádiové odkazy:

1.Rádiový kanál. Prenosová rýchlosť 100-400 Kbps. Používa rádiové frekvencie až do 1000 MHz. Do 30 MHz v dôsledku odrazu od ionosféry je možné šírenie elektromagnetických vĺn mimo zorného poľa. Ale tento rozsah je veľmi hlučný (napríklad amatérskym rádiom). Od 30 do 1000 MHz - ionosféra je priehľadná a je potrebná priama viditeľnosť. Antény sú inštalované vo výške (niekedy sú inštalované regenerátory). Používa sa v rozhlase a televízii.

2.mikrovlnné linky. Prenosové rýchlosti až 1 Gbps. Používajte rádiové frekvencie nad 1000 MHz. To si vyžaduje priamu viditeľnosť a vysoko smerové parabolické antény. Vzdialenosť medzi regenerátormi je 10–200 km. Používa sa na telefón, televíziu a prenos dát.

3. Satelitné pripojenie. Využívajú sa mikrovlnné frekvencie a satelit slúži ako regenerátor (a pre mnohé stanice). Charakteristiky sú rovnaké ako pre mikrovlnné linky.

2. Šírka pásma diskrétneho komunikačného kanála

Diskrétny kanál je súbor prostriedkov určených na prenos diskrétnych signálov.

Šírka pásma komunikačného kanála - najvyššia teoreticky dosiahnuteľná rýchlosť prenosu informácií za predpokladu, že chyba nepresiahne danú hodnotu. Rýchlosť prenosu informácií - priemerné množstvo informácií prenesených za jednotku času. Definujme výrazy na výpočet rýchlosti prenosu informácií a priepustnosti diskrétneho komunikačného kanála.

Počas prenosu každého symbolu v priemere množstvo informácií prechádza cez komunikačný kanál, ktorý je určený vzorcom

I (Y, X) = I (X, Y) = H(X) - H (X/Y) = H(Y) - H (Y/X) , (2)

kde: I (Y, X) - vzájomné informácie, teda množstvo informácií obsiahnutých v Y pomerne X ;H(X) je entropia zdroja správy; H (X/Y)– podmienená entropia, ktorá určuje stratu informácie na symbol spojenú s prítomnosťou šumu a skreslenia.

Pri odosielaní správy X T trvanie T, skladajúci sa z n elementárnych symbolov, priemerné množstvo prenášaných informácií pri zohľadnení symetrie vzájomného množstva informácií je:

Ja (Y T , XT) = H(XT) – H(XT/YT) = H(YT) – H(YT/XT) = n. (4)

Rýchlosť prenosu informácií závisí od štatistických vlastností zdroja, metódy kódovania a vlastností kanála.

Šírka pásma diskrétneho komunikačného kanála

. (5)

Maximálna možná hodnota, t.j. maximum funkcionálu sa hľadá na celej množine funkcií rozdelenia pravdepodobnosti p (X) .

Šírka pásma závisí od technických vlastností kanála (rýchlosť zariadenia, typ modulácie, úroveň rušenia a skreslenia atď.). Jednotky kapacity kanálov sú: , , , .

2.1 Diskrétny komunikačný kanál bez rušenia

Ak nedochádza k rušeniu v komunikačnom kanáli, potom sú vstupné a výstupné signály kanála spojené jednoznačnou funkčnou závislosťou.

V tomto prípade sa podmienená entropia rovná nule a nepodmienené entropie zdroja a prijímača sa rovnajú, t.j. priemerné množstvo informácií v prijatom symbole vzhľadom na prenášané je

I (X, Y) = H(X) = H(Y); H(X/Y) = 0.

Ak X T- počet znakov za čas T potom je rýchlosť prenosu informácií pre diskrétny komunikačný kanál bez rušenia rovná

(6)

kde V = 1/ je priemerná prenosová rýchlosť jedného symbolu.

Šírka pásma pre diskrétny komunikačný kanál bez rušenia

(7)

Pretože maximálna entropia zodpovedá ekvipravdepodobným symbolom, potom sa šírka pásma pre rovnomerné rozloženie a štatistickú nezávislosť prenášaných symbolov rovná:

. (8)

Shannonova prvá veta pre kanál: Ak je informačný tok generovaný zdrojom dostatočne blízko šírke pásma komunikačného kanála, t.j.

, kde je ľubovoľne malá hodnota,

potom je vždy možné nájsť taký spôsob kódovania, ktorý zabezpečí prenos všetkých správ zdroja a rýchlosť prenosu informácií bude veľmi blízka kapacite kanála.

Veta neodpovedá na otázku, ako kódovať.

Príklad 1 Zdroj vygeneruje 3 správy s pravdepodobnosťou:

p 1 = 0,1; p 2 = 0,2 a p 3 = 0,7.

Správy sú nezávislé a sú prenášané v jednotnom binárnom kóde ( m = 2 ) s dĺžkou trvania symbolu 1 ms. Určite rýchlosť prenosu informácií cez komunikačný kanál bez rušenia.

Riešenie: Entropia zdroja je

[bps].

Na prenos 3 správ s jednotným kódom sú potrebné dva bity, pričom trvanie kombinácie kódov je 2t.

Priemerná rýchlosť signálu

V =1/2 t = 500 .

Rýchlosť prenosu informácií

C = vH = 500 × 1,16 = 580 [bps].

2.2 Diskrétny komunikačný kanál so šumom

Budeme uvažovať o diskrétnych komunikačných kanáloch bez pamäte.

Kanál bez pamäte Kanál sa nazýva kanál, v ktorom je každý prenášaný signálový symbol ovplyvnený interferenciou, bez ohľadu na to, ktoré signály boli predtým prenášané. To znamená, že interferencia nevytvára ďalšie korelačné väzby medzi symbolmi. Názov „bez pamäte“ znamená, že pri nasledujúcom prenose sa zdá, že kanál si nepamätá výsledky predchádzajúcich prenosov.

Predtým sme uvažovali o kódovaní a prenose informácií cez komunikačný kanál v ideálnom prípade, keď proces prenosu informácií prebieha bez chýb. V skutočnosti je tento proces nevyhnutne sprevádzaný chybami (skresleniami). Prenosový kanál, v ktorom je možné skreslenie, sa nazýva hlučný kanál (alebo hluk). V konkrétnom prípade sa chyby vyskytnú počas samotného kódovania a potom môže byť kódovač považovaný za hlučný kanál.

Prítomnosť rušenia vedie k strate informácií. Na získanie požadovaného množstva informácií na prijímači v prítomnosti rušenia je potrebné prijať špeciálne opatrenia. Jedným z takýchto opatrení je zavedenie takzvanej „redundancie“ do prenášaných správ; v tomto prípade zdroj informácií zjavne poskytuje viac symbolov, ako by bolo potrebné pri absencii rušenia. Jednou z foriem zavedenia redundancie je jednoducho zopakovať správu. Táto technika sa využíva napríklad pri slabom počutí v telefóne, pričom každú správu opakujete dvakrát. Ďalším známym spôsobom zvýšenia spoľahlivosti prenosu je prenos slova „po písmene“ – kedy sa namiesto každého písmena prenáša známe slovo (meno) začínajúce na toto písmeno.

Kapacitu kanála, keď je počet elementárnych symbolov viac ako dva a keď sú skreslenia jednotlivých symbolov závislé, možno určiť pomocou druhej Shannonovej vety. Pri znalosti kapacity kanála je možné určiť hornú hranicu rýchlosti prenosu informácií cez zašumený kanál.

Uvažujme o príklade: Nech existuje zdroj informácií X, ktorého entropia za jednotku času sa rovná , a kanál so šírkou pásma X. Potom, ak

potom pri akomkoľvek kódovaní je prenos správ bez oneskorení a skreslení nemožný.

potom je vždy možné zakódovať dostatočne dlhú správu tak, aby bola prenášaná bez oneskorení a skreslení s pravdepodobnosťou ľubovoľne blízkou jednej.

Úloha 2: Zistite, či je šírka pásma kanálov dostatočná na prenos informácií dodaných zdrojom, či existuje zdroj informácií s entropiou za jednotku času \u003d 110 (dve jednotky) a počet komunikačných kanálov n=2, každý z nich môže vysielať za jednotku času K = 78 binárne znaky (0 alebo 1); každý binárny znak je s pravdepodobnosťou nahradený jeho opakom μ=0,17.

η(μ) = 0,434587

η(1 – μ) = 0,223118

η(μ) + η(1 – μ) = 0,434587 + 0,223118 = 0,657688

Pre jeden znak sa stratí informácia 0,584239 (dvojité jednotky).

Kapacita kanála sa rovná:

C \u003d 78 ∙ (1 - 0,657688) \u003d 26,7 ≈ 27 binárnych jednotiek za jednotku času.

Maximálne množstvo informácií, ktoré možno preniesť cez dva kanály za jednotku času:

27∙2 = 54 (dve jednotky), čo nestačí na zabezpečenie prenosu informácie zo zdroja, keďže zdroj prenáša 110 int. Jednotky za jednotku času. Pre zabezpečenie prenosu informácií v dostatočnom objeme a bez skreslenia je potrebné zvýšiť počet komunikačných kanálov až na tri. Potom maximálne množstvo informácií, ktoré možno preniesť cez tri kanály za jednotku času:

3*54=162 binárnych jednotiek za časovú jednotku. 162>110 sa preto informácia prenesie bez skreslenia.

Na okamžitý prenos informácií môžete:

1. Použite metódu kódovania-dekódovania;

2. Použite kompenzovanie signálu;

3. Zvýšte výkon vysielača;

4. Používajte drahé komunikačné linky s účinným tienením a nízkošumovým zariadením na zníženie rušenia;

5. Používajte vysielače a pomocné zariadenia s nízky level hluk;

6. Používa sa na kódovanie viac ako dvoch stavov;

7. Použiť diskrétne komunikačné systémy využívajúce všetky balíky na prenos informácií.

©2015-2019 stránka
Všetky práva patria ich autorom. Táto stránka si nenárokuje autorstvo, ale poskytuje bezplatné používanie.
Dátum vytvorenia stránky: 2016-02-13