Teoria codării imunitar-zgomot
Curs 10. Teoria codării imunitar-zgomot
Spectrul de secvențe de impulsuri.
Pentru secvențele de impuls, spectrul este discret:
și anume amplitudinile spectrului complex pot fi obținute din spectrul continuu pentru valorile discrete ale arg
Ie în spectru există numai armonici ciudate: 1, 3, 5, ... ..
Scopul cursului: cunoașterea teoriei codării imunitar-zgomot și teorema privind codificarea eficientă.
a) teoria codării imunitar-zgomot;
b) capacitatea și viteza transferului de informații;
c) redundanța mesajelor;
d) teorema privind codificarea eficientă.
10.1 Lățimea de bandă și rata de transfer a informațiilor
Pentru telecomunicații, problema asigurării imunității la zgomot este una dintre cele mai importante. Sistemul de comunicații trebuie să fie proiectat și operat astfel încât să asigure, în prezența interferențelor, o calitate predeterminată a transmiterii semnalelor și a mesajelor. Calculul influenței interferențelor asupra transmisiei semnalului și dezvoltarea modalităților de reducere a acestei influențe sunt principalele probleme rezolvate în teoria imunității la zgomot.
Mesaj Interferența de criptare sau de codificare înainte de corectare a erorilor utilizate în sistemele de comunicație în care o lipsă sau un canal inversă pentru transmiterea unei solicitări de retransmisie, întârzierea în canal atunci când solicitările de retransmisie sunt inacceptabil de mari sau, în cele din urmă, nivelul de zgomot este atât de mare, încât numărul de retransmisii Transmiterea devine extrem de mare.
Rata de transmisie este cantitatea de informații reciproce transmise pe canalul de comunicație pe unitate de timp,
Lățimea de bandă este rata maximă disponibilă pentru un anumit canal
unde maximul este căutat pentru toate distribuțiile de probabilitate ale sursei DS sau la toate fișierele PDF ale surselor de HC. Valoarea lui C este doar o caracteristică a canalului de comunicare și nu depinde de statisticile sursei mesajelor.
Ca sursă a mesajelor, să luăm în considerare operatorul, care introduce textul în computer în limba rusă. Evident, literele din text apar cu probabilități diferite. Astfel, litera A se transmite mult mai frecvent decât C sau Y. În plus, apariția literei următoare este dependentă de cea anterioară. Este clar că după vocale b nu va apărea. B sau b. Foarte rar va fi apariția unei succesiuni de trei litere E (în cuvântul "șarpe"). Astfel, puterea de ieșire „cu memorie“ (mesaje dependente) incertitudinea este mai mică decât în absența memoriei atunci când apar mesaje la întâmplare. Astfel, am ajuns la conceptul de redundanță de putere, care poate fi definită în mod oficial de relația:
Din aceasta vedem că cu cât entropia este mai mare, cu atât redundanța sursei este mai mică și viceversa. De asemenea, este clar că valoarea de redundanță are valori cuprinse între 0≤ # 961; ≤1.
Această valoare caracterizează numărul de litere (simboluri) n utilizate de sursa mesajului pentru a transmite o anumită cantitate de informații, în raport cu literele necesare.
Redundanța poate fi definită după cum urmează:
Suma # 956; = H (A) / logN = nmin / n se numește raportul de compresie. Acesta arată la ce valoare, fără pierderi de informații, este posibilă comprimarea mesajelor transmise, în cazul în care redundanța conținută în ele este eliminată. De exemplu, în transmiterea telegramelor din text, sindicatele, semnele de punctuație care sunt ușor recuperate atunci când se citesc pe baza unor reguli cunoscute sunt excluse.
Evident, redundanța conduce la o creștere a timpului de transmitere a mesajelor, la o încărcare excesivă a canalelor de comunicare și, în consecință, la o scădere a eficienței utilizării acestora. În același timp, ar fi greșit să considerăm mereu redundanța ca fiind un semn al imperfecțiunii sursei mesajelor. În unele cazuri, este util. Prezența dependențelor dintre litere și cuvinte ale textului face posibilă reconstrucția acesteia cu denaturarea literelor individuale, adică redundanța poate fi utilizată pentru a crește fiabilitatea transmiterii informațiilor în prezența interferențelor.
În plus, redundanță important parametru ce caracterizează orice sursă, la o viteză fixă vulgaris = 1 / ieșire T Char / s mesaj este performanța sa, care este definită ca entropia per unitate de timp (a doua):
Dacă entropia este maximă și egală cu log N, atunci cantitatea Ri = logN / Tu. bit / s, se numește rata de informare a sursei.
Semnificația performanței este cantitatea medie de informații furnizată de sursă într-o secundă de funcționare continuă.