Redundanța este sursa
Este necesar să se găsească entropiile surselor A1 și A2, emise text din literele alfabetelor rusești și engleze, respectiv, în absența legăturilor statistice între litere și, de asemenea, să se calculeze redundanța surselor. emiterea de texte, din cauza probabilității inegale de alegere a literelor. [16]
Când redundanța sursei de mesaj este ridicată și interferența este foarte mică, este recomandat să injectați coderul sursă. Când redundanța sursei este mică și interferența este mare, este recomandabil să introduceți un coder de canal. [17]
Deci, alegerea dispozitivelor de codare și decodare depinde de proprietățile statistice ale sursei de mesaje, precum și de nivelul și natura interferențelor în canalul de comunicare. Dacă redundanța sursei de mesaj este mică și interferența în canalul de comunicare este practic inexistentă, atunci introducerea coderului sursă și a codificatorului de canal este impracticabilă. [18]
Fezabilitatea redundanță eliminare posturi metode de codificare eficientă a urmat eroare transcodare cod de rectificare, datorită faptului că sursa mesajului de redundanță, în majoritatea cazurilor, nu este în concordanță cu legile statistice ale interferenței în canalul de comunicare și, prin urmare, nu poate fi pe deplin utilizate pentru a crește fiabilitatea unui mesaj primit, în timp ce, de obicei, este posibil pentru a găsi un adecvat cod anti-bruiaj. În plus, redundanța sursei mesajului este adesea rezultatul unei dependențe probabilistice extrem de complexe și vă permite să detecteze și să corecteze eroarea numai după decodarea întregului mesaj, folosind algoritmi complexe și intuitivă. [19]
Cazurile particulare ale acestei formule sunt estimările asimptotice pentru surplusul surselor Bernoulli din § 3.2 și estimările obținute de VK Trofimov pentru redundanța surselor Markov. [20]
Rezultă că pentru a transmite un număr predeterminat de informații 10 (x, y) este zgomotul de canal nevoie cantitate în exces de informații egal cu cel puțin ambiguitate Hx (y) din cauza zgomotului. Dimpotrivă, în aceste condiții, este recomandabil să se permită unor surse de informații redundanță și dispune de acesta, astfel încât să crească imunitatea la zgomot de comunicare. [21]
Mărirea alfabetului nu modifică redundanța mesajelor. Totuși, redundanța cauzată de corelațiile corelațiilor dintre simbolurile alfabetului primar este transformată în redundanța sursei blocurilor. apariția inegală a blocurilor independente. Aceasta deoarece neuniformitatea distribuției probabilității apariției blocurilor este mai mare decât neuniformitatea distribuției probabilității apariției simbolurilor alfabetului primar. [22]
Capacitatea sursei blocurilor Hk (1) Hl (/) / (2 / T1 apoi), unde Hj (1) reprezintă cantitatea medie de informații într-un bloc. Mărirea alfabetului nu modifică redundanța mesajelor. Cu toate acestea, redundanța cauzată de relațiile de corelare a simbolurilor alfabetului primar este transformată în redundanța sursei blocurilor. apariția inegală a blocurilor independente. Aceasta deoarece neuniformitatea distribuției probabilității apariției blocurilor este mai mare decât neuniformitatea distribuției probabilității apariției simbolurilor alfabetului primar. [23]
Aparate de cuantizare descrise în secțiunea 13.2, numite cuantizorului sau cuantizare dispozitive instantanee fără memorie, ca și conversii digitale bazate pe unitatea de proba de intrare (curent). În secțiunea 13.1, s-au determinat proprietățile surselor care permit o reducere a intensității sursei. Dispozitivele de cuantificare instantanee codifică sursa, ținând cont de densitatea de probabilitate asociată fiecărei probe. Metodele de cuantificare care iau în considerare corelația dintre eșantioane sunt dispozitive cuantificate cu memorie. Aceste dispozitive reduc cuantizarea redundanță sursă corelate mai întâi prin conversia secvenței de intrare într-o secvență asociată cu o corelație redusă, dispersie redusă și lățime de bandă redusă. Această secvență nouă este apoi cuantizată folosind un număr mai mic de biți. [24]
Principalele caracteristici de informare ale surselor de mesaje discrete sunt entropia, entropia condiționată, performanța și redundanța. Entropia este cantitatea medie de informație pe simbolul mesajului. Dacă simbolurile mesajului sunt corelate, atunci entropia scade. Pentru a lua în considerare acest lucru, introducem noțiunea de entropie condiționată. Caracterizează cantitatea medie de informație pe care o poartă un simbol de mesaj ulterior, cu condiția ca un număr anterior să fie deja cunoscut. Legăturile de corelație și distribuția neuniformă a probabilității apariției simbolurilor caracterizează redundanța sursei - raportul dintre cantitatea de informații pierdute datorită influenței acestor factori și cantității maxime de informații pe care un simbol o poartă. [25]
Pagini: 1 2