Formula Hartley - un caz special cu formula lui Shannon pentru opțiuni la fel de probabile.
Substituind formula Shannon pi în loc să-l (în cazul echiprobabile care nu depinde de i) pi valoarea = 1 / N, obținem:
, astfel, Hartley formulă este foarte simplu:
Din aceasta rezultă că, odată cu creșterea cantității de opțiuni (N), și în creștere de incertitudine (H). Aceste cantități sunt legate în formula nu este liniară, ci printr-un logaritm binar. Logaritmul în baza 2 și conduce la un număr de posibile unități de măsurare a informației - biți.
După cum se poate observa, entropia va fi un număr întreg numai în cazul în care N este o putere a lui 2, și anume în cazul N aparține rând: .. 1, 2, 4, 8, 16, 32, 64, 128, 256, 512, 1024 2048 ...
Dependența entropia numărului de alegeri echiprobabile (alternative echivalente)
Pentru soluții de probleme inverse, când cunoscut incertitudine (H) sau obținute prin valoarea sa îndepărtarea informațiilor (I) și este necesar să se determine cât de multe corespunde alternative echiprobabile la apariția acestei incertitudini, cu ajutorul formulei inverse Hartley, care este de ieșire, în conformitate cu definiția logaritmului și este chiar mai simplu :
De exemplu, dacă informațiile pe care un Ivanov trăiește la etajul al doilea, corespunde la 3 biți, apoi în conformitate cu formula pentru a determina numărul de etaje din clădire: N = 8 = 2 etaje Martie.
Dacă întrebarea se pune astfel: „În clădirea de 8 etaje, cantitatea de informații pe care le ajunge să știm că suntem interesați Ivanov trăiește la etajul al doilea“, calculul poate fi realizată cu ajutorul formulei: