Instrumentele de măsurare cu o formă discretă (cuantificată) a cantității de ieșire, care includ instrumentele digitale, au o funcție de conversie liniară în trepte. Dimensiunea pasului este determinată de etapa de cuantificare a cantității de ieșire. În acest caz, valorile discrete ale cantității de ieșire corespund unor valori diferite ale valorii măsurate continue. În acest caz, citirile dispozitivului vor fi, de asemenea, discrete cu un pas de cuantizare, unde este sensibilitatea funcției liniare care ar avea loc la. Funcția pas Devierea de transformare liniară dă naștere erorilor de cuantificare care dependența valorii măsurate are o formă sawtooth (Figurile 5a, b, c).
Din fig. 5 că există trei tipuri de cuantizare a cantității de ieșire:
În primul caz, valoarea corespunzătoare dependenței este înlocuită cu o valoare discretă egală cu cel mai apropiat nivel de cuantificare. S-a incomodat si va determina eroarea de cuantizare. Din fig. 5a că valorile erorilor de cuantizare se situează în limita de la. În acest caz, toate valorile sunt la fel de probabile, iar așteptarea matematică a unei astfel de erori este 0. Din aceasta rezultă că în acest caz eroarea de cuantizare este o eroare pur aleatorie, cu o distribuție uniformă.
În cel de-al doilea caz, valorile continue sunt înlocuite cu, corespunzând celui mai apropiat nivel inferior. Din fig. 5b că eroarea de cuantificare în acest caz se situează în limita de la 0 la 0 și așteptarea matematică este egală cu. Observăm că, spre deosebire de primul caz, cu metoda dată de cuantizare, componenta sistematică a erorii nu este zero, iar componenta aleatorie distribuită uniform se află în prima limită.
În cel de-al treilea caz, se identifică - cel mai apropiat nivel superior. Din fig. 5c arată că eroarea de cuantizare este în intervalul, este o componentă sistematică și o componentă aleatoare este aceeași ca și în cele două cazuri precedente.