1. Határozza meg a tartományt :
- Határozza meg a műszer mérési tartományát, amely az általa mérhető minimális és maximális értékeket jelenti.
2. Számítsa ki a teljes léptékű értéket (FSV) :
- Vonja ki a minimális értéket a tartomány maximális értékéből, hogy megtalálja a teljes skálaértéket.
3. Határozza meg az osztályok számát :
- Számolja meg a jelölések vagy beosztások számát a hangszer skáláján.
4. Felbontás kiszámítása :
- Ossza el a teljes skálaértéket (FSV) az osztások számával.
Felbontás =(teljes skálaérték) / (osztályok száma)
Példa :
- Vegyünk egy voltmérőt, amelynek tartománya 0 és 100 volt között van, és skáláján 20 osztás van.
- Teljes skálaérték (FSV) =100 volt - 0 volt =100 volt
- Osztatok száma =20
- Felbontás =(100 volt) / (20 osztás)
- Felbontás =5 volt osztásonként
Ebben az esetben a voltmérő legkisebb osztása 5 volt, ami azt jelenti, hogy a voltmérő képes feloldani és kijelezni a feszültségváltozásokat 5 V-os lépésekben.