A megfelelő mérőeszköz kiválasztásánál tudatában kell lennünk annak, hogy a mérőműszer pontosságának milyen hatása van a mérési adatokra és hogy azok milyen befolyással vannak az adatokon alapuló döntésre.

Ha a mérőműszer pontossága ±1, az azt jelenti, hogy ha a mérőműszeren kijelzett értéket tekintjük helyes értéknek, a mérés valódi értéke az aktuális érték ±1 értékhatáron belül van. Más szóval, ha a mérés során a ±1 pontosságú mérőműszeren kijelzett érték 10, a valódi érték 9 és 11 között bármi lehet, beleértve a 9-es és a 11-es értéket is. Így mondhatjuk, hogy a mérés kiterjesztett értéke 11. Ennél a direkt algebrai meghatározásnál azonban helyesebb megközelítés, ha a kiterjesztett értéket az alábbi képlettel határozzuk meg:

√(10² + 1²) = √(101) = 10,05.

Így az eredetileg mért 10 érték kiterjesztett értéke 10,05, mely érték statisztikai négyzetösszeg-számításon alapul.

Tehát a mért érték a mérőműszer pontossága alapján 10,05. A mért érték 10-ről 10,05-re való kiterjesztésének 100-ra való vetítése: 100*(10,05-10)/10=0,5 százalékot eredményez. Világos tehát, hogy ha az arány 10:1, akkor az eredeti érték nagyságát 0,5%-kal kell növelni.

Ha egy paraméter meghatározott toleranciaszintje 10 és a mérés során használt mérőeszköz pontossága 1, akkor a toleranciaszintet ki kell bővíteni 0,5 százalékkal, mely így 10,05 lesz. Ha tehát minden mérés 10-es toleranciaszinten történik, 0,5 % kockázata van annak, hogy helytelenül fogadunk el, vagy helytelenül vetünk el egy olyan tényezőt, melynek mérése során a mért adat a toleranciaszinten belül, vagy kívül esett.

Ugyanígy, ha a paraméter meghatározott toleranciaszintje 4 és a mérőeszköz pontossága 1, akkor a toleranciaszintre való hatása a négyzetgyökösszeg-szabály alapján: √(4² + 1²) = √(17) = 4,123, és a toleranciaszint százalékos kiterjesztése 100 * (4,123-4)/10 = 3,1%.

Ugyanezzel az eljárással kimutatható, hogy ha az arány 3:1, akkor a toleranciaszintre való hatás 5,4%. Az ISO (International Organization for Standardization = Nemzetközi Szabványügyi Szervezet) által felállított nemzetközi ISO 10012 szabvány alapján a mérési pontosság hatásának a mérésre a lehető legkisebb hatással kell lennie, lehetőleg 1/10, de nem lehet 1/3-nál nagyobb. Ez főként azért van így, mert 6 vagy 7%-ig a kockázat alacsonynak tekinthető. Ha azonban az arány kisebb lesz, a kockázati hatás megnő. Például, ha az arány 2:1, a kiterjesztett tolerancia, s az ezzel járó kockázat 11,8 % lesz. Ha az arány 1:1, a kockázat 41,4% lesz.