Precision (siffror)

Inom matematiken beskriver precisionen graden av exakthet i ett tals siffror, t.ex. att talet 54,6 har precision 1 (en decimalsiffra). Ett tal med slutnollor ("00") har en negativ precision, t.ex. 500 har precision -2 eller 4 000 har precision -3. Ett helt tal (som inte slutar på "0") har precision 0.

Nivån på precision skiljer sig från ordet "noggrannhet" för ett tal, vilket betyder riktigheten eller sanningen hos ett tal som används för att beskriva ett objekt eller en räkning.

 
AlegsaOnline.com - 2020 / 2023 - License CC3