测绘有效数字的取舍

测绘有效数字的取舍规则如下:

有效数字的概念

从左边第一个不是零的数起,到末位数止,每一个数字都是有效数字。

有效数字法的取舍原则

分子不变,分母取前三位有效数字(第四位四舍五入)。例如:1.18248 ÷ 1.347,分母取前三位有效数字为135(第四位数字为7,进1),计算结果为135。

A×B的取舍原则

全进:当两个数的第三位有效数字均为8或9时,取舍上对两个数的前二位有效数字都加1,其他数位上的数全部舍掉。例如:2982.7 × 1.594,两个数的第三位有效数字分别为8和9,则全进,结果为3000 × 1.6。

全舍:当两个数的第三位有效数字均为0、1、2时,可将两数第三位及以后的数字都舍掉。例如:1613 × 16.2%,第三位有效数字为1和2,故原式≈1600 × 16% = 256。

一进一舍:前三位有效数字小的数四舍五入保留前两位有效数字,另一个数字反向变化。例如:30483 × 1.26%,第三位有效数字分别为7和6,故117四舍五入为120,216舍去6为210,结果为301。

加减法运算

以小数点后位数最少的为准,其余各数至少多取一位,但最后结果应与小数位最少的数据小数位相同。例如:0.0025 + 0.003,结果为0.0055,保留了两位小数。

乘除法计算

以有效数字位数最少的数据位数为准,其余参与运算的数字比有效数字位数最少的数据位数多取二位,但最后结果应与有效位数最少的数据位数相同。例如:1.23 × 4.56,有效数字位数最少为3位,故参与运算的数字取4位,结果为5.6088,保留三位有效数字为5.61。

乘方、开方计算

乘方相当于乘法运算,开方是乘方的逆运算,所以可按乘除运算处理。例如:(0.0123)^2,先计算0.0123 × 0.0123,结果为0.00015129,保留四位有效数字为0.00015。

不确定度位数的保留