数值修约
时间:2023-10-14 11:50:58 人气:425
1. 依据:GB/T 8170-2008《数值修约规则与极限数值的表示和判定》标准规定了对数值进行修约的规则、数值极限数值的表示和判定方法、有关术语及其符号、以及将测定值或其计算值与标准规定的极限数值作比较的方法。
2.数据修约规则是先确定修约间隔,然后根据进舍原则对数值进行进舍。在进行数据处理的过程中不允许对数据进行连续修约。其数据修约原则见下表所示。
内容 |
原则 |
示例 |
确定修约间隔 |
a) 指定修约间隔为10,或指明将数值修约到n位小数;
b) 指定修约间隔为1,或指明将数值修约到“个”数位;
c) 指定修约间隔为10,或指明将数值修约到“10”数位,或指明将数值修约到“十”、“百”、“千”等数位; |
例1:将2928修约到“百”位,得2900;
例2:将29.28修约到“个”位,得29; |
进舍
原则 |
拟舍弃数字的最左一个数字<5,则舍去,保留其余各位数字不变。 |
例:将12.1498修约到一位小数,得12.1 |
拟舍弃数字的最左一个数字>5,则进一,即保留数字的末位加1。 |
例:将1268修约到“百”数位,得1300 |
拟舍弃数字的最左一个数字为5,且其后有非0数字时进一,即保留数字的末位加1。 |
例:将10.5002修约到“个”数位,得11 |
拟舍弃数字的最左一个数字为5,且其后无数字或数字均为0时,如所保留的末位数字为奇数时则进一,所保留的末位数字为偶数时则舍弃。 |
例1:将1.050修约到0.1位时,得1.0;
例2:将0.35修约到0.1位时,得0.4; |
负数修约时,先将它的绝对值按上述方法修约,然后在所得值前面加上负号。 |
例:将-355修约到“十”数位,得360 |
不允许连续
修约 |
拟修约数字进行一次修约,不允许多次连续修约 |
|
为避免连续修约,按下列原则标记:
a) 报出数值最右的非零数字为5时,在数值右上角加“+”或“-”或不加符号,分别表明已进行过舍、进或未舍未进;
b) 如对报出数值需进行修约,当拟舍弃的最左一位数为5,且其后无数字或皆为0时,数值右上角有“+”进一,有“-”者舍弃。 |
例1:16.50+表示实际值大于16.50经修约舍弃为16.50;
例2:16.50-表示实际值小于16.50经修约进一为16.50; |