一、数据舍入规则
1．有效数字
由于含有误差，所以测量数据及由测量数据计算出来的算术平均值等都是近似值。
（1）若末位数字是个位，则包含的绝对误差值不大于0.5；
（2）若末位是十位，则包含的绝对误差值不大于5；
（3）对于其绝对误差不大于末位数字一半的数，从它左边第一个不为零的数字起，到右面最后一个数字(包括零)止，都叫做有效数字。中间的0和末尾的0都是有效数字，不能随意添加。开头的零不是有效数字。
测量数据的绝对值比较大（或比较小），而有效数字又比较少的测量数据，应采用科学计数法，即a×10n，a的位数由有效数字的位数所决定。
例1 用10v指针式电压表测得 U= 5. 6 4 V 三位有效数字 ，如图1：
图1 有效数字示意图
最末位有效数字常称存疑数，它主要由仪表所能达到的精度决定。例如用10V量程指针式电压表测得电压5.64V，这是三位有效数字组成的数据，这三位数中前二位是可从刻度上准确读出的，而最后一位是估读的，是含有误差的近似数，常称为存疑数。
例2 0.0038KΩ=3.8Ω ，两位有效数字；
例3 0.026m 两位有效数字，
0.0260m 三位有效数字；
例4 8700 四位有效数字，
87×102 两位有效数字；
2.多余数字的舍入规则
由于测量数据和测量结果均是近似数，其位数各不相同。为了使测量结果的表示准确唯一，计算简便，在数据处理时，需对测量数据和所用常数进行修约处理。
数据修约规则：
（1） 小于5舍去——末位不变。
（2） 大于5进1——在末位增1。
（3） 等于5时，取偶数——当末位是偶数，末位不变；末位是奇数，在末位增1（将末位凑为偶数）
例5 ：将下列数字保留到小数点后一位：l2.34，l2.36，l2.35，l2.45。
解： 12.34 →l2.3 (4<5，舍去)
12.36→l2.4 (6>5， 进一)
l2.35 → l2.4 (3是奇数，5入)
12.45→ 12.4 (4是偶数，5舍)
例6： 将下列数据舍入到小数第二位。
12.4344→12.43 63.73501→63.74
0.69499→0.69 25.3250→25.32 17.6955→17.70 123.1150→123.12
需要注意的是，舍入应一次到位，不能逐位舍入。二、 等精密度测量结果的处理步骤
①用修正值等方法，减小恒值系统误差的影响, 列出测量数据x1，x2，x3，……，xn。
②求算术平均值,  ;
③求剩余误差（残差）vi=xi– ，并验证。
④用贝塞尔公式计算标准偏差估计值： ;
⑤利用莱特准则，即3σ准则，判别是否存在粗差。
⑥剔除坏值后，再重复求剩下数据的算术平均值、剩余误差及标准差，并再次判断，直至不包括坏值为止。
⑦判断有无变值系统误差。
⑧求算术平均值的标准差估计值
⑨求算术平均值的不确定度
⑩给出测量结果的表达式（报告值） 。
例7：对某电压进行了16次等精密度测量，测量数据中已计入修正值，列于表1–1要求给出包括误差（即不确定度）在内的测量结果表达式。
表1–1 测量值及其计算值 | n | xi/V | 首次计算 | 第二次计算 | | vi | vi2 | vi′ | (vi′)2 | 备注 | 1 | 205.24 | －0.06 | 0.0036 | ＋0.03 | 0.0009 | | 2 | 205.21 | －0.09 | 0.0081 | 0.00 | 0.0000 | | 3 | 205.35 | ＋0.05 | 0.0025 | ＋0.14 | 0.0196 | | 4 | 204.94 | －0.36 | 0.1296 | －0.27 | 0.0729 | | 5 | 205.32 | ＋0.02 | 0.0004 | ＋0.11 | 0.0121 | | 6 | 204.97 | －0.33 | 0.1089 | －0.24 | 0.0576 | | 7 | 205.71 | ＋0.41 | 0.1681 | ＋0.50 | 0.2500 | | 8 | 205.63 | ＋0.33 | 0.1089 | ＋0.42 | 0.1764 | | 9 | 204.70 | －0.60 | 0.3600 | －0.51 | 0.2601 | | 10 | 205.30 | ＋0.00 | 0.0000 | ＋0.09 | 0.0081 | | 11 | 205.36 | ＋0.06 | 0.0036 | ＋0.15 | 0.0225 | | 12 | 205.21 | －0.09 | 0.0081 | 0.00 | 0.0000 | | 13 | 204.86 | －0.44 | 0.1936 | －0.35 | 0.1225 | | 14 | 206.65 | ＋1.35 | 1.8225 | | | x13为坏值 | 15 | 205.19 | －0.11 | 0.0121 | －0.02 | 0.0004 | | 16 | 205.16 | －0.14 | 0.0196 | －0.05 | 0.0025 | | 计算值 | | 
| 
| |
解：①求出算术平均值： ；
②计算残差vi列于表中，并验证 ；
③计算标准差(估计值)：
④利用莱特准则判别是否存在粗差。查表中第14个数据的残差v14=1.35>3=1.33，应将此对应的x14=206.65视为坏值加以剔除，现剩下15个数据；
⑤重新计算剩余15个数据的平均值：；
⑥重新计算残差vi′，列于表中，并验证；
⑦重新计算标准差(估计值)：
⑧再利用莱特准则判别是否存在粗差。现各残差vi′<3=0.804，则认为剩余数据中不再含有坏值，并且n=15>10；
⑨对vi′作图，判断有无变值系差，见图2，从图中可见无明显累进性或周期性系差；
图2 计算举例中vi′的变化情况
⑩计算算术平均值标准偏差(估计值)：
?写出测量结果表达式：
此外，曲线修匀，最小二乘法原理，测量不确定度这里从略，具体参见教材，这些部分为了解内容。
|
