一、数据舍入规则 1.有效数字 由于含有误差,所以测量数据及由测量数据计算出来的算术平均值等都是近似值。 (1)若末位数字是个位,则包含的绝对误差值不大于0.5; (2)若末位是十位,则包含的绝对误差值不大于5; (3)对于其绝对误差不大于末位数字一半的数,从它左边第一个不为零的数字起,到右面最后一个数字(包括零)止,都叫做有效数字。中间的0和末尾的0都是有效数字,不能随意添加。开头的零不是有效数字。 测量数据的绝对值比较大(或比较小),而有效数字又比较少的测量数据,应采用科学计数法,即a×10n,a的位数由有效数字的位数所决定。 例1 用10v指针式电压表测得 U= 5. 6 4 V 三位有效数字 ,如图1:
图1 有效数字示意图 最末位有效数字常称存疑数,它主要由仪表所能达到的精度决定。例如用10V量程指针式电压表测得电压5.64V,这是三位有效数字组成的数据,这三位数中前二位是可从刻度上准确读出的,而最后一位是估读的,是含有误差的近似数,常称为存疑数。 例2 0.0038KΩ=3.8Ω ,两位有效数字; 例3 0.026m 两位有效数字, 0.0260m 三位有效数字; 例4 8700 四位有效数字, 87×102 两位有效数字; 2.多余数字的舍入规则 由于测量数据和测量结果均是近似数,其位数各不相同。为了使测量结果的表示准确唯一,计算简便,在数据处理时,需对测量数据和所用常数进行修约处理。 数据修约规则: (1) 小于5舍去——末位不变。 (2) 大于5进1——在末位增1。 (3) 等于5时,取偶数——当末位是偶数,末位不变;末位是奇数,在末位增1(将末位凑为偶数) 例5 :将下列数字保留到小数点后一位:l2.34,l2.36,l2.35,l2.45。 解: 12.34 →l2.3 (4<5,舍去) 12.36→l2.4 (6>5, 进一) l2.35 → l2.4 (3是奇数,5入) 12.45→ 12.4 (4是偶数,5舍) 例6: 将下列数据舍入到小数第二位。 12.4344→12.43 63.73501→63.74 0.69499→0.69 25.3250→25.32 17.6955→17.70 123.1150→123.12 需要注意的是,舍入应一次到位,不能逐位舍入。二、 等精密度测量结果的处理步骤 ①用修正值等方法,减小恒值系统误差的影响, 列出测量数据x1,x2,x3,……,xn。 ②求算术平均值, ; ③求剩余误差(残差)vi=xi–,并验证。 ④用贝塞尔公式计算标准偏差估计值:; ⑤利用莱特准则,即3σ准则,判别是否存在粗差。 ⑥剔除坏值后,再重复求剩下数据的算术平均值、剩余误差及标准差,并再次判断,直至不包括坏值为止。 ⑦判断有无变值系统误差。 ⑧求算术平均值的标准差估计值 ⑨求算术平均值的不确定度 ⑩给出测量结果的表达式(报告值)。 例7:对某电压进行了16次等精密度测量,测量数据中已计入修正值,列于表1–1要求给出包括误差(即不确定度)在内的测量结果表达式。 表1–1 测量值及其计算值 | n | xi/V | 首次计算 | 第二次计算 | | vi | vi2 | vi′ | (vi′)2 | 备注 | 1 | 205.24 | -0.06 | 0.0036 | +0.03 | 0.0009 | | 2 | 205.21 | -0.09 | 0.0081 | 0.00 | 0.0000 | | 3 | 205.35 | +0.05 | 0.0025 | +0.14 | 0.0196 | | 4 | 204.94 | -0.36 | 0.1296 | -0.27 | 0.0729 | | 5 | 205.32 | +0.02 | 0.0004 | +0.11 | 0.0121 | | 6 | 204.97 | -0.33 | 0.1089 | -0.24 | 0.0576 | | 7 | 205.71 | +0.41 | 0.1681 | +0.50 | 0.2500 | | 8 | 205.63 | +0.33 | 0.1089 | +0.42 | 0.1764 | | 9 | 204.70 | -0.60 | 0.3600 | -0.51 | 0.2601 | | 10 | 205.30 | +0.00 | 0.0000 | +0.09 | 0.0081 | | 11 | 205.36 | +0.06 | 0.0036 | +0.15 | 0.0225 | | 12 | 205.21 | -0.09 | 0.0081 | 0.00 | 0.0000 | | 13 | 204.86 | -0.44 | 0.1936 | -0.35 | 0.1225 | | 14 | 206.65 | +1.35 | 1.8225 | | | x13为坏值 | 15 | 205.19 | -0.11 | 0.0121 | -0.02 | 0.0004 | | 16 | 205.16 | -0.14 | 0.0196 | -0.05 | 0.0025 | | 计算值 | | | | |
解:①求出算术平均值:; ②计算残差vi列于表中,并验证; ③计算标准差(估计值):
④利用莱特准则判别是否存在粗差。查表中第14个数据的残差v14=1.35>3=1.33,应将此对应的x14=206.65视为坏值加以剔除,现剩下15个数据; ⑤重新计算剩余15个数据的平均值:; ⑥重新计算残差vi′,列于表中,并验证; ⑦重新计算标准差(估计值):
⑧再利用莱特准则判别是否存在粗差。现各残差vi′<3=0.804,则认为剩余数据中不再含有坏值,并且n=15>10; ⑨对vi′作图,判断有无变值系差,见图2,从图中可见无明显累进性或周期性系差;
图2 计算举例中vi′的变化情况 ⑩计算算术平均值标准偏差(估计值):
?写出测量结果表达式:
此外,曲线修匀,最小二乘法原理,测量不确定度这里从略,具体参见教材,这些部分为了解内容。
|