一、数据舍入规则
1．有效数字
由于含有误差，所以测量数据及由测量数据计算出来的算术平均值等都是近似值。
（1）若末位数字是个位，则包含的绝对误差值不大于0.5；
（2）若末位是十位，则包含的绝对误差值不大于5；
（3）对于其绝对误差不大于末位数字一半的数，从它左边第一个不为零的数字起，到右面最后一个数字(包括零)止，都叫做有效数字。中间的0和末尾的0都是有效数字，不能随意添加。开头的零不是有效数字。
测量数据的绝对值比较大（或比较小），而有效数字又比较少的测量数据，应采用科学计数法，即a×10n，a的位数由有效数字的位数所决定。
例1 用10v指针式电压表测得 U= 5. 6 4 V 三位有效数字 ，如图1：
图1 有效数字示意图
最末位有效数字常称存疑数，它主要由仪表所能达到的精度决定。例如用10V量程指针式电压表测得电压5.64V，这是三位有效数字组成的数据，这三位数中前二位是可从刻度上准确读出的，而最后一位是估读的，是含有误差的近似数，常称为存疑数。
例2 0.0038KΩ=3.8Ω ，两位有效数字；
例3 0.026m 两位有效数字，
0.0260m 三位有效数字；
例4 8700 四位有效数字，
87×102 两位有效数字；
2.多余数字的舍入规则
由于测量数据和测量结果均是近似数，其位数各不相同。为了使测量结果的表示准确唯一，计算简便，在数据处理时，需对测量数据和所用常数进行修约处理。
数据修约规则：
（1） 小于5舍去——末位不变。
（2） 大于5进1——在末位增1。
（3） 等于5时，取偶数——当末位是偶数，末位不变；末位是奇数，在末位增1（将末位凑为偶数）
例5 ：将下列数字保留到小数点后一位：l2.34，l2.36，l2.35，l2.45。
解： 12.34 →l2.3 (4<5，舍去)
12.36→l2.4 (6>5， 进一)
l2.35 → l2.4 (3是奇数，5入)
12.45→ 12.4 (4是偶数，5舍)
例6： 将下列数据舍入到小数第二位。
12.4344→12.43 63.73501→63.74
0.69499→0.69 25.3250→25.32 17.6955→17.70 123.1150→123.12
需要注意的是，舍入应一次到位，不能逐位舍入。二、 等精密度测量结果的处理步骤
①用修正值等方法，减小恒值系统误差的影响, 列出测量数据x1，x2，x3，……，xn。
②求算术平均值,
;
③求剩余误差（残差）vi=xi–
，并验证。
④用贝塞尔公式计算标准偏差估计值：
;
⑤利用莱特准则，即3σ准则，判别是否存在粗差。
⑥剔除坏值后，再重复求剩下数据的算术平均值、剩余误差及标准差，并再次判断，直至不包括坏值为止。
⑦判断有无变值系统误差。
⑧求算术平均值的标准差估计值
⑨求算术平均值的不确定度
⑩给出测量结果的表达式（报告值）
。
例7：对某电压进行了16次等精密度测量，测量数据中已计入修正值，列于表1–1要求给出包括误差（即不确定度）在内的测量结果表达式。
表1–1 测量值及其计算值
n
xi/V
首次计算
第二次计算
vi
vi2
vi′
(vi′)2
备注
1
205.24
－0.06
0.0036
＋0.03
0.0009
2
205.21
－0.09
0.0081
0.00
0.0000
3
205.35
＋0.05
0.0025
＋0.14
0.0196
4
204.94
－0.36
0.1296
－0.27
0.0729
5
205.32
＋0.02
0.0004
＋0.11
0.0121
6
204.97
－0.33
0.1089
－0.24
0.0576
7
205.71
＋0.41
0.1681
＋0.50
0.2500
8
205.63
＋0.33
0.1089
＋0.42
0.1764
9
204.70
－0.60
0.3600
－0.51
0.2601
10
205.30
＋0.00
0.0000
＋0.09
0.0081
11
205.36
＋0.06
0.0036
＋0.15
0.0225
12
205.21
－0.09
0.0081
0.00
0.0000
13
204.86
－0.44
0.1936
－0.35
0.1225
14
206.65
＋1.35
1.8225
x13为坏值
15
205.19
－0.11
0.0121
－0.02
0.0004
16
205.16
－0.14
0.0196
－0.05
0.0025
计算值
解：①求出算术平均值：
；
②计算残差vi列于表中，并验证
；
③计算标准差(估计值)：
④利用莱特准则判别是否存在粗差。查表中第14个数据的残差v14=1.35>3
=1.33，应将此对应的x14=206.65视为坏值加以剔除，现剩下15个数据；
⑤重新计算剩余15个数据的平均值：
；
⑥重新计算残差vi′，列于表中，并验证
；
⑦重新计算标准差(估计值)：
⑧再利用莱特准则判别是否存在粗差。现各残差vi′<3
=0.804，则认为剩余数据中不再含有坏值，并且n=15>10；
⑨对vi′作图，判断有无变值系差，见图2，从图中可见无明显累进性或周期性系差；
图2 计算举例中vi′的变化情况
⑩计算算术平均值标准偏差(估计值)：
?写出测量结果表达式：
此外，曲线修匀，最小二乘法原理，测量不确定度这里从略，具体参见教材，这些部分为了解内容。
本站仅提供存储服务，所有内容均由用户发布，如发现有害或侵权内容，请
点击举报。
