丈量数据的处理
一、数据舍入规矩
1.有用数字
由于富含差错,所以丈量数据及由丈量数据核算出来的算术均匀值等都是近似值。
(1)若末位数字是个位,则包含的必定差错值不大于0.5;
(2)若末位是十位,则包含的必定差错值不大于5;
(3)关于其必定差错不大于末位数字一半的数,从它左面榜首个不为零的数字起,到右面毕竟一个数字(包含零)止,都叫做有用数字。基地的0和结尾的0都是有用数字,不能随意增加。开端的零不是有用数字。
丈量数据的必定值比照大(或比照小),而有用数字又比照少的丈量数据,应选用科学计数法,即a×十n,a的位数由有用数字的位数所抉择。
例1 用十v指针式电压表测得 U= 5. 6 4 V 三位有用数字 ,如图1:
图1 有用数字暗示图
最末位有用数字常称存疑数,它首要由表面所能抵达的精度抉择。例如用十V量程指针式电压表测得电压5.64V,这是三位有用数字构成的数据,这三位数中前二位是可从刻度上精确读出的,而毕竟一位是估读的,是富含差错的近似数,常称为存疑数。
例2 0.0038KΩ=3.8Ω ,两位有用数字;
例3 0.026m 两位有用数字,
0.0260m 三位有用数字;
例4 8700 四位有用数字,
87×十2 两位有用数字;
2.剩下数字的舍入规矩
由于丈量数据和丈量效果均是近似数,其位数各纷歧样。为了使丈量效果的标明精确仅有,核算简练,在数据处理时,需对丈量数据和所用常数进行修约处理。
数据修约规矩:
(1) 小于5舍去——末位不变。
(2) 大于5进1——在末位增1。
(3) 等于5时,取偶数——当末位是偶数,末位不变;末位是奇数,在末位增1(将末位凑为偶数)
例5 :将下列数字保存到小数点后一位:l2.34,l2.36,l2.35,l2.45。
解: 12.34 →l2.3 (4<5,舍去)
12.36→l2.4 (6>5, 进一)
l2.35 → l2.4 (3是奇数,5入)
12.45→ 12.4 (4是偶数,5舍)
例6: 将下列数据舍入到小数第二位。
12.4344→12.43 63.73501→63.74
0.69499→0.69 25.3250→25.32 17.6955→17.70 123.1150→123.12
需求留心的是,舍入应一次到位,不能逐位舍入。
二、 等精细度丈量效果的处理进程
①用批改值等办法,减小恒值体系差错的影响, 列出丈量数据x1,x2,x3,……,xn。
②求算术均匀值, ;
③求剩下差错(残差)vi=xi–,并验证。
④用贝塞尔公式核算规范差错估量值:;
⑤运用莱特原则,即3σ原则,差异是不是存在粗差。
⑥除去坏值后,再重复求剩下数据的算术均匀值、剩下差错及规范差,并再次差异,直至不包含坏值接连。
⑦差异有无变值体系差错。
⑧求算术均匀值的规范差估量值
⑨求算术均匀值的不判定度
⑩给出丈量效果的表达式(陈说值)。
例7:对某电压进行了16次等精细度丈量,丈量数据中已计入批改值,列于表1–1恳求给出包含差错(即不判定度)在内的丈量效果表达式。
表1–1 丈量值及其核算值 | ||||||
n | xi/V | 初度核算 | 第2次核算 | |||
vi | vi2 | vi′ | (vi′)2 | 补白 | ||
1 | 205.24 | -0.06 | 0.0036 | +0.03 | 0.0009 | |
2 | 205.21 | -0.09 | 0.0081 | 0.00 | 0.0000 | |
3 | 205.35 | +0.05 | 0.0025 | +0.14 | 0.0196 | |
4 | 204.94 | -0.36 | 0.1296 | -0.27 | 0.0729 | |
5 | 205.32 | +0.02 | 0.0004 | +0.11 | 0.0121 | |
6 | 204.97 | -0.33 | 0.十89 | -0.24 | 0.0576 | |
7 | 205.71 | +0.41 | 0.1681 | +0.50 | 0.2500 | |
8 | 205.63 | +0.33 | 0.十89 | +0.42 | 0.1764 | |
9 | 204.70 | -0.60 | 0.3600 | -0.51 | 0.2601 | |
十 | 205.30 | +0.00 | 0.0000 | +0.09 | 0.0081 | |
11 | 205.36 | +0.06 | 0.0036 | +0.15 | 0.0225 | |
12 | 205.21 | -0.09 | 0.0081 | 0.00 | 0.0000 | |
13 | 204.86 | -0.44 | 0.1936 | -0.35 | 0.1225 | |
14 | 206.65 | +1.35 | 1.8225 | x13为坏值 | ||
15 | 205.19 | -0.11 | 0.0121 | -0.02 | 0.0004 | |
16 | 205.16 | -0.14 | 0.0196 | -0.05 | 0.0025 | |
核算值 |
解:①求出算术均匀值:;
②核算残差vi列于表中,并验证;
③核算规范差(估量值):
④运用莱特原则差异是不是存在粗差。查表中第14个数据的残差v14=1.35>3=1.33,应将此对应的x14=206.65视为坏值加以除去,现剩下15个数据;
⑤从头核算剩下15个数据的均匀值:;
⑥从头核算残差vi′,列于表中,并验证;
⑦从头核算规范差(估量值):
⑧再运用莱特原则差异是不是存在粗差。现各残差vi′<3=0.804,则以为剩下数据中不再富含坏值,而且n=15>十;
⑨对vi′作图,差异有无变值系差,见图2,从图中可见无显着累进性或周期性系差;
图2 核算举例中vi′的改动状况
⑩核算算术均匀值规范差错(估量值):
⑪写出丈量效果表达式:
此外,曲线修匀,最小二乘法原理,丈量不判定度这儿从略,详细拜见教材,这些有些为了解内容。
下一篇:现场外表缺陷要素剖析