試驗檢測數(shù)據(jù)的處理-有效數(shù)字與修約規(guī)則

《路基路面試驗與檢測》課程主講：張小利試驗檢測數(shù)據(jù)的處理—有效數(shù)字與修約規(guī)則《路基路面試驗與檢測》課程1、有效數(shù)字概念目錄2、零的有效數(shù)字目錄3、有效數(shù)字修約規(guī)則4、修約間隔2、有效數(shù)字運算規(guī)則引言《路基路面試驗與檢測》課程

如：1.0g與1.00g的測量精度分別為±0.1g、±0.01g。兩者有不同含義，1.0g表示被測物質(zhì)的質(zhì)量為1.0±0.1g，1.00g表示被測物質(zhì)的質(zhì)量為1.00±0.01g。

在分析測試中，為了得到準(zhǔn)確的分析結(jié)果，不僅要準(zhǔn)確地進行各種測量，而且還要正確地記錄和計算。分析結(jié)果所表達的不僅僅是試樣中待測組分的含量，而且反映了測量方法、儀器的準(zhǔn)確度。

1.有效數(shù)字概念《路基路面試驗與檢測》課程

概念：－－－實際能測到的分析數(shù)據(jù)a.用萬分之一分析天平：10.2345g實驗數(shù)據(jù)的準(zhǔn)確性與分析測試儀器的測量精度有關(guān)：同一試樣采用不同測量精度的儀器測量，所得數(shù)據(jù)的有效數(shù)字位數(shù)不同，其中有效數(shù)字位數(shù)多的測量更精確。準(zhǔn)確數(shù)字可疑數(shù)字都是有效數(shù)字準(zhǔn)確數(shù)字可疑數(shù)字b.用精度為±0.01g的天平：10.23g如稱量某一試樣的質(zhì)量6位4位若干位準(zhǔn)確數(shù)字末位可疑數(shù)字+有效數(shù)字=《路基路面試驗與檢測》課程m◆分析天平(稱至0.1mg):12.8218g(6),0.2338g(4),

千分之一天平(稱至0.001g):0.234g(3)

1%天平(稱至0.01g):4.03g(3),0.23g(2)

臺秤(稱至0.1g):4.0g(2),0.2g(1)例:

1.有效數(shù)字概念

2.零的有效數(shù)字計算《路基路面試驗與檢測》課程出現(xiàn)在第一位有效數(shù)字之前，不算有效數(shù)字

0.02000L(4位),0.0280g(3位)出現(xiàn)在兩個非零數(shù)字之間或所有非零數(shù)字之后，記入有效數(shù)字

10.0400(6位)

記錄數(shù)據(jù)的時候不能將尾數(shù)的“0”任意增減

0.10mL0.1mL

改變單位，有效數(shù)字不變

0.02000L20.00mL

科學(xué)記數(shù)法表示有效數(shù)字

數(shù)字后的0含義不清楚時,最好用指數(shù)形式表示

26800？

2.68×1043位；2.680×1044位；2.6800×1045位《路基路面試驗與檢測》課程有效數(shù)字位數(shù)的確定0.100020.78%0.05263.59×10-60.02

1×103

4位3

位1

位

2.零的有效數(shù)字計算《路基路面試驗與檢測》課程1.00081.98×10-10

0.004036003.6×103

，3.60×103，3.600×103

（5位）（3位）（2位）（模糊）

2.零的有效數(shù)字計算《路基路面試驗與檢測》課程

3.有效數(shù)字修約規(guī)則四舍六入五考慮五后非零則進一五后為零視奇偶奇升偶舍要注意修約一次要到位《路基路面試驗與檢測》課程

3.有效數(shù)字修約規(guī)則例：要修約為四位有效數(shù)字時:尾數(shù)≤4時舍,0.52664-------0.5266尾數(shù)≥6時入,0.36266-------0.3627尾數(shù)＝5時,若后面數(shù)為0或無數(shù)字,觀察所保留的數(shù)字末位數(shù)為奇數(shù)進一,偶數(shù)舍去.15.15----15.2,15.25----15.2若5后面還有不是0的任何數(shù)皆入:18.0850001----18.09《路基路面試驗與檢測》課程

4.修約間隔

修約間隔是指確定修約保留位數(shù)的一種方式。修約間隔的數(shù)值一經(jīng)確定，修約值即應(yīng)為該數(shù)值的整數(shù)倍。

例如指定修約間隔為0．1，修約值即應(yīng)在0．1的整數(shù)倍中選取，相當(dāng)于將數(shù)值修約到一位小數(shù)。又如指定修約間隔為100，修約值即應(yīng)在100的整數(shù)倍中選取，相當(dāng)于將數(shù)值修約到“百”數(shù)位。最基本的修約間隔是10n（n為整數(shù)），它等同于確定修約到某數(shù)位。《路基路面試驗與檢測》課程

4.修約間隔0.5單元修約將擬修約數(shù)值乘以2，按指定數(shù)位依照修約規(guī)則進行修約，所得數(shù)值再除以2。60.38120.7612160.560.25120.5012060.0《路基路面試驗與檢測》課程

4.修約間隔0.2單元修約將擬修約數(shù)值乘以5，按指定數(shù)位依照修約規(guī)則進行修約，所得數(shù)值再除以5。例如：將下列數(shù)值修約間隔為20。830

4150

4200

840842

4210

4200

840

《路基路面試驗與檢測》課程

5.有效數(shù)字運算規(guī)則（1）加減運算:

以各項中絕對誤差最大的數(shù)為準(zhǔn)，和或差只保留一位可疑數(shù)字，即與小數(shù)點后位數(shù)最少的數(shù)取得一致。28.510.030.712+4.131643.3736

?28.510.00.7+4.143.3先修約，后計算

±0.1

±0.01±0.001±0.0001《路基路面試驗與檢測》課程

5.有效數(shù)字運算規(guī)則（2）乘除法:

以相對誤差最大的數(shù)為準(zhǔn)，積或商只保留一位可疑數(shù)字，即按有效數(shù)字位數(shù)最少的數(shù)進行修約和計算。解：計算：0.0235×20.03÷3.1816=0.147946002？0.0235×20.0÷3.18=0.148注意：首位數(shù)字為8或9，可多保留一位有效數(shù)字。9.35×0.1856=1.736如《路基路面試驗與檢測》課程

5.有效數(shù)字運算規(guī)則（2）乘除法:

以相對誤差最大的數(shù)為準(zhǔn)，積或商只保留一位可疑數(shù)字，即按有效數(shù)字位數(shù)最少的數(shù)進行修約和計算。解：三個數(shù)的最后一位都存在±1的絕對誤差，相對誤差各為：(±1／31816)×100％=±0.003％計算：0.0235×20.03÷3.1816=0.147946002？(±1／2003)×100％=±0.05％(±1／235)×100％=±0.4％0.0235相對誤差最大，修約時按3位有效數(shù)字計算0.0235×20.0÷3.18=0.148注意：首位數(shù)字為8或9，可多保留一位有效數(shù)字。9.35×0.1856=1.736如《路基路面試驗與檢測》課程

5.有效數(shù)字運算規(guī)則（3）乘方或開方運算原數(shù)據(jù)有幾位有效數(shù)字，結(jié)果就可保留幾位，若一個數(shù)的乘方或開方結(jié)果，還將參加下面的運算，則乘方或開方后的結(jié)果可多保留一位有效數(shù)字。3.142=9.860=9.86例：《路基路面試驗與檢測》課程

5.有效數(shù)字運算