有效數(shù)字修約 課件

有效數(shù)字修約規(guī)則術(shù)語修約間隔：修約值的最小數(shù)值單位，系確定修約保留位數(shù)的一種方式。修約間隔的數(shù)值一經(jīng)確定，修約值即應(yīng)為該數(shù)值的整數(shù)倍。

例1：如指定修約間隔為0.1，修約值即應(yīng)在0.1的整數(shù)倍中選取，相當(dāng)于將數(shù)值修約到一位小數(shù)。

例2：如指定修約間隔為100，修約值即應(yīng)在100的整數(shù)倍中選取，相當(dāng)于將數(shù)值修約到“百”數(shù)位。有效位數(shù)：對沒有小數(shù)位且以若干個(gè)零結(jié)尾的數(shù)值，從非零數(shù)字最左一位向右數(shù)得到的位數(shù)減去無效零（即僅為定位用的零）的個(gè)數(shù)；對其他十進(jìn)位數(shù)，從非零數(shù)字最左一位向右數(shù)而得到的位數(shù)，就是有效位數(shù)。

例1：35000，若有兩個(gè)無效零，則為三位有效位數(shù)，應(yīng)寫為350×102；若有三個(gè)無效零，則為兩位有效位數(shù)，應(yīng)寫為35×103。

例2：3.2，0.32，0.032，0.0032均為兩位有效位數(shù)；0.0320為三位有效位數(shù)。

例3：12.490為五位有效位數(shù)；10.00為四位有效位數(shù)。

擬修約數(shù)值乘2

2A修約值（修約間隔為1）A修約值（修約間隔為0.5）60.25120.5012060.060.38120.7612160.5將下列數(shù)字修約到個(gè)數(shù)位的0.5單位（或修約間隔為0.5）

0.2單位修約：指修約間隔為指定數(shù)位的0.2單位，即修約到指定數(shù)位的0.2單位。將擬修約數(shù)值乘以5，按指定數(shù)位依數(shù)字修約規(guī)則修約，所得數(shù)值再除以5。例1：將830修約到“百”數(shù)位的0.2單位（或修約間隔為20），得840。例:2：將842修約到“百”數(shù)位的0.2單位（或修約間隔為20），得840。

擬修約數(shù)值乘5

5A修約值（修約間隔為100）A修約值（修約間隔為20）8304150420084084242104200840將下列數(shù)字修約到“百”數(shù)位的0.2單位（或修約間隔為20）

四舍六入五考慮，五后非零則進(jìn)一，五后皆零視奇偶，五前為偶應(yīng)舍去，五前為奇則進(jìn)一，不論數(shù)字多少位，都要一次修約成。

進(jìn)舍規(guī)則擬舍棄數(shù)字的最左一位數(shù)字小于5時(shí)，則舍去，即保留的各位數(shù)字不變。例1：將12.1498修約到一位小數(shù)，得12.1。

例2：將12.1498修約成兩位有效位數(shù)，得12。擬舍棄數(shù)字的最左一位數(shù)字大于5；或者是5，而其后跟有并非全部為0的數(shù)字時(shí)，則進(jìn)一，即保留的末位數(shù)字加1。例1：將1268修約到“百”數(shù)位，得13×102（特定時(shí)可寫為1300）。例2：將1268修約成三位有效位數(shù)，得127×10（特定時(shí)可寫為1270）。例3：將10.502修約到個(gè)數(shù)位，得11。負(fù)數(shù)修約時(shí)，先將它的絕對值按數(shù)字修約規(guī)定進(jìn)行修約，然后在修約值前面加上負(fù)號(hào)。

例1：將下列數(shù)字修約到“十”數(shù)位

擬修約數(shù)值

修約值

-355-36×10不許連續(xù)修約

擬修約數(shù)字應(yīng)在確定修約位數(shù)后一次修約獲得結(jié)果，而不得多次按進(jìn)舍規(guī)則連續(xù)修約。例如：修約15.4546，修約間隔為1

正確的做法：

15.4546→15

不正確的做法：

15.4546→15.455→15.46→15.5→16

在具體實(shí)施中，有時(shí)測試與計(jì)算部門先將獲得數(shù)值按指定的修約位數(shù)多一位或幾位報(bào)出，而后由其他部門判定。為避免產(chǎn)生連續(xù)修約的錯(cuò)誤，應(yīng)按下述步驟進(jìn)行。2.如果判定報(bào)出值需要進(jìn)行修約，當(dāng)擬舍棄數(shù)字的最左一位數(shù)字為5而后面無數(shù)字或皆為零時(shí)，數(shù)值后面有(+)號(hào)者進(jìn)一，數(shù)值后面有(-)號(hào)者舍去，其他仍按數(shù)字修約規(guī)則進(jìn)行。

例：將下列數(shù)字修約到個(gè)數(shù)位后進(jìn)行判定（報(bào)出值多留一

位到一位小數(shù)）。

實(shí)測值

報(bào)出值修約值

15.4546

15.5（一）

15

16.5203

16.5（＋）

17

-17.5000-17.5-18

-15.4546-(15.5(一))-15

計(jì)算法則加減運(yùn)算應(yīng)以各數(shù)中有效數(shù)字末位數(shù)的數(shù)位最高者為準(zhǔn)（小數(shù)即以小數(shù)部分位數(shù)最少者為準(zhǔn)），其余數(shù)均比該數(shù)向右多保留一位有效數(shù)字。

例如：

5.89+15.2551=5.89+15.255=21.145平方或開方運(yùn)算其結(jié)果可比原數(shù)多保留一位有效數(shù)字。

例如：

1.42＝1.96

1.233=1.861對數(shù)運(yùn)算所取對數(shù)位數(shù)應(yīng)與真數(shù)有效數(shù)字位數(shù)相等。

例如：

lg12.3=1.09特殊實(shí)例例如：1.分子式“H2S04”中的“2”和“4”是個(gè)數(shù)；2.含量測定項(xiàng)下“每1ml的××××滴定液（0.1mol/L）”中的“0.1”為名義濃度，其有效位數(shù)均為無限多位；3.規(guī)格項(xiàng)下的“0.3g”或“1ml”，“25mg”中的“0.3”、“1”和“25”的有效位數(shù)也均為無限多位。結(jié)論：

在計(jì)算中，其有效位數(shù)應(yīng)根據(jù)其他數(shù)值的最少有效位數(shù)而定。4d法檢驗(yàn)例：測得如下一組數(shù)據(jù)，30.18、30.56、30.23、30.35、30.32其中最大值是否舍去？解：30.56為最大值，定為可疑值。x＝=30.27，d＝=0.065若（可疑值－x）≥4d，則可疑值應(yīng)舍去；若（可疑值－x）＜4d，則可疑值應(yīng)保留。是迪克森(W．J．Dixon)在1951年專為分析化學(xué)中少量觀測次數(shù)(n<10)提出的一種簡易判據(jù)式。檢驗(yàn)時(shí)將數(shù)據(jù)從小到大依次排列：X1，X2，X3，…，Xn-1，Xn，然后將極端值代入以下公式求出Q值，將Q值對照表3的Q0．90，若Q值≥Q0．90則有90％的置信此極端值應(yīng)被舍去。式中及——極端值與鄰近值間的偏差；

——全距。例現(xiàn)場儀器測在同一點(diǎn)上4次測出：0．1014，0．1012，0．1025，0．1016，其中0．1025與其他數(shù)值差距較大，是否應(yīng)該舍去?根據(jù)“Q值檢驗(yàn)法”：

(4次觀測的Q0．90=0．76)所以，0．1025不能舍棄，測出結(jié)果應(yīng)用4次觀測均值0．1017。

F—檢驗(yàn)法是檢驗(yàn)兩個(gè)正態(tài)隨機(jī)變量的總體方差是否相等的一種假設(shè)檢驗(yàn)方法。設(shè)兩個(gè)隨機(jī)變量X、Y的樣本分別為X1，x2，……，xn與y1，y2，……，yn，其樣本方差分別為s1^2與s2^2?，F(xiàn)檢驗(yàn)X的總體方差DX與Y的總體方差DY是否相等。假設(shè)H0：DX=DY=σ^2。根據(jù)統(tǒng)計(jì)理論，如果X、Y為正態(tài)分布，當(dāng)假設(shè)成立時(shí)，統(tǒng)計(jì)量(如右圖)服從第一自由度為n1—1、第二自由度n2—1的F—分布。預(yù)先給定信度α。查F—分布表，得Fα/2。若計(jì)算的F值小于Fα/2，則假設(shè)成立，否則假設(shè)不合理。F—檢驗(yàn)法還可用于兩個(gè)以上隨機(jī)變量平均數(shù)差異顯著性的檢可用于兩樣本含量n1、n2較小時(shí)，且要求兩總體方差相等，即方差齊（homoscedasticity）。若被檢驗(yàn)的兩樣本方差相差較大且差別有統(tǒng)計(jì)學(xué)意義則需用t檢驗(yàn)。

公式（19.10）

公式（19.11）

式中sx1－x2，為兩樣本均數(shù)之差的標(biāo)準(zhǔn)誤，s2c為合并估計(jì)方差（combinedestimatevariance）。算得的統(tǒng)計(jì)量為t，按表19-4所示關(guān)系作出判斷。

例19.7某醫(yī)生統(tǒng)廣西瑤族和侗族正常婦女骨盆X線測量資料各50例。骨盆入口前后徑：瑤族的均數(shù)為12.002（cm），標(biāo)準(zhǔn)差0.948（cm），侗族相應(yīng)的為11.456（cm）和1.215（cm）。問兩族婦女的骨盆入口前后徑是否有差別？

H0：μ1=μ2

H1：μ1≠μ2α=0.05

已知n1=n2=50，x1=12.002（cm），s1=0.948（cm）；

x2=11.456（cm），s2=1.215（cm）。

本例自由度v=n1+n2-2=98，查t界值表[表內(nèi)自由度一欄無98，可用內(nèi)插法（從略）或用v=100估計(jì)].T0.05（100）=1948，t0.01（100）=2.626，今t=2.505＞t0.05（1000，P＜0.05，按α=0.05檢驗(yàn)水準(zhǔn)拒絕H0，接受H1，可認(rèn)為廣西瑤族和侗族婦女骨盆入口前后徑不同，前者大于后者。t檢驗(yàn)可用于兩樣本含量n1、n2、均足夠大時(shí)，如均大于50或100.

公式（19.9）

例19.6某地抽樣調(diào)查了部分健康成人紅細(xì)胞數(shù)，其中男性360人，均數(shù)為4.660×1012/L，標(biāo)準(zhǔn)差為0.575×1012/L；女性255人，均數(shù)為4.178×1012/L，標(biāo)準(zhǔn)差為0.291×1012/L，試問該地男、女紅細(xì)胞數(shù)的均數(shù)有無差別？

H0：μ=μ0