有效數(shù)字修約.ppt

1、有效數(shù)字修約規(guī)則,術(shù)語(yǔ),修約間隔：修約值的最小數(shù)值單位，系確定修約保留位數(shù)的一種方式。修約間隔的數(shù)值一經(jīng)確定，修約值即應(yīng)為該數(shù)值的整數(shù)倍 。 例1：如指定修約間隔為0.1，修約值即應(yīng)在0.1的整數(shù)倍中選取，相當(dāng)于將數(shù)值修約到一位小數(shù)。 例2：如指定修約間隔為100，修約值即應(yīng)在100的整數(shù)倍中選取，相當(dāng)于將數(shù)值修約到“百”數(shù)位。,有效位數(shù)：對(duì)沒(méi)有小數(shù)位且以若干個(gè)零結(jié)尾的數(shù)值，從非零數(shù)字最左一位向右數(shù)得到的位數(shù)減去無(wú)效零（即僅為定位用的零）的個(gè)數(shù)；對(duì)其他十進(jìn)位數(shù)，從非零數(shù)字最左一位向右數(shù)而得到的位數(shù)，就是有效位數(shù)。例1：35000，若有兩個(gè)無(wú)效零，則為三位有效位數(shù)，應(yīng)寫(xiě)為350102；若有三個(gè)無(wú)

2、效零，則為兩位有效位數(shù)，應(yīng)寫(xiě)為35103。例2：3.2，0.32，0.032，0.0032均為兩位有效位數(shù)；0.0320為三位有效位數(shù)。例3：12.490為五位有效位數(shù)；10.00為四位有效位數(shù)。,0.5單位修約（半個(gè)單位修約）：指修約間隔為指定數(shù)位的0.5單位，即修約到指定數(shù)位的0.5單位。 修約方法：將擬修約數(shù)值乘以2，按指定數(shù)位依數(shù)字修約規(guī)則修約，所得數(shù)值再除以2。 例1：將60.28修約到個(gè)數(shù)位的0.5單位（或修約間隔為0.5），得60.5。 例2：將60.25修約到個(gè)數(shù)位的0.5單位（或修約間隔為0.5），得60.0。,將下列數(shù)字修約到個(gè)數(shù)位的0.5單位（或修約間隔為0.5）,0.2

3、單位修約：指修約間隔為指定數(shù)位的0.2單位，即修約到指定數(shù)位的0.2單位。 將擬修約數(shù)值乘以5，按指定數(shù)位依數(shù)字修約規(guī)則修約，所得數(shù)值再除以5。 例1：將830修約到“百”數(shù)位的0.2單位（或修約間隔為20） ，得840。 例:2：將842修約到“百”數(shù)位的0.2單位（或修約間隔為20） ，得840。 ,將下列數(shù)字修約到 “百”數(shù)位的0.2單位（或修約間隔為20）,確定修約位數(shù)的表達(dá)方式,指定數(shù)位(指定修約間隔)； 指定將數(shù)值修約成n位有效位數(shù)。,四舍六入五考慮， 五后非零則進(jìn)一， 五后皆零視奇偶， 五前為偶應(yīng)舍去， 五前為奇則進(jìn)一， 不論數(shù)字多少位， 都要一次修約成。,進(jìn)舍規(guī)則,擬舍棄數(shù)字的

4、最左一位數(shù)字小于5時(shí)，則舍去，即保留的各位數(shù)字不變。 例1：將12.1498修約到一位小數(shù)，得12.1。 例2：將12.1498修約成兩位有效位數(shù)，得12。,擬舍棄數(shù)字的最左一位數(shù)字大于5；或者是5，而其后跟有并非全部為0的數(shù)字時(shí)，則進(jìn)一，即保留的末位數(shù)字加1。 例1：將1268修約到“百”數(shù)位，得13102（特定時(shí)可寫(xiě)為1300）。 例2：將1268修約成三位有效位數(shù)，得12710（特定時(shí)可寫(xiě)為1270）。 例3：將10.502修約到個(gè)數(shù)位，得11。,擬舍棄數(shù)字的最左一位數(shù)字為5，而右面無(wú)數(shù)字或皆為0時(shí)， 若所保留的末位數(shù)字為奇數(shù)（1，3，5，7，9）則進(jìn)一， 若所保留的末位數(shù)字為偶數(shù)（2，

5、4，6，8，0）則舍棄。 例1：修約間隔為0.1 擬修約數(shù)值 1.050修約值結(jié)果 1.0,負(fù)數(shù)修約時(shí)，先將它的絕對(duì)值按數(shù)字修約規(guī)定進(jìn)行修約，然后在修約值前面加上負(fù)號(hào)。 例1：將下列數(shù)字修約到“十”數(shù)位 擬修約數(shù)值 修約值 -355-3610,不許連續(xù)修約 擬修約數(shù)字應(yīng)在確定修約位數(shù)后一次修約獲得結(jié)果，而不得多次按進(jìn)舍規(guī)則連續(xù)修約。 例如：修約15.4546，修約間隔為1 正確的做法： 15.454615 不正確的做法： 15.454615.45515.4615.516,在具體實(shí)施中，有時(shí)測(cè)試與計(jì)算部門(mén)先將 獲得數(shù)值按指定的修約位數(shù)多一位或幾位報(bào) 出，而后由其他部門(mén)判定。為避免產(chǎn)生連續(xù) 修約的

6、錯(cuò)誤，應(yīng)按下述步驟進(jìn)行。,1. 報(bào)出數(shù)值最右的非零數(shù)字為5時(shí)，應(yīng)在數(shù)值后面加“（）”或“（）”或不加符號(hào)，以分別表明已進(jìn)行過(guò)舍、進(jìn)或未舍未進(jìn)。 例：16.50（）表示實(shí)際值大于16.50，經(jīng)修約舍棄成為16.50； 16.50（）表示實(shí)際值小于16.50，經(jīng)修約進(jìn)一成為16.50。,2. 如果判定報(bào)出值需要進(jìn)行修約，當(dāng)擬舍棄數(shù)字的最左一位數(shù)字為5而后面無(wú)數(shù)字或皆為零時(shí)，數(shù)值后面有(+)號(hào)者進(jìn)一，數(shù)值后面有(-)號(hào)者舍去，其他仍按數(shù)字修約規(guī)則進(jìn)行。 例：將下列數(shù)字修約到個(gè)數(shù)位后進(jìn)行判定（報(bào)出值多留一 位到一位小數(shù)）。 實(shí)測(cè)值 報(bào)出值修約值 15.4546 15.5（一） 15 16.5203 1

7、6.5（） 17 -17.5000 -17.5 -18 -15.4546-(15.5(一) -15,計(jì)算法則,加減運(yùn)算,應(yīng)以各數(shù)中有效數(shù)字末位數(shù)的數(shù)位最高者為準(zhǔn)（小數(shù)即以小數(shù)部分位數(shù)最少者為準(zhǔn)），其余數(shù)均比該數(shù)向右多保留一位有效數(shù)字。 例如： 5.89+15.2551=5.89+15.255=21.145,乘除運(yùn)算,應(yīng)以各數(shù)中有效數(shù)字位數(shù)最少者為準(zhǔn)，其余數(shù)均多取一位有效數(shù)字，所得積或商也多取一位有效數(shù)字。 例如： 2.13.1242.13.126.55,平方或開(kāi)方運(yùn)算,其結(jié)果可比原數(shù)多保留一位有效數(shù)字。 例如： 1.421.96 1.233=1.861,對(duì)數(shù)運(yùn)算,所取對(duì)數(shù)位數(shù)應(yīng)與真數(shù)有效數(shù)字位

8、數(shù)相等。 例如： lg12.3=1.09,特殊實(shí)例,非連續(xù)型數(shù)值,個(gè)數(shù)、分?jǐn)?shù)、倍數(shù)、名義濃度或標(biāo)示量等是沒(méi)有欠準(zhǔn)數(shù)字的，其有效位數(shù)可視為無(wú)限多位； 常數(shù)、e和系數(shù)2，1/2 等數(shù)值的有效位數(shù)也可視為是無(wú)限多位。,例如： 1. 分子式“H2S04”中的“2”和“4”是個(gè)數(shù)； 2. 含量測(cè)定項(xiàng)下“每1ml的滴定液（0.1mol/L）”中的“0.1”為名義濃度，其有效位數(shù)均為無(wú)限多位； 3. 規(guī)格項(xiàng)下的“0.3g”或“1ml ”，“25mg”中的“0.3”、“1”和“25”的有效位數(shù)也均為無(wú)限多位。,結(jié)論： 在計(jì)算中，其有效位數(shù)應(yīng)根據(jù)其他數(shù)值的最少有效位數(shù)而定。,pH值,pH值等對(duì)數(shù)值，其有效位數(shù)是

9、由其小數(shù)點(diǎn)后的位數(shù)決定的，其整數(shù)部分只表明其真數(shù)的乘方次數(shù)。 例如： pH=11.26(H+=5.510-12 mol/L) 其有效位數(shù)只有兩位。,檢測(cè)方法,1、Q檢驗(yàn)法 2、4d檢驗(yàn)法 3、F檢驗(yàn)法 4、T檢驗(yàn)法 5、u檢驗(yàn)法,4d法檢驗(yàn) 例：測(cè)得如下一組數(shù)據(jù)，30.18、30.56、30.23、30.35、30.32其中最大值是否舍去？ 解：30.56為最大值，定為可疑值。 x= 30.27 ，d= 0.065 若（可疑值x）4d，則可疑值應(yīng)舍去； 若（可疑值x）4d，則可疑值應(yīng)保留。,是迪克森(WJDixon)在1951年專(zhuān)為分析化學(xué)中少量觀測(cè)次數(shù)(n10)提出的一種簡(jiǎn)易判據(jù)式。檢驗(yàn)時(shí)將

10、數(shù)據(jù)從小到大依次排列：X1，X2，X3，Xn-1，Xn，然后將極端值代入以下公式求出Q值，將Q值對(duì)照表3的Q090，若Q值Q090則有 90的置信此極端值應(yīng)被舍去。 式中 及 極端值與鄰近值間的偏差； 全距。 例 現(xiàn)場(chǎng)儀器測(cè)在同一點(diǎn)上4次測(cè)出：01014，01012，01025，01016，其中01025與其他數(shù)值差距較大，是否應(yīng)該舍去? 根據(jù)“Q值檢驗(yàn)法”： (4次觀測(cè)的Q090=076) 所以，01025不能舍棄，測(cè)出結(jié)果應(yīng)用4次觀測(cè)均值01017。,F檢驗(yàn)法是檢驗(yàn)兩個(gè)正態(tài)隨機(jī)變量的總體方差是否相等的一種假設(shè)檢驗(yàn)方法。設(shè)兩個(gè)隨機(jī)變量X、Y的樣本分別為X1，x2，xn與y1，y2，yn，其樣

11、本方差分別為s12與s22?，F(xiàn)檢驗(yàn)X的總體方差DX與Y的總體方差DY是否相等。假設(shè)H0：DX=DY=2。根據(jù)統(tǒng)計(jì)理論，如果X、Y為正態(tài)分布，當(dāng)假設(shè)成立時(shí)，統(tǒng)計(jì)量(如右圖)服從第一自由度為n11、第二自由度n21的F分布。預(yù)先給定信度。查F分布表，得F/2。若計(jì)算的F值小于F/2，則假設(shè)成立，否則假設(shè)不合理。F檢驗(yàn)法還可用于兩個(gè)以上隨機(jī)變量平均數(shù)差異顯著性的檢,可用于兩樣本含量n1、n2較小時(shí)，且要求兩總體方差相等，即方差齊（homoscedasticity）。若被檢驗(yàn)的兩樣本方差相差較大且差別有統(tǒng)計(jì)學(xué)意義則需用t檢驗(yàn)。 公式（19.10） 公式（19.11） 式中sx1x2，為兩樣本均數(shù)之差的

12、標(biāo)準(zhǔn)誤，s2c為合并估計(jì)方差（combined estimate variance）。算得的統(tǒng)計(jì)量為t，按表19-4所示關(guān)系作出判斷。 例19.7某醫(yī)生統(tǒng)廣西瑤族和侗族正常婦女骨盆X線(xiàn)測(cè)量資料各50例。骨盆入口前后徑：瑤族的均數(shù)為12.002（cm），標(biāo)準(zhǔn)差0.948（cm），侗族相應(yīng)的為11.456（cm）和1.215（cm）。問(wèn)兩族婦女的骨盆入口前后徑是否有差別？ H0： 1=2 H1： 12=0.05 已知n1=n2=50， x1=12.002（cm），s1=0.948（cm）； x2=11.456（cm），s2=1.215（cm）。 本例自由度v =n1+n2-2=98，查t界值表表內(nèi)自由度一欄無(wú)98，可用內(nèi)插法（從略）或用v =100估計(jì).T0.05（100）=1948，t0.01（100）=2.626，今t=2.505t0.05（1000，P0.05，按=0.05檢驗(yàn)水準(zhǔn)拒絕H0，接受H1，可認(rèn)為廣西瑤族和侗族婦女骨盆入口前后徑不同，前者大于后者。,t檢驗(yàn),可用于兩樣本含量n1、n2、均足夠大時(shí)，如均大于50或100. 公式（19.9） 例19.6某地抽樣調(diào)查了部分健康成人紅細(xì)胞數(shù)，其中男性360人，均數(shù)為4.6601012/L，標(biāo)準(zhǔn)差為0.5751012/L；女性255人，均數(shù)為4.1781012/L，標(biāo)準(zhǔn)差為0.29