數(shù)值修約規(guī)則與極限數(shù)值的表示和判定

1、,幾個(gè)問(wèn)題,1、誤差與偏差、絕對(duì)誤差與相對(duì)誤差、精密度與準(zhǔn)確度分別有何區(qū)別？ 2、用萬(wàn)分之一天平稱(chēng)取物品的質(zhì)量為0.0236g，該測(cè)量結(jié)果的有效數(shù)字位數(shù)為多少？準(zhǔn)確的數(shù)字是那些？ 3、計(jì)算12.365+5.1+8.73.4525=？（結(jié)果不參與后續(xù)運(yùn)算） 4、在鋼材物理性能拉伸試驗(yàn)中，測(cè)得的斷后伸長(zhǎng)為74.37mm，則該斷后伸長(zhǎng)的報(bào)出值為 ？,主要內(nèi)容,一、誤差理論的相關(guān)概念； 二、有效數(shù)字的概念及運(yùn)算規(guī)則； 三、數(shù)值修約的規(guī)則及技巧； 四、極限數(shù)值的表示與判定；,一、誤差理論的相關(guān)概念,1、測(cè)量誤差的定義：,客觀真實(shí)值（未知）,測(cè)量誤差 = 測(cè)得值 - 真值,-測(cè)量所得數(shù)據(jù)與其相應(yīng)的真值之差

2、,1）誤差（絕對(duì)誤差）,x = x x0,2）相對(duì)誤差,-測(cè)量的絕對(duì)誤差與被測(cè)量的真值之比,絕對(duì)誤差很小,表示：百分?jǐn)?shù)（%）- 分子分母量綱相同,例：質(zhì)量G1=50g，誤差1=2g；質(zhì)量G2=2kg，誤差2=50g,- G2的測(cè)量效果較好,確切反映測(cè)量效果：被測(cè)量的大小不同 - 允許的測(cè)量誤差不同,被測(cè)量的量值小 - 允許的測(cè)量絕對(duì)誤差也越小,1、測(cè)量誤差的定義：,2、誤差的分類(lèi)：,按誤差來(lái)源：裝置誤差、環(huán)境誤差、方法誤差、人員誤差, 系統(tǒng)誤差（System error）,由特定原因引起、具有一定因果關(guān)系并按確定規(guī)律產(chǎn)生,按掌握程度：已知誤差、未知誤差,按特性規(guī)律：系統(tǒng)誤差、隨機(jī)誤差、粗大誤差

3、,- 有規(guī)律可循,理論分析/實(shí)驗(yàn)驗(yàn)證 - 原因和規(guī)律 - 減少/消除, 隨機(jī)誤差（Random error）,因許多不確定性因素而隨機(jī)發(fā)生,偶然性（不明確、無(wú)規(guī)律）,概率和統(tǒng)計(jì)性處理（無(wú)法消除/修正）, 粗大誤差（Abnormal error）,檢測(cè)系統(tǒng)各組成環(huán)節(jié)發(fā)生異常和故障等引起,按變化速度：靜態(tài)誤差、動(dòng)態(tài)誤差,3、精密度與準(zhǔn)確度的區(qū)別與聯(lián)系：,1）精密度,指多次重復(fù)測(cè)定同一量時(shí)各測(cè)定值之間彼此相符合的程度,精密度是指量具能區(qū)分出微量的程度，亦即量具能區(qū)分之最小距離，此精密度在量具制造時(shí)已決定。,精密度是表示測(cè)量的再現(xiàn)性，是保證準(zhǔn)確度的先決條件，但是高的精密度不一定能保證高的準(zhǔn)確度。,表征

4、測(cè)定過(guò)程中隨機(jī)誤差的大小。,好的精密度是保證獲得良好準(zhǔn)確度的先決條件，一般說(shuō)來(lái)，測(cè)量精密度不好，就不可能有良好的準(zhǔn)確度。反之，測(cè)量精密度好，準(zhǔn)確度不一定好，這種情況表明測(cè)定中隨機(jī)誤差小，但系統(tǒng)誤差較大。,3、精密度與準(zhǔn)確度的區(qū)別與聯(lián)系：,2）準(zhǔn)確度,指在一定實(shí)驗(yàn)條件下多次測(cè)定的平均值與真值相符合的程度，以誤差來(lái)表示。它用來(lái)表示系統(tǒng)誤差的大小。,測(cè)量?jī)x器的準(zhǔn)確度指測(cè)量?jī)x器給出接近于真值的響應(yīng)能力。準(zhǔn)確度只是一個(gè)定性概念而無(wú)定量表達(dá)。測(cè)量誤差的絕對(duì)值大，其準(zhǔn)確度低。,3）二者聯(lián)系 任何測(cè)量都要求精確。精確性是評(píng)價(jià)觀測(cè)成果優(yōu)劣的準(zhǔn)確度與精密度的總稱(chēng)。準(zhǔn)確度是指在對(duì)某一個(gè)量的多次觀測(cè)中，觀測(cè)值對(duì)該量真

5、值的偏離程度，觀測(cè)值偏離真值愈小，則準(zhǔn)確度愈高。精密度簡(jiǎn)稱(chēng)精度，指在某一個(gè)量的多次觀測(cè)中，各觀測(cè)值之間的離散程度，若觀測(cè)值非常集中則精度高；反之則低。一個(gè)觀測(cè)列可能精度高而準(zhǔn)確度低，也可能精度低而準(zhǔn)確度高。,3、精密度與準(zhǔn)確度的區(qū)別與聯(lián)系：,4、偏差：,一個(gè)值減去其參考值，成為偏差。,這里的一個(gè)值是指測(cè)量得到的值，參考值是指設(shè)定值、應(yīng)有值或標(biāo)稱(chēng)值。,偏差=實(shí)際值標(biāo)稱(chēng)值,尺寸偏差=實(shí)際尺寸應(yīng)有參考尺寸,加工一個(gè)準(zhǔn)確值為1kg的砝碼，實(shí)際加工的為1.002kg，此時(shí)偏差為+0.002kg；如果砝碼按1kg使用，則有-0.002kg的示值誤差。,偏差與誤差等值相反。,解決偏差問(wèn)題，需要對(duì)砝碼進(jìn)行修正

6、，修正值為+0.002kg，修正值對(duì)測(cè)量值而言，而偏差是對(duì)標(biāo)稱(chēng)值而言。,二、有效數(shù)字的概念及運(yùn)算規(guī)律,1、有效數(shù)字：,把準(zhǔn)確數(shù)字加上最后一位有實(shí)際意義的估計(jì)數(shù)字總稱(chēng)為有效數(shù)字。,2、有效位數(shù)：,測(cè)量結(jié)果用且只用它的有效數(shù)字表示，有效數(shù)字的個(gè)數(shù)叫作有效位數(shù)。,3、儀器讀數(shù)規(guī)則,(1) 刻度式儀表，在最小分度值后要估讀一位 (2) 數(shù)字顯示儀表，直接讀取儀表的示值。 (3) 游標(biāo)類(lèi)量具，讀到游標(biāo)分度值的整數(shù)倍。,刻度式儀表,5.737mm,5.5000.237,數(shù)顯儀表及有十進(jìn)步式標(biāo)度盤(pán)的儀表,游標(biāo)類(lèi)量具,49.000.8249.82mm,在科學(xué)實(shí)驗(yàn)中，為了得到準(zhǔn)確的測(cè)量結(jié)果，不僅要準(zhǔn)確地測(cè)定各種

7、數(shù)據(jù)，而是還要正確地記錄和計(jì)算。分析結(jié)果的數(shù)值不僅表示試樣中被測(cè)成分含量的多少，而且還反映了測(cè)定的準(zhǔn)確程度。所以，記錄實(shí)驗(yàn)數(shù)據(jù)和計(jì)算結(jié)果應(yīng)保留幾位數(shù)字是一件很重要的事，不能隨便增加或減少位數(shù)。例如用重量法測(cè)定膠中TVOC含量時(shí)，若稱(chēng)取試樣重為0.2187克，經(jīng)過(guò)一系列處理后，得到固體重0.2132克，則其百分含量為： TVOC % =(0.0055/0.2187)100%2.1514860539%,上述分析結(jié)果共有11位數(shù)字，從運(yùn)算來(lái)講，并無(wú)錯(cuò)誤，但實(shí)際上用這樣多位數(shù)的數(shù)字來(lái)表示上述分析結(jié)果是錯(cuò)誤的，它沒(méi)有反映客觀事實(shí)，因?yàn)樗玫姆治龇椒ê蜏y(cè)量?jī)x器不可能準(zhǔn)確到這種程度。那么在分析實(shí)驗(yàn)中記錄和計(jì)

8、算時(shí)，究竟要準(zhǔn)確到什么程度，才符合客觀事實(shí)呢？這就必須了解“有效數(shù)字”的意義。,有效數(shù)字是指在分析工作中實(shí)際上能測(cè)量到的數(shù)字。記錄數(shù)據(jù)和計(jì)算結(jié)果時(shí)究竟應(yīng)該保留幾位數(shù)字，須根據(jù)測(cè)定方法和使用儀器的準(zhǔn)確程度來(lái)決定。在記錄數(shù)據(jù)和計(jì)算結(jié)果時(shí)，所保留的有效數(shù)字中，只有最后一位是可疑的數(shù)字。,1、有效數(shù)字的意義及位數(shù),例如： 坩堝重18.5734克 六位有效數(shù)字 標(biāo)準(zhǔn)溶液體積24.41毫升 四位有效數(shù)字 由于萬(wàn)分之一的分析天平能稱(chēng)準(zhǔn)至0.0001克，滴定管的讀數(shù)能讀準(zhǔn)至0.01毫升，故上述坩堝重應(yīng)是18.57340.0001克，標(biāo)準(zhǔn)溶液的體積應(yīng)是24.410.01毫升，因此這些數(shù)值的最后一位都是可疑的，這

9、一位數(shù)字稱(chēng)為“不定數(shù)字”。在分析工作中應(yīng)當(dāng)使測(cè)定的數(shù)值，只有最后一位是可疑的。,1、有效數(shù)字的意義及位數(shù),有效數(shù)字的位數(shù)，直接與測(cè)定的相對(duì)誤差有關(guān)。例如稱(chēng)得某物重為0.5180克，它表示該物實(shí)際重量是0.51800.0001克，其相對(duì)誤差為： (0.0001/0.5180)100%0.02%,1、有效數(shù)字的意義及位數(shù),如果少取一位有效數(shù)字，則表示該物實(shí)際重量是0.5180.001克，其相對(duì)誤差為： (0.001/0.518)100%0.2%,1、有效數(shù)字的意義及位數(shù),表明測(cè)量的準(zhǔn)確度后者比前者低10倍。所以在測(cè)量準(zhǔn)確度的范圍內(nèi)，有效數(shù)字位數(shù)越多，測(cè)量也越準(zhǔn)確。但超過(guò)測(cè)量準(zhǔn)確度的范圍，過(guò)多的位數(shù)

10、是毫無(wú)意義的。 必須指出，如果數(shù)據(jù)中有“0”時(shí)，應(yīng)分析具體情況，然后才能肯定哪些數(shù)據(jù)中的“0”是有效數(shù)字，哪些數(shù)據(jù)中的“0”不是有效數(shù)字。,1、有效數(shù)字的意義及位數(shù),例如: 1.0005 五位有效數(shù)字 0.5000；31.05% ；6.023102 四位有效數(shù)字 0.0540；1.8610-5 三位有效數(shù)字 0.0054；0.40% 兩位有效數(shù)字 0.5 ； 0.002% 一位有效數(shù)字 在1.0005克中的三個(gè)“0”，0.5000克中的后三個(gè)“0”，都是有效數(shù)字；在0.0054克中的“0”只起定位作用，不是有效數(shù)；在0.0540克中，前面的“0”起定位作用，最后一位“0”是有效數(shù)字。同樣，這些

11、數(shù)值的最后一位數(shù)字，都是不定數(shù)字。,1、有效數(shù)字的意義及位數(shù),因此，在記錄測(cè)量數(shù)據(jù)和計(jì)算結(jié)果時(shí)，應(yīng)根據(jù)所使用的儀器的準(zhǔn)確度，必須使所保留的有效數(shù)字中，只有最后一位數(shù)是“不定數(shù)字”。例如，用感量為百分之一克的臺(tái)秤稱(chēng)物體的重量，由于儀器本身能準(zhǔn)確稱(chēng)到0.0l克，所以物體的重量如果是10.4克，就應(yīng)寫(xiě)成10.40克，不能寫(xiě)成10.4克。 分析化學(xué)中還經(jīng)常遇到pH、lgK等對(duì)數(shù)值，其有效數(shù)字的位數(shù)僅取決于小數(shù)部分?jǐn)?shù)字的位數(shù)，因整數(shù)部分只說(shuō)明該數(shù)的方次。例如，pH12.68，即H+2.1l0-13mol/L，其有效數(shù)字為兩位，而不是四位。,2、有效數(shù)字的運(yùn)算規(guī)則 加減法,例如0.0121+25.64+1

12、.05782=? 5.2727+0.075+3.7+2.12=?,2、有效數(shù)字的運(yùn)算規(guī)則 加減法,當(dāng)幾個(gè)數(shù)據(jù)相加或相減時(shí)、它們的和或差的有效數(shù)字的保留，應(yīng)以小數(shù)點(diǎn)后位數(shù)最少，即絕對(duì)誤差最大的數(shù)據(jù)為依據(jù)。,因此，0.0121應(yīng)寫(xiě)成0.01；1.05782應(yīng)寫(xiě)成1.06；三者之和為： 0.01+25.64+1.0626.71 在大量數(shù)據(jù)的運(yùn)算中。為使誤差不迅速積累，對(duì)參加運(yùn)算的所有數(shù)據(jù)，可以多保留一位可疑數(shù)字(多保留的這一位數(shù)字叫“安全數(shù)字”)。如計(jì)算5.2727、0.075、3.7及2.12的總和時(shí)，根據(jù)上述規(guī)則，只應(yīng)保留一位小數(shù)。但在運(yùn)算中可以多保留一位，故5.2727應(yīng)寫(xiě)成5.27；0.07

13、5應(yīng)寫(xiě)成0.08；2.12應(yīng)寫(xiě)成2.12。因此其和為： 5.27+0.08+3.7+2.1211.17 然后、再根據(jù)修約規(guī)則把11.17整化成11.2。,3、有效數(shù)字的運(yùn)算規(guī)則 乘除法,求0.012125.641.05782=? 0.345117.92.0786=?,3、有效數(shù)字的運(yùn)算規(guī)則 乘除法,幾個(gè)數(shù)據(jù)相乘除時(shí)，積或商的有效數(shù)字的保留，應(yīng)以其中相對(duì)誤差最大的那個(gè)數(shù)，即有效數(shù)字位數(shù)最少的那個(gè)數(shù)為依據(jù)。,3、有效數(shù)字的運(yùn)算規(guī)則 乘除法,設(shè)此三數(shù)的最后一位數(shù)字為可疑數(shù)字，且最后一位數(shù)字都有1的絕對(duì)誤差，則它們的相對(duì)誤差分別為： 0.0121：1/12110008 25.64： 1/2564100

14、00.4 1.05782：1/10578210000.009 第一個(gè)數(shù)是三位有效數(shù)字，其相對(duì)誤差最大，以此數(shù)據(jù)為依據(jù)，確定其他數(shù)據(jù)的位數(shù)，即按規(guī)則將各數(shù)都保留三位有效數(shù)字然后相乘： 0.012125.61.06 = 0.328 若是多保留一位可疑數(shù)字時(shí)，則 0.012125.641.058 = 0.3282 然后再按“四舍六入五留雙”規(guī)則，將0.3282，改寫(xiě)成0.328。,4、有效數(shù)字的運(yùn)算規(guī)則 乘方、開(kāi)方運(yùn)算,例如, 6.54 =?,進(jìn)行數(shù)值乘方或開(kāi)方時(shí), 結(jié)果有效數(shù)字位數(shù)不變。 6.54 =42.8,2,2,5、幾點(diǎn)注意,1、計(jì)算公式中的常數(shù)如 、 等都是正確數(shù)，在運(yùn)算中可以根據(jù)需要截取

15、其有效位數(shù),2、首位數(shù)字為8、9的數(shù)字，其有效數(shù)字可比實(shí)際的位數(shù)多一位，如8749可認(rèn)為其為5為有效數(shù)字，923可認(rèn)為其為4位有效數(shù)字,3、為減少數(shù)字的舍入誤差，對(duì)參與運(yùn)算的各有效數(shù)字進(jìn)行修約時(shí)，可比實(shí)際需要多保留一位,0.038659.41.327 = ？ 若是多保留一位可疑數(shù)字時(shí)，則 0.038659.41.327 =,三、數(shù)值修約的規(guī)則及技巧,1、數(shù)值修約規(guī)則,（1） 四舍六入五湊雙 具體的做法是， 1、擬舍棄數(shù)字最左一位數(shù)字4時(shí)將其舍去； 2、擬舍棄數(shù)字最左一位數(shù)字6時(shí)就進(jìn)一位； 3、如果擬舍棄數(shù)字最左一位數(shù)字為5而后面的數(shù)為0時(shí)，如所保留的數(shù)字的末位數(shù)字為奇數(shù)則進(jìn)一，如所保留的數(shù)字的

16、末位數(shù)字為偶數(shù)則舍去； 4、當(dāng)“5”后面還有不是0的任何數(shù)時(shí)，都須向前進(jìn)一位，無(wú)論前方是奇還是偶數(shù)，“0”則以偶數(shù)論。,1、數(shù)值修約規(guī)則,0.536640.5366 0.583460.5835 10.275010.28 16.405016.40 27.185027.18 18.0650118.07 （2）修約間隔 0.2 、0.5 0.5單位修約，將擬修約數(shù)值乘以2后正常修約，得到的數(shù)再除以2。 例：修約到個(gè)數(shù)位的0.5單位： 60.25、60.38、60.75 60 60.5 61,1、數(shù)值修約規(guī)則,0.2單位修約，將擬修約數(shù)值乘以5后正常修約，得到的數(shù)再除以5。 例： 修約到百位數(shù)的0.2

17、單位 830、842、930 840 840 920 （3）不可連續(xù)修約 必須注意：進(jìn)行數(shù)字修約時(shí)只能一次修約到指定的位數(shù)，不能數(shù)次修約，否則會(huì)得錯(cuò)誤的結(jié)果。 如：97.46修約到1為97,1、數(shù)值修約規(guī)則,(4)、 特殊數(shù)值的表示 報(bào)出的數(shù)值最右的非零數(shù)字為5時(shí)，應(yīng)在數(shù)值右上角加“+”或“-” 或不加符號(hào)，以分別表明已進(jìn)行過(guò)舍，進(jìn)或未舍未進(jìn)。 例：實(shí)測(cè)值 報(bào)出值 修約值 -15.4546 -15.5 -15 16.5203 16.5 17,-,+,2、數(shù)值修約方法總結(jié),（1）如果為修約間隔整數(shù)倍的一系列數(shù)中，只有一個(gè)數(shù)最接近擬修約數(shù)，則該數(shù)就是修約數(shù)。 例：將1.150001按0.1間隔進(jìn)行修約。1210 例：將1.0151修約至十分位的0.2個(gè)單位。5.075 5.1 1.02 例：將1.2505按“5”間隔修約至十分位。 （2）如果在修約間隔整數(shù)倍的一系列數(shù)中，有連續(xù)的兩個(gè)數(shù)同等地接近擬修約數(shù)，只有為修約間隔偶數(shù)倍的那個(gè)數(shù)才是修約數(shù)。 例：將1150按100修約間隔修約。1200 例：將1.500按0.2修約間隔修約 到個(gè)數(shù)位 7.500 8.000 1.6 例：將1.025按“5”間隔修約到三位有效數(shù)字。,四、極限數(shù)值的表示和判定,1、極限數(shù)值的表示,帶有極限偏差值的數(shù)值的表示,表示的含義：從79mm到82mm符合要求,2、極限數(shù)值的判