數(shù)字運算、修約、極限數(shù)值表示方法講義.

1、數(shù)字運算、修約、極限數(shù)值判定與表示方法一、數(shù)字運算二、數(shù)值修約規(guī)則三、極限數(shù)值的表示方法和判定方法一、數(shù)字運算在檢驗過程中， 對檢驗所得的數(shù)據(jù)如何進行計算、 整理， 如何按照技術(shù)標準要求作出判定，是檢驗人員必須掌握的基 礎知識。1、有效位數(shù) 在檢驗過程中，記錄數(shù)據(jù)和計算結(jié)果究竟應該保留幾位數(shù)字？有的檢驗人員認為記錄和計算保留的位數(shù)越多越準 確，其實不然。由于檢驗方法、儀器設備和人們感官分析能 力的限制， 測量中只能讀取一定位數(shù)的數(shù)字。 讀取位數(shù)過多， 不但不能提高檢驗結(jié)果的準確度，反而使計算工作量大大增 加，而且還常常容易出錯；讀取位數(shù)過少，則表達不出測量 的準確度。為了確切表達測量結(jié)果的位數(shù)

2、，我們給出有效位 數(shù)的概念。若截取得到的近似數(shù)， 其絕對誤差是末位上的半個單位， 那么這個近似數(shù)，從第一個不是零的數(shù)字起到這個數(shù)位止， 所有數(shù)字均稱為有效數(shù)字。一個進似數(shù)有n 個有效數(shù)字，也 叫這個進似數(shù)有 n 個有效位數(shù)。 如 3.1416 、2.1173 、180.00 ， 均為五位有效數(shù)； 而 0.00274 、274、27.4 ，均為三位有效數(shù)。在判斷有效數(shù)字時，要特別注意 0 這個數(shù)字，它可以是 有效數(shù)字，也可以不是有效數(shù)字，例如：0.00274，前面三個0 都不是有效數(shù)字， 而 180.00，后面三個 0 卻都是有效數(shù)字。 因為前者與測量的精確度無關(guān)，而后者卻有關(guān)。為了說明這 個問

3、題，我們不妨各都去掉兩個0，即0.00274=0.274 X 10-2表示其真值為：(0.2735 0.2745) X 10-2其絕對誤差為：-20.0005X 10-2=0.000005而 0.00274 的絕對誤差也是 0.000005，故去掉前面兩個 0后， 其絕對誤差不變；而對于 1 80 . 00，若去掉后面兩個 0，成為：180.00=180則其真值所在區(qū)間為：(180.5 179.5)其絕對誤差為 0.5；但對于 180.00 來說，其真值所在區(qū)間應為：(180.005 179.995)其絕對誤差為 0.005，顯然，由于去掉右邊兩個0，而使絕對誤差由 0.005 變成了 0.5

4、，這樣就不對了。因此，絕對不可象 對待準確數(shù)那樣，隨隨便便去掉小數(shù)部分右邊的0，或在小 數(shù)部分右邊加上 0，因為這樣做的結(jié)果，雖不會改變這個數(shù) 的大小，卻改變了這個近似數(shù)的精確度。對任一數(shù)值，其有效位數(shù)按下述原則確定：對沒有小數(shù)位且以若干個零結(jié)尾的數(shù)值，從非零數(shù)字最左一位向右數(shù)得到的位數(shù)減去無效零（即僅為定位用的零） 的個數(shù)；對其他十進位數(shù)，從非零數(shù)字最左一位向右數(shù)而得 到的位數(shù)，就是有效位數(shù)。例 1：3.2、0.32、0.0032 均為兩位有效位數(shù)；0.320 為三數(shù)有效位數(shù)；10.00 為四位有效位數(shù)；12.490 為五位有效位數(shù)。例 2： 35000，若有兩個無效零，則為三位有效位數(shù)，應

5、寫為2350 X 102；若有三個無效零，則為兩位有效位數(shù)，應寫為35X 103。例 3：12.490 為五位 有效位數(shù)；10.00 為四位有效位數(shù)。2、有效位數(shù)的選擇(1) 記錄數(shù)值時有效位數(shù)的選擇讀取或記錄測量數(shù)據(jù)時，一般按儀器最小分度值來讀數(shù)。 對于那些需要做進一步運算的數(shù)值，則應在按最小分度值讀 取后再估讀一位。讀數(shù)時，小數(shù)末尾的零不能隨意取舍。(2) 計算過程中有效位數(shù)的選擇 加減。幾個數(shù)相加或相減時，以小數(shù)部分位數(shù)最少 的一數(shù)為準，其余各數(shù)均修約或比該數(shù)多一位， 然 后運算。例 1:求 1648.0，13.65，0.0082，1.632，86.82，5.135, 316.34，0.

6、545 的和。解 1648.0+13.65+0.0082+1.632+86.82+5.135+316.34+0.5451648.0+13.65+0.01+1.63+86.82+5.14+316.34+0.54=2071.93 2071.9 乘除。幾個數(shù)相乘或相除時，以有效位數(shù)最少的一數(shù)為準，其余各數(shù)均修約成比該數(shù)多一位，然后運算。例 2: 0.0121 X 1.36872 的積解：0.0121 X 1.368720.0121 X 1.369=0.0165649 0.0166 乘方或開方。原數(shù)有幾位有效位數(shù)，計算結(jié)果就可保 留幾位。若還參加運算，則應多保留一位。 常數(shù)。對于某些常數(shù)，如n、e及某

7、些倍數(shù)或分數(shù)可視為無限有效。計算過程中可根據(jù)需要確定有效位數(shù)。以上都是一些最簡單的，通常所說的“一步運算”的問 題，但在實際問題中遇到的計算，并不都這樣簡單，往往在 一個式子里會包括幾種不同的運算，即所謂“多步運算”的 問題，在多步運算的問題中，中間步驟計算的結(jié)果所保留的 數(shù)字要比加減、乘除、乘方和開方的數(shù)字計算法則的規(guī)定多 出一位。此外，在計算算術(shù)平均值時，若四個以上的數(shù)相平均， 則平均值的有效位數(shù)可增加一位，這是因為平均值的誤差要 比其它任何一個數(shù)的誤差小。二、數(shù)值修約規(guī)則在數(shù)據(jù)處理中，當有效位數(shù)確定后，對有效位數(shù)之后的 數(shù)字要進行修約處理。 修約按照國家標準 GB8/T8170-87數(shù)

8、值修約規(guī)則進行。（一）修約間隔 修約間隔是確定修約保留位數(shù)的一種方式。修約間隔的數(shù)值一經(jīng)給出，修約位數(shù)為該數(shù)值的整數(shù)倍。例如：指定修 約間隔為 0.1 ，修約值總在 0.1 的整數(shù)倍中選取，即修約值 保留一位小數(shù)。（二）半個單位修約和 0.2 單位修約1 、 0.5 單位修約（半個單位修約）指修約間隔為指定數(shù)位的 0.5 單位，即修約到指定數(shù)位的 0.5 個單位。具體辦法是：對擬修約值乘以 2，按指定數(shù)位依照一般 進舍規(guī)則修約，將所得值除以 2 即得修約值。例如 ，將下列數(shù)值修約到個數(shù)位的半個單位（或修約間隔為 0.5 ）擬修約值乘以 2 2A 修約值修約值（A）（2A）（修約間隔 :1 ）（

9、修約間隔 :0.5 ）60.25120.5012060.060.38120.7612160.5-60.75-121.50-122-61.02、 0.2 單位修約 指修約間隔為指定數(shù)位的 0.2 單位，即修約到指定數(shù)位 的 0.2 個單位。具體辦法是，對擬修約值乘以 5，按指定數(shù)值依照一般 進舍規(guī)則修約，將所得值除以 5 即得修約值。 例如 ：將下列數(shù)值修約到百數(shù)位的 0.2 單位（或修約間隔為20)擬修約值乘以 55A 修約值修約值（A）（2A）（修約間隔 :100 ）（修約間隔 :20 ）8304150420084084242504200840-930-4650-4600-920（三）進舍規(guī)

10、則進舍規(guī)則可概括為如下口訣： “四舍六入五考慮， 五后非 零則進一，五后皆零視奇偶，五前為偶應舍去，五前為奇則 進一?！?、擬舍棄數(shù)字的最左一位數(shù)字小于 5 時，則舍去即保留的各位數(shù)字不變。例 1 ：將 12.1498 修約到一位小數(shù)，得12.1 。例 2：將 12.1498修約到兩位有效位數(shù)，得12。2、將某一數(shù)值修約為有效位數(shù)N 位，當?shù)?N+1 位的數(shù)字小于 5時，舍去；當?shù)?N+1 位的數(shù)字大于 5，或者是 5且 其后并非全部為零時，則進一。例如 ，下例左邊的數(shù)值修約為三位有效位數(shù)得右邊結(jié)果：2.3241>2.32, 2.3263>2.33, 2.32501>2.33

11、3、將某些數(shù)修約為有效位數(shù)N 位，當?shù)?N+1 位數(shù)字為5,而右邊無數(shù)字或皆為零時,看保留數(shù)字是奇數(shù)還是偶數(shù)。 若保留數(shù)字的最末一位為偶數(shù)時（2、 4、6、 8）,舍去；保留數(shù)字的最末一位為奇數(shù)時（1 、3、 5、7、9）,進一。例 1：間隔為 0.1 （或 10-1）擬修約數(shù)值 修約值1.0501.00.3500.4例 2：修約間隔為 1000 （或 103）擬修約數(shù)值修約值25002X 103 （特定時可寫為 2000）35004X 103 （特定時可寫為 4000）例 3 ：將下列數(shù)字修約成兩位有效位數(shù)擬修約數(shù)值修約值0.0325 0.0323250032X 103 （特定時可寫為320

12、00）（四）負數(shù)修約 先將負數(shù)的絕對值按上述方式進行修約，然后在修約值 前面加上負號。例 1 ： 將下列數(shù)字修約到“十”數(shù)位擬修約數(shù)值修約值-355-36X 10 （特定時可寫為 -360 ）-325-32X 10 （特定時可寫為 -320）例 2 ：將下列數(shù)字修約成兩位有效位數(shù)擬修約數(shù)修約值-365-36 X 10（特定時可寫為 -360）-0.0365-0.036（五）不許連續(xù)修約1、擬修約數(shù)值應在確定修約位數(shù)后一次修約獲得結(jié)果， 而不得多次按上述規(guī)定連續(xù)修約。例 1：7.35456 要求三位有效位數(shù)時為 7.35 。 不正確的做法：7.354546 7.35455 7.3546 7.35

13、5 7.36。例 2：修約 15.4546 ，修約間隔為 1正確的做法：15.4546 15不正確的做法：15.454615.45515.4615.5162、在具體實施中， 有時測試部門先將獲得數(shù)值按指定的 修約位數(shù)多一位或幾位報出，而后由其他部門判定。為避免 產(chǎn)生連續(xù)修約的錯誤，要求在報出數(shù)值最右的非零數(shù)字為5時，應在數(shù)值后面加“ （+）”或“（- ）”或不加號，以分別表 明已進行過舍、進或未舍未進。例如：16.50 （+）表式實際數(shù)大于 16.50 ，經(jīng)修約舍棄 成為 16.50 ；16.50 （ - ）表示實際值小于 16.50 ，經(jīng)修約進 一成為 16.50 。三、極限數(shù)值判定與表示方

14、法（一）書寫極限數(shù)值的一般原則1、標準中規(guī)定考核的以數(shù)量形式給出的指標或參數(shù)等，應當規(guī)定極限數(shù)值， 它表示符合標準要求的數(shù)值范圍的界限。通過給出最小極限值和（或）最大極限值，或給出基本數(shù)值和極限偏差值等方式表達。2、標準中極限數(shù)值的形式及書寫位數(shù)應該適當。它的有效位數(shù)應全部寫出。 書寫位數(shù)表示的精確程度， 應 能保證產(chǎn)品或其它標準化對象的應有性能和質(zhì)量， 從而它 也規(guī)定了為檢驗實際產(chǎn)品或其它標準化對象而得到的測 定值或其計算值應具有的相應精確程度。（二）表達極限數(shù)值的基本用語及其涵義1、 基本用語及其涵義基本用語符號特定情形下的基本用語涵義大于 A> A多于 A 高于 AA 值不符合要求

15、小于 Av A少于 A 低于 AA 值不符合要求大于或等于 A> A不小于 A 不少于 A 不低于 AA 值符合要求小于或等于 A< A不大于 A 不多于 A 不高于 A A 值符合要求 基本用語也可組合使用，表明極限數(shù)值范圍不小于不大于例： C（%）0.120.19Si（%）0.170.37 不多于、不少于、多于、少于等用語宜用于敘述時間、距 離指標，以及僅取整數(shù)值的計算指標等場合。如：使用壽 命不少于 3000h。 不高于、不低于、高于、低于等用語宜用于敘述溫度、高 度(以向上作為正方向)指標等場合。如：所用柴油閃點 不低于60 C。2、 允許的習慣用語及其涵義必要時，允許采用

16、下列用語 “ A及以上”，指數(shù)值大于或等于 A (> A); “A及以下”，指數(shù)值小于或等于 A (< A)。 “超過A ”，指數(shù)值大于A (> A);“不足A”，指數(shù)值小于A (v A);“至多A”，指數(shù)值小于或等于 A (< A );“至少A ” ,指數(shù)值大于或等于 A (> A )。3、帶有極限偏差的數(shù)值及其涵義 某基本數(shù)值 A 帶有絕對極限上偏差值 +b1 和絕對極限偏 差值-b2即A+b1-b2，指從(A- b2)到(A+ b1)符合標準要 求。例：80+2-1mm，指從79mm到82mm符合標準要求。 某基本數(shù)值 A帶有相對極限上偏差值+b1%和相對極

17、限 下偏差七2%，即A+b1-b2%，指實測值或其計算值 R對于A 的相對偏差值(R-A) /A丨從-b2%到+b1%符合標準要求。 若某個極限偏差值或B 已超出標準要求，則應附加括號，寫成“ B （不含B）”。例：80+2-imm （不含2）,指從79mm到接近但不足 82mm 符合標準要求。（三）檢測結(jié)果的判定方法根據(jù) GB/T1250-89 極限數(shù)值的表示方法和判定方法 ， 在判定檢測數(shù)據(jù)是否符合標準要求時，應將檢驗所得的測定 值或其計算值與標準規(guī)定的極限數(shù)值作比較。比較的方法有 全數(shù)值比較法和修約值比較法 兩種。1、全數(shù)值比較法 標準中各種極限數(shù)值（包括帶有極限偏差值的數(shù)值）未 加說明

18、時，均指采用全數(shù)值比較法。該方法是：將檢驗所得的測定值或其計算值不經(jīng)修約處 理（或按 GB/T8170 作修約處理，但應表明它是經(jīng)舍、進或 未舍未進而得） ，而用數(shù)值的全部數(shù)字與標準規(guī)定的極限數(shù) 值作比較，只要越出規(guī)定的極限數(shù)值（不論越出程度大小），都判定為不符合標準要求。示例見下表。極限數(shù)值測定值或其計算值修約值是否符合標準要求> 56 X1055556 X 10(-)不符55956 X 10(-)不符56056 X 10符合56556 X 10(+)符合> 97.097.0197.0(+)符合97.0097.0符合96.9897.0（-）不符96.9496.9（+）不符0.300.600.2990.30（-）不符0.3000.30符合0.6000.60符合0.6010.60（+）不符0.300.600.6050.60（+）不符2、修約值比較法凡標準中說采用修約值比較法的，應采用修約值比較 法。 將測定值或其計算值按 GB/T8170 進行修約，修 約位數(shù)與標準規(guī)定的極限數(shù)值書寫位數(shù)一致。 將修約