




已閱讀5頁,還剩21頁未讀, 繼續(xù)免費閱讀
版權(quán)說明:本文檔由用戶提供并上傳,收益歸屬內(nèi)容提供方,若內(nèi)容存在侵權(quán),請進行舉報或認領(lǐng)
文檔簡介
有效數(shù)字取舍規(guī)則 講 座,山東省石油助劑產(chǎn)品及輕烴產(chǎn)品監(jiān)督檢驗中心 孫建軍 編制,我們?nèi)粘=佑|的數(shù)據(jù)有準確數(shù)和近似數(shù)之分。 作為準確數(shù)的例子有: “這里有5只杯子”中的“5” ; “三角形的內(nèi)角和為180度”中的“180” “1Wh=3600J”中的“3600” 這些數(shù)之所以是準確數(shù)是因為有些是確實存在的,有些是理論或定義中的數(shù)。,一、有效數(shù)字的概念及有效位數(shù)的確定,1、近似數(shù),近似數(shù)是由可靠數(shù)和不可靠數(shù)(一般取1位)兩部分組成的。 作為近似數(shù)的例子有: 所有測得值和測量結(jié)果; 經(jīng)過修約后的任何數(shù)值; 經(jīng)測定得到的物理常數(shù) 記錄數(shù)據(jù)時,數(shù)據(jù)位數(shù)要適當。位數(shù)太少會增大數(shù)據(jù)的誤差,而太多又會對數(shù)據(jù)的準確度產(chǎn)生誤解。這一點在檢定和測量時應特別注意。,1、近似數(shù),2 有效數(shù)字,對于有小數(shù)點的數(shù),和以非0結(jié)尾的整數(shù),從左邊第一個非零數(shù)字起到最右邊的所有數(shù)字都是有效數(shù)字。第一個非零數(shù)字前面的0不是有效數(shù)字,但數(shù)據(jù)末尾的0是有效數(shù)字。,當一個近似數(shù)所引入的誤差的絕對值小于該近似數(shù)末位數(shù)的0.5時,從該近似數(shù)左邊第一個非零數(shù)字算起,直到最后末位數(shù)為止均是有效數(shù)字。,從左邊第1個非零的數(shù)字起,到所截取的數(shù)位止,所有數(shù)字均稱為有效數(shù)字。如:3.1416;3.2345;420.00;0.87130;0.00026541等都稱為五位有效數(shù)字。而123;1.23;0.00123都稱為三位有效數(shù)字。,在判定有效數(shù)字時,要特別注意“0”這個數(shù)字,它可以是有效數(shù)字,它也可以不是有效數(shù)字,如:0.00123的前面的三個零均不是有效數(shù)字,因為這三個0與0.00123的精確度無關(guān)。又如:870.00后面的三個0,卻是有效數(shù)字,因為這三個0與870.00的精確度有關(guān)。若設此二數(shù)均是采用“四舍五入”法截取所得,對于0.00123,其誤差的絕對值為0.000005,若去掉此近似數(shù)前面的三個0,則可寫成12310-5,其誤差的絕對值為0.510-5,即為0.000 005,與精度無關(guān)。對待近似數(shù)時,不可象對待準確數(shù)那樣,隨便去掉小數(shù)點部分右邊的0,或在小數(shù)點部分右邊加上0,因為這樣作的結(jié)果,雖不會改變這個數(shù)的大小,卻改變了它的精確度。,2 有效數(shù)字,1、常數(shù)運算 參加運算的常數(shù)如、e以及其他無誤差的數(shù)值,其有效位數(shù)可認為是無限的,在計算中要幾位取幾位。常數(shù)的取值不影響有效位數(shù)。,二 數(shù)字運算規(guī)則,2、加減運算 在加減運算中只保留各數(shù)共有的小數(shù)位數(shù)。先找出小數(shù)位數(shù)最少的值,然后將其它的值按比最少的小數(shù)位多一位進行修約,再運算,結(jié)果按小數(shù)位最少的位修約 。 例如:12.5+3.26+0.165,先將0.165化整為0.16,則12.5+3.26+0.165=12.5+3.26+0.16=15.9 在減法運算中,應避免兩個接近的值相減計算結(jié)果,因相減后其有效數(shù)字將減少。,3、乘除運算 在乘除運算中,先找出有效位數(shù)最少的值,將其它值按多一位有效位數(shù)進行修約,然后運算,最后按有效位數(shù)最少的值的位數(shù)修約。 0.1211.315.24,先將15.24修約為15.2, 則0.1211.315.24=0.1211.315.2=20.61=21。,4、乘方與開方運算 數(shù)據(jù)經(jīng)乘方與開方運算,所得結(jié)果的有效數(shù)字位數(shù)不大于該數(shù)據(jù)的位數(shù)。一般取相同的位數(shù)。 5、對數(shù)運算 運算結(jié)果應與真數(shù)的位數(shù)相同。例如: lg32.8=1.51587.=1.52,6、計算平均值時: 若數(shù)據(jù)的個數(shù)較多,則平均值的保留位數(shù)可增加一倍。 7、混合運算: 混合運算時所有中間運算比上面的運算多保留一位。,1.1修約間隔 系確定修約保留位數(shù)的一種方式。修約間隔的數(shù)值一經(jīng)確定,修約值即應為該數(shù)值的整數(shù)倍。 例1:如指定修約間隔為0.1,修約值即應在0.1的整數(shù)倍中選取,相當于將數(shù)值修約到一位小數(shù)。 例2:如指定修約間隔為100,修約值即應在100的整數(shù)倍中選取,相當于將數(shù)值修約到“百”數(shù)位。,三、 數(shù)值修約規(guī)則(GB8170-87),1、術(shù)語,1.2有效位數(shù) 對沒有小數(shù)位且以若干個零結(jié)尾的數(shù)值,從非零數(shù)字最左一位向右數(shù)得到的位數(shù)減去無效零(即僅為定位用的零)的個數(shù);對其十進位數(shù),從非零數(shù)字左一位向右數(shù)而得到的位數(shù),就是有效位數(shù)。 例1:35 000,若有兩個無效零,則為三位有效數(shù)字,應寫成350102 ;若有三個無效零,則為兩位有效數(shù)字,應寫成35103。 例2:12.490為五位有效數(shù)字,10.00為四位有效數(shù)字。,1、術(shù)語,2.1指定位數(shù) a.指定修約間隔為10-n(n為正整數(shù)),或指明將數(shù)值修約到n位小數(shù); b.指定修約間隔為1,或指明將數(shù)值修約到個位; c.指定修約間隔為10n,或指明將數(shù)值修約到10n(n為正整數(shù)),或指明將數(shù)值修約到“十”、“百”、 “千”位數(shù)。,2、確定修約位數(shù),2.2指定將數(shù)值修約成n位有效數(shù)字。,3.1 擬舍棄數(shù)字的最左一位數(shù)字小于5時,則舍去,即保留的各位數(shù)字不變。 例1:將12.050001修約到一位小數(shù),得12.1。 例2:將12.498修約到兩位有效數(shù)字,得12。,3、進舍規(guī)則,3.2 擬舍棄數(shù)字的最左一位數(shù)字大5時,或者是5,而其后跟有并非全部為0的數(shù)字時,則進1,即保留的末位數(shù)字加1。 例1:將10.502修約到個位數(shù),得11。 例2:將1268修約成三位有效數(shù)字,得12710(特定時可寫為1270)。,3.3 數(shù)字的最左一位數(shù)字為5,而右邊無數(shù)字或皆為0時,若所保留的位數(shù)為奇數(shù)(1,3,5,7,9)則進一,為偶數(shù)(0,2,4,6,8)則舍棄。 例1:修約間隔為0.1(10-1) 擬修約數(shù)值 修約值 1.050 1.0 0.350 0.4 例2:將下列數(shù)字修約成兩位有效數(shù)字 擬修約數(shù)值 修約值 0.0325 0.032 32500 32103(特定時可寫為32000),3、進舍規(guī)則,3.4 負數(shù)修約時,先將它的絕對值按上述規(guī)則進行修約,然后在修約值前面加上負號。 例:將下列數(shù)字修約到十數(shù)位 擬修約數(shù)值 修約值 -355 -3610(特定時可寫為-360) -325 -3210(特定時可寫為-320),3、進舍規(guī)則,4.1擬修約數(shù)字應在確定修約位數(shù)后一次修約獲得結(jié)果,而不得多次按照以上規(guī)定進行連續(xù)修約; 例:修約15.4546,修約間隔為1 正確做法: 15.454615 錯誤做法: 15.454615.45515.4615.516,4、 不許連續(xù)修約,4.2在具體實施中,有時測試與計量部門先將獲得數(shù)值按指定的修約位數(shù)多一位或幾位報出,而后由其他部門判定。為避免產(chǎn)生連續(xù)修約的錯誤,應按下列步驟進行。 4.2.1報出數(shù)值最右的非零數(shù)字為5時,應在數(shù)值后面加“(+)”或“(-)”或不加符號,以分別表明已進行過舍、進或未舍未進。 例如:16.50(+)表示實際值大于16.50,經(jīng)修約舍棄成為16.50; 16.50(-),表示實際值小于16.50,經(jīng)修約進一成為16.50;,4、 不許連續(xù)修約,4.2.2如果判定報出值需要進行修約,當舍棄數(shù)字的最左一位數(shù)字為5而后面無數(shù)字或皆為零時,數(shù)值后面有(+)者進一,數(shù)值后面有(-)號者舍去,其他仍按前面規(guī)則進行。 例如:將下面數(shù)字修約到個位數(shù)后進行判定(報出值多留一位到一位小數(shù))。 實測值 報出值 修約值 15.4546 15.5(-) 15 16.5203 16.5(+) 17 17.5000 17.5 18 -15.4546 -(15.5(-) ) -15,4、 不許連續(xù)修約,指定修約間隔為指定數(shù)位的0.5單位,即修約到指定位數(shù)的0.5單位。將擬修約的數(shù)乘以2,按指定數(shù)位依規(guī)則修約,所得數(shù)值再除以2。,5、0.5單位修約(半個單位修約),例如:將下列數(shù)字修約到個位數(shù)的0.5單位(或修約間隔為0.5) 擬修約數(shù)值 乘2 2A修約值 A修約值 A 2A (修約間隔為1) (修約間隔為0.5) 60.25 120.50 120 60.0 60.38 120.76 121 60.5 -60.75 -121.50 -122 -61.0,指定修約間隔為指定數(shù)位的0.2單位,即修約到指定位數(shù)的0.2單位。將擬修約的數(shù)乘以5,按指定數(shù)位依規(guī)則修約,所得數(shù)值再除以5。 例如:將下列數(shù)字修約到“百”位數(shù)的0.2單位(或修約間隔為20) 擬修約數(shù)值 乘5 5A修約值 A修約值 A 5A (修約間隔為100) (修約間隔為20) 830 4150 4200 840 842 4210 4200 840 -930 -4650 -4600 -920,6、 0.2單位修約,1)0.5單位修約法 把擬修約位看作是個位,如果這一位和以下的“小數(shù)位”構(gòu)成的數(shù)等于或小于2.5,則把這位變成0,其后面的數(shù)舍掉;若等于或大于7.5,則進一位(即其左一位加1),同時把這位變成0,其后面的數(shù)舍掉;若大于2.5小于7.5,則把這位變成5,其后面的數(shù)舍掉。 例如:將下列數(shù)按0.05間隔修約 原 數(shù): 30.025 30.019 30.026 30.075 30.099 修約數(shù): 30.00 30.00 30.05 30.10 30.10,下面介紹一下0.5和0.2單位修約法的簡捷方法,2)0.2單位修約法 首先看擬修約位是奇數(shù)還是偶數(shù)(含0),若這位數(shù)已是偶數(shù),則將其后面的數(shù)舍掉;若擬修約位是奇數(shù),且其后有不為零的數(shù),則把這位數(shù)加1變成偶數(shù),其后面的數(shù)舍掉;若擬修約位是奇數(shù),且其后面已沒有數(shù)或全為0,這時就要往左看一位,使這一位和擬修約位構(gòu)成兩位“整數(shù)”,加1減1,取能被4整除的數(shù)作為結(jié)果。 例如:將下列數(shù)按0.2間隔修約 原 數(shù): 30.498 30.401 30.501 30.599 30.3 31.300 修約數(shù): 30.4 30.4 30.6 30.6 30.4 31.2,下面介紹一下0.5和0.2單位修約法的簡捷方法,根據(jù)有效數(shù)字算 (1) 13.650.00821.6320.002 (2) 703.210.354.022 解答;(1)13.650.0081.6320.00212.02812.03 (2)7030.35/4.0261.261,將下列數(shù)據(jù)化為4位有效數(shù)字: 3.14159,14.005,0.023151,1000501 解答:3.142,14.00,
溫馨提示
- 1. 本站所有資源如無特殊說明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請下載最新的WinRAR軟件解壓。
- 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請聯(lián)系上傳者。文件的所有權(quán)益歸上傳用戶所有。
- 3. 本站RAR壓縮包中若帶圖紙,網(wǎng)頁內(nèi)容里面會有圖紙預覽,若沒有圖紙預覽就沒有圖紙。
- 4. 未經(jīng)權(quán)益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
- 5. 人人文庫網(wǎng)僅提供信息存儲空間,僅對用戶上傳內(nèi)容的表現(xiàn)方式做保護處理,對用戶上傳分享的文檔內(nèi)容本身不做任何修改或編輯,并不能對任何下載內(nèi)容負責。
- 6. 下載文件中如有侵權(quán)或不適當內(nèi)容,請與我們聯(lián)系,我們立即糾正。
- 7. 本站不保證下載資源的準確性、安全性和完整性, 同時也不承擔用戶因使用這些下載資源對自己和他人造成任何形式的傷害或損失。
最新文檔
- 團隊環(huán)?;顒臃桨?/a>
- 國慶飾品活動方案
- 團建活動抓老鼠活動方案
- 圖書打卡活動方案
- 自考領(lǐng)導科學試題及答案
- 國際街區(qū)活動策劃方案
- 國際飯店公司年會活動方案
- 商業(yè)餐飲活動方案
- 團員手工活動方案
- 商場動漫活動方案
- AS9100內(nèi)審員培訓教材
- 新老物業(yè)移交表格(全套)
- 人教版七年級下冊英語單詞辨音訓練題(一)
- 農(nóng)村公路安全防護工程施工組織設計
- 企業(yè)培訓邀請函(4篇)
- 精裝房驗房項目表格
- 浙江省財政支出專項項目績效評價綜合報告
- 《紅樓夢》PPT課件(優(yōu)秀)
- 新高考英語讀后續(xù)寫——故事編寫思路
- 最新煙葉儲存保管方法標準
- 帶式輸送機傳動裝置二級斜齒圓柱齒輪減速器設計(全套圖紙)
評論
0/150
提交評論