版權(quán)說明:本文檔由用戶提供并上傳,收益歸屬內(nèi)容提供方,若內(nèi)容存在侵權(quán),請進行舉報或認領(lǐng)
文檔簡介
有效數(shù)字的記錄與運算有效數(shù)字的記錄與運算1.有效數(shù)字的概念2.有效數(shù)字的舍入規(guī)則3.有效數(shù)字的讀數(shù)規(guī)則4.有效數(shù)字的特性5.有效數(shù)字的運算規(guī)則有效數(shù)字的概念
對于一個測量數(shù)據(jù),其可靠位數(shù)的全部數(shù)字和最后一位存疑數(shù)字,稱為這個測量數(shù)據(jù)的有效數(shù)字。注:存疑數(shù)字只能有一位!有效數(shù)字=可靠數(shù)字+存疑數(shù)字(一位)
6.73
6.40
有效數(shù)字的舍入規(guī)則
四舍六入五湊偶
3.1415926535897···→3.13.1415926535897···→3.14163.1415926535897···→3.1423.1415926535897···→3.1415926有效數(shù)字的讀數(shù)規(guī)則
①在最小分度以下再估讀1位,例如毫米尺、螺旋測微計等。②*10分度游標類量具,估讀到游標分度值的一半。③*20分度和50分度游標類量具,只讀到游標的分度值,一般不估讀。④數(shù)字式儀表、步進讀數(shù)儀器(如電阻箱)不需要估讀,儀器所顯示的最后一位就是估計值。⑤在讀數(shù)時,如果測量值恰好是整數(shù),則必須補“0”,直至補到“存疑位”。有效數(shù)字的讀數(shù)規(guī)則關(guān)于游標類測量工具的讀數(shù)說明:1.“10分度”——游標一格代表主尺的1/10=0.10.10…0.15…0.20…0.25…2.“20分度”——游標一格代表主尺的1/20=0.050.05…0.075…0.10…0.125…0.080.123.“50分度”——游標一格代表主尺的1/50=0.020.02…0.03…0.04…0.05…有效數(shù)字的特性1.位數(shù)與儀器精度(最小分度值)有關(guān);毫米尺:5.7mm
螺旋測微計:5.700mm2.位數(shù)與被測量的大小有關(guān);出生:72.0cm
現(xiàn)在:172.0cm3.位數(shù)與小數(shù)點的位置無關(guān),單位換算時位數(shù)不應(yīng)發(fā)生變化;
30.5mm=3.05cm=0.305dm=0.0305m30.5mm≠30.50mm4.“科學(xué)記數(shù)法”的說明。
λ=632.8nm=0.6328μm=6.328×10-7m有效數(shù)字的特性※非“十進制”單位換算原則:不能改變原有數(shù)據(jù)的存疑數(shù)字的“量級”。
30.5°=(?)′0.1°=6′30.5°=(1830)′有效數(shù)字的特性※“0”的情況從一個數(shù)的左邊第一個非0數(shù)字起,到末位數(shù)字止,所有的數(shù)字(包括0)都是這個數(shù)的有效數(shù)字。30.5mm=3.05cm=0.305dm=0.0305m=0.0000305kmλ=632.8nm=0.6328μm=0.0000006328m有效數(shù)字的運算規(guī)則
總原則:1.可靠數(shù)字與可靠數(shù)字進行四則運算,其結(jié)果仍為可靠數(shù)字;存疑數(shù)字與任何數(shù)字進行四則運算,其結(jié)果均為存疑數(shù)字。2.在最后結(jié)果中,只保留一位存疑數(shù)字,其余的存疑數(shù)字按照有效數(shù)字尾數(shù)的舍入原則處理。
有效數(shù)字的運算規(guī)則
加、減法:運算結(jié)果的存疑數(shù)字的數(shù)位與參與運算的有效數(shù)字中存疑數(shù)字數(shù)位最高的相同。
4.5678+
12.3
16.8678
=
16.9
乘、除法:運算結(jié)果的有效數(shù)字的位數(shù)與參與運算中有效數(shù)字位數(shù)最少的相同。
123.4×10.1
123412341246.34=1.25×103有效數(shù)字的運算規(guī)則乘方、開方運算結(jié)果的有效數(shù)字位數(shù)與其底的有效數(shù)字位數(shù)相同。12.32=15112.31/2=3.51對數(shù)函數(shù)運算結(jié)果的首位數(shù)不計,其余部分的有效數(shù)字位數(shù)與真數(shù)的有效數(shù)字位數(shù)相同。
lg4.56=0.659lg456=lg4.56×102=2+lg4.56=2.659指數(shù)函數(shù)運算結(jié)果用科學(xué)記數(shù)法表示,小數(shù)點前保留一位,小數(shù)點后面保留的位數(shù)與“冪”在小數(shù)點后的位數(shù)相同,包括緊接小數(shù)點后的“0”。
e7.89=2.67×103100.0567=1.1395
有效數(shù)字的運算規(guī)則特殊函數(shù)(三角函數(shù)、反三角函數(shù)等)方法1:微分法方法2:經(jīng)驗法sin30.1°=0.501510737···sin30.0°=0.500000000···→sin30.0°=0.500sin29.9°=0.498487739···有效數(shù)字的運算規(guī)則
12.43=1906.624
12.33=1860.867→12.33=1.8
溫馨提示
- 1. 本站所有資源如無特殊說明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請下載最新的WinRAR軟件解壓。
- 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請聯(lián)系上傳者。文件的所有權(quán)益歸上傳用戶所有。
- 3. 本站RAR壓縮包中若帶圖紙,網(wǎng)頁內(nèi)容里面會有圖紙預(yù)覽,若沒有圖紙預(yù)覽就沒有圖紙。
- 4. 未經(jīng)權(quán)益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
- 5. 人人文庫網(wǎng)僅提供信息存儲空間,僅對用戶上傳內(nèi)容的表現(xiàn)方式做保護處理,對用戶上傳分享的文檔內(nèi)容本身不做任何修改或編輯,并不能對任何下載內(nèi)容負責(zé)。
- 6. 下載文件中如有侵權(quán)或不適當內(nèi)容,請與我們聯(lián)系,我們立即糾正。
- 7. 本站不保證下載資源的準確性、安全性和完整性, 同時也不承擔(dān)用戶因使用這些下載資源對自己和他人造成任何形式的傷害或損失。
最新文檔
- 直筒模具設(shè)計課程設(shè)計
- 說明文課程設(shè)計
- 課程設(shè)計宿舍供電
- 課程設(shè)計壓縮包
- 2025年度科技園區(qū)物業(yè)房屋租賃管理服務(wù)協(xié)議3篇
- 2025年小學(xué)班主任班級工作總結(jié)范文(2篇)
- 2025年事業(yè)單位年檢工作年終總結(jié)模版(2篇)
- 通信原理課程設(shè)計實驗
- 二零二五年度數(shù)據(jù)中心電力需求響應(yīng)服務(wù)合同2篇
- 二零二五年度建筑垃圾資源化處理質(zhì)量合同3篇
- 個人房屋租賃合同電子版下載(標準版)
- 福建省泉州市2019-2020學(xué)年高二上學(xué)期期末物理試卷(含答案)
- 高中生物學(xué)科思維導(dǎo)圖(人教版必修二)
- 監(jiān)理日志表(標準模版)
- 視頻監(jiān)控系統(tǒng)PPT幻燈片課件(PPT 168頁)
- GM∕T 0045-2016 金融數(shù)據(jù)密碼機技術(shù)規(guī)范
- 人力資源部年度工作計劃表(超級詳細版)
- 《輪機英語》試題(二三管輪)
- 部編版二年級語文下冊《蜘蛛開店》
- 北師大二年級數(shù)學(xué)上教學(xué)反思
- 200m3╱h凈化水處理站設(shè)計方案
評論
0/150
提交評論