大學(xué)物理實驗-有效數(shù)字的記錄與運算_第1頁
大學(xué)物理實驗-有效數(shù)字的記錄與運算_第2頁
大學(xué)物理實驗-有效數(shù)字的記錄與運算_第3頁
大學(xué)物理實驗-有效數(shù)字的記錄與運算_第4頁
大學(xué)物理實驗-有效數(shù)字的記錄與運算_第5頁
已閱讀5頁,還剩10頁未讀, 繼續(xù)免費閱讀

下載本文檔

版權(quán)說明:本文檔由用戶提供并上傳,收益歸屬內(nèi)容提供方,若內(nèi)容存在侵權(quán),請進行舉報或認領(lǐng)

文檔簡介

有效數(shù)字的記錄與運算有效數(shù)字的記錄與運算1.有效數(shù)字的概念2.有效數(shù)字的舍入規(guī)則3.有效數(shù)字的讀數(shù)規(guī)則4.有效數(shù)字的特性5.有效數(shù)字的運算規(guī)則有效數(shù)字的概念

對于一個測量數(shù)據(jù),其可靠位數(shù)的全部數(shù)字和最后一位存疑數(shù)字,稱為這個測量數(shù)據(jù)的有效數(shù)字。注:存疑數(shù)字只能有一位!有效數(shù)字=可靠數(shù)字+存疑數(shù)字(一位)

6.73

6.40

有效數(shù)字的舍入規(guī)則

四舍六入五湊偶

3.1415926535897···→3.13.1415926535897···→3.14163.1415926535897···→3.1423.1415926535897···→3.1415926有效數(shù)字的讀數(shù)規(guī)則

①在最小分度以下再估讀1位,例如毫米尺、螺旋測微計等。②*10分度游標類量具,估讀到游標分度值的一半。③*20分度和50分度游標類量具,只讀到游標的分度值,一般不估讀。④數(shù)字式儀表、步進讀數(shù)儀器(如電阻箱)不需要估讀,儀器所顯示的最后一位就是估計值。⑤在讀數(shù)時,如果測量值恰好是整數(shù),則必須補“0”,直至補到“存疑位”。有效數(shù)字的讀數(shù)規(guī)則關(guān)于游標類測量工具的讀數(shù)說明:1.“10分度”——游標一格代表主尺的1/10=0.10.10…0.15…0.20…0.25…2.“20分度”——游標一格代表主尺的1/20=0.050.05…0.075…0.10…0.125…0.080.123.“50分度”——游標一格代表主尺的1/50=0.020.02…0.03…0.04…0.05…有效數(shù)字的特性1.位數(shù)與儀器精度(最小分度值)有關(guān);毫米尺:5.7mm

螺旋測微計:5.700mm2.位數(shù)與被測量的大小有關(guān);出生:72.0cm

現(xiàn)在:172.0cm3.位數(shù)與小數(shù)點的位置無關(guān),單位換算時位數(shù)不應(yīng)發(fā)生變化;

30.5mm=3.05cm=0.305dm=0.0305m30.5mm≠30.50mm4.“科學(xué)記數(shù)法”的說明。

λ=632.8nm=0.6328μm=6.328×10-7m有效數(shù)字的特性※非“十進制”單位換算原則:不能改變原有數(shù)據(jù)的存疑數(shù)字的“量級”。

30.5°=(?)′0.1°=6′30.5°=(1830)′有效數(shù)字的特性※“0”的情況從一個數(shù)的左邊第一個非0數(shù)字起,到末位數(shù)字止,所有的數(shù)字(包括0)都是這個數(shù)的有效數(shù)字。30.5mm=3.05cm=0.305dm=0.0305m=0.0000305kmλ=632.8nm=0.6328μm=0.0000006328m有效數(shù)字的運算規(guī)則

總原則:1.可靠數(shù)字與可靠數(shù)字進行四則運算,其結(jié)果仍為可靠數(shù)字;存疑數(shù)字與任何數(shù)字進行四則運算,其結(jié)果均為存疑數(shù)字。2.在最后結(jié)果中,只保留一位存疑數(shù)字,其余的存疑數(shù)字按照有效數(shù)字尾數(shù)的舍入原則處理。

有效數(shù)字的運算規(guī)則

加、減法:運算結(jié)果的存疑數(shù)字的數(shù)位與參與運算的有效數(shù)字中存疑數(shù)字數(shù)位最高的相同。

4.5678+

12.3

16.8678

=

16.9

乘、除法:運算結(jié)果的有效數(shù)字的位數(shù)與參與運算中有效數(shù)字位數(shù)最少的相同。

123.4×10.1

123412341246.34=1.25×103有效數(shù)字的運算規(guī)則乘方、開方運算結(jié)果的有效數(shù)字位數(shù)與其底的有效數(shù)字位數(shù)相同。12.32=15112.31/2=3.51對數(shù)函數(shù)運算結(jié)果的首位數(shù)不計,其余部分的有效數(shù)字位數(shù)與真數(shù)的有效數(shù)字位數(shù)相同。

lg4.56=0.659lg456=lg4.56×102=2+lg4.56=2.659指數(shù)函數(shù)運算結(jié)果用科學(xué)記數(shù)法表示,小數(shù)點前保留一位,小數(shù)點后面保留的位數(shù)與“冪”在小數(shù)點后的位數(shù)相同,包括緊接小數(shù)點后的“0”。

e7.89=2.67×103100.0567=1.1395

有效數(shù)字的運算規(guī)則特殊函數(shù)(三角函數(shù)、反三角函數(shù)等)方法1:微分法方法2:經(jīng)驗法sin30.1°=0.501510737···sin30.0°=0.500000000···→sin30.0°=0.500sin29.9°=0.498487739···有效數(shù)字的運算規(guī)則

12.43=1906.624

12.33=1860.867→12.33=1.8

溫馨提示

  • 1. 本站所有資源如無特殊說明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請下載最新的WinRAR軟件解壓。
  • 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請聯(lián)系上傳者。文件的所有權(quán)益歸上傳用戶所有。
  • 3. 本站RAR壓縮包中若帶圖紙,網(wǎng)頁內(nèi)容里面會有圖紙預(yù)覽,若沒有圖紙預(yù)覽就沒有圖紙。
  • 4. 未經(jīng)權(quán)益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
  • 5. 人人文庫網(wǎng)僅提供信息存儲空間,僅對用戶上傳內(nèi)容的表現(xiàn)方式做保護處理,對用戶上傳分享的文檔內(nèi)容本身不做任何修改或編輯,并不能對任何下載內(nèi)容負責(zé)。
  • 6. 下載文件中如有侵權(quán)或不適當內(nèi)容,請與我們聯(lián)系,我們立即糾正。
  • 7. 本站不保證下載資源的準確性、安全性和完整性, 同時也不承擔(dān)用戶因使用這些下載資源對自己和他人造成任何形式的傷害或損失。

評論

0/150

提交評論