济宁蓖乒工艺品有限责任公司

當前位置:
首頁 >> 工程類 >> 試驗員 >> 輔導資料 >> 正文

2019年試驗員考試公共基礎(chǔ)知識點:修約方法及數(shù)值運算規(guī)則

發(fā)表時間:2019/5/17 10:07:25 來源:互聯(lián)網(wǎng) 點擊關(guān)注微信:關(guān)注中大網(wǎng)校微信
關(guān)注公眾號

修約方法及數(shù)值運算規(guī)則

1、 數(shù)值修約規(guī)則(GB8170—87)

本標準適用于科學技術(shù)與生產(chǎn)活動中試驗測定和計算得出的各種數(shù)值.需要修約時,除另有規(guī)定者外,應(yīng)按本標準給出的規(guī)則進行。

1 術(shù) 語

1.1修約間隔

系確定修約保留位數(shù)的一種方式.修約間隔的數(shù)值一經(jīng)確定,修約值即應(yīng)為該數(shù)值的整數(shù)倍 。

例1:如指定修約間隔為0.1,修約值即應(yīng)在0.1的整數(shù)倍中選取,相當于將數(shù)值修約到一位小數(shù)。

例2:如指定修約間隔為100,修約值即應(yīng)在100的整數(shù)倍中選取,相當于將數(shù)值修約到 “ 百 ” 數(shù)位。

1.2 有效位數(shù)

對沒有小數(shù)位且以若干個零結(jié)尾的數(shù)值,從非零數(shù)字最左一位向右數(shù)得到的位數(shù)減去無效零(即僅為定位用的零)的個數(shù);對其他十進位數(shù),從非零數(shù)字最左一位向右數(shù)而得到的位數(shù),就是有效位數(shù)。

例1:35000,若有兩個無效零,則為三位有效位數(shù),應(yīng)寫為350×10 2 ;若有三個無效零,則為兩位有效位數(shù),應(yīng)寫為35×10 3 。

例2:3.2,0.32,0.032,0.0032均為兩位有效位數(shù);0.0320為三位有效位數(shù)。

例3:12.490為五位有效位數(shù);10.00為四位有效位數(shù)。

1.3 0.5單位修約(半個單位修約)

指修約間隔為指定數(shù)位的0.5單位,即修約到指定數(shù)位的0.5單位。

例如,將60.28修約到個數(shù)位的0.5單位,得60.5(修約方法見本規(guī)則5.1)

1.4 0.2單位修約

指修約間隔為指定數(shù)位的0.2單位,即修約到指定數(shù)位的0.2單位。

例如,將832修約到 “ 百 ” 數(shù)位的0.2單位,得840(修約方法見本規(guī)則5.2)

2 確定修約位數(shù)的表達方式

2.1 指定數(shù)位

a. 指定修約間隔為10 n (n為正整數(shù)),或指明將數(shù)值修約到n位小數(shù);

b. 指定修約間隔為1,或指明將數(shù)值修約到個數(shù)位;

c. 指定修約間隔為10 n ,或指明將數(shù)值修約到10 n 數(shù)位(n為正整數(shù)),或指明將數(shù)值修約到 “ 十 ” , “ 百 ” , “ 千 ” ……數(shù)位。

2.2 指定將數(shù)值修約成n位有效位數(shù)

3 進舍規(guī)則

3.1 擬舍棄數(shù)字的最左一位數(shù)字小于5時,則舍去,即保留的各位數(shù)字不變。

例1:將12.1498修約到一位小數(shù),得12.1。

例2:將12.1498修約成兩位有效位數(shù),得12。

3.2 擬舍棄數(shù)字的最左一位數(shù)字大于5;或者是5,而其后跟有并非全部為0的數(shù)字時,則進一,即保留的末位數(shù)字加1。

例1:將1268修約到 “ 百 ” 數(shù)位,得13×10 2 (特定時可寫為1300)。

例2:將1268修約成三位有效位數(shù),得127×10(特定時可寫為1270)。

例3:將10.502修約到個數(shù)位,得11。

注:本標準示例中, “ 特定時 ” 的涵義系指修約間隔或有效位數(shù)明確時。

3.3 擬舍棄數(shù)字的最左一位數(shù)字為5,而右面無數(shù)字或皆為0時,若所保留的末位數(shù)字為奇數(shù)(1,3,5,7,9)則進一,為偶數(shù)(2,4,6,8,0)則舍棄。

例1:修約間隔為0.1(或10 -1 )

擬修約數(shù)值 修約值

1.050  1.0

0.350  0.4

例2:修約間隔為1000(或10 3 )

擬修約數(shù)值 修約值

2500  2×10 3 (特定時可寫為2000)

3500  4×10 3 (特定時可寫為4000)

例3:將下列數(shù)字修約成兩位有效位數(shù)

擬修約數(shù)值 修約值

0.0325 0.032

32500 32×10 3 (特定時可寫為32000)

3.4 負數(shù)修約時,先將它的絕對值按上述3.1~3.3規(guī)定進行修約,然后在修約值前面加上負號。

例1:將下列數(shù)字修約到 “ 十 ” 數(shù)位

擬修約數(shù)值 修約值

-355  -36×10(特定時可寫為-360)

-325  -32×10(特定時可寫為-320)

例2:將下列數(shù)字修約成兩位有效位數(shù)

擬修約數(shù)值 修約值

-365  -36×10(特定時可寫為-360)

-0.0365 -0.036

4 不許連續(xù)修約

4.1 擬修約數(shù)字應(yīng)在確定修約位數(shù)后一次修約獲得結(jié)果,而不得多次按第3章規(guī)則連續(xù)修約。

例如:修約15.4546,修約間隔為1

正確的做法:

15.4546→15

不正確的做法:

15.4546→15.455→15.46→15.5→16

4.2 在具體實施中,有時測試與計算部門先將獲得數(shù)值按指定的修約位數(shù)多一位或幾位報出,而后由其他部門判定。為避免產(chǎn)生連續(xù)修約的錯誤,應(yīng)按下述步驟進行。

4.2.1報出數(shù)值最右的非零數(shù)字為5時,應(yīng)在數(shù)值后面加 “ (+) ” 或 “ (-) ” 或不加符號,以分別表明已進行過舍、進或未舍未進。

如:16.50(+)表示實際值大于16.50,經(jīng)修約舍棄成為16.50;16.50(-)表示實際值小于16.50,經(jīng)修約進一成為16.50。

4.2.2 如果判定報出值需要進行修約,當擬舍棄數(shù)字的最左一位數(shù)字為5而后面無數(shù)字或皆為零時,數(shù)值后面有(+)號者進一,數(shù)值后面有(-)號者舍去,其他仍按第3章規(guī)則進行。

例如:將下列數(shù)字修約到個數(shù)位后進行判定(報出值多留一位到一位小數(shù))。

實測值 報出值  修約值

15.4546 15.5(一)  15

16.5203 16.5(+)  17

17.5000 17.5 18

-15.4546 -(15.5(一))-15

5 0.5單位修約與0.2單位修約

必要時,可采用0.5單位修約和0.2單位修約。

5.1 0.5單位修約

將擬修約數(shù)值乘以2,按指定數(shù)位依第3章規(guī)則修約,所得數(shù)值再除以2。

如:將下列數(shù)字修約到個數(shù)位的0.5單位(或修約間隔為0.5)

擬修約數(shù)值 乘2  2A修約值  A修約值

(A) (2A) (修約間隔為1) (修約間隔為0.5)

60.25 120.50 120 60.0

60.38 120.76 121 60.5

-60.75 -121.50 -122  -61.0

5.2 0.2單位修約

將擬修約數(shù)值乘以5,按指定數(shù)位依第3章規(guī)則修約,所得數(shù)值再除以5。

例如:將下列數(shù)字修約到 “ 百 ” 數(shù)位的0.2單位(或修約間隔為20)

擬修約數(shù)值 乘5  5A修約值 A修約值

(A) (5A) (修約間隔為100) (修約間隔為20)

830 4150 4200 840

842 4210 4200 840

-930  -4650 -4600  -920

2、 數(shù)值運算規(guī)則

⑴. 加減運算

應(yīng)以各數(shù)中有效數(shù)字末位數(shù)的數(shù)位最高者為準(小數(shù)即以小數(shù)部分位數(shù)最少者為準),其他數(shù)均比該數(shù)向右多保留一位有效數(shù)字。

例:41.3X+3.012X+0.322X+0.0578X→41.3+3.01+0.32+0.06=44.69

⑵. 乘除運算

應(yīng)以各數(shù)中有效數(shù)字最少者為準,其余數(shù)均多取一位有效數(shù)字,所得積或商也多取一位有效數(shù)字。

例:0.0122×26.52×1.06892中,因第一個數(shù)0.0122的有效數(shù)字位數(shù)最少(3位),因此,第二、第三個數(shù)的有效數(shù)字位數(shù)取4位,所得積也取4個有效數(shù)字,由此得:

0.0122×26.52×1.069=0.3459

⑶. 平方或開方運算

其結(jié)果可比原數(shù)多保留一位有效數(shù)字。

⑷. 對數(shù)運算

所取對數(shù)位數(shù)應(yīng)與真數(shù)有效數(shù)字位數(shù)相等。

⑸. 查角度的三角函數(shù)

所用函數(shù)值的位數(shù)通常隨角度誤差的減少而增多,一般三角函數(shù)表選擇如下

角度誤差 表的位數(shù)

10″ 5

1″ 6

0.1″ 7

0.01″ 8

⑹.在所有計算式中,常數(shù)π、e的數(shù)值和因子√2 等有效數(shù)字位數(shù),可認為無限制,需要幾位就幾位。

⑺.表示精度時,如量測某一試件面積,得其有效面積A=0.0501502m2,而其量測的極限誤差δmin=0.000005m2。所以量測結(jié)果應(yīng)當表示為A=(0.050150±0.000005)m2。誤差的有效數(shù)字為一位,即5,所以表示精度一般取一位有效數(shù)字已足夠,最多取兩位有效數(shù)字。

編輯推薦:

試驗員通用版考試題庫

試驗員考試快速取證全國通用


(責任編輯:)

2頁,當前第1頁  第一頁  前一頁  下一頁
最近更新 考試動態(tài) 更多>
会东县| 福鼎市| 健康| 泗洪县| 阳朔县| 含山县| 金乡县| 邢台市| 阿鲁科尔沁旗| 微山县| 霍林郭勒市| 略阳县| 义马市| 高碑店市| 赤峰市| 三穗县| 舞阳县| 西吉县| 广安市| 汶上县| 临海市| 锦屏县| 卢氏县| 定远县| 类乌齐县| 克东县| 安国市| 抚远县| 陇西县| 钟祥市| 仙游县| 浪卡子县| 北碚区| 高邮市| 潼关县| 扬中市| 武功县| 扶绥县| 建昌县| 石城县| 岳池县|