본문 바로가기
화학/유효숫자

3개 이상 숫자 연산에서 괄호가 있을 경우 유효숫자 계산

by 영원파란 2016. 4. 21.

AdSense@ywpop

3개 이상 숫자 연산에서 괄호가 있을 경우 유효숫자 계산

 

-----------------------------------------

 

덧셈/뺄셈 또는 곱셈/나눗셈만 각각 있는 계산은

(전자계산기로) 한꺼번에 모두 계산한 후,

마지막에 한 번만 유효숫자 처리하면 된다.

 

2.360 + 75.56 - 3.0070 + 9.007 + 1.007

= 84.927 84.93 ... 0.01의 자리

 

4.56 × 0.2560 × 3.1 / 0.886512 × 4.0005

= 16.330375... 16 ... 유효숫자 2

 

 

, 괄호가 있는데, 그 괄호가 있고 없음에 따라,

계산 값이 달라지는 경우에는

(덧셈/뺄셈과 곱셈/나눗셈의 혼합 계산과 유사하게)

괄호 안부터 따로 단계를 나눠 유효숫자 처리를 한다.

 

덧셈/뺄셈의 예: 8.044 - (4.1 + 2.09) = 1.8

한 번에 계산할 경우,

8.044 - (4.1 + 2.09) = 1.854 1.9

8.044 - 4.1 + 2.09 = 6.034 6.0

값이 다르므로, 괄호 안부터 따로 유효숫자 처리 후 다시 계산한다.

4.1 + 2.09 = 6.19 6.2

8.044 - 6.2 = 1.844 1.8

 

곱셈/나눗셈의 예 1: 4.1 / (8.044 × 2.09) = 0.24

4.1 / (8.044 × 2.09) = 0.24387... 0.24

4.1 / 8.044 × 2.09 = 1.065266... 1.1

값이 다르므로, 괄호 안부터 따로 유효숫자 처리 후 다시 계산한다.

8.044 × 2.09 = 16.81196 16.8

4.1 / 16.8 = 0.2440476... 0.24

(한꺼번에 계산하나, 단계별로 계산하나 대부분 같지만)

 

곱셈/나눗셈의 예 2: 134000 / (0.473 × 500.0) = 565

한 번에 계산하면,

134000 / (0.473 × 500.0) = 566.5962... 567

괄호 안부터 따로 유효숫자 처리 후 다시 계산하면,

0.473 × 500.0 = 236.5 237

134000 / 237 = 565.401... 565

(이처럼 다른 경우가 간혹 있기 때문이다.)

 

  

반응형
그리드형(광고전용)

댓글