유효 숫자: (1.5-1.0)/0.50=1.0 이 아닌 이유

유효 숫자: (1.5-1.0)/0.50=1.0 이 아닌 이유

 

 

유효 숫자를 고려하여 계산할 때,

곱셈/나눗셈과 덧셈/뺄셈이 섞여있으면, 연산순서에 따라,

곱셈/나눗셈부터 계산한 후, 그 값들을 가지고 덧셈/뺄셈을 해야 합니다.

(왜냐하면, 곱셈/나눗셈에서 유효 숫자 결정하는 방법과

덧셈/뺄셈에서 유효 숫자 결정하는 방법이 다르기 때문입니다.)

계산에서 유효 숫자 결정 방법 http://ywpop.tistory.com/3211

 

 

괄호 안이 연산순서가 우선이므로,

1.5 – 1.0 = 0.5

1.5, 1.0 둘 다 가장 불확실한 자리수가 소수 첫째자리이므로,

계산 결과는 0.5입니다.

 

 

0.5 / 0.50 = 1

0.5의 유효 숫자가 1개이므로, 답은 1.0(유효숫자 2개)이 아닌,

1(유효숫자 1개)이 됩니다.

 

 

(1.5-1.0) / 0.50 = 1