유효숫자 혼합계산(수정). 3.489 × (5.67-2.3)

유효숫자 혼합계산(수정). 3.489 × (5.67-2.3)

 

-----------------------------------------

 

덧셈/뺄셈과 곱셈/나눗셈의 유효숫자 결정 방법이 서로 다르기 때문에,

( 과학 계산에서의 유효숫자 설명 http://ywpop.tistory.com/3211 )

혼합계산 문제에서는 사칙연산 순서에 따라 단계별로 나눠 계산한다.

 

 

1) 5.67 - 2.3 = 3.37

---> 가장 큰 유효숫자 자리수 0.1에 맞추면 3.4이므로,

3.37의 유효숫자가 2개임을 기억한다.

 

2) 3.489 × 3.37 = 11.75793

---> 가장 작은 유효숫자 2개에 맞추면,

= 12

 

 

답: 12

 

 

[참고] 매 단계마다 유효숫자 처리하면서 계산하면,
1) 5.67 - 2.3 = 3.37
---> 가장 큰 유효숫자 자리수 0.1에 맞추면 3.4
2) 3.4 × 3.37 = 11.458
---> 가장 작은 유효숫자 2개에 맞추면,
= 11
( 이렇게 계산하면 안 된다.)