유효숫자 계산

유효숫자 계산

 

----------------------------------------

 

덧셈/곱셈 혼합 계산은

덧셈/곱셈 유효숫자 계산법이 다르기 때문에,

사칙연산 순서에 따라 각각 따로 계산해야 됩니다.

( 계산 설명 http://ywpop.tistory.com/3211 )

 

----------------------------------------

 

문제 1] 2.560 * 8.8 / 275.15 + 1.12

1) 2.560 * 8.8 / 275.15 = 0.081875

→ 0.082 ... 유효숫자 2개에 맞춤

2) 0.082 + 1.12 = 1.202

→ 1.20 ... 0.01의 자리에 맞춤

 

----------------------------------------

 

문제 2] 2.560 * 8.8 / 275.15 + 1.414 * 12.7

1) 2.560 * 8.8 / 275.15 = 0.082

2) 1.414 * 12.7 = 17.9578

→ 18.0 ... 유효숫자 3개에 맞춤

3) 0.082 + 18.0 = 18.082

→ 18.1 ... 0.1의 자리에 맞춤

 

 

 

아래와 같이 풀이를 수정하겠습니다.
-----------------------------------------
문제 1] 2.560 * 8.8 / 275.15 + 1.12
 

1) 2.560 * 8.8 / 275.15 = 0.08187534...
→ 유효숫자가 2개임을 기억. 즉, 다음 계산에서는 0.001의 자리수.
 

2) (2.560 * 8.8 / 275.15) + 1.12 = 1.20187534...
→ 0.01의 자리수에 맞추면,
= 1.20
-----------------------------------------
문제 2] 2.560 * 8.8 / 275.15 + 1.414 * 12.7
 

1) 2.560 * 8.8 / 275.15 = 0.08187534...
→ 유효숫자가 2개임을 기억. 즉, 다음 계산에서는 0.001의 자리수.
 

2) 1.414 * 12.7 = 17.9578
→ 유효숫자가 3개임을 기억. 즉, 다음 계산에서는 0.1의 자리수.
 

3) (2.560 * 8.8 / 275.15) + (1.414 * 12.7) = 18.03967534...
→ 0.1의 자리수에 맞추면,
= 18.0