유효숫자 혼합계산. (2.526/3.1) + (0.470/0.623) + (80.705/0.4326)

유효숫자 혼합계산. (2.526/3.1) + (0.470/0.623) + (80.705/0.4326)

유효숫자 계산. (2.526/3.1) + (0.470/0.623) + (80.705/0.4326)

 

---------------------------------------------------

▶ 참고: 유효숫자 [ https://ywpop.tistory.com/3212 ]

▶ 참고: 유효숫자 계산 [ https://ywpop.tistory.com/3211 ]

---------------------------------------------------

 

▶ 계산 과정마다 반올림할 경우와

마지막 계산에서 한번만 반올림할 경우의 결과 비교

 

 

 

 

A. 계산 과정마다 반올림할 경우

 

1) 2.526 ÷ 3.1 = 0.8148387...

→ 3.1의 유효 숫자 = 2개 → 0.81

 

2) 0.470 ÷ 0.623 = 0.754414...

→ 둘 다 유효 숫자 = 3개 → 0.754

 

3) 80.705 ÷ 0.4326 = 186.558...

→ 0.4326의 유효 숫자 = 4개 → 186.6

 

4) 0.81 + 0.754 + 186.6 = 188.164

→ 가장 높은 0.1의 자릿수에 맞추면,

= 188.2

 

결과는 188.2가 된다.

 

 

 

 

B. 마지막 계산에서 한번만 반올림할 경우

 

1) 2.526 ÷ 3.1 = 0.8148387...

→ 3.1의 유효 숫자 = 2개이므로, 0.01의 자릿수임을 기억한다.

 

2) 0.470 ÷ 0.623 = 0.754414...

→ 둘 다 유효 숫자 = 3개이므로, 0.001의 자릿수임을 기억한다.

 

3) 80.705 ÷ 0.4326 = 186.558...

→ 0.4326의 유효 숫자 = 4개이므로, 0.1의 자릿수임을 기억한다.

 

4) (2.526/3.1) + (0.470/0.623) + (80.705/0.4326) = 188.1272741...

→ 가장 높은 0.1의 자릿수에 맞추면,

= 188.1

 

결과는 188.1이 된다.

 

 

 

 

▶ 계산 과정마다 반올림한 결과와

마지막 계산에서 한번만 반올림한 결과는

계산에 따라 같은 값일 수도 있고,

다른 값일 수도 있다.

 

만약 다른 값일 경우,

계산 과정마다 반올림해서 얻은 값은

틀린 값이 된다.

 

즉, 계산 과정마다 반올림하면,

계산 오차가 발생할 수도 있기 때문에,

마지막 계산에서 한번만 반올림해야 된다.

 

 

 

 

[ 동일 예제 https://ywpop.tistory.com/13399 ]

 

 

 

[키워드] 유효숫자 혼합계산 기준문서, 마지막 계산에서 한번만 반올림 기준문서, 마지막에 반올림 기준문서, 유효숫자 혼합계산 사전