유효숫자 계산 예제. 지수형, 혼합계산 포함

유효숫자 계산 예제. 지수형, 혼합계산 포함

 

---------------------------------------------------

▶ 유효숫자 설명 http://ywpop.tistory.com/3212

▶ 유효숫자 계산 설명 http://ywpop.tistory.com/3211

---------------------------------------------------

 

(1) 4.87 + 12.3 = 17.17

---> 0.1의 자리수에 맞추면,

= 17.2

 

 

(2) 0.035 × 0.0789 = 0.0027615

---> 유효숫자 2개에 맞추면,

= 0.0028

 

 

(3) 423.5 / 76.265 = 5.553005966...

---> 유효숫자 4개에 맞추면,

= 5.553

 

 

(4) 3.134×10^3 + 2.34×10^2

---> 10^3 으로 통일시키면,

= 3.134×10^3 + 0.234×10^3

= (3.134 + 0.234)×10^3

= 3.368×10^3

( 참고 https://ywpop.tistory.com/4935 )

 

 

(5) 25.4×52.34 – 27.453

25.4×52.34 = 1329.436

---> 유효숫자 3개이므로, 10의 자리수임을 기억한다.

 

25.4×52.34 – 27.453 = 1301.983 또는

1329.436 – 27.453 = 1301.983

---> 10의 자리수에 맞추면,

= 1300

( 참고 https://ywpop.tistory.com/10727 )