유효숫자 계산. 168×[(23.56-2.3)/1.248×10^3]

유효숫자 계산. 168×[(23.56-2.3)/1.248×10^3]

 

-----------------------------------------

 

▶ 유효숫자 계산방법 http://ywpop.tistory.com/3211

 

 

1) 168×[(23.56-2.3)/1.248×10^3]

23.56 – 2.3 = 21.26 → 1의 자리수에 맞추면,

= 21.3

 

21.3 / (1.248×10^3) = 0.0170673... → 유효숫자 3개에 맞추면,

= 0.0171

 

168 × 0.0171 = 2.8728 → 유효숫자 3개에 맞추면,

= 2.87

 

 

2) 10.5842 + 3.56 + 12.131 = 26.2752 → 0.01의 자리수에 맞추면,

= 26.28