유효숫자 계산 예제

유효숫자 계산 예제

 

 

1) 0.0095 + (8.5×10^(-3))

2) 653 / (5.75×10^(-8))

3) 850000 – (9.0×10^5)

4) (3.6×10^(-4)) × (3.6×10^6)

 

 

 

[참고] 유효숫자 계산

[ https://ywpop.tistory.com/3211 ]

 

 

 

1) 0.0095 + (8.5×10^(-3))

= 0.0095 + 0.0085 = 0.0180

( 0.0001의 자릿수 + 0.0001의 자릿수 이므로, )

---> 0.0001의 자릿수에 맞추면,

= 0.0180

= 1.80×10^(-2)

 

 

또는

1) 0.0095 + (8.5×10^(-3))

= (9.5×10^(-3)) + (8.5×10^(-3))

= (9.5 + 8.5)×10^(-3)

= 18.0×10^(-3)

= 1.80×10^(-2)

 

 

[참고] 9.5 + 8.5 = 18.0 이며,

18.0의 유효숫자 개수는 3개이다.

 

 

 

 

2) 653 / (5.75×10^(-8)) = 11356521739.1304348

---> 유효숫자 3개에 맞추면,

= 11400000000

= 1.14×10^10

 

 

300x250

 

 

3) 850000 – (9.0×10^5)

= 850000 – (900000) = –50000

( 1의 자릿수 – 10000의 자릿수 이므로, )

---> 10000의 자릿수에 맞추면,

= –50000

= –5×10^4

 

 

또는

3) 850000 – (9.0×10^5)

= (8.50000×10^5) – (9.0×10^5)

= (8.50000 – 9.0)×10^5

= (–0.5)×10^5

= –5×10^4

 

 

또는

3) 850000 – (9.0×10^5)

= (8.5×10^5) – (9.0×10^5)

= (8.5 – 9.0)×10^5

= (–0.5)×10^5

= –5×10^4

 

 

[참고] 8.5 – 9.0 = –0.5 이며,

–0.5의 유효숫자 개수는 1개이다.

참고로, –5.0의 유효숫자 개수는 2개이다.

 

 

 

 

4) (3.6×10^(-4)) × (3.6×10^6) = 1296

---> 유효숫자 2개에 맞추면,

= 1300

= 1.3×10^3

 

 

 

 

[참고] 어떤 세상에서는 이것이 정답이라고 한다.

 

 

 

 

[키워드] 유효숫자 계산 기준, sig fig 0.0095 + (8.5×10^(-3)), sig fig 653 / (5.75×10^(-8)), sig fig 850000 – (9.0×10^5), sig fig (3.6×10^(-4)) × (3.6×10^6)