유효숫자 계산 예제

유효숫자 계산 예제

 

 

1) 0.0095+(8.5*10^-3)

2) 653/(5.75*10^-8)

3) 850000-(9.0*10^5)

4) (3.6*10^-4)*(3.6*10^6)

 

-----------------------------------------

 

▶ 유효숫자 계산방법 설명 http://ywpop.tistory.com/3211

( 풀이가 이해 안 되면, 먼저 위 설명을 읽어본 후 질문하세요. )

 

 

1) 0.0095+(8.5*10^-3)

= 0.0095 + 0.0085

= 0.0180 ---> 0.0001의 자리수에 맞추면,

= 0.0180

 

 

2) 653 / (5.75*10^-8)

= 11356521739.1304348 ---> 유효숫자 3개에 맞추면,

= 11400000000

또는

= 1.14*10^10

 

 

3) 850000 - (9.0*10^5)

= 850000 - 900000

= -50000 ---> 1의 자리수에 맞추면,

= -50000

 

 

4) (3.6*10^-4) * (3.6*10^6)

= 1296 ---> 유효숫자 2개에 맞추면,

= 1300