지수형 유효숫자 계산. 1.25×10^3 – 474

지수형 유효숫자 계산. 1.25×10^3 – 474

 

---------------------------------------------------

▶ 유효숫자 설명 https://ywpop.tistory.com/3212

▶ 유효숫자 계산 설명 https://ywpop.tistory.com/3211

▶ 지수가 포함된 유효숫자 계산 설명 https://ywpop.tistory.com/4935

---------------------------------------------------

 

1.25×10^3 – 474

---> 10^3 으로 통일시키면,

= 1.25×10^3 - 0.474×10^3

= (1.25 – 0.474)×10^3 = 0.776×10^3

---> 0.01의 자리수에 맞추면,

= 0.78×10^3

 

 

 

또는

1.25×10^3 = 1250 이므로,

1250 – 474 = 776

---> 10의 자리수에 맞추면,

( 1250 에서 0이 유효숫자가 아님을 ‘명확히’ 알고 있으므로, )

= 780

= 0.78×10^3

 

 

 

[참고] 자연수 1250 에서, 0은 유효숫자인지 아닌지 모른다.

( 설명 https://ywpop.tistory.com/10839 )

 

0이 유효숫자인지 아닌지를 ‘명확히’ 나타내려면, 지수형으로 나타낸다.

0이 유효숫자이면, 1.250×10^3 이렇게 나타내고,

0이 유효숫자가 아니면, 1.25×10^3 이렇게 나타낸다.