지수형 유효숫자 계산. (7.13×10^3)-2.13

지수형 유효숫자 계산. (7.13×10^3)-2.13

 

---------------------------------------------------

▶ 유효숫자 설명 https://ywpop.tistory.com/3212

▶ 유효숫자 계산 설명 https://ywpop.tistory.com/3211

▶ 지수가 포함된 유효숫자 계산 설명 https://ywpop.tistory.com/4935

---------------------------------------------------

 

10^3 으로 통일시키면,

(7.13×10^3) - 2.13

= (7.13×10^3) - (0.00213×10^3)

= (7.13 – 0.00213)×10^3 = 7.12787×10^3

---> 0.01의 자리수에 맞추면,

= 7.13×10^3

 

 

또는

(7.13×10^3) - 2.13

= 7130 – 2.13 = 7127.87

---> 10의 자리수에 맞추면,

= 7130

= 7.13×10^3

 

 

답: 7.13×10^3

 

 

[참고] (7.13×10^3) - 2.13 계산이 아닌,

7130 – 2.13 계산이면,

7130 – 2.13 = 7127.87

---> 1의 자리수에 맞추면,

= 7128

= 7.128×10^3

 

 

[참고] 유효숫자 덧셈/뺄셈 계산에서,

7.13×10^3 과 7130 의 차이

7.13×10^3 은 유효숫자가 3개, 즉 10의 자리수임을 명확히 밝힌 것이다.

7130 에서, 0은 유효숫자는 아니나, 유효숫자 자리수에는 포함된다.

( 참고 https://ywpop.tistory.com/10839 )