지수형 유효숫자 덧셈 계산. 6.071×10^(-5) - 8.2×10^(-6) - 0.521×10^(-4)

지수형 유효숫자 덧셈 계산. 6.071×10^(-5) - 8.2×10^(-6) - 0.521×10^(-4)

sig fig. 6.071×10^(-5) – 8.2×10^(-6) – 0.521×10^(-4)

 

 

 

[참고] 지수(10의 거듭제곱)가 포함된 유효숫자 계산

[ https://ywpop.tistory.com/4935 ]

 

 

 

6.071×10^(-5) – 8.2×10^(-6) – 0.521×10^(-4)

= 0.6071×10^(-4) – 0.082×10^(-4) – 0.521×10^(-4)

= (0.6071 – 0.082 – 0.521)×10^(-4)

= 0.0041×10^(-4)

---> 가장 큰 0.001의 자리수에 맞추면,

= 0.004×10^(-4)

= 4×10^(-7)

 

 

 

답: 4×10^(-7)

 

 

 

 

[ 관련 글 https://ywpop.tistory.com/24709 ]

sig fig. (3.8×10^(-12) + 4.0×10^(-13)) / (4×10^12 + 6.3×10^13)

 

 

 

[키워드] 지수형 유효숫자 계산 기준