지수형 유효숫자 계산. (6.071×10^-5) – (8.2×10^-6) – (0.521×10^-4)

지수형 유효숫자 계산. (6.071×10^-5) – (8.2×10^-6) – (0.521×10^-4)

지수형 유효숫자 계산. 6.071×10^(-5) – 8.2×10^(-6) – 0.521×10^(-4)

sig fig. 6.071×10^(-5) – 8.2×10^(-6) – 0.521×10^(-4)

 

---------------------------------------------------

▶ 참고: 지수가 포함된 유효숫자 계산

[ https://ywpop.tistory.com/4935 ]

---------------------------------------------------

 

▶ 큰 수로 통일시키든, 작은 수로 통일시키든,

유효숫자 개수가 변하지만 않으면 상관없다.

 

 

 

10^-4 으로 통일시키면,

(6.071×10^-5) – (8.2×10^-6) – (0.521×10^-4)

= (0.6071×10^-4) – (0.082×10^-4) – (0.521×10^-4)

( 0.6071, 0.082의 유효숫자는 각각 4개, 2개로 변하지 않았다. )

 

= (0.6071 – 0.082 – 0.521)×10^-4 = 0.0041×10^-4

---> 0.001의 자리수에 맞추면,

= 0.004×10^-4

= 4×10^-7

 

 

 

또는

10^-6 으로 통일시키면,

(6.071×10^-5) – (8.2×10^-6) – (0.521×10^-4)

= (60.71×10^-6) – (8.2×10^-6) – (52.1×10^-6)

( 60.71, 52.1의 유효숫자는 각각 4개, 3개로 변하지 않았다. )

 

= (60.71 – 8.2 – 52.1)×10^-6 = 0.41×10^-6

---> 0.1의 자리수에 맞추면,

= 0.4×10^-6

= 4×10^-7

 

 

 

답: 4×10^(-7)

 

 

 

 

[FAQ] [①24/09/03]