유효숫자 혼합 계산. (3.8×10^(-12) + 4.0×10^(-13)) / (4×10^12 + 6.3×10^13)

유효숫자 혼합 계산. (3.8×10^(-12) + 4.0×10^(-13)) / (4×10^12 + 6.3×10^13)

sig fig. (3.8×10^(-12) + 4.0×10^(-13)) / (4×10^12 + 6.3×10^13)

 

 

 

[참고] 지수(10의 거듭제곱)가 포함된 유효숫자 계산

[ https://ywpop.tistory.com/4935 ]

 

 

 

(3.8×10^(-12) + 4.0×10^(-13)) / (4×10^12 + 6.3×10^13)

= (3.8×10^(-12) + 0.40×10^(-12)) / (0.4×10^13 + 6.3×10^13)

= (3.8×10^(-12) + 0.40×10^(-12)) / (0.4×10^13 + 6.3×10^13)

= (4.20×10^(-12)) / (6.7×10^13)

 

 

 

(4.20×10^(-12))

---> 이 계산 결과는 0.1의 자릿수이므로,

다음 계산에서 유효숫자 2개임을 기억한다.

 

 

 

(6.7×10^13)

---> 이 계산 결과는 0.1의 자릿수이므로,

다음 계산에서 유효숫자 2개임을 기억한다.

 

 

 

= 6.2686567...×10^(-26)

---> 유효숫자 2개에 맞추면,

답: 6.3×10^(-26)

 

 

 

 

[ 관련 글 https://ywpop.tistory.com/24719 ]

sig fig. 6.071×10^(-5) – 8.2×10^(-6) – 0.521×10^(-4)

 

 

 

[키워드] 유효숫자 혼합 계산 기준, 지수형 유효숫자 계산 기준